Anthropic, Kendini Geliştiren Yapay Zekâ Eşiğine Yaklaştığını Açıkladı

Anthropic, kendini geliştiren yapay zekâ eşiğine yakında ulaşabileceğini açıkladı. Şirket bu uyarıyı, 2 Kasım'da ABD Menkul Kıymetler ve Borsa Komisyonu'na (SEC) sunduğu güncellenmiş halka arz belgesinin (S-1/A) risk bölümüne ekledi.

Belge yalnızca bir uyarı içermiyor. Anthropic, mevcut modellerinden hiçbirinin bu eşiği aştığını kabul etmediğini ve verileri incelemeyi sürdürdüğünü de yazıyor.

Kendini Geliştiren Yapay Zekâ Ne Demek?

İngilizcede "recursive self-improvement" (RSI) olarak geçen kavram, bir yapay zekânın kendi sonraki sürümünü geliştirmeye katkı vermesi anlamına geliyor. Her yeni sürüm bir sonrakini daha hızlı geliştirebildiğinde, yapay zekâdaki ilerleme bir anda hızlanabiliyor.

Anthropic, bu durumu hem fırsat hem risk olarak görüyor. Şirket, Claude'u kendi araştırma ve geliştirme çalışmalarında kullandığını, her Claude sürümünün bir sonrakinin yapımına yardım ettiğini belirtiyor. Şirket içindeki Claude kullanımının liste fiyatıyla değeri, Ocak ile Eylül 2026 arasında 250 kattan fazla büyümüş.

Anthropic Belgede Tam Olarak Ne Dedi?

Anthropic, iç tahminlerinin ve gelecekteki modellere dair beklentilerinin, Sorumlu Ölçeklendirme Politikası'ndaki "yapay zekâya bağlı, büyük ölçüde hızlanmış ilerleme" tanımını yakında karşılayabileceğini gösterdiğini yazdı. Bu tahmin bugünkü modellere değil, gelecekteki modellere dayanıyor.

Şirket, kendi gelişim hızındaki önemli bir sıçramayı geçmişte ancak gerçekleştikten sonra fark ettiğini de kabul ediyor. Hızlanmayı ölçmekte kullandığı göstergelerin çoğunun gecikmeli olduğunu, bu yüzden ilerlemeyi öngörme becerisinin sınırlı kaldığını belirtiyor.

Anthropic, yapay zekâ araştırma ve geliştirme yeteneği eşiğine ulaşmanın sonuçlarını değerlendirdiğini ve politikasında öngörüldüğü gibi ileride ek raporlar yayımlayacağını söylüyor. Bu raporlar için bir tarih verilmedi.

İnsan Denetimi ve Alınan Önlemler

Anthropic, Claude'u anlamlı bir insan denetimi ya da kavrayışı olmadan, yeni nesil öncü modelleri tamamen kendi başına tasarlayıp üretmek için güvenle kullanabileceğini öngörmediğini yazdı. Bu nedenle, öncü model geliştirmeyi insan kontrolünde tutacak politika güncellemelerini değerlendiriyor.

Şirket, araştırma süreçlerindeki bazı kararların insan incelemesi ve onayına bağlanmasını da düşünüyor. Belgede, model ağırlıklarının sızdırılmasına karşı güvenliği artırmak için yeni bir temel modelin ön eğitiminin bir aydan uzun süre ertelendiği belirtiliyor.

Benzer önlemler arasında model sürümlerini geciktirmek ve ilk erişimi sınırlamak da yer alıyor. Anthropic, Mythos modelini Project Glasswing kapsamında sınırlı erişimle sunmuştu. Şirket, bu tür önlemlerin rakiplerine göre ilerlemesini yavaşlatabileceğini de risk olarak yazıyor.

Claude, Türkiye'de de kullanılabilen bir yapay zekâ asistanı. Claude'un ücretsiz planına gelen yeni özellikler gibi ürün tarafındaki gelişmeler sürerken belge, kullanıcıların eriştiği Claude sürümlerinde bir değişiklik duyurmuyor.

Yapay zekânın kendi sonraki sürümünü geliştirmesi sizce heyecan verici mi, yoksa endişe verici mi?