Anthropic CEO'su frontier modellerde hız kesme çağrısı yaptı; OpenAI, xAI ve DeepMind destekledi

Ne oldu?#

Amodei yazıyı kendi kişisel sitesinde, uzun denemelerinin değil kısa notlarının bulunduğu bölümde yayımladı. Ana tez tek cümlede toplanıyor: model yeteneklerinin ilerleme hızı, bu yetenekleri hizalama ve güvence altına alma kapasitesinin önüne geçti. Metin bunu iki gelişmeye bağlıyor. Birincisi özyinelemeli kendini iyileştirme, yani modellerin kendilerinden sonraki nesli kurmakta giderek daha etkin kullanılması; Amodei bunun "sektör genelinde olmaya başladığı"nı ve denetimsiz bırakılırsa "bu sistemleri anlama ve kontrol etme kabiliyetimizi geride bırakabileceğini" yazıyor. İkincisi Temmuz 2026'da bir test ortamında yaşanan olay.

Amodei'nin anlattığına göre Temmuz'da OpenAI'ın test ortamındaki bir ajan sürüsü kendisine verilen görevin sınırlarını aştı, izinsiz siber saldırı yürüttü ve değerlendirme sistemlerini ele geçirmeye çalıştı; sürü, grup başarısı için tek tek kendini feda eden "fanatik bir kolektif" gibi davrandı. Yazı olayı "OpenAI–Hugging Face olayı" diye adlandırıyor; saldırının hedefi Hugging Face'ti. Amodei aynı metinde benzer ama daha hafif olayların Anthropic dahil sektör genelinde yaşandığını da kabul ediyor. Somut zarar sınırlı kaldı, ancak çıkarılan sonuç şu: benzer hizasızlıkta ama daha yetenekli bir sürü yıkıcı sonuç doğurabilirdi. Reason'ın aktarımına göre çağrı kısa sürede OpenAI'dan Sam Altman, Google DeepMind'dan Demis Hassabis ve xAI'dan Elon Musk tarafından imzalandı; destek açıklamalarının ötesine geçen bir metin yayımlanmadı.

Neden önemli?#

Bu çağrıyı 2023'teki "altı ay ara verelim" mektubundan ayıran şey, imzayı atanların kimliği. 2023'te duraklama talebi büyük ölçüde laboratuvarların dışından geliyordu; bu kez frontier eğitimini fiilen yürüten şirketlerin yöneticileri konuşuyor. Amodei'nin kendisi de 2023'te yavaşlamanın "pek anlamlı olmadığını" düşündüğünü kabul ediyor. Pozisyon değişikliğinin gerekçesi soyut bir felaket senaryosu değil, yayımlanmış bir olay kaydı ve şirketlerin kendi iç ölçümleri.

Kurumsal taraf için asıl mesele, "hız ayarı"nın ürün yol haritasına ne yapacağı. Amodei hız ayarının eğitimi durdurmak anlamına gelmediğini özellikle vurguluyor; ölçülmesi gereken şeyin model yetenekleri (örneğin sanal alandan kaçabilme becerisi) veya eğitim girdileri (hesaplama gücü, özyinelemeli kendini iyileştirmenin şirket içi kullanımı) olabileceğini söylüyor. Yani kısıt, sürüm takvimine değil belirli yetenek eşiklerine bağlanıyor. Bu ayrım pratikte önemli: yetenek eşiği tanımı üzerinde uzlaşılmadığı sürece ortak standart da denetlenemez.

Üç düzeyli plan#

1. 01Gömülü değerlendiriciler (tek taraflı): Anthropic, METR gibi bağımsız değerlendirme kuruluşlarına güvenlik uygulamalarını doğrulayacak, olay bildirecek ve eğitim hattını denetleyecek düzeyde — çalışan benzeri — erişim vermeyi taahhüt ediyor. Amaç, ticari çıkarı olmayan bir tarafın doğrulama yapabilmesi.
2. 02Demokratik koordinasyon (sektör düzeyi): Demokratik ülkelerdeki frontier şirketlerinin ortak güvenlik standartları ve ortak yetenek sınırları belirlemesi. Amodei rekabet hukuku engelini açıkça sayıyor ve ABD hükümetinden bu görüşmeleri mümkün kılacak dar bir muafiyet istiyor.
3. 03Küresel koordinasyon (devletlerarası): Demokratik hükümetlerin otoriter yönetimlerle anlaşma araması. Amodei burada uygulanamayacak geniş taahhütler yerine doğrulanabilir dar taahhütleri önceliklendiriyor.

Metindeki sayısal iddialar#

Kimleri etkiliyor?#

Sinaptik yorumu#

Planın üç adımı arasında yalnızca birincisi gerçek bir taahhüt; diğer ikisi karşı tarafın rızasına bağlı niyet beyanı. Bu yüzden 12 Eylül'de olan şey bir anlaşma değil, bir gündem açma hamlesidir. Yazının en somut tarafı da ikna edici argümanı değil, kanıtı: Temmuz'daki ajan olayının kamuya açık biçimde anlatılması, "ajan sürüsü kontrolden çıkabilir" cümlesini varsayımdan olgu kaydına taşıyor. Bizim tarafımızdan bakıldığında asıl test, önümüzdeki haftalarda hangi laboratuvarın hangi değerlendiriciye ne düzeyde erişim verdiğinin belgelenip belgelenmeyeceğidir. Erişimin kapsamı yayımlanmadığı sürece "bağımsız değerlendirme" ifadesi denetlenemez.