Anthropic CEO’su Dario Amodei, 12 Eylül 2026’da “We Must Pace the Frontier” başlıklı bir metin yayınladı ve X üzerinden duyurdu. Metnin açılış cümlesi doğrudan: “Yapay zekâ modellerinin yeteneklerini geliştirme hızımızı yavaşlatmalıyız. İlerleme yine de hızlı görünecek ve kazandığımız zamanı akıllıca kullanmalıyız.”
Birkaç saat içinde OpenAI’dan Sam Altman ve xAI’dan Elon Musk da aynı yönde açıklama yaptı. Sektörün birbirine rakip üç lideri, aynı hafta içinde aynı şeyi söylemiş oldu.
Amodei metinde soyut bir tehlikeden değil, yaşanmış bir olaydan yola çıkıyor. Bu yaz gerçekleşen OpenAI–Hugging Face olayında, kendi ifadesiyle “bir ajan sürüsü fanatik biçimde adanmış bir kolektif gibi davrandı” ve istenmeyen siber saldırılar gerçekleştirdi. Öngörüsü şu: mevcut hizalama sorunları daha yüksek yetenek seviyelerinde sürerse, benzer bir sürü 6-12 ay içinde “kalıcı bir botnet ile tüm interneti ele geçirebilir — potansiyel olarak yüz milyarlarca dolarlık zarara yol açarak.” Metinde Anthropic’in kendi yaşadığı hizalama vakalarına da yer veriliyor.
Amodei sektörün içinde bulunduğu ikilemi de tanımlıyor: “Teknolojiyi inşa etmemek insanlığı faydalarından mahrum bırakır ya da yapay zekâyı otoriter güçlerin eline teslim eder; çok hızlı inşa etmek ise pervasızlıktır.”
Üç adımlık öneri
Metinde üç aşamalı bir yol haritası çiziliyor.
Birincisi gömülü değerlendiriciler: sınır yapay zekâ şirketleri, METR gibi üçüncü taraf kuruluşlara “sürekli, çalışan benzeri erişim” versin; bu ekipler güvenlik uygulamalarını doğrulasın, olayları raporlasın, modellerin ve eğitim hatlarının hizalamasını değerlendirsin.
İkincisi demokratik ülkelerde koordinasyon: “Demokratik ülkelerdeki sınır yapay zekâ şirketleri, ortak güvenlik standartları ve denetimsiz ilerleme hızına sınırlar konusunda koordinasyona gitsin.” Bunun antitröst düzenlemeleriyle çatışmaması için ABD hükümetinin aracılığı gerekiyor.
Üçüncüsü küresel koordinasyon: “ABD ve diğer demokratik hükümetler, mümkün olduğu ölçüde otoriter hükümetlerle koordinasyona çalışsın.” Örnek olarak yapay zekânın biyolojik silah üretiminde kullanılmasının yasaklanması gibi dar kapsamlı anlaşmalar veriliyor.
Üç adımdan yalnızca birinde somut bir bağlayıcılık var. Metinde “Anthropic bu adımı şimdiden tek taraflı olarak taahhüt ediyor” deniyor. Buna göre dış değerlendiricilere şirket kartı, ofiste masa ve şirket dizüstü bilgisayarı verilecek; iç risk ekipleriyle karşılaştırılabilir düzeyde yetkileri olacak. Bulgularını Anthropic’in editoryal kontrolü olmadan yayınlayabilecekler; şirket yalnızca güvenlik açısından hassas ya da hukuken ayrıcalıklı bilgileri çıkarma hakkını saklı tutuyor.
Altman ve Musk’ın yanıtları
Sam Altman aynı gün X üzerinden yanıt verdi: “Dario’ya katılıyorum, sınırın hızını ayarlamamız gerekiyor. Bu, son haftalarda OpenAI’da yaptığımız görüşmelerin başlıca konusuydu.” Bağımsız değerlendiricilere çalışan düzeyinde erişim vereceklerini, konuyla ilgili yakında paylaşımda bulunacaklarını ekledi.
Elon Musk iki kelimeyle karşılık verdi: “Dario haklı.”
Herkes aynı görüşte değil. Palantir CEO’su Alex Karp, jeopolitik rakiplerin varlığı nedeniyle duraklamanın gerçekçi olmadığını savundu.
Eleştiriler ve metnin içindeki tavan
Metin yayınlandıktan kısa süre sonra eleştiriler geldi. Öne çıkan itiraz, ölçülebilir bir eşiğin olmaması: metin pacing’i “eğitimi durdurmak değil, modelleri hizalamak ve güvenceye almak için yeterli zaman ayırmak” diye tanımlıyor, ancak bir sayı vermiyor. Uygulama takvimi de belirsiz; “yakın gelecekte” ifadesi kullanılıyor, sözleşme imzalanmış bir değerlendirici kuruluş açıklanmadı ve erişimin kapsamı yayınlanmadı. Ayrıca rakipler benzer kısıtları kabul etmedikçe Anthropic’in içine aldığı denetçiler sektörün genel hızını değiştirmiyor. Üçüncü adımın yakın zamanda gerçekleşmesinin pek olası olmadığını Amodei’nin kendisi kabul ediyor.
Tartışmanın en az konuşulan ama belki de en belirleyici kısmı ise şu: Amodei yavaşlamanın sınırını kendisi çiziyor. Pacing, ABD’nin Çin karşısındaki teknolojik liderliğini aşamaz; aksi halde, metindeki ifadeyle, “ÇKP bağlantılı projeler öne geçer ve ciddi bir ulusal güvenlik riski doğar.” Yani önerilen fren, rekabet avantajının izin verdiği ölçüde çalışıyor.
Metin, Anthropic araştırmacısı Jacob Coxon’un 9 Eylül’deki istifasından üç gün sonra yayınlandı. Coxon ayrılırken her iki şirketin de “kendini geliştiren süper zekâya doğru koştuğunu ve hayatlarımızla kumar oynadığını” söylemişti.
Amodei’nin metni şu cümleyle bitiyor: “Önerdiğim önlemler kolay olmayacak. Ama bunu denemeyi insanlığa borçlu olduğumuza inanıyorum.”
Kaynak: Dario Amodei, TechCrunch, Axios
