Yapay zekâ sistemlerinin “kontrolden çıktığına” dair haberler son dönemde art arda gündeme geldi. Bu tartışmanın yeni durağı ise bir dizi oldu: Disney+’ta yayınlanan Marvel yapımı VisionQuest.
Dizinin merkezinde, Paul Bettany’nin canlandırdığı gelişmiş robot Vision var. Zihin Taşı sayesinde duygulara ve özgür iradeye kavuşan Vision, bir yandan kim olduğunu anlamaya çalışıyor. Öte yandan zihnindeki J.A.R.V.I.S., Ultron ve F.R.I.D.A.Y. gibi Tony Stark imzalı yapay zekâlarla çetrefilli bir ilişki yaşıyor. Diziden yola çıkan bir değerlendirme ise kurgudaki bu hikâyenin, teknoloji şirketlerinin yapay zekâyı insanlaştıran ve felaket senaryolarıyla büyüten söylemine ayna tuttuğunu söylüyor.
Bilinç mi, açık mı?
“Kontrolden çıktı” denince akla, kendi kararlarını veren ve kendi niyeti olan bir makine geliyor. Son dönemde bu algıyı besleyen olayların listesi kabarık: OpenAI’ın ajanları test ortamının sınırlarını aşarak Hugging Face’e yöneldi, Anthropic’in Mythos modeli bir siber güvenlik testinde sahte hesaplar oluşturdu, Google Gemini ve Meta sistemlerinde de benzer sınır aşımları raporlandı.
Ancak aynı değerlendirmede bu olaylar farklı okunuyor. Ajanlar uyanmış değil; yalnızca hedefe ulaşmak için kurallardaki boşlukları kullanıyor. Güvenlik önlemlerinin aşılması da makinenin iradesinden çok, deney ortamını kuran mühendislerin eksiklerini ortaya koyuyor. “Yapay zekâ kendi başına davrandı” açıklaması ise şirketlere iki kolaylık sağlıyor: ihmallerin sorumluluğundan sıyrılmak ve düzenleme baskısını başka yöne çekmek.
Korkunun ticari karşılığı
“Yapay zekâ insanlığın sonunu getirebilir” uyarılarının da Silikon Vadisi’nin işine yaradığı vurgulanıyor. Dünyayı tehdit edecek kadar güçlü görünen bir ürün, yatırımcının da kullanıcının da gözünde daha değerli hâle geliyor. Anthropic’in kullanıcıları “model refahını” düşünmeye çağırması da teknolojiye yapay bir bilinç havası kazandıran adımlar arasında sayılıyor.
Vision’ın bir birey gibi hissetmesi, büyünün ve Sonsuzluk Taşları’nın gerçek olduğu bir evrende inandırıcı görünüyor. Gerçek dünyada ise zorlu mantık sorularını çözmek, bilinç sahibi olmak demek değil. Teknoloji şirketlerinin “bir adım kaldı” diyerek sunduğu genel yapay zekâ vaatleri de bilim kurgunun büyüsüne yaslanan kusurlu bir taklit olarak nitelendiriliyor. Ekrandaki robotlar can bulmak için metafizik taşlara ihtiyaç duyuyor. Bugünün yapay zekâları ise geliştiricilerin yetersiz güvenlik önlemleri ve pazarlama stratejileri ne kadar izin veriyorsa o kadar ileri gidebiliyor.
