Yapay zekâ modellerinin ne kadar güvenli olduğunu bugüne kadar büyük ölçüde onları geliştiren şirketlerin açıklamalarından öğreniyorduk. New York eyaleti bu denklemi değiştirmeye hazırlanıyor. Vali Kathy Hochul’un 10 Kasım’da duyurduğu programla gelişmiş yapay zekâ sistemleri, ABD’de ilk kez bir eyaletin desteğiyle bağımsız araştırmacılar tarafından test edilecek. Hochul’a göre “risk, yapay zekâ şirketlerinin sözüne öylece güvenmek için fazla yüksek.”
Testlerin adresi, Binghamton Üniversitesi’nde kurulan New York Yapay Zekâ Sorumluluğu ve Araştırmaları Merkezi (New York Center for AI Responsibility and Research) olacak. Eyaletin dört bir yanından 80’den fazla bilim insanının görev alacağı merkez, ihtiyaç duyduğu bilgi işlem gücünü eyaletin 500 milyon dolarlık kamu-özel sektör ortaklığı Empire AI’dan karşılayacak. Merkez, yapay zekâ modellerinin risklerini inceleyip kamu yöneticilerine karar alırken kullanabilecekleri kanıtlar sunacak, yapay zekânın tıp ve bilim gibi alanlarda sorumlu kullanımını da araştıracak.
Programın bir sınırı var: Merkez yalnızca şirketlerin kamuoyuyla paylaştığı bilgiler üzerinden çalışabilecek. Bu noktada Hochul’un geçen yıl imzaladığı RAISE Yasası devreye giriyor. Yasa, büyük yapay zekâ geliştiricilerinin 1 Ocak 2027’ye kadar eyalete kayıt yaptırmasını, ardından güvenlik çerçevelerini ve şeffaflık raporlarını yayımlamasını, kritik güvenlik olaylarını da 72 saat içinde bildirmesini zorunlu kılıyor. Ancak henüz kullanıma sunulmamış modeller yasanın kapsamı dışında kalıyor.
