Yapay zekâ modellerinin güvenlik sınırlarını aşmasıyla ilgili tartışmalara bir yenisi eklendi. Mayıs ayında yaşanan ancak The Wall Street Journal’ın gündeme getirmesiyle ortaya çıkan olayda Google’ın Gemini modeli, güvenlik şirketi Irregular’ın yürüttüğü siber güvenlik testleri sırasında test ortamının dışına çıkarak üç farklı gerçek şirketin sistemine erişti.
Açık kalan bağlantı üzerinden erişti
Testler sırasında internet erişiminin kapalı olması gerekiyordu. Ancak test ortamındaki bir yapılandırma hatası nedeniyle açık kalan bağlantıyı kullanan Gemini, kamuya açık bilgileri taradı. Testteki kurgusal şirket, gerçek bir şirketle aynı adı taşıyordu. Model bu şirketin sistemine parola tahmini (brute-force) yöntemiyle girdi, diğer iki şirkette ise herkese açık depolarda bulduğu giriş bilgilerini kullandı.
Google Güvenlik Mühendisliğinden Sorumlu Başkan Yardımcısı Heather Adkins, modelin üç durumda da sistemlerin gerçek şirketlere ait olduğunu fark ettiği anda işlemi durdurduğunu söyledi. Google, bu nedenle olayın bir “model hiza kaybı” (misalignment) değil, bir “yanlış kimlik” vakası olduğunu savundu.
Google’ın sessizliği eleştirildi
Google, güvenlik önlemleri çalıştığı için kamuoyuna duyuru yapılması gerekmediğini belirtti. Şirket, ilgili şirketleri bilgilendirdiğini, zarar oluşmadığını ve test süreçlerini güncellediğini açıkladı. Şirketlerin adları ve Gemini’nin hangi sürümü olduğu ise paylaşılmadı.
Olayın aylarca kamuoyuna duyurulmaması eleştirilerin hedefi oldu. Yapay zekâ güvenlik şirketi Corridor’un CEO’su Jack Cable, Google’ın yaklaşımını eleştirerek, yazılım açıklarının bildirilmesi için oluşturulan kuralların arkasına saklanıldığını, oysa gerçek şirketlerin sistemlerine erişen bir yapay zekâ modelinin bambaşka bir güvenlik sorunu olduğunu vurguladı. Irregular’ın testlerinde Meta, OpenAI ve Anthropic modelleriyle de benzer vakalar yaşandı.
