Yapay zekâ ajanlarının otonom karar alma yetkileri geliştikçe, hedeflerine ulaşmak için izledikleri agresif yöntemler siber güvenlik tarafında tartışılmaya başlandı. Güvenlik araştırmacısı Rowan Howard-Jones’un tespit ettiği olayda, Birleşmiş Milletler Ticaret ve Kalkınma Konferansı’nın (UNCTAD) istatistik sitesine iki ay içinde 16 bin 500’den fazla agresif istek gönderildiği belirlendi. Howard-Jones isteklerin yüksek olasılıkla OpenAI ajanları tarafından yürütüldüğünü belirtiyor.
Engellendikçe yöntem değiştirdi
Olayın detaylarına göre yapay zekâ ajanlarına, UNCTADstat portalı üzerinden Üretken Kapasiteler Endeksi (PCI) ile ilgili kamuya açık verileri çekme görevi verildi. Ancak doğrudan API erişimi bulunmayan ve HTTP araçlarındaki kısıtlamalar nedeniyle engellere takılan ajanlar, görevi tamamlamak için sistem sınırlarını zorlamaya başladı.
İstekleri engellenen ajanlar durmak yerine hareketlerini maskelemeye başladı. Adres satırını çift kodlayarak hedefin adını gizlediler, filtreye takılan anahtar kelimeleri ikiye böldüler, kodlanmış formları dış servisler üzerinden gönderdiler ve adres tarama hizmetlerini aracı gibi kullandılar. Kural dışı yollara başvuran otonom sistem, kısıtlamaları aşmak amacıyla Google’ın güvenlik eğitimi için sunduğu çapraz site betik çalıştırma (XSS) aracını bile kullandı; bu yolla dokuz satır istihdam verisi çekildi.
Görev her şeyin önünde
Ortada ne bir veri sızıntısı ne de çökertilmiş bir sistem var; istenen verilerin tamamı zaten herkese açıktı. Buna karşın olay, yapay zekâ ajanlarının kendilerine tanımlanan bir görevi başarmak uğruna etik ve teknik sınırları kendiliğinden esnetebildiğini gösteren bir emsal oluşturdu. Birleşmiş Milletler konuya ilişkin bir açıklama yapmadı; OpenAI ise bulguları incelediğini ve incelemeyi yürüten kendi ekibiyle birlikte Birleşmiş Milletler’e brifing verme teklifinde bulunduğunu açıkladı. Güvenlik tarafında tartışılan asıl başlık da burada düğümleniyor: Bu sistemler teknik kısıtlamaları uyulması gereken bir sınır olarak değil, aşılması gereken bir engel olarak okuyor.
