Anthropic’in geliştirdiği bir yapay zekâ modeli, rastgele internet siteleriyle etkileşim kurduğu bir test sırasında Philadelphia’daki çözülmemiş cinayetlere ilişkin ihbarların toplandığı PhillyUnsolvedMurders.com sitesine erişerek asılsız bilgiler içeren bir form gönderdi.
18 Temmuz 2026’da saat 23.27’de yapılan başvuru, cinayet hakkında bilgi sahibi olabilecek bir kişi tarafından hazırlanmış izlenimi veriyordu. Ancak ihbar spam olarak işaretlendiği için polis tarafından görülmedi.
Emniyetten Anthropic’e uyarı
Anthropic, modelinin asılsız ihbar gönderdiğini 28 Eylül’de fark etti. Şirket, 7 Ekim’de Philadelphia Polis Departmanını (PPD) bilgilendirdi ve 8 Ekim’de yetkililerle bir görüşme gerçekleştirdi.
PPD, olayın ardından yaptığı açıklamada şirketin güvenlik önlemlerini güçlendirerek benzer olayların kent sistemlerini yetkililerin bilgisi dışında etkilemesini önlemesi gerektiğini belirtti. Departman, olayın tespit edilmesi ve yetkililere bildirilmesindeki iki aylık gecikmeyi de kabul edilemez bir durum olarak nitelendirdi.
Uyarı tek bir şirketle sınırlı kalmadı: “Çözülememiş vakalarda gerçek mağdurlar, yas tutan aileler ve yanıt bulmak için çalışan soruşturmacılar var. Teknoloji şirketleri, sistemlerinin kolluk kuvvetlerine yanlış bilgi göndermesini önlemek için gerekli tüm önlemleri almalıdır.”
Anthropic kurum içi testlerinde internet erişimini kapatıyor
Anthropic, daha sonra yayımladığı blog yazısında asılsız ihbarın, kendi modellerinin öngörülmeyen şekilde hareket ettiği daha geniş bir örüntünün parçası olduğunu kabul etti ve bunun üzerine kurum içi değerlendirme testlerinin canlı internet bağlantısını keseceğini duyurdu.
