Aralarında Microsoft destekli OpenAI ve Alphabet’in çatısı altındaki Google DeepMind’ın bulunduğu yapay zekâ şirketlerinin mevcut ve eski çalışanlarından oluşan bir grup, gelişen teknolojinin yarattığı risklerle ilgili endişelerini yayımladıkları açık mektupta dile getirdi.
Çalışanlar açık mektupta, yapay zekâ şirketlerinin mali amaçlarının etkili bir gözetimi engellediğini belirterek, “Kurumsal yönetimin özel yapılarının bunu değiştirmek için yeterli olduğuna inanmıyoruz” diyor.
Açık mektup, denetimsiz yapay zekânın yanlış bilgilerin yayılmasından bağımsız yapay zekâ sistemlerinin kaybına ve mevcut eşitsizliklerin derinleşmesine kadar uzanan riskleri olduğuna ve bunun ‘insanlığın yok olması’ ile sonuçlanabileceğine dair uyarıda bulunuyor.
Çalışanlar mektupta ayrıca, yapay zekâ şirketlerinin sistemlerinin yetenek ve sınırları hakkında hükümetlerle bilgi paylaşma konusunda yükümlülüklerin zayıf olduğunu ve bu şirketlerin bu bilgileri gönüllü olarak paylaşmalarına güvenilemeyeceğini söylüyor.
Açık mektubu yazan çalışanlar, yapay zekâ şirketlerini mevcut ve eski çalışanların riskle ilgili endişelerini dile getirmeleri ve eleştiriyi yasaklayan gizlilik anlaşmalarını uygulamamaları için bu süreci kolaylaştırmaya çağırdı.
Kaynak: OpenAI, Google DeepMind’s current and former employees warn about AI risks – Reuters
Yorumlar