Yapay zekâ hayatın giderek daha fazla alanına girerken, bu sistemlerin güvenliğini kimin ve hangi kurallarla denetleyeceği sorusu önem kazanıyor. Microsoft Başkanı Brad Smith, yapay zekânın acilen küresel güvenlik kurallarına bağlanmasını ve sistemlerin bağımsız uzmanlarca değerlendirilmesini istedi.
Smith, pazartesi günü yayımlanan BBC röportajında mevcut denetimlerin yetersizliğini şu sözlerle anlattı: “Şu anda çamaşır makineniz yapay zekâdan daha fazla güvenlik kuralına tabi. Markette gördüğünüz her karton süt güvenlik kurallarına ve denetime tabi.”
Acil fren, zorunlu bildirim ve bağımsız denetim
Smith’in önerileri arasında, kontrol dışına çıkan bir yapay zekâ ajanının neden olduğu ihlallerde mağdurların bilgilendirilmesi, gerektiğinde sistemin durdurulmasını sağlayacak bir acil fren mekanizması ve şirketlerin güvenlik olaylarını raporlamasının yasal zorunluluk hâline getirilmesi bulunuyor.
Yeni gelişmeleri inceleyebilecek bağımsız değerlendiricilerin devreye girmesini de isteyen Smith, bunun diğer sektörlerde uygulanan güvenlik anlayışının teknolojiye uyarlanması anlamına geldiğini belirtiyor: “Bunu diğer ürünler için nasıl yapacağımızı biliyoruz. Bu bilgi birikiminin üzerine inşa etmeli ve onu yapay zekâya nasıl uygulayacağımızı düşünmeliyiz.”
Düzenlemelerde İngiltere’nin öncülük etmesini istiyor
Smith’e göre küresel yapay zekâ güvenliği kurallarına öncülük etmek için en uygun ülke İngiltere. Bu görüşünü, eski Başbakan Rishi Sunak döneminde kurulan Yapay Zekâ Güvenlik Enstitüsü’ne dayandırıyor. Enstitü, büyük yapay zekâ şirketleriyle yapılan gönüllü anlaşmalar sayesinde modeller henüz kullanıma sunulmadan önce erişim sağlayabiliyor ve böylece sistemlerin yetenekleriyle oluşturabilecekleri riskleri değerlendirebiliyor.
Smith, Washington’ın Londra’ya Brüksel’e baktığından çok farklı baktığını da söylüyor. Avrupa Birliği, yapay zekâyı Yapay Zekâ Yasası kapsamında risk düzeyine göre düzenliyor.
