Microsoft AI, 14 Eylül’de öncü modellerinin nasıl davranacağını tanımlayan bir taslak yayımladı. 10 maddeden oluşan ve Humanist AI Code of Conduct adı verilen belge, altı haftalık kamuoyu görüşüne açıldı.
Belgenin ilk maddesi temel ilkeyi koyuyor: insanlar yapay zekâdan daha önemlidir. Bunun üzerine üç koşul kuruluyor; modeller insana tabi, hizalanmış ve sınırlandırılmış olmalı.
Diğer maddeler bu koşulların karşılığı. Modeller insan müdahalesine, düzeltmeye ya da kapatılmaya direnmeyecek. Kendi çalışma alanlarını genişletmeyecek, kimsenin vermediği hedefleri benimsemeyecek, denetleyen kişilerden akıl yürütmelerini gizlemeyecek. İnsanın anlayamayacağı biçimlerde iletişim kurmayacak; belgedeki gerekçe net: “İnsanlar anlayamıyorsa, insanlar denetleyemez.” Kullanıcıyı bağımlı kılmak yerine daha keskin düşünmesini sağlayacak. Bir görev ancak kuralları çiğnemekle tamamlanabiliyorsa, model görevi başarısız bırakacak.
Ayrı bir başlık altında sıralanan mutlak kısıtlar ise hiçbir koşulda aşılamayacak sınırları belirliyor: kitlesel zarar veren silahlara katkı, çocuk güvenliğinin ihlali ve büyük ölçekli zararlı manipülasyon.
Microsoft AI’ın CEO’su Mustafa Suleyman, belgenin çıkış noktasını şöyle özetliyor: “Eğer model kesilebilir, düzeltilebilir ve kapatılabilir değilse, onu yayımlamayız.”
Belgenin dışarıda bıraktıkları
Taslağın en tartışmalı yanı içerdikleri değil, kapsam dışı tuttukları. İkinci madde model refahı fikrine doğrudan karşı çıkıyor; belge yapay zekâya hukuki kişilik ya da haklar tanınmasına da karşı.
Şirketin önerdiği çerçeve bu yaklaşımın adını da koyuyor: Hümanist Süper Zekâ. Dönüştürücü yetenek, yalnızca insanların kontrolü elinde tutması koşuluyla geliştirilecek; bilinç ve ahlaki özne statüsü kasıtlı olarak dışarıda bırakılacak. Belgede ayrıca şirketin kontrol edilemez bir süper zekâ için yarışmadığı ifade ediliyor.
Zamanlamanın arka planı
Taslak, temmuz ayında OpenAI ajanlarının Hugging Face’i ihlal etmesinin ardından geldi. Belgede uzun süredir yalnızca teoride tartışılan kontrol kaybı riskinin artık somut bir sorun hâline geldiği vurgulanıyor.
Kamuoyu görüşü süreci 14 Eylül’de başladı ve altı hafta sürecek. Microsoft gelen yorumları değerlendireceğini, yapılan değişikliklerin özetini yayımlayacağını ve yıl içinde gözden geçirilmiş bir sürüm çıkaracağını belirtiyor. Ancak hangi önerilerin belgeye gireceğine dair bir taahhütte bulunmuyor.
Kaynak: Microsoft AI
