Popüler yapay zekâ chatbot’u ChatGPT’nin arkasındaki şirket OpenAI, süper zeki yapay zekâyı yönetmek ve kontrol etmek için şirketin kurucu ortaklarından biri olan Ilya Sutskever liderliğinde yeni bir ekip oluşturuyor.
OpenAI’ın önceki alignment (yapay zekânın insanlarla uyumlu çalışmasını sağlayan ekip) bölümünden bilim insanları ve mühendislerin yanı sıra şirket genelindeki diğer kuruluşlardan araştırmacıların bir araya geldiği ekip, önümüzdeki dört yıl boyunca süper zeki yapay zekânın kontrolü konusundaki temel teknik zorlukları çözmeye çalışacak. Ekibin amacı; yapay zekâ sistemlerini insan geribildirimlerini kullanarak eğitmek, yapay zekâyı diğer yapay zekâ sistemlerini değerlendirmeye yardımcı olacak şekilde eğitmek ve nihayetinde uyumlaştırma araştırması yapabilen yapay zekâ oluşturmak.
Dün yayımlanan bir blog yazısına göre, Sutskever ve Jan Leike, insan zekâsını aşan bir yapay zekânın on yıl içinde gelebileceğini tahmin ediyor.
Yapay zekânın kontrol edilmesi ve kısıtlanması gereken bir araştırma alanı haline geleceğini söyleyen ikili, “Şu anda, potansiyel olarak süper zeki bir yapay zekâyı yönlendirmek veya kontrol etmek için bir çözümümüz yok. Yapay zekânın insanlarla uyumlu çalışmasını sağlama süreci, yani alignment, insanların yapay zekâyı denetleme becerisine dayanıyor. Ancak insanlar, bizden çok daha akıllı yapay zekâ sistemlerini güvenilir bir şekilde denetleyemeyebilir” diyor.
Kaynak: OpenAI is forming a new team to bring ‘superintelligent’ AI under control – TechCrunch
Yorumlar