Günümüzün yapay zekâ sistemlerinin birçoğunun temelini oluşturan çığır açan çalışmalarıyla “yapay zekânın babası” olarak anılan Geoffrey Hinton, Google’dan özellikle “yapay zekânın riskleri hakkında özgürce konuşabilmek” için ayrıldığını söyledi.
Times’ın haberine göre, Hinton o kadar endişeli ki, bir yanının yapay zekâ alanındaki geçmiş çabalarından pişmanlık duyduğunu bile söyledi. Habere göre, üretken yapay zekâ araçları halihazırda insanların yerini almaya doğru ilerliyor ve bu teknoloji yanlış bilgi oluşturmak ve yaymak için de kullanılabiliyor.
Hinton’un endişelerinden biri, internetin ChatGPT ve Bard gibi chatbotların kulağa inandırıcı gelecek şekilde sonsuz gerçek dışı şeyler söylemesine neden olabilecek yanlış bilgilerle dolup taşacak olması.
Teknoloji devleri, yapay zekâ destekli araçlarını potansiyellerini tam olarak bilmeden kullanıma sunarken, Hinton “kötü aktörlerin yapay zekâyı kötü şeyler için kullanmasını nasıl önleyebileceğinizi görmenin zor olduğundan” endişe ediyor.
Hinton, şirketler ve hükümetler teknoloji üzerinde büyük ölçüde gizlice çalışabilecekleri için teknolojiyi düzenlemenin zor olacağını söylüyor. Bu sorunla başa çıkmanın bir yolunun, önde gelen bilim insanlarını teknolojiyi kontrol etmenin yolları üzerinde birlikte çalışmaya ikna etmek olduğunu belirtiyor.
Hinton dün attığı bir tweet’te, “Google’ı nasıl etkilediğini düşünmeden yapay zekânın tehlikeleri hakkında konuşabilmek” için Google’dan ayrılmaya karar verdiğini söyledi ve teknoloji gelişmeye devam ettikçe kedisinden daha çok şey duyacağımızı öne sürdü.
In the NYT today, Cade Metz implies that I left Google so that I could criticize Google. Actually, I left so that I could talk about the dangers of AI without considering how this impacts Google. Google has acted very responsibly.
— Geoffrey Hinton (@geoffreyhinton) May 1, 2023
Hinton’ın ayrılış haberinin ardından Google başmühendisi Jeff Dean yaptığı açıklamada, yapay zekâya karşı sorumlu yaklaşım taahhüdünü sürdürdüklerini ve ortaya çıkan riskleri anlamayı öğrendiklerini ifade etti.
10 yıldır Google bünyesinde derin öğrenme ve sinir ağları üzerine çalışan ve Google’ın yapay zekâ araştırma birinin başında yer alan Hinton, dünyayı kasıp kavuran yapay zekâ teknolojisi dalgasıyla ilgili endişelerini dile getiren tek uzman değil. OpenAI CEO’su Sam Altman da, yakın zamanda yapay zekâ teknolojisinin potansiyel etkilerinden “biraz korktuğunu” itiraf etmişti.
Mart ayında, Future of Life Enstitüsü tarafından yayımlanan, aralarında Elon Musk’ın da bulunduğu teknoloji liderleri ve akademisyenler tarafından imzalanan bir mektupta, yapay zekâ teknolojisinin “toplum ve insanlık için derin riskler” oluşturduğu ifade edilmişti. Mektup, yapay zekâ geliştirme çalışmalarına altı aylık bir ara verilmesi çağrısında bulunmuştu.
Kaynak: ‘Godfather of AI’ quits Google to speak more freely on concerns – digitaltrends
Yorumlar