Geçtiğimiz yıl Türkiye’deki yapay zekâ çalışmalarının e-ticaretle sınırlı olduğunu yazmıştınız. Yapay zekâ çalışmaları epey dinamik olduğu için sormak isterim, hâlâ aynı yerde miyiz?
Birtakım büyük şirketler, bu yapay zekâ rüzgarının estiğinden haberdar olup bu konuda bir şeyler yapmaları gerektiğinin ayırdına vardılar. Bu iyi bir şey ama birkaç değişik şekilde kendini gösteriyor. Bu şekilde yapalım da ne yaparsak yapalım tipi, işin şov tarafını öne çıkaran bir durum olabilir. Ama bir de size gerçekten ekonomik değer kazandıracak, sizin şirketinizi öbür şirketlerden para olarak sizin çalışma alanınız her neyse, orada bir rekabet gücü yaratabilecek, reklam filmi çekmenin ötesinde işler yapılabilir. İkinci kategori de oluyor neyse ki Türkiye’de. Hiç yapay zekâ olmayan şeylere yapay zekâ deme durumu da var tabii. Gerçekten kredi kartlarıyla, müşteri bilgileriyle dolu bir bilgisayarınız varsa sizin onun üzerinde bu yapay öğrenme tekniklerini çalıştırmanız lazım. Çünkü orada çıkarılmayı bekleyen inciler, bağlantılar var ki bunu kim bulabilirse kazanca da o dönüştürecek. Neyse ki bu alanda çalışan insanlar var ama yine de bir darboğaz söz konusu. Bu teknikleri uygulamasını bilen insan sayısı az. Dünyada da az, o yüzden dünyada da onların maaşları daha fazla. Türkiye’de özellikle az, olanlar yurtdışına kaçıyor.
Kitabınızda yapay zekânın çok daha gerçekçi ve yakın risklere değiniyorsunuz. Müşteri ilişkileri yönetiminde, yoksul gruba chat-bot’ların (soh-bot) refah grubunaysa gerçek insanların eşlik etmesi gibi hizmet farklarından sosyal vatandaşlık sisteminin yaratacağı eşitsizliklere kadar…
Ya da aşırı eşitlik de diyebiliriz. Herkes devlete kayıtsız şartsız tabi olma konusunda eşit de oyunu daha iyi oynayanlar, avantaj kazanıyor. Esas korkulacak kısımlar bunlar. Dediğiniz gibi yoğun bir işsizlik geliyor olabilir, o konuda ekonomistler bir türlü anlaşamadılar. “Ama bütün teknolojik devrimlerde tam tersine daha çok iş çıktı ortaya” diyenler var. Bir de “ama bu onlara benzemiyor, bunun bütün olayı insanın neyi kaldıysa onu otomasyona dönüştürmek” diyenler var. Jüri hâlâ kararını vermedi ama öbürü şimdiden hayatımızda olan bir şey. Hani bu Cambridge Analytica skandalından daha fazla ne gerekebilir ki bu anlamda? Bizim bilgiler ortada. Birileri bunlara bu yolla el koydu ve bizi sağa sola çekiştirmek için kullanıyor. En bariz ve uyanmamız gereken tehlikesi bu yapay zekânın, benim gördüğüm kadarıyla…
Algoritmalara gelirsek… Malum, yıllardır bizi bizden daha iyi tanıdıkları yönünde bir önerme var. Sizin fikriniz nedir, güvenmeli mi algoritmalara?
Bunun bir alternatifi var mı? Örneğin Netflix algoritmasız olabilir mi, tüm olayı bu değil mi? Benim yapay zekâdan sonra ikinci aşkım olan işin matematiksel tarafını dikkate alan kuramsal bilgisayar biliminin çalıştığı problemlerden biri bu: İki taraf birbirine ne kadar şey göstererek karşı tarafın hile yapmadığından emin olabilir? Bir algoritma spesifikasyona uygun olarak çalıştığı konusunda sizi nasıl ikna edebilir? Ama bir yandan da ticarî sırlarını ortaya dökmeden? Bunlar, çeşitli şifreleme teknikleriyle, biraz bitcoin’in altında yatana benzeyen, halledilebilmesi umudu olan konular. Belki de ileride böyle şeylerle karşılaşacağız. Kitabın başlarında “süper zekâ” dediğim bir şey var. Kuramsal bilgisayar biliminin sorularından biri, tanrısal hesaplama gücüne sahip birisi geldiğinde ve bir şeyi bildiğini iddia ettiğinde; onun gerçekten doğru bildiğine, biz normal hesaplama gücümüzle nasıl güvenebileceğimiz üzerine. Yalan da söylüyor olabilir. Onunla nasıl bir diyaloğa girebiliriz ki sonunda belirli bir güvenilirlik seviyesinin ötesinde ona inanabilelim. Bununla ilgili protokoller var. Bazı durumlarda bu mümkün. Belki ileride böyle önemli işlerimizi havale ettiğimiz algoritmalara yönelik anahtar bir sorumuz olacak ve ona verdiği yanıta göre spesifikasyonuna uygun davrandığından emin olabileceğiz. Şifre bilimcilerinin gündeminde bugünlerde böyle şeyler var.
Algoritmalar hep olumsuz haberlerin konusu bugünlerde… Sizce iyi gün dostu mu algoritmalar?
Algoritmadan dost, ayıdan post olmaz… Tabii ki, algoritmalar iyi gün dostu. Her türlü alet, sırf ona sahibiz diye başımızı derde sokabilir. Arabamız yüzünden ölebiliriz. Kullanmayı bilmemiz lazım, yapan kişinin doğru dürüst yapmış olması lazım ki bu kadar karışık mühendislik işlerinde bu hiç kolay değil. Bir de hem bizim hem de tasarlayan kişinin kötü niyetli davranışlara karşı uyanık olması lazım. Ne geliştirirsek geliştirelim, karşı taraftaki biri bu sistemi bozmak için aklını kullanabilir. Böyle durumlarda kabahatli kim olur? Bu riskleri öngöremeyen tasarımcı mı, biz kullanıcılar mı, algoritmaya bir kişilik atfediyorsak algoritmanın kendisi mi?
Söyleşi, Alev Kaynak
Yorumlar