Facebook’ta binlerce arkadaşınız var, ancak siz bazı arkadaşlarınızı ve belirli konulardaki içerikleri daha çok görüyor olabilirsiniz. Çünkü sizin neyi sevip sevmediğinize Facebook karar veriyor ve binlerce arkadaşınızın paylaştığı şeyleri, sizin daha önceki tercihlerinize ve kendisine göre sıralıyor olabilir. Google’da yaptığınız her aramanın sonucu veya sıralaması farklı çıkabilir, bazı içerikler daha üstte ve öncelikli olarak sıralanıyor olabilir. Çünkü bu sonuçlar, lokasyona, zamana ve sizden daha önce bilgisayar başına oturmuş birilerinin tercihlerine göre değişiyor olabilir ve Google sizi sizden daha iyi tanıyor olabilir. Whatsapp’ta bir arkadaşınıza almayı çok istediğiniz bir ayakkabıdan bahsettiniz, daha birkaç dakika sonra girmiş olduğunuz haber sitesinin sağ tarafında sevdiğiniz ayakkabının reklamlarını görüyor olabilirsiniz.

Algoritmalara kimler hükmediyor?

İşte tüm bunları yapan ve aslında seçimlerinizi elinizden alarak size kendi seçtiklerinden seçebilme hakkını veren şey algoritma’dır. Bugün hemen hemen tüm yazılımlarda algoritmalar bir şekilde kullanılıyor. Google’ın arama motorunda kullandığı algoritmalar ve işlem mantığı sürekli değişiyor ve milyonlarca yazılımcı bu algoritmanın sırlarını çözmeye çalışıyor. Keza, Facebook, Instagram, Netflix ve Twitter gibi binlerce site ve mobil uygulamanın algoritmaları da fazlaca bilinmiyor. Sorun burada başlıyor, bu algoritmalar bizleri ne kadar etkiliyor, algoritmalara kimler hükmediyor ve bizim tercihlerimizi ne kadar şekillendiriyor?

Bunu keşfeden birçok yazılımcı, reklamcı ve araştırmacı; oyların belirli bir lidere veya partiye akmasını, giyim tercihlerinin belirli bir markaya veya koleksiyona kaymasını, manipülatif haberlerin belirli bir kitleye akmasını, bahislerin belli bir takıma ve belli bir skora toplanmasını sağlayabiliyorlar. Kendine verilmiş görevleri yerine getirebilen ve insan elinden çıkmış gibi içerik üretebilen, beğenen, takip eden bot yazılımlar, yerini daha iyi veri işleyebilen, hesap ve analiz yapabilen, yüzleri ve şekilleri tanıyan, fotoğrafları tek tek ayırt edebilen, insan davranışlarını daha iyi tanıyan yapay zekalı yazılımlara bırakmaya başladı. Bu botlar ve yapay zekalı yazılımlar, yarın kötü niyetli kişilerin eline geçerse, en tehlikeli kitle imha silahlarından daha etkili bir silah haline dönüşebilirler. Bu da işin kaotik yanı.

Algoritmaların tercihleri yönlendirmesinden kaynaklı sorumluluk kime ait olacak?

Kaotik senaryolar dışında, algoritma kaynaklı eylemlerde hukuki sorumluluk alanı tartışmalı hale gelebilir. Normalde sorumluluk rejimi kusura dayanır, yani kim ne kadar kusurlu ise o kadar sorumludur prensibi geçerlidir. Bir de kusur aranmayan “objektif sorumluluk” vardır, yapılan işlerin tehlikesinin büyüklüğünden dolayı kusur olmasa dahi sorumluluk tanımlanabilir. Peki, algoritmaların tercihleri yönlendirmesinden kaynaklı sorumluluk kime ait olacak? Örneğin navigasyon yazılımı, sürücüyü boş bir yol olduğu gerekçesiyle su basmış bir yola yönlendirir ve sürücü o yolda sular altında kalırsa ne olacaktır? Sürücü özgür iradesiyle o yola girmeyi seçmiş mi diyeceğiz, yoksa navigasyon yazılımı firması özen borcuna aykırı davranmıştır mı diyeceğiz? Bu soru, şimdilik hukukçular arasında cevaplanması çok kolay olmayan bir soru. Kaldı ki, hukuki düzenlemeler henüz bu sorunun farkında bile değil.