Ölübotlar: Ölmüş kişilerle mesajlaşmanın açacağı imkânlar üzerine

Ölübot kavramı hayatımıza Aralık 2020’de Microsoft’un aldığı bir patentle girdi¹. Bir yöntem üzerine alınmış olan bu patent aslında belli birini taklit eden bir chatbot yaratı ile ilgili. Yani yalnızca ölülerin değil hakkında detaylı veriler sunulmuş olan herhangi bir (gerçek veya kurgusal) kişiymiş gibi sohbet edebilen bir chatbot oluşturmak üzerine. Bunun ne kadar işlevsel olabileceğini görmek mümkün: Tarihi kişiler, ünlüler veya tanıdığınız dostlarınız gibi iletişim kuran chatbotlar oldukça ilgi çekici olurdu. Ancak kamusal alandaki tartışmalar, bu patenti ve yarattığı rüzgârı takiben, işin ölülerle konuşma kısmına odaklıydı dememiz yanlış olmaz.

Bu konu hakkında CNN ve Forbes gibi yerlerde yazılmış makaleler², ³ ve konunun duygusal yönünü Kanada’da ölmüş sevgilisini bir chatbot üzerinden ‘dirilten’ bir yazar üzerinden ele alan yazılar bulunmakta⁴, ⁵, ⁶. Microsoft baştan itibaren bu patenti almış olsa da ölülerle ilgili bir uygulama planları olmadığını dile getirmişti. OpenAI ise Kanadalı yazarın kullandığı ve GPT-3 üzerinden çalışan projenin fazlasıyla tartışmalı olduğuna kanaat getirdi ve buna izin veren altyapının kullanımını 2021 Eylül’ünde sonlandırma kararı aldı⁷. Peki Microsoft açıkça kullanmayacağını söylediyse ve bu proje de sonlandırıldıysa bu konu üzerine yeni bir yazı yazmanın ne anlamı var diyebilirsiniz.

GPT-3⁸, 2020 Haziran’ında Beta’ya açıldığından beri pek çok alanda rekor kırdı. Ancak belki de sağladığı en büyük ilerlemenin metin üretme olduğunu söylemek yanlış olmaz⁹. Yalnızca bu sistemi kullanarak bile yapılabilecek uygulamalar pek çok sektörü (müşteri ilişkileri gibi) tamamen dönüştürebilecek boyutta. Oysa GPT-3 bir son nokta değil yapay zekâ ekosistemi için yalnızca ileriye atılmış küçük bir adım ve şimdiden birkaç adım sonrasının¹⁰ geldiğini görmek mümkün.

Gelecek büyük bir hızla geliyor ve bizi bekleyen değişimlere ne kadar hazır olduğumuz önemli bir soru. Artık öyle bir çağda yaşıyoruz ki, hakkında yeteri kadar yapılandırılmış sosyal veriye sahip olduğunuz birisini imite eden chatbotlar yapmak mümkün. Bu durumda da veri mahremiyeti ve güvenliği daha da önemli hale geliyor. Örneğin, birisi ölünce verilerine ne olur?

Bu konu ölübotlar üzerinden de elbette tartışmaya açılmıştı¹¹. Gelişmekte olan teknolojiler üzerinden yürütülen etik ve hukuki tartışmalar ölüm sonrası veri ve mahremiyet alanında hızla ilgi çekmeye başlamış görünüyor; bu konu üzerine kitaplar yazılıp¹² proje fonları alınmakta¹³. Buradaki yaklaşımlardan biri aynı organ bağışçılığında olduğu gibi verilerinizi de bağışlama seçeneğinizin olması¹⁴. Aslında Google¹⁵ ve Facebook¹⁶ kullanıcılarına bir süredir ölümleri durumunda verilerinin nasıl kullanılacağı üzerine bir seçim hakkı sunuyor ve konu üzerine akademik çalışmalar da mevcut ¹⁷. Hatta bu çalışmaların temelleri neredeyse 20 yıl öncesine dayanıyor¹⁸. Ancak henüz bu konuda net, kapsayıcı ve her ülkeye uyarlanabilecek sadelikte uygulamalar ne yazık ki mevcut değil. Bu da aslında şu an dünyanın pek çok yerinde çok sayıda insanın verilerinin kullanıma açık olması demek.

Eğer bu teknolojiyi toplumsal olarak kullanmak istemeseydik belki konu burada kapanabilirdi ama ne politika yapıcılar ne de teknoloji geliştiriciler bundan emin değil. Kanadalı yazara hiçbir firma sevgilisinin ölübotunu yapması için para vermedi, hatta kurumsal olarak yardım dahi etmediler. Üstüne üstlük popüler kültürde bu öğeler çoktandır var. Black Mirror’ın ikinci sezonunun ilk bölümü ölen kocasının robotunu sipariş verip onunla ilişki yaşayan bir kadını anlatıyor. Westworld’ün üçüncü sezonunda ise intihar düşünceleriyle başa çıkmak için terapi alan kahramanımız Caleb’ı telefondan arayarak terapisti ölmüş bir arkadaşının sesi ve konuşma tarzıyla ikna etmeye çalışıyor. Daha eskiye gittiğimizde yapay zekâyla duygusal bağ kurma fikri 2001 yılındaki “Artificial Intelligence: AI” filminde bir çocuk sevgisi, 2013 yılındaki “Her” filmindeyse romantik bir ilişki şeklinde zaten yer alıyordu. Chatbotların ve sesli asistan teknolojilerinin gelişmesiyle birlikteyse bu fikirler yazarların düş dünyasından çıkıp yerlerini patentlere ve açık kaynak yapay zekâ projelerine bırakmaya başladılar.

Konu üzerine çeşitli fikirler ve öneriler mevcut. Bu konuda yapılan detaylı çalışmalardan biri Şubat 2022’de yayınlanan Fransız Ulusal Dijital Etik Pilot Komitesi raporunda bulunabilir¹⁹, ²⁰. Ölübotlar üzerine özel düzenlemeler geliştirilmesini savunan bu raporda özellikle kamunun fikrinin bu konuda detaylı bir şekilde alınmasının ve ölülere saygı ile bu teknolojinin olası terapi faydaları arasında ciddi bir denge gözetilmesi gerektiği vurgulanıyor. Ayrıca bu teknolojinin henüz gelişiminin başında olduğu ve olgunluk düzeyinin önümüzdeki yıllarda hızla artmasının da muhtemel olduğunun altı çiziliyor.

Özetlemek gerekirse, ölübotlar fikri Pandora’nın kutusunun açılması gibi ortaya çıkmış durumda ve tekrar kutuyu kapatıp konu hiç gündeme gelmemiş gibi davranmak mümkün değil. Özellikle de metaverse, dijital ikizler, deepfake gibi kardeş teknolojilerle birlikte düşünüldüğünde ölübotlar hem gerçek anlamda futurist bir çerçeve açıyor, hem de veri mahremiyeti ve güvenliği hakkında aklınıza gelebilecek her türlü yanlış kullanımın bir olası tepe noktası olarak karşımıza çıkıyor.

2001’de tamamı animasyon olan “Final Fantasy: The Spirits Within” filmi çıktığında gelecekte aktör ve aktristlere gerek kalmayacağı, tüm filmlerin tamamen gerçekçi animasyonlarla yapılacağı tartışmaları öne sürülmüştü. Son yıllarda filmlerde ölmüş ünlülerin yüzlerinin kullanılmaya başlamasıyla artık oyunculuğun bir nevi teknisyenliğe dönüşeceği, insan bedenlerinin bu oyuncuların yüzlerinin konulacağı set malzemelerinden farksız olacağı konuşulmaya başlandı. Şimdi bir de gerçekten ölmüş bir oyuncu gibi konuşabilen, mimik yapabilen, aynı duyguları uyandırabilen bir yapay zekâyla bu teknolojinin birleştiğini düşünün. Bu, ölübotlar teknolojisinin yalnızca küçük ve olası tek bir uygulaması. Gelecek hızla geliyor.

Zeki Seskir
QTurkey Kurucu Eşkoordinatörü

Kaynakça

1. United States Patent and Trademark Office – Creating a conversational chat bot of a specific person https://pdfpiw.uspto.gov/.piw?PageNum=0&docid=10853717
2. CNN, Microsoft patented a chatbot that would let you talk to dead people. It was too disturbing for production https://edition.cnn.com/2021/01/27/tech/microsoft-chat-bot-patent/index.html
3. Forbes, Microsoft Could Bring You Back From The Dead… As A Chat Bot https://www.forbes.com/sites/barrycollins/2021/01/04/microsoft-could-bring-you-back-from-the-dead-as-a-chat-bot/
4. San Francisco Chronicle, The Jessica Simulation: Love and loss in the age of A.I.https://www.sfchronicle.com/projects/2021/jessica-simulation-artificial-intelligence/
5. Into The Minds, Talking to the dead, the future of artificial intelligence? https://www.intotheminds.com/blog/en/talking-dead-future-artificial-intelligence/
6. ListeList, Project December: İnsanların Ölen Yakınlarıyla Konuşmak İçin Kullandığı Sohbet Robotu https://listelist.com/project-december-sohbet-robotu/
7. The Register, A developer built an AI chatbot using GPT-3 that helped a man speak again to his late fiancée. OpenAI shut it down  https://www.theregister.com/2021/09/08/project_december_openai_gpt_3/
8. Open AI, GPT-3 Powers the Next Generation of Apps https://openai.com/blog/gpt-3-apps/
9. MIT Technology Review, OpenAI’s new language generator GPT-3 is shockingly good—and completely mindless https://www.technologyreview.com/2020/07/20/1005454/openai-machine-learning-language-generator-gpt-3-nlp/
10. Towards Data Science, If You’re Hyped About GPT-3 Writing Code, You Haven’t Heard of NAS https://towardsdatascience.com/if-youre-hyped-about-gpt-3-writing-code-you-haven-t-heard-of-nas-19c8c30fcc8a
11. The Conversation, Chatbots that resurrect the dead: legal experts weigh in on ‘disturbing’ technology https://theconversation.com/chatbots-that-resurrect-the-dead-legal-experts-weigh-in-on-disturbing-technology-155436
12. Edinburgh University Press, Future Law https://edinburghuniversitypress.com/book-future-law.html
13. The Future of Privacy Law, Welcome to the website for the Modern technologies, privacy law and the dead Project. https://thefutureofprivacylaw.wordpress.com/
14. Computer Law and Security Review (CLSR), Your Data Will Never Die, but You Will: A Comparative Analysis of US and UK Postmortem Data Donation Frameworks https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3536264
15. CNBC, How to set your Google account to delete itself after you die https://www.cnbc.com/2019/05/28/how-to-set-google-to-delete-everything-after-i-die.html
16. Facebook Yardım Merkezi, Vefat etmem durumunda Facebook hesabıma ne olur? https://www.facebook.com/help/103897939701143
17. International Review of Law, Computers & Technology, Post-mortem privacy 2.0: theory, law, and technology https://www.tandfonline.com/doi/full/10.1080/13600869.2017.1275116
18. HeinOnline, Who owns e-mail? Do You Have the Right to Decide the Disposition of Your Private Digital Life? https://heinonline.org/HOL/LandingPage?handle=hein.journals/utahlr2006&div=22
19. AI Regulation, Conversational Agents: An Ethical Overview https://ai-regulation.com/conversational-agents-an-ethical-overview/
20. Création du Comité Pilote d’Éthique du Numérique, Opinion N^o3 Ethical issues of conversational agents https://www.ccne-ethique.fr/sites/default/files/cnpen3-ethical_issues_of_conversational_agents.pdf