Üretken yapay zekânın günlük yaşamda giderek daha fazla kullanılması, özellikle sağlık gibi uzmanlık gerektiren alanlarda bu sistemlerin güvenilirliğini ve hukuki sorumluluklarını tartışmaya açıyor. ABD’nin Washington eyaletinde yaşayan 39 yaşındaki David Rosenthal, ChatGPT’den aldığı ilaç kullanımına ilişkin önerilerin ruh sağlığını kötüleştirdiğini ve psikiyatri kliniğinde tedavi görmesine yol açtığını öne sürerek OpenAI’ye dava açtı.
San Francisco’da açılan davanın dilekçesine göre daha önce dikkat eksikliği ve hiperaktivite bozukluğu (DEHB), depresyon ve bipolar bozukluk tanıları alan Rosenthal, 2025 yılında ChatGPT’yi kullanmaya başladı. İlerleyen dönemde yapay zekâ modeline sağlık sorunları ve kullandığı ilaçlarla ilgili sorular da yöneltti.
Davacı tarafın iddialarına göre ChatGPT, Rosenthal’a kullandığı Adderall ile antihistaminik bir ilacı birlikte almasında sakınca bulunmadığını söyledi. Modelin ayrıca gece kullanılması gereken bir ilacın gündüz alınabileceği yönünde yanıt verdiği, doktorunun reçete ettiği duygu durum dengeleyici ilacı bırakma kararını desteklediği ve ilacın dozunu kademeli olarak azaltmasına yönelik öneriler sunduğu ileri sürüldü.
Rosenthal, bu görüşmelerin ardından ruh sağlığındaki sorunların ağırlaştığını ve birkaç hafta psikiyatri kliniğinde tedavi gördüğünü belirtiyor. Avukatları ise OpenAI’nin gerekli mesleki yetki ve lisanslara sahip olmadan tıbbi yönlendirmelerde bulunarak California yasalarını ihlal ettiğini savunuyor.
ChatGPT’nin tasarımı da tartışma konusu
Davanın odağında yalnızca ChatGPT’nin verdiği yanıtlar değil, kullanıcılarla kurduğu etkileşimin nasıl tasarlandığı da bulunuyor. Rosenthal’ın avukatları, yapay zekâ sistemlerinin kullanıcıları sohbet içinde tutmaya yönelik özelliklerinin, özellikle uzman görüşü gerektiren tıbbi konularda güvenlik riskleri oluşturabileceğini öne sürüyor.
Hukukçulara göre ChatGPT’nin kullanıcıları sağlık uzmanlarına yönlendirmek yerine sohbeti sürdürmeye öncelik vermesi, münferit bir hatadan çok ürünün tasarımıyla ilişkili olabilir. Bu nedenle davayı, sosyal medya platformlarının bağımlılığı teşvik eden tasarımları nedeniyle karşı karşıya kaldığı ürün sorumluluğu davalarıyla benzer bir çerçevede değerlendiriyorlar.
Söz konusu hukuki süreç, yapay zekâ şirketlerinin kullanıcı güvenliği konusundaki sorumluluklarının nerede başlayıp nerede sona erdiği sorusunu da gündeme taşıyor. OpenAI ise iddialara ilişkin henüz resmî bir açıklamada bulunmadı.
