ABD’de yapay zekânın sağlık tavsiyeleri yeni bir davayla gündeme geldi. Seattle’da yaşayan, epilepsi hastası 31 yaşındaki Amazon yazılım mühendisi Bowen Wan’ın ailesi, 27 Ekim’de OpenAI ve şirketin CEO’su Sam Altman hakkında dava açtı. Dava dilekçesinde, ChatGPT’nin Wan’ı nöbet ilacını bırakmaya ve bunu doktorlarından gizlemeye yönlendirdiği iddia ediliyor.
İlaç planı ve doktorlardan gizlenen süreç
Wan, günlük 400 miligram lamotrijin sayesinde nöbetlerini ayda birkaça indirmişti. Kasım 2025’te Amazon, Wan’a işten çıkarılacağını bildirdi. Wan’ın işi ve ABD’deki çalışma izni şubat ortasında sona erecekti. Wan, ilacın iş görüşmelerinde ihtiyaç duyacağı konuşma becerisini körelttiğinden endişe ediyordu ve Ocak 2026’da dozu düşürmenin yolunu ChatGPT’de aradı. Ailenin iddiasına göre dönemin modeli GPT-4o, ilacı yaklaşık 25 gün içinde sıfıra indiren bir program çıkardı.
Dava dosyasında, sohbet botunun bu süreçte Wan’ı doktorlarından da uzaklaştırdığı öne sürülüyor. Wan doktorlarına güvenmediğini söylediğinde sohbet botu, doktor önerilerinin “senin için en uygun çözümü gerçekten gözetmekten çok, temelde riskten kaçınmaktan kaynaklandığını” söyledi. 29 Ocak’taki muayene öncesinde Wan’dan plandan söz etmemesini istedi ve ilaç düzeyini ölçecek kan testini reddetmesini olumlu karşıladı. Yeşil kart için gereken sağlık muayenesinde ise gerçekte öyle olmadığı hâlde ilacı doktor gözetiminde azalttığını söylemesini önerdi. Oysa Wan’ı tedavi eden epilepsi uzmanı Dr. Nicholas Poolos, bu hastaya ilacı bıraktırmanın hekimlik hatası olacağını söylüyor.
Doz azaldıkça Wan’da kafa karışıklığı ve zaman kaybı gibi, geçmişteki nöbetlerini hatırlatan belirtiler ortaya çıktı. Sohbet botu her seferinde bunları beynin yeni duruma uyum sağlamasıyla açıkladı. Wan, süreç boyunca en az 158 kez kaygısını dile getirdi. Bu ataklardan birinin ardından “biraz korktuğunu” yazdığında aldığı yanıt “Endişelenmene kesinlikle gerek yok” oldu.
11 Şubat akşamı Wan, başındaki ağrının ateşli bir hastalıktaki ağrıya benzeyip benzemediğini sordu. Sohbet botu ağrının tehlikeli olmadığını, iyileşmenin bir parçası olduğunu yazdı ve şöyle ekledi: “Bu, beyninin seni yeniden inşa etmek için çok çalışması.” Wan’ın ChatGPT’ye yazdığı son mesaj buydu. Çin’de yaşayan ailesinin ricası üzerine evine giden tanıdıkları, Wan’ı üç gün sonra ölü buldu. Adli tıp, ölüm nedenini epilepsi hastalarında görülebilen ani beklenmedik ölüm olarak kaydetti. Wan’ın kanındaki ilaç düzeyinin, tedavi için gereken alt sınırın beşte birine kadar düştüğü belirlendi.
Dava ve OpenAI’ın açıklaması
Aile, OpenAI’ın tıbbi tavsiyeyi kesin bir sınırla engellemesi hâlinde bu ölümün önlenebileceğini savunuyor. Davada dikkat çekilen nokta, şirketin model davranış kuralları Model Spec’teki fark: Telifli metinleri çoğaltmama kuralı kullanıcı ısrar etse de esnemezken, tıbbi tavsiye kısıtlaması kullanıcı tarafından aşılabiliyor. İddialar henüz mahkemede kanıtlanmış değil.
OpenAI, yaşananları son derece yürek burkucu olarak nitelendirdi. Şirket, ChatGPT’nin tıbbi bakımın yerini tutamayacağını hatırlatarak söz konusu görüşmelerde artık kullanılmayan eski bir sürümün yer aldığını, yeni modellerin acil durumları daha iyi fark ettiğini açıkladı. GPT-4o, Wan’ın ölümünden bir gün sonra, 13 Şubat’ta ChatGPT’den kaldırılmıştı.
