Son aylarda, aralarında ChatGPT’nin de bulunduğu, yapay zekâ destekli chatbotların hukuk alanı da dahil olmak üzere çok sayıda sektörü alt üst edebileceği hakkında çok konuşuldu.
New York’ta Levidow, Levidow & Oberman avukatlık firmasında çalışan Steven Schwartz adlı bir avukat, kanuni dava özeti yazmak için ChatGPT’yi kullandı. Ancak burada yer alan sahte alıntılar nedeniyle yaptırımlarla karşı karşıya kalabilir.
Olay, Roberto Mata adlı bir kişinin New York’a uçarken yaralandığını iddia ettikten sonra Kolombiyalı bir havayolu şirketine dava açmasıyla başladı. New York Times’ın haberine göre, havayolu şirketi Avianca, yargıçtan davayı düşürmesini istedi. Bu nedenle Mata’nın avukatları, yargıcı müvekkillerinin davasının devam etmesine izin vermeye ikna etmek amacıyla kısa bir özet hazırladı. Özet, birçok benzer davaya atıfta bulunuyordu. Sorun tam da bu esnada başladı. Havayolunun avukatları ve yargıç, hazırlanan özette alıntılanan davalara ilişkin herhangi bir kanıt bulamadı. Çünkü ChatGPT, tüm bu davaları uydurmuştu.
Olayın ardından avukat Steven A. Schwartz, yeminli ifadesinde OpenAI’ın ChatGPT’sini benzer davaları aramak için kullandığını itiraf etti ancak “güvenilmez olduğunun ortaya çıktığını” söyledi. Schwartz, yargıca ChatGPT’yi daha önce kullanmadığını ve “bu nedenle içeriğinin yanlış olabileceği ihtimalini düşünmediğini” söyledi.
Schwartz dava özetini oluştururken, ChatGPT’den vakaların gerçekten olduğunu doğrulamasını bile istedi. ChatGPT de vakalar hakkındaki bilgilerin “saygın yasal veritabanlarında” bulunabileceğini iddia etti.
Dava özeti oluşturmak için ChatGPT’yi kullandığı için “çok pişman olduğunu” söyleyen avukat, “bilgilerin mutlak doğrulaması olmadan gelecekte bunu asla yapmayacağını” vurguladı. Davaya bakan yargıç ise dava özetini “sahte alıntılar ve sahte iç alıntılar içeren düzmece yargı kararlarıyla” dolu yasal bir sunum olarak tanımladı ve durumu “benzeri görülmemiş” olarak nitelendirerek, olası cezaları değerlendirmek için önümüzdeki ayın başlarında bir duruşma yapılmasını emretti. Bakalım duruşmada Schwarz için nasıl bir karar verilecek göreceğiz.
Kaynak: Lawyer says sorry for fake court citations created by ChatGPT – digitaltrends
Yorumlar