The Wall Street Journal (WSJ), kısa bir süre önce yayımladığı haberde OpenAI’ın ChatGPT tarafından yazılan metinleri yüksek doğrulukla tespit edebilecek bir araç üzerinde uzunca bir süredir çalıştığını yazmıştı.
Bu haberin ardından OpenAI, metin filigranlama konusundaki araştırmaları ve tespit yöntemini neden şimdiye kadar yayımlamadığını açıkladı. WSJ’nin haberine göre sözkonusu filigran bir yıldır hazır durumda ancak şimdiye kadar gün yüzüne çıkarılmadı. TechCrunch tarafından tespit edilen, mayıs ayındaki bir blog yazısına pazar günü eklenen bir güncellemede, OpenAI şunları söyledi: “Ekiplerimiz, alternatifleri araştırırken değerlendirmeye devam ettiğimiz bir metin metin filigranlama yöntemi geliştirdi.”
Sınıflandırıcılar ve meta veriler de dahil olmak üzere birden fazla çözüm üzerinde çalıştıklarını söyleyen OpenAI’ya göre, filigranlama bazı durumlarda oldukça doğru sonuçlar vermiş, ancak çeviri sistemlerinin kullanılması, başka bir üretken modelle yeniden yazılması veya modelden her kelimenin arasına özel bir karakter yerleştirmesini isteyip daha sonra bu karakterin silinmesi gibi belirli manipülasyonlarla karşılaştığında o kadar iyi performans göstermemiş.
Blog yazısına göre OpenAI bu riskleri değerlendiriyor. Şirket ayrıca, görsel-işitsel içerik için kimlik doğrulama araçlarının yayımlanmasını önceliklendirdiğini söylüyor.
Kaynak: OpenAI confirms it’s looking into text watermarking for ChatGPT that could expose cheating students – engadget
Yorumlar