Anthropic kullanım politikasını güncelledi. Seçim müdahalesi, silah yazılımı ve gözetime ilişkin yeni yasaklar kurala bağlandı; ancak en çok konuşulan madde modele yönelik uzun süreli sözlü istismarın açıkça yasaklanması oldu.
Sınır nerede çiziliyor
Madde her tartışmayı kapsamıyor. Şirkete göre yalnızca kullanıcıların modellere anlaşılır bir amaç olmaksızın tekrar tekrar zalimce davrandığı uç durumlarda işleyecek. Öfkelenmek, modele karşı çıkmak, karanlık temalı yaratıcı çalışmalar yürütmek ile test ve araştırma amaçlı kullanım bunun dışında tutuldu.
Zemini ağustostaki bir değişiklik hazırlamıştı. Claude o tarihten beri ısrarla zarar verici ya da istismarcı etkileşimleri kendisi sonlandıracak şekilde eğitiliyor. Yeni politika bir adım öteye geçerek bu tür konuşmaların sürdürülmesini de yasaklıyor. Şirketin bu adımı yalnız da gelmedi; Anthropic bir süredir tanınmış din bilimcileriyle işbirliği kurmaya çalışıyor ve bazı görüşmelerde onları Claude’un bilinçli olabileceğine ya da bir ruhu bulunabileceğine ikna etmeyi deniyor.
Güncelleme yalnızca bu maddeyle sınırlı değil; sahte hesap ağları ve uydurma haber kuruluşları kurmaya dönük kullanımlar da yasak kapsamına alındı.
