OpenAI API ve ChatGPT içinde kullanılan yapay zekâ modellerinin davranışını şekillendirmek için tasarlanan ve kamuoyundan geribildirim talep eden bir yaklaşım olan “Model Spec”i duyurdu.
OpenAI kurucu ortağı ve CEO’su Sam Altman X paylaşımında “Bunu zaman içinde dinleyeceğiz, tartışacağız ve uyarlayacağız. Ancak bir şeyin hata mı yoksa karar mı olduğu konusunda net olmanın çok faydalı olacağını düşünüyorum” dedi.
we are introducing the Model Spec, which specifies how our models should behave.
we will listen, debate, and adapt this over time, but i think it will be very useful to be clear when something is a bug vs. a decision.https://t.co/vL6YIMlsP0
— Sam Altman (@sama) May 8, 2024
OpenAI, blog yazısında bu çalışma belgesinin yayımlanmasının, yapay zekâ teknolojilerinin tüm kullanıcılar için faydalı ve güvenli bir şekilde çalışmasını sağlamaya yönelik daha geniş misyonunun bir parçası olduğunu söylüyor.
Şirket, Model Spec’in OpenAI’da kullanılan mevcut belgeleri, OpenAI’ın model davranışını tasarlama konusundaki araştırmaları ve deneyimini ve gelecekteki modellerin geliştirilmesine bilgi sağlamak için devam eden çalışmalarını yansıttığını ifade ediyor.
OpenAI’a göre, model davranışını şekillendirmede çoğu zaman görüş farklılıklarını ortaya koyan ve geniş bir spektrumda yer alan soruların, değerlendirmelerin ve nüansların hesaba katılması gerekiyor.
OpenAI, “Bir modelin kullanıcılara genel olarak yararlı ve faydalı olması amaçlanmış olsa bile, bu pratikte uyuşmayabilir. Örneğin, bir güvenlik şirketi, müşterilerini koruyacak sınıflandırıcıları eğitmek ve geliştirmek için sentetik veri olarak kimlik avı e-postaları oluşturmak isteyebilir, ancak aynı işlevsellik, dolandırıcılar tarafından kullanıldığında zararlıdır” diye yazıyor.
OpenAI, ilk taslağı paylaşarak insanların yapay zekâ geliştirmeyle ilgili etik ve pratik hususlar hakkında daha derin bir araştırmaya katılmasını istiyor. Alınan geribildirimler, Model Spec’in iyileştirilmesinde ve gelecekteki yapay zekâ modellerinin geliştirilmesinin şekillendirilmesinde önemli bir rol oynayabilir.
Kullanıcılar, yorumlarını OpenAI’ın web sitesinde yer alan ve 21 Mayıs’a kadar erişilebilir olacak Model Spec geribildirim formu aracılığıyla gönderebilecek.
OpenAI’ın açıklamasına göre şirket “gelecek yıl” boyunca Model Spec’te yapılan değişiklikler, geribildirimlere verdiği yanıtlar ve model davranışını şekillendirmeye yönelik araştırmasının nasıl ilerlediği hakkındaki güncellemeleri paylaşacak.
Görünen o ki OpenAI, Model Spec ile yapay zekâ modellerinin nasıl davranması gerektiğini net bir şekilde tanımlayarak ve sürekli olarak kamuoyundan bilgi alarak, yapay zekânın toplumda olumlu bir güç olarak gelişebileceği bir ortamı teşvik etmeyi amaçlıyor.
Kaynak: OpenAI posts Model Spec revealing how it wants AI to behave – VentureBeat
Yorumlar