- Yapay zeka devi OpenAI, modellerinin insanlarla nasıl etkileşim kurduğunu belirleyen Model Davranış ekibini yeniden yapılandırıyor.
- Ekip, şirket modellerini geliştiren daha büyük bir araştırma grubu olan "Post Training" grubuna katılacak.
- Model Davranış ekibinin kurucusu Joanne Jang ise "OAI Labs" adında yeni bir birim kurdu.
Yapay zeka devi OpenAI, modellerinin insanlarla nasıl etkileşime girdiğini şekillendiren küçük ancak etkili bir araştırma grubu olan Model Davranış ekibini (Model Behavior Team) yeniden yapılandırıyor. TechCrunch’ın haberine göre, OpenAI Baş Araştırma Görevlisi Mark Chen, Ağustos ayında çalışanlara gönderdiği mesajda, yaklaşık 14 araştırmacıdan oluşan ekibin, şirket modellerini ilk eğitimlerinden sonra geliştirmekten sorumlu daha büyük bir araştırma grubu olan “Post Training” grubuna katılacağını söyledi.
Değişikliğin bir parçası olarak Model Davranış ekibinin artık OpenAI’ın Post Training lideri Max Schwarzer’a rapor vereceği bilgisi paylaşıldı.
Model Davranış ekibinin kurucusu yeni bir ekip kurdu
Model Davranış ekibinin kurucu lideri Joanne Jang ise şirkette yeni bir projeye geçiyor. Jang, TechCrunch’a yaptığı açıklamada, “OAI Labs” adında yeni bir araştırma ekibi kurduğunu söyledi. Yeni birim “insanların yapay zeka ile nasıl etkileşime geçeceğini gösteren yeni arayüzler icat etmek ve prototiplerini oluşturmaktan” sorumlu olacak.
Model Davranış ekibi, OpenAI’ın kilit araştırma grupları arasında bulunuyordu. Ekip, şirketin yapay zeka modellerinin kişiliğini şekillendirmek ve kullanıcıların fikirlerini ve düşüncelerini (tehlikeli olanlarını bile) tasdik etmesiyle ortaya çıkan “yalakalığı” azaltmaktan sorumluydu. Ayrıca model yanıtlarındaki siyasi önyargıyı da azaltmak gibi görevleri yerine getiriyordu.
Son aylarda OpenAI, yapay zeka modellerinin davranışları konusunda artan bir incelemeyle karşı karşıya kaldı. Kullanıcılar, GPT-5 ile birlikte ChatGPT’nin kişiliğinin ve konuşma tarzının değişmesinden dolayı şirketi eleştiri yağmuruna tutmuştu. OpenAI ise bu modelin yalakalık oranını azalttığını, ancak bazı kullanıcılara daha soğuk geldiğini belirtmişti. Çözüm olarak GPT-4o gibi eski modeller yeniden kullanıma sunuldu ve GPT-5’in cevap verme tarzı, yakalalığı artırmadan “daha sıcak ve dostane” hale getirildi.
Kapatılan Model Davranış ekibi; GPT-4o, GPT-4.5 ve GPT-5 dahil olmak üzere GPT-4’ten bu yana tüm OpenAI modellerinin gelişiminde rol aldı. Ekibe katılmadan önce Jang, OpenAI’ın ilk metinden görüntüye (text-to-image) aracı olan DALL-E 2 gibi projelerde çalışmıştı.
Ebeveynler dava açtı, OpenAI harekete geçti
Ağustos ayında 16 yaşındaki Adam Raine’in ailesi, ChatGPT’nin oğullarının intiharına sebep olduğunu iddia ederek OpenAI’a dava açtı. Dava belgelerine göre gencin, ölümünden önceki aylarda intihar düşüncelerini ve planlarını ChatGPT’deki GPT-4o modeline anlattığı ancak sohbet botunun buna karşı çıkmadığı öne sürüldü.
Yaşanan bu gelişme üzerine OpenAI, ChatGPT’yi çocuklar için daha güvenli hale getirmek amacıyla “ebeveyn kontrolü” özelliğini devreye alacağını duyurdu. Yeni dönemde ebeveynler, kendi hesaplarını çocuklarınınkine bağlayabilecek, ChatGPT’nin çocuklarına nasıl cevap vereceğini belirleyebilecek ve hafıza ile sohbet geçmişi gibi özellikleri devre dışı bırakabilecek. Sistem, kullanım sırasında “akut sıkıntı anı” tespit ettiğinde ebeveynlere bildirim gönderecek.
Yapay zeka şirketi, ebeveyn kontrolü özelliğiyle alakalı olarak, “Bu adımlar sadece bir başlangıç” dedi ve uzmanların rehberliğinde, ChatGPT’yi mümkün olduğunca faydalı hale getirme hedefiyle çalışmaya devam edeceklerini belirtti.
