- OpenAI, uzun süredir ChatGPT'nin "yetişkin modu" üzerinde çalışıyordu.
- Fakat şirket içi itirazlar ve yatırımcıların itibar kaygıları nedeniyle bu proje durduruldu.
- Proje, özellikle de küçük yaştaki kullanıcıların hassas içeriğe maruz kalma riski ve yapay zeka ile kurulan duygusal bağların psikolojik etkileri konusundaki endişelerden ötürü rafa kaldırıldı.
OpenAI erotik etkileşimler içeren bir sohbet robotu geliştirme planlarını süresiz olarak askıya alma kararı aldı. Şirket içinde görüşülen bu önemli karar, çalışanlar ve yatırımcılar tarafından dile getirilen endişeler üzerine nihayetinde rafa kaldırıldı.
Bilindiği üzere bir süredir ChatGPT’ye “yetişkin modu” eklenmesi planlanıyordu. Fakat bu proje beklenmedik bir direnişle karşılaştı. Financial Times’ın haberine göre başlıca şikayetler, yapay zeka sistemleriyle duygusal bağ kurulmasını teşvik etme riski ve küçüklerin hassas içeriklere gereksiz yere maruz kalma olasılığıyla ilgiliydi.
ChatGPT’nin +18 versiyonu neden iptal edildi?
Sam Altman liderliğindeki şirketin aldığı bu kararın, cinsel içerikli etkileşimlerin yapay zeka sistemleri üzerindeki etkilerine dair kesin çalışmaların eksikliğinden kaynaklandığı bildiriliyor.
OpenAI tarafından yapılan açıklamada, konuyla ilgili yeterli “ampirik kanıt” bulunmadığını vurgulayarak, nihai bir karar vermeden önce daha fazla araştırma yapmayı planladığı belirtiliyor.
Projenin şirket içinde de rahatsızlığa yol açtığı söyleniyor. Bazı ekip üyeleri, romantik ya da cinsel çekiciliğe sahip bir ürün yaratmanın şirketin misyonuyla örtüşüp örtüşmediğini sorguladı.
Bu sorun nedeniyle şirketten ayrılan eski bir çalışan, “Yapay zeka arkadaşlarınızın veya ailenizin yerini almamalı; insani bağlantılara sahip olmalısınız” dedi.
Yetişkin etkileşimlerine odaklanan bir model oluşturmak da teknik zorluklarla karşılaştı. Yapay zeka sistemleri genellikle bu tür içeriklerden kaçınmak üzere eğitiliyor. Bu da bu kısıtlamaları güvenli bir şekilde tersine çevirmeyi zorlaştırıyor.
Bu konuda başlıca noktalardan biri, yetişkin moduna erişim için yaş doğrulama olacak. Buna ek olarak düzenleyici baskı da söz konusu. OpenAI geçmişte de küçükler için zararlı içerik içeren davalar nedeniyle mahkemelik olmuştu.
Öte yandan rakip şirketlerin de benzer yetenekleri araştırırken eleştirilerle karşılaştığı biliniyor. Örneğin Grok’un gerçek insanları içeren hassas görüntüler üretmesinin ardından xAI olumsuz tepkilerin hedefi olmuştu. Dünya genelinde Grok’a ilişkin sert tepkiler verilmiş, hatta bazı ülkelerde chatbot için yasak getirilmişti.
