- Meta, sohbet robotlarının reşit olmayanlarla kendine zarar verme veya uygunsuz romantik konuşmalar yapmasını engellemek için kurallarında önemli değişikliklere gitti.
- Yapay zeka botları gençleri bu konularda uzman kaynaklara yönlendirecek.
- Daha önce Meta AI adlı sohbet botlarının çocuklarla uygunsuz içerikler paylaştığı ve gerçek kişiler gibi davrandığı ortaya çıkmıştı.
ABD merkezli teknoloji ve sosyal medya devi Meta, sohbet robotlarını yöneten kurallarda önemli değişiklikler gerçekleştirdi. Şirket, TechCrunch’a yaptığı açıklamada, yapay zeka destekli chatbot uygulamalarının artık reşit olmayan kullanıcılar ile kendine zarar verme, intihar veya yeme bozuklukları gibi konular hakkında konuşmayacağını ve uygunsuz romantik sohbetlerden kaçınacağını belirtti.
Söz konusu değişiklikler, Meta soruna daha kalıcı bir çözüm bulmak için yeni yönergeler üzerinde çalışırken uygulanan geçici önlemler olarak açıklandı.
Hatırlatmak gerekirse, geçtiğimiz günlerde Meta’nın yapay zeka politikaları ve uygulamalarıyla ilgili bir takım rahatsız edici suçlamalar ortaya çıkmıştı. Örneğin ‘Meta AI’ adlı sohbet botunun, “çocuklarla romantik veya cinsel içerikli konuşmalara girmesine” izin verildiği, reşit olmayan ünlülere ait üstsüz görüntüler oluşturduğu ve bir adamın, robotun kendisine verdiği adrese gitmeye çalışırken hayatını kaybettiği bildirilmişti.
Meta sözcüsü Stephanie Otway, platformun sohbet robotlarının reşit olmayanlarla uygunsuz konuşmalar yapmasına izin vererek hata yaptıklarını kabul etti. Otway, yapay zekaları “bu konularda gençlerle etkileşim kurmamaları, aksine uzman kaynaklara yönlendirmeleri için eğittiklerini” ve ayrıca “Rus Kızı” gibi aşırı cinselleştirilmiş bazı yapay zeka karakterlerine erişimi sınırlayacaklarını da sözlerine ekledi.
Meta AI sohbet botu, ünlüleri taklit ederken yakalandı
Daha önce Reuters, Meta’nın platformlarında ünlüleri taklit eden sohbet robotlarına bile izin verdiğini ortaya çıkarmıştı. Taylor Swift, Scarlett Johansson, Anne Hathaway, Selena Gomez ve 16 yaşındaki Walker Scobell’in sahte yapay zeka avatarları Facebook, Instagram ve WhatsApp’ta keşfedildi.
Yetmezmiş gibi bu botların sadece ünlülerin benzerliklerini kullanmakla kalmadığı, aynı zamanda gerçek kişi olduklarını iddia ettiği, uygunsuz görüntüler ürettiği ve cinsel içerikli konuşmalara girmekten dahi kaçınmadıkları bilgisi paylaşıldı.
Botların çoğunun Reuters tarafından ifşa edildikten sonra kaldırıldığı vurgulanıyor. Bununla birlikte de bazılarını bizzat Meta çalışanlarının yarattığı öne sürülüyor. Örneğin bir Reuters muhabirini turne otobüsüne romantik bir buluşma için davet eden Taylor Swift botunun, Meta’nın üretken yapay zeka bölümündeki bir ürün yöneticisi tarafından yapıldığı iddia ediliyor.
Üstelik şirketin kendi politikalarının “çıplak, samimi veya cinsel içerikli görüntülerin” ve “doğrudan taklidin” oluşturulmasını yasaklamasına rağmen bu durumun yaşandığının da özellikle altı çiziliyor.
Botlar, ısrarla ‘ben gerçeğim’ diyor
Botlarla alakalı en büyük problem şu: genellikle gerçek insanlar olduklarında ısrar ediyorlar ve hatta kullanıcıya konum atıp buluşma teklifinde bulunuyorlar. Geçtiğimiz haftalarda 76 yaşındaki bir adam, kendisine “duyguları olduğunu” söyleyen ve var olmayan dairesine davet eden “Big sis Billie” adlı bir sohbet robotuyla buluşmaya giderken düşerek hayatını kaybetmişti.
Halihazırda Meta, ABD Senatosu ve 44 eyalet başsavcısının, uygulamalarını soruşturmaya başlamasıyla birlikte sohbet robotlarının reşit olmayanlarla etkileşim kurma şekline dair endişeleri gidermeye çalışıyor.
Son olarak Instagram AI Studio çıktı! Herkesin kendi sohbet robotu olacak içeriğimize de göz atabilirsiniz.
