Sosyal medya platformu Snapchat geçtiğimiz haftalarda yapay zeka tabanlı sohbet robotu ile kullanıcılarının karşısına çıktı. My AI adı verilen bu hizmet, OpenAI şirketinin geliştirdiği ChatGPT tarafından destekleniyor. Son dönemlerde yapay zekanın gittikçe daha popüler bir hale gelmeye başlamasıyla birlikte Snap ekibi, gelişen trendleri yakından takip ettiğini gösteriyor. AI yazılımlarının artık daha fazla insanın gündelik yaşantısının bir parçası haline geldiğini ifade eden şirket, bu bağlamda sunduğu sohbet botunu şimdilik yalnızca Snapchat Plus abonelerine sunmuş durumda.
Snapchat, ChatGPT tabanlı sohbet robotu için bugün yeni önlemler aldığını duyurdu. My AI yazılımı, kullanıma sunulmuş olduğu birkaç haftalık süre zarfında bazı kullanıcılar tarafından amacı dışında kullanıldı. Kimi kullanıcıların, uygulamanın yönergelerinin dışında kalan soruları yanıtlaması için yapay zeka teknolojisini kandırmaya çalıştığı anlaşıldı. Şimdi ise şirket, buna karşı koruma önlemlerini kullanıcılarıyla paylaştı.
Snapchat sohbet robotu artık daha güvenli bir hale geldi
Yapay zeka sohbet robotunu amacı dışında kullanan kişilere karşı yeni önlemler alan Snapchat ekibi, bu konudaki deneyimi iyileştirmek için yeni araçlar sundu. Örneğin, kullanıcıların ebeveynlerinin erişebileceği bilgiler ve botun insanlara uygun olmayan şekilde yanıt vermesini önlemek için bir yaş filtresi mevcut. Snapchat’ten konuya ilişkin gelen açıklama ise şu şekilde oldu:
“My AI’yi geliştirmek için bu öğrenimleri kullanmaya devam edeceğiz. Bu veriler ayrıca My AI’ın kötüye kullanımını sınırlamak için yeni bir sistem kurmamıza yardımcı olacaktır. Potansiyel olarak zararlı içeriğin ciddiyetini değerlendirmemize ve hizmeti kötüye kullanmaları halinde Snapchat kullanıcılarının Yapay Zekam’a erişimini geçici olarak kısıtlamamıza olanak tanıyan OpenAI’nin moderasyon teknolojisini mevcut araç setimize ekliyoruz.”
Konuyla alakalı olarak Snapchat, uygunsuz yanıtların çoğunun chatbot’un bazı kullanıcıların söylediklerini tekrar etmesinden kaynaklandığını belirtti. Bu anlamda uygulama tarafından tanımlanan uygunsuz konular, diğerleri arasında nefret söylemi, kadın düşmanlığı, ırkçılık, zorbalık, uyuşturucu kullanımı ve şiddet gibi konular içeriyor.
Snapchat ekibinin sohbet robotu ile ilgili açıkladığı bir diğer önlem ise My AI’ı bu amaçlarla kullanmaya çalışanların engellenmesi olacak. Aynı zamanda şirket, hizmetin “gerçek bir arkadaş” olmadığını belirtti. Ayrıca kullanıcıların chatbot ile olan konuşma geçmişinden yola çıkarak teknolojiyi geliştirmeye devam ettiklerini bildirdi.
My AI adlı yapay zeka tabanlı sohbet robotu, şu anda yalnızca Snapchat Plus aboneleri tarafından kullanılabiliyor. Bu hizmete kullanıcılar ayda yalnızca 3,99 dolar ücret ödeyerek erişim sağlayabiliyor. İlerleyen süreçte ise şirketin 750 milyon aktif kullanıcısının tamamına bu hizmeti sunmayı planladığı biliniyor. Fakat özellik, herkese açık bir şekilde yayınlanmadan önce şimdilik ücretli aboneler tarafından test edilip geliştirilmeyi sürdürüyor.
