Son dönemlerde internet dünyasında büyük bir tartışma yaratan deepfake teknolojisi, kullanıcıların yapay zeka yardımıyla görüntü ve ses içeriklerini manipüle edip sahte içerikler oluşturmalarına olanak tanıyor. Bu korkutucu teknoloji, ne yazık ki kötü amaçlı kullanım senaryolarında oldukça ciddi etik ve ahlaki tehlikeler ortaya çıkarıyor. Başta siber zorbalık ve şantaj amacıyla kullanılan bu teknolojinin önüne geçmek için teknoloji devleri yoğun bir şekilde çalışma kaydediyor.
404 Media’nın yakın zaman önce yayınladığı bir rapora göre bazı geliştiriciler, fotoğrafları çıplak hale getiren yapay zeka uygulamaları için Instagram reklamlarından yararlandı. Raporda yer alan detaylar doğrultusunda bu reklamlar direkt şekilde Apple App Store platformunda listelenen uygulamalara yönlendirme yapıyor. “Yapay zeka” ve “sanat” etiketleriyle listelenen uygulamalar, sahte pornografik görüntüler üreterek gerçek amaçlarını perdeliyor.
App Store politikalarını atlatmak için farklı etiketlerle deepfake uygulamalarını listeleyen geliştiriciler için Apple harekete geçti. İzinsiz sahte deepfake görüntüleri üreten uygulamaların Apple’ın politikalarını nasıl atlattığı hakkında dikkat çekici ayrıntılar ortaya çıktı.
Üç deepfake uygulaması Apple App Store’dan kaldırıldı
404 Media’nın hazırladığı rapor sosyal medya üzerinde büyük bir tartışma başlattı. Buna karşılık Apple ekibi herhangi bir cevap vermedi. Ancak hızlı bir şekilde harekete geçen şirket, üç deepfake uygulamasını App Store’dan kaldırdı. Fakat şirketin bu tarz manipülatif uygulamaları kolayca tespit edemediği, dışarıdan gelen raporlar sayesinde uygulamaların platformdan fişini çekebildikleri ifade edildi.
Raporda karşımıza çıkan ayrıntılar, ilk olarak 2022 yılında bu uygulamalara ilişkin uyarıların gündeme geldiğini, fakat buna rağmen ne Apple ne de Google ekiplerinin bu noktada harekete geçmek konusunda ağır kaldığını bildiriyor.
Her ne kadar teknoloji devlerine yıllardır bununla alakalı çok sayıda bilgilendirmede bulunulmuş olsa da şirketlerin bu uygulamaları kaldırmayı reddettikleri dile getirildi. Bunun yerine geliştiricilerden yetişkinlere yönelik internet siteleri üzerinden reklam yayınlamayı bırakmalarını talep ettikleri ortaya çıktı.
Deepfake teknolojisinin gelmiş olduğu bu nokta, pek çok kişi için endişe verici bir durum olarak görülüyor. Özellikle de bu teknolojinin sahte pornografik içerikler üretilmesinde kullanılması, teknoloji devlerinin bununla alakalı acil ve daha sıkı önlemler alması gerekliliğini bir kez daha hatırlatıyor. Google ve Apple’ın yavaş yavaş bu konuda harekete geçmesi, ilerleyen süreçte konuya ilişkin daha sert tedbirler alınabileceğine işaret ediyor.
İLGİNİZİ ÇEKEBİLİR: En iyi yapay zeka seslendirme araçları (ücretli ve ücretsiz)
