Günümüzde hayatımızın hemen her alanında karşımıza çıkmaya başlayan yapay zeka teknolojileri, pek çok kişi için devrim niteliğinde görülürken, yine de bazı potansiyel risklere ev sahipliği yapıyor. Kötü amaçlar doğrultusunda kullanıldığında oldukça tehlikeli bir hale gelebilecek bu teknoloji, özellikle de dezenformasyon yapmak ve hatta sahte cinsel içerikli deepfake görüntüleri yaratmak amacıyla kullanılmaya başlandı.
Yakın zamanda ortaya çıkan ünlü şarkıcı Taylor Swift’in sahte deepfake görüntüleri dünya kamuoyunda büyük bir sansasyon yarattı. 404 Media tarafından aktarılan bilgilere göre Microsoft, Taylor Swift ve diğer ünlülerin yeni pornografik deepfake görüntülerinin oluşturulmasını engellemek adına önemli bir hamlede bulundu.
Şirket, yapay zeka görüntü oluşturma hizmeti olan Designer Image Creator servisindeki önemli bir hatayı düzeltti. Bu sayede platform, bazı küçük hilelerle hizmet kurallarını aşan kullanıcılara ek bir tedbir uygulayacak ve hassas görüntüler üretilmesini engelleyecek.
Microsoft CEO’su Satya Nadella’dan açıklama geldi
Microsoft tarafından kısa süre önce alınan bu önlem, kullanıcıların Designer Image Creator platformundan pornografik deepfake görüntüler oluşturmalarını engelleyecek. Fakat iddialara göre bu görüntülerin üretilip yayınlanmasından sorumlu olan Telegram grubu, şu anda bu görüntülerin Designer AI’dan üretilemediğini, fakat yine de başka yazılımlar kullanılarak deepfake görüntülerin yaratılmasına devam edildiğini belirtti.
Microsoft CEO’su Satya Nadella konuya ilişkin NBC News’e verdiği demeçte önemli açıklamalarda bulundu. Ürün güvenliği noktasında önemli iyileştirmeler gerçekleştirdiklerini paylaşan tecrübeli yönetici şunları aktardı:
“İki şey var: Öncelikle sorumluluğumuz olduğunu düşündüğüm şeye, yani daha güvenli içerik yaratabilmek için teknolojiye koymamız gereken korumalara değineceğim. Bu alanda yapılacak çok şey var ve yapılacak çok şey var. zaten yapılıyor Ancak bu, bazı normlar üzerinde küresel ve toplumsal yakınlaşmayla ilgili ve bunu yapabiliriz, özellikle de kanun, kolluk kuvvetleri ve teknoloji platformlarının bir araya gelebildiği durumlarda. Bence kendimize itibar ettiğimizden çok daha fazlasını yönetebiliriz.”
Taylor Swift deepfake görüntüleri tartışmaların odağı oldu
Kısa sürede sosyal medyada büyük bir etik ve ahlaki tartışmaya yol açan deepfake Taylor Swift görüntüleri, özellikle de X ve Reddit gibi sosyal ağlarda hızlı bir şekilde yayılarak milyonlarca internet kullanıcısının önüne çıktı. Bunun üzerine sosyal ağlar da söz konusu içeriklerin görünürlüğünü kısıtlamak için harekete geçti.
Elon Musk’ın sahibi olduğu popüler sosyal medya platformu X (eski adıyla Twitter) şu anda Taylor Swift adının aranmasını engellemiş durumda. Deepfake görüntülerinin yer aldığı paylaşımları kontrol edemeyen şirket, çözümü bir süreliğine sanatçının ismini sınırlandırmakta buldu.
AYRICA BKZ: En popüler yapay zeka çizim siteleri ve uygulamaları
