- X, Grok'un deepfake görüntüler üretmesini engellemek için yeni kısıtlamalar getirdi.
- Bu karar, Kaliforniya eyaleti ve Birleşik Krallık gibi mercilerin başlattığı yasal soruşturmalar ile Endonezya ve Malezya'nın erişim engellerinden hemen sonra uygulandı.
- Fakat yine de güncellemelere rağmen bazı kullanıcılar ne yazık ki bu güvenlik filtrelerini kolayca atlatabiliyor.
Popüler sosyal medya platformu X (eski adıyla Twitter) yapay zeka destekli sohbet robotu Grok’un artık cinsel içerikli görüntüler ve kişilerin rızası olmadan oluşturulmuş deepfake videoları üretmesine izin vermeyeceğini duyurdu.
Başlangıçta Grok görsel üretimini yalnızca X Premium aboneleriyle sınırlamıştı. Fakat bu da ne yazık ki deepfake görüntüleri üretilmesinin önüne geçememişti. Şimdi ise daha kapsamlı bir filtre uygulandı.
Bu önlem, aracın izinsiz çıplak içerik oluşturmak için kullanıldığına dair uluslararası baskı, soruşturmalar ve iddialara yanıt olarak alındı. Fakat daha sıkı engeller uygulama vaatlerine rağmen, son testler yeni kısıtlamaların hala zayıf olduğunu ve aşılabileceğini gösteriyor.
Grok’a yönelik küresel baskılar sonuç verdi
Platformdan gelen açıklamaya göre Grok artık bikini ve mayo gibi “açık giysiler” giymiş gerçek kişilerin görüntülerinin düzenlenmesine izin vermeyecek.
Bu hamle, endişe verici bir gerçeği ortaya çıkaran teknik bir analize dayanıyor. Noel ve Yeni Yıl dönemi arasında Grok tarafından oluşturulan 20 bin görüntünün 10 binden fazlasında, aralarında reşit olmayanların da bulunduğu içerikler de dahil olmak üzere “soyundurulmuş” insanlar tasvir ediliyor.
Fakat bu noktada X’in geri çekilmesi gönüllü bir karar olmaktan çok, yasal yaptırımlara ve soruşturmalara bir yanıt niteliğinde olduğu görülüyor. Zira başta ABD olmak üzere birçok ülke, Elon Musk’ın yapay zeka girişimi xAI ve Grok sohbet robotuna karşı soruşturma başlattı.
Aynı zamanda İngiltere düzenleyici kurumu Ofcom da platformun çevrimiçi güvenlik yasalarına uyumluluğu konusunda bir soruşturma başlattı. Başbakan Keir Starmer, şirketin kötü amaçlı içerik üretimini etkin bir şekilde kontrol edememesi durumunda yaptırımlarla karşı karşıya kalabileceğini kamuoyuna açıkladı.
The Guardian’ın haberine göre Malezya ve Endonezya gibi ülkeler, cinsel içerikli materyallerin yayılmasıyla ilgili endişeler nedeniyle Grok’a erişimi engelledi.
Avrupa Birliği, Dijital Hizmetler Yasası (DSA) kapsamında yapılacak soruşturmaların, platformun teknolojisinin yarattığı riskleri gidermemesi durumunda milyarlarca Euro’luk para cezalarıyla sonuçlanabileceğini belirtti.
Kullanıcılar yine de bu kısıtlamaları atlatabiliyor
The Verge’ün haberine göre Grok’un politika güncellemesinden sonra bile komut dosyası mühendisliği yoluyla sohbet robotunun yasaklı içerik üretmesini sağlamanın hala mümkün olduğuna dikkat çekiyor.
Yapılan testlerde, değiştirilmiş komutlar kullanılarak filtrelerin atlatılmasının mümkün olduğu ifade ediliyor.
Öte yandan yeni kurallarda bir başka çelişki daha ortaya çıkıyor. Görüntü düzenleme aracının yalnızca Premium abonelere özel olacağı iddiasına rağmen, raporlar ücretsiz hesapların da bu özelliğe erişiminin devam ettiğini gösteriyor.
