Yapay Zeka ile Oluşturulan Deepfake Pornografisi Üzerine Eleştiriler
Bing, Google ve DuckDuckGo arama motorları, rızaya dayalı olmayan yapay zeka ile oluşturulan deepfake pornografisi ile ilgili ciddi eleştirilerle karşı karşıya. Bu eleştiriler, NBC News’in yapay zeka odaklı pornografik içeriklerin erişilebilirliği konusundaki kaygılarını öne çıkaran haberinin yayınlanmasının ardından yoğunlaştı. Müstehcen deepfake videolar, orijinal pornografik materyaller kullanılarak ve oyuncuların (genellikle kadın aktrislerin) yüzlerinin belirli bir gerçek kişiyle (örneğin bir ünlüyle) değiştirilmesiyle oluşturuluyor. Bu yüz değişimi, yapay zeka tarafından otomatik olarak gerçekleştiriliyor ve kullanıcıların sadece kurbanın fotoğraflarını yapay zekaya yüklemesi yeterli oluyor.
NBC News’in 36 kadın ünlü üzerinden gerçekleştirdiği testler, oyuncu adı ve “deepfake” kelimesinin birleşimi kullanılarak yapıldığında, Bing ve Google’ın neredeyse tüm durumlarda deepfake video ve görsellerini arama sonuçlarının en üstüne yerleştirdiğini gösterdi. Google, en üst sıralarda 34 adet bu tür içerik sunarken, Bing 35 sonuçla yanıt verdi. NBC News, DuckDuckGo’nun da benzer sorunlarla karşı karşıya olduğunu, ancak sorunun boyutunu belirtmediğini ifade etti. Ayrıca, NBC News, rıza dışı deepfake pornografi sorunuyla ilgili makale ve haberlerin, “sahte çıplaklar” terimi arandığında uygunsuz içeriklerden daha alt sıralarda gösterilmesinden de şikayetçi oldu.
Her ne kadar NBC News, Bing ve Google’ın kullanıcıya müstehcen içerik göstermeyi engelleyen güvenlik özelliklerini kapattıktan sonra aramaları gerçekleştirdiğini kabul etse de, bu ayrıntı, yapay zeka destekli pornografiye kolay erişimin önemli bir sorun olduğunu değiştirmiyor. Bu tür içerikleri arayan herkesin, muhtemelen yerleşik koruma özelliklerini devre dışı bırakacağı düşüncesi oldukça mantıklı. Rıza dışı müstehcen deepfake içerikleri, doğası gereği yasa dışıdır ve bu nedenle Microsoft, Google ve diğer teknoloji şirketlerinin bu tür içeriklerle başa çıkması gereken kritik bir konu olarak öne çıkmaktadır.
Deepfake’e Karşı Alınabilecek Önlemler
Yapay zeka destekli pornografik içeriklerle mücadele etmek için daha gelişmiş teknolojik önlemler uygulamak en etkili yol olabilir. İlk ve geçici adım olarak, bu tür içerikleri barındırdığı bilinen web sitelerinin arama sonuçlarından çıkarılması ya da tamamen yasaklanması önerilmektedir. NBC News’in bildirdiğine göre, testlerde elde edilen en iyi sonuçların yarısından fazlası popüler bir deepfake web sitesine veya benzer bir platforma yönlendiren bağlantılardan oluşmaktadır. Bu tür bir önlem, arama sonuçlarının mevcut zararlı niteliğini önemli ölçüde azaltabilir.
NBC News’in yorum talebine yanıt vermeyen tek şirket Microsoft oldu. DuckDuckGo sözcüsü, web bağlantıları ve görsel sonuçları için ana kaynağının Bing olduğunu belirtti. Ayrıca DuckDuckGo, belirli bir içeriğin aramadan kaldırılması gibi gizlilikle ilgili talepler için yollar sunduğunu ifade etti. Google da deepfake mağdurları için benzer bir seçenek sağlamakta, ancak NBC News, uzmanlar ve aktivistlerin görüşlerine atıfta bulunarak bunun yeterli olmadığını savunuyor.
İncelenmek üzere hassas içeriğe sahip URL’leri göndermeleri istenen mağdurların, bu süreçte daha fazla zarar görme riski taşıdığı da göz önünde bulundurulmalıdır.
