Geçtiğimiz günlerde Taylor Swift‘in pornografik deepfake görüntülerinin internette hızla yayılmaya başlaması, sosyal medya platformu X‘in kullanıcılarının Swift’in adını aramasını engellemesine neden oldu. Kullanıcılar, Cumartesi günü Swift’in adını içeren bazı aramaların yalnızca hata mesajıyla sonuçlandığını fark etti.
X’in iş operasyonları yöneticisi Joe Benarroch, Cumartesi gecesi Wall Street Journal’a yaptığı açıklamada, “Bu geçici bir eylemdir ve bu konuda güvenliğe öncelik verdiğimiz için çok dikkatli bir şekilde yapılmıştır” dedi. Bu önlem, sorunun ilk kez gündeme gelmesinin üzerinden günler geçtikten sonra devreye alındı. X’in durumu ele alma şekli, rıza dışı ve müstehcen içeriklerin yayılmasını engelleme konusunda yavaş hareket ettiği yönünde eleştirilere neden oldu.
NBC News’un bu haftanın başlarında bildirdiğine göre, görüntülerin Çarşamba günü viral hale gelmesinin ardından Swift’in hayranları, sorunu çözmek için harekete geçerek şu adımları attılar:
- Görüntüleri paylaşan hesapları topluca bildirdiler.
- Şarkıcıyla ilgili hashtag’leri olumlu içeriklerle doldurmaya çalıştılar.
Bu çabalar sonucunda, sorun çıkaran hesapların çoğu daha sonra askıya alındı. Ancak bazı paylaşılan içerikler, zaten milyonlarca kez görüntülenmişti. Örneğin, Perşembe günü Verge, bir gönderinin 45 milyondan fazla kez görüntülendiğini bildirdi.
X, aynı gün içinde platformda yaptığı bir açıklamada, “Rıza Dışı Çıplaklık (NCN) görsellerinin yayınlanması X’te kesinlikle yasaktır ve bu tür içeriklere karşı politikamız sıfır toleranstır. Ekiplerimiz tespit edilen tüm görselleri etkin bir şekilde kaldırıyor ve bunları yayınlamaktan sorumlu hesaplara karşı gerekli işlemleri yapıyor. Başka ihlallerin derhal ele alınmasını ve içeriğin kaldırılmasını sağlamak için durumu yakından izliyoruz. Tüm kullanıcılar için güvenli ve saygılı bir ortam sağlamaya kararlıyız” ifadelerine yer verdi. Ancak, günler geçmesine rağmen platformda hala bazı görüntüler bulunabiliyordu.
404Media, bu rahatsız edici görüntülerin olası kökenini araştırarak, Microsoft Designer gibi ücretsiz araçlar kullanarak kadınların rızası olmadan yapay zeka tarafından oluşturulmuş görüntülerin yer aldığı bir Telegram grubuna kadar takip etti. Microsoft CEO’su Satya Nadella, Cuma günü NBC News’ten Lester Holt ile gerçekleştirdiği röportajda, bu konunun şirketin sorumluluklarını vurguladığını belirterek, “Daha güvenli içerik üretilebilmesi için teknolojinin etrafına yerleştirmemiz gereken tüm korumaların” önemine değindi. Nadella, “Burada yapılması gereken çok şey var” diyerek konuşmasına devam etti ve şirketin “hızlı hareket etmesi” gerektiğinin altını çizdi.
