Yeni bir raporda, bu yeni çıplaklık AI botlarının şu anda ayda 4 milyondan fazla kullanıcıya ulaşmış olduğu ve bu sorunun muhtemelen daha da kötüleşeceği vurgulanmaktadır. Bahsi geçen sohbet robotları, AI teknolojisinin kötü niyetli amaçlar için kullanıldığı ilk örnekler değil. Kullanıcıların ChatGPT ve diğer popüler sohbet botlarını kötüye kullanmalarıyla ilgili birçok sorun da yaşanmıştır.
Ayrıca, OpenAI ve diğer teknoloji firmaları, bu tür sorunları güvenilir bir şekilde çözebilmek için çeşitli güvenlik katmanları geliştirmiştir. Ancak, kullanıcıların yalnızca bir fotoğraf ve hatta bir komut yükleyerek neredeyse herkesin çıplak fotoğraflarını oluşturmasına olanak tanıyan bu deepfake botları, özellikle Telegram platformunda hızla yayılmaktadır. Wired’ın bildirdiğine göre, şu anda en az 50 farklı bu tür bot mevcuttur.
AI teknolojisi şu anki kadar gelişmeden önce bile, deepfake’ler önemli sorunlar yaratmaktaydı. Örneğin, Şubat ayında bir AI dolandırıcısının bir konferans görüşmesinde 25 milyon dolar çalmak için deepfake teknolojisini kullandığı kaydedilmiştir. Bu tür olaylar, AI’nin kötüye kullanımının ne denli tehlikeli olabileceğini gözler önüne sermektedir.
Ne yazık ki, bu çıplaklık AI botlarını durdurmak neredeyse imkansız görünmektedir. Bir bot engellendiğinde, hızla birkaç tanesi onun yerini almakta ve bu durum, sorunu daha da karmaşık hale getirmektedir. Bu kadar hızlı bir şekilde tekrar ortaya çıkmaları, ortadan kaldırılmalarını neredeyse imkansız kılmakla kalmıyor, aynı zamanda durumun daha da kötüleşeceği anlamına geliyor.
İlk yorum yapan olun