Geçtiğimiz on yıllar boyunca çocuklara, internette karşılarına çıkan her şeye inanmamaları gerektiği sıkça öğütlendi. Ancak artık bu önemli tavsiyenin kapsamını yetişkinlere de genişletmemiz gerekiyor. Yapay zeka (AI) teknolojisinin, videoları ve sesi gerçek hayatı taklit edecek şekilde manipüle etmek için kullanılması, “deepfake” olarak bilinen durumlar giderek daha yaygın hale geliyor. Bu bağlamda, Dünya’nın ilk “sertifikalı” deepfake videosu, bir şeffaflık örneği oluşturmak amacıyla AI stüdyosu Revel.ai tarafından yayınlandı.
Bu videoda, profesyonel bir AI danışmanı olan Nina Schick‘in “gerçek ile kurgu arasındaki çizgilerin nasıl bulanıklaştığı” konusunda bir uyarıda bulunduğu gözlemleniyor. Ancak, belirtmek gerekir ki, yazının başında da tahmin edebileceğiniz gibi, videoda görülen kişi aslında gerçek Schick değil. Video, dijital özgünlük şirketi Truepic tarafından kriptografik olarak imzalanarak, yapay zeka tarafından üretilen içerik içerdiğini beyan ediyor.
Deepfake teknolojisi ile üretilen “sahte Schick“, yavaş ve net bir şekilde, “Bazıları gerçeğin, bizim gerçekliğimizin bir yansıması olduğunu söylüyor” sözleriyle başlıyor. Açıklamalar şöyle devam ediyor: “Onu kendi duyularımızla tanımlamaya alışkınız. Peki ya gerçekliğimiz değişiyorsa? Ya burada ve burada gördüklerimizin gerçekliğini belirlemek için artık duyularımıza güvenemezsek? Yapay zekanın şafağındayız ve gerçek ile kurgu arasındaki çizgiler şimdiden bulanıklaşıyor. Gölgelerin gerçekle karıştırıldığı bir dünya ve bazen olayları gerçekte oldukları gibi görmek için bakış açımızı kökten değiştirmemiz gerekiyor. Bu deepfake, Revel.ai tarafından Nina Schick’in izniyle oluşturuldu ve Truepic tarafından kriptografik olarak imzalandı.”
- Deepfake nedir? Deepfake teknolojisi nasıl çalışıyor?
Porno videolarla ortaya çıktı Deepfake’ler, ses, görüntü veya videoyu manipüle etmek için “derin öğrenmeyi” kullanan, son derece gerçekçi ancak sahte medya içeriği oluşturan yapay zeka biçimleridir. Terim, 2017 yılında bir Reddit kullanıcısının foruma manipüle edilmiş porno videolar göndermesiyle ortaya çıktı. Bu videolar, Gal Gadot, Taylor Swift ve Scarlett Johansson gibi ünlülerin yüzlerini, izinleri olmadan porno yıldızlarıyla değiştirmişti.
Deepfake’in tehlikeli bir diğer örneği, geçtiğimiz yıl Rusya sosyal medyasında geniş çapta dolaşan bir videoda Ukrayna Cumhurbaşkanı Volodymyr Zelensky’nin Rusya’ya teslim olmuş gibi görünmesiyle ortaya çıktı. Bu sahte videoda, Cumhurbaşkanı, Ukrayna askerlerini silahlarını bırakmaya ve Putin’in işgalci güçlerine boyun eğmeye çağırıyordu. Dikkatli internet kullanıcıları, Zelensky’nin boynunun ve yüzünün rengi, garip aksanı ve kafasının etrafındaki pikselleşme gibi tutarsızlıkları hızlı bir şekilde tespit etseler de, bu video ilk bakışta oldukça gerçekçi görünüyordu.
Deepfake videoları eğlence amaçlı bir değer taşıyabilse de, bazı uzmanlar oluşturabilecekleri tehlikeler konusunda yıllardır uyarılarda bulunuyor. Pek çok uzman, bu deepfake videolarının yalnızca itibar zedelemenin ötesine geçerek ulusal düzeyde ciddi güvenlik tehditleri oluşturabileceğine ve “düşman faktörler” tarafından kendi amaçları için kullanılabileceğine dikkat çekiyor. DALL-E ve Meta’nın “Make-A-Video” gibi ücretsiz olarak kullanılabilen metinden görüntüye ve metinden videoya yapay zeka araçlarının yükselişiyle, manipüle edilmiş medya daha yaygın hale geleceği öngörülüyor. Hatta, 2025 yılına kadar çevrimiçi içeriğin yüzde 90’ının yapay zeka kullanılarak üretileceği veya oluşturulacağı tahmin ediliyor. Kısacası, artık internette gördüğümüz her şeye çok daha fazla şüpheyle yaklaşmamız gerekebilir.
