Pekin’deki Siber Uzay İdaresi (CAC), yapay zeka tarafından oluşturulan “deepfake” içeriklerin izinsiz olarak üretilmesini yasaklayan önemli düzenlemeler açıkladı. Bu yönetmelikler, yalnızca ulusal çıkarlarla veya sosyalist değerlerle çelişen içeriklerin değil, aynı zamanda aldatma veya iftira amacı güden deepfake’lerin kullanımını da yasaklamaktadır.
Deepfake teknolojisi, insanların gerçekte söylemedikleri veya yapmadıkları şeyleri söyledikleri ve yaptıkları son derece gerçekçi videoların oluşturulmasına imkan tanıdığı için, birçok tartışmanın merkezinde yer almaktadır. Bu teknoloji, izleyicileri yanıltma ve videolarda tasvir edilen kişiler için ciddi sorunlar yaratma potansiyeline sahip. Bu nedenle, deepfake’ler yalnızca Çin’de değil, dünya genelinde de tartışmalara yol açmaktadır. Örneğin, bu yılın başlarında Avrupa Birliği, sosyal medyadaki sahte haberlere karşı önlem almak amacıyla deepfake’lerin kullanımını sınırlayan kurallar getirmiştir.
Ancak, bu düzenlemeler, Çin’in, açıkça dijital kreasyonlar olarak etiketlendikleri sürece chatbots gibi uygulamalarda deepfake’lerin kullanımına izin verdiğini gösteriyor. CAC tarafından çıkarılan düzenlemeler, çevrimiçi yayıncıların deepfake içeriklerini kullanma şartlarını da kapsamaktadır. Bu yayıncıların, içeriklerinde deepfake ürünler kullanırken, Çin’in kabul edilebilir çevrimiçi içerikle ilgili diğer kurallarını göz önünde bulundurmaları gerekmektedir.
- Yönetmelikler, “derin sentez hizmet sağlayıcıları” veya çevrimiçi içeriği değiştirmek için derin öğrenme ya da sanal gerçeklik kullanan platformlar için de geçerlidir.
- Bu düzenlemeler, doğru ve sürekli olarak güncellenen AI/ML modellerinin ve algoritmalarının yanı sıra, toplanan verilerin güvenliğini sağlama gerekliliğini de içermektedir.
- Ayrıca, düzenlemeler, bilinmeyen kişilerin teknolojiyi kötüye kullanmasını önlemek için kullanıcıların gerçek adlarıyla kayıt olmalarını zorunlu kılmaktadır.
CAC tarafından açıklanan bu düzenlemelerin amacı, Çin’de deepfake kullanımına ilişkin potansiyel olumsuzlukları önlemek ve bu teknolojinin ülkeye fayda sağlamasını sağlamak olarak belirlenmiştir. Yönetmelikler, deepfake’lerin “internet bilgi hizmetlerinin sağlıklı gelişimini desteklemesi ve iyi bir siber uzay ekolojisinin sürdürülmesine katkıda bulunması” gerektiğini vurgulamaktadır. Bu kurallar, 10 Ocak 2023 tarihinde yürürlüğe girecek.
