Yapay Zeka Üzerine Açık Mektup
100’ün üzerinde kişi, tüm yapay zeka laboratuvarlarını, GPT-4’ten daha güçlü yapay zeka sistemlerinin eğitimini en az altı ay süreyle durdurmaya çağıran bir açık mektubu imzaladı. Bu mektuba imza atan tanınmış isimler arasında bilgisayar bilimcileri, Steve Wozniak, Evan Sharp ve Elon Musk gibi teknoloji alanında etkili olmuş kişiler yer alıyor. Açık mektup, “insan-rekabetçi zekaya” sahip modern yapay zeka sistemlerinin toplum için ciddi riskler taşıdığını belirtmekte. Mektubun içeriği, gerekli planlama ve yönetim eksikliğini vurgularken, son aylarda yapay zeka laboratuvarlarının, yaratıcılarının dahi tam olarak anlayamadığı, tahmin edemediği veya güvenilir bir şekilde kontrol edemediği daha güçlü dijital zihinler geliştirmek ve dağıtmak için kontrolsüz bir yarışa girdiğini iddia ediyor.
“Günümüz yapay zeka sistemleri artık genel görevlerde insanlarla rekabet edebilme kapasitesine ulaştı. Kendimize şu soruyu sormalıyız: Makinelerin bilgi kanallarımızı propaganda ve yanlış bilgilerle doldurmasına izin vermeli miyiz? Tüm işleri otomatikleştirmeli miyiz? Sonunda, sayıca ve zekaca bizden üstün olabilecek, modası geçmiş bizlerin yerini alabilecek insan olmayan zihinler geliştirmeli miyiz? Medeniyetimizin kontrolünü kaybetme riskini göze almalı mıyız? Bu tür önemli kararlar, seçilmemiş teknoloji liderlerine devredilmemelidir.” Mektup, bu duraklamanın halka duyurulması, tüm önemli faktörleri içermesi ve doğrulanabilir olması gerektiğini de ifade ediyor. Ayrıca, böyle bir duraklama hızlı bir şekilde yasalaştırılmadığı takdirde, hükümetlerin bir moratoryum başlatması gerektiğini ekliyor.
Aynı zamanda, mektup laboratuvarlardan genel olarak yapay zeka gelişimini durdurmalarını istemediğini, yalnızca “tehlikeli yarıştan, yeni ortaya çıkan yeteneklere sahip, her zamankinden daha büyük, öngörülemeyen kara kutu modellerinden geri adım atılmasını” vurguluyor. Bekleme süresinin, yapay zeka laboratuvarları ve bağımsız uzmanlar tarafından iş birliği yaparak “gelişmiş yapay zeka tasarımı ve geliştirmesi için titizlikle denetlenmiş bir dizi paylaşılan güvenlik protokolü” oluşturmak için kullanılabileceği de belirtiliyor. Mektup, OpenAI’den yapılan bir açıklamadan alıntı yaparken, imzacılar listesi arasında Musk dışında araştırma laboratuvarından başka kimseyi içermiyor.
