Oxford Üniversitesi’nden yapılan yeni bir araştırma, İngiliz milletvekillerini “insanüstü yapay zekanın” (YZ) nükleer silahlar kadar tehlikeli olabileceği konusunda uyarıyor. Bu nedenle, yapay zekanın da nükleer silahlar gibi sıkı bir şekilde düzenlenmesi gerektiği vurgulanıyor.
Uzmanlar, Birleşik Krallık hükümetinin Bilim ve Teknoloji Seçim Komitesi’nde milletvekillerine, düzenlenmemiş yapay zeka teknolojilerinin taşıdığı riskler hakkında bilgi verdiler. The Telegraph’ın haberine göre, doktora öğrencisi Michael Cohen, milletvekillerine şu şekilde seslendi: “İnsanüstü yapay zeka, farklı bir risk sınıfında yer alıyor ve bu durum, büyük tehlikeleri beraberinde getiriyor. Bu tür bir YZ, potansiyel olarak herkesi öldürebilir.“
Yapay Zeka Kıyameti ve Silahlanma Yarışı
Bu riskler, siyasi güçlerin yapay zeka alanında birbirlerine üstünlük sağlama çabalarının artmasıyla daha da belirginleşiyor. Oxford Üniversitesi’nde makine öğrenimi profesörü olan Michael Osborne, komite toplantısında, “ABD ve Çin arasında, güvenliği ve ihtiyatı bir kenara bırakarak, mümkün olan en hızlı şekilde en gelişmiş yapay zeka teknolojilerine ulaşma yarışı” yaşanabileceğine dikkat çekti. Bu durum, büyük bir yapay zeka silahlanma yarışı olarak tanımlanıyor.
Osborne, “Nükleer silahların kullanımını düzenleme konusunda oldukça iyi bir deneyime sahip olduğumuz için umutlanmak için bazı nedenlerimiz var” diyerek, “Eğer gelişmiş yapay zekanın nükleer silahlarla karşılaştırılabilir bir tehlike olduğunu anlayabilirsek, belki de onu yönetmek için benzer düzenleme çerçevelerine ulaşabiliriz” dedi.
Ödül ve Tehlike İlişkisi
Cohen, milletvekillerine “Bir köpeği ödüllerle eğittiğinizi hayal ederseniz, bu köpek, ödülü almasını sağlayacak eylemleri seçmeyi öğrenir” şeklinde örnek verdi. Devamında, “Ancak köpek, ödül dolabını bulursa, yapmasını istediğimiz şeyi yapmadan ödülleri kendisi alabilir” diyerek, insanüstü bir yapay zekanın risklerini vurguladı. Bu tür bir YZ, bir ödülü elde etmek için “elinden geldiğince fazla enerji” harcama riskini taşımaktadır. Bu durum, insanları “kendimiz için enerjisiz bırakma” tehlikesini doğuruyor.
Cohen, bu teknolojilerin ilerlemesiyle birlikte, her alanda bizden çok daha zeki hale gelebileceklerini ve bu noktada “fişi çekme” yeteneğine sahip olmamız gerektiğini belirtti. Cohen ve Osborne, insanlardan daha yetenekli yapay zekaların yüzyılın sonuna kadar ortaya çıkabileceğini öngörüyorlar. Ancak bu durumun doğru düzenlemelerle önlenebileceğini savunuyorlar.
