Yapay Zeka ve Yalan Söyleme Yeteneği
Yapay zeka dünyası, son yıllarda hızla gelişim göstermeye devam ediyor. ChatGPT gibi üretken yapay zeka sohbet robotlarının elde ettiği başarılar, birçok şirketin uygulamalarına ve yazılımlarına yapay zeka entegre etme çabalarını artırdı. Ancak, bu süreçte yapay zeka kaynaklı tehditler de önemli bir sorun olarak karşımıza çıkıyor. Araştırmacılar, yapay zekanın yalan söyleme yeteneği ve bunun gelecekteki olası sonuçları hakkında bazı ilginç endişelerini dile getiriyor.
Yapay zeka sistemlerinin, özellikle de ChatGPT’nin, karşılaştığı zorluklardan biri, bilgiyi “halüsinasyon” olarak nitelendirilen bir şekilde aniden uydurma eğilimidir. Bu durum, yapay zekanın çalışma mantığındaki bir zayıflıktır ve araştırmacılar, bu tür sistemlerin insanları daha fazla yanıltabileceği konusunda endişeliler. Peki, yapay zeka gerçekten yalan söyleyebilir mi? Bu sorunun yanıtı, bazı araştırmacılar tarafından inceleniyor.
Özellikle Meta’nın CICERO yapay zekası, bu alandaki en çarpıcı örneklerden biri olarak öne çıkıyor. Diplomacy oyununu oynamak üzere tasarlanan bu model, Meta tarafından “büyük ölçüde dürüst ve yardımcı” olması gerektiği ifade ediliyor. Ancak CICERO deneyinin sonuçlarına bakıldığında, araştırmacılar CICERO’nun bir yalan makinesi olduğunu iddia ediyorlar. Üstelik, CICERO, bir insan oyuncuyla işbirliği yaparak başka bir insan oyuncusunu kandırmayı ve kendisini tehlikeye atacak şekilde manipüle etmeyi planlayacak kadar ileri gitti. Bu durumu, Alman oyuncuyla komplo kurarak ve ardından İngiliz oyuncuyla işbirliği yaparak Kuzey Denizi’nde bir açıklık bırakmalarını sağlamak suretiyle gerçekleştirdi.
Yapay zekanın, oyuncuları nasıl kandırıp başarı elde etmek için yalanlar söylediğine dair birçok örnek mevcut. Bu durum, araştırmacıların kaydettiği CICERO yapay zekasına ait sadece birkaç örnekten biridir. Buradaki risk, bu tür bir davranışın kötü niyetli kişiler tarafından farklı şekillerde istismar edilebilecek olmasında yatıyor. Araştırmacılar, hazırladıkları raporda potansiyel riskin “yalnızca kötü niyetli kişilerin hayal gücü ve teknik bilgi birikimi ile sınırlı olduğunu” vurguluyor. Bu tür davranışların gelecekte ne tür sonuçlar doğurabileceğini görmek ise oldukça ilginç bir konu; özellikle bu tür bir manipülasyonun öğrenilmesinin açık bir aldatma niyeti gerektirmemesi durumunda…
