Google’ın Gemini Yapay Zekası ile İlgili Tartışmalar
Geçtiğimiz hafta, kullanıcılar Google’ın Gemini (eski adıyla Bard) yapay zeka sohbet robotunun uygunsuz görüntüler oluşturduğunu bildirmeye başladı. Kullanıcılar, sistemin özellikle koyu ten rengine sahip bireyleri, bu karakterlere uygun olmayan tarihsel veya kurgusal rollerde tasvir ettiğini dile getirdi. Bu uygunsuz görsellerin rapor edilmesinin ardından Google, Gemini’nin resim oluşturma yeteneğini geçici olarak kapatacağını açıkladı.
Şirket, bir blog yazısı aracılığıyla Gemini’ye ne olduğuna dair detaylı bir açıklama yaptı. Google Kıdemli Başkan Yardımcısı Prabhakar Raghavan tarafından kaleme alınan yazıda, öncelikle şirketin Gemini’nin görsel metin istemleri oluşturması için belirli kurallar oluşturduğuna değinildi. Raghavan, bu kurallar sayesinde Google’ın şiddet içeren veya cinsel eylemleri tasvir eden sanat eserlerinin oluşturulmasından kaçınmayı hedeflediğini belirtti. Ayrıca, sohbet robotunun gerçek insanların görüntülerini oluşturmasına da izin verilmediği ifade edildi.
Raghavan, kullanıcıların sohbet robotundan futbol takımındaki bireyler gibi daha genel görseller istemesi durumunda Gemini’nin çeşitli etnik kökenleri tasvir etmesine izin vermek istediklerini de vurguladı. Ancak, bir kişi beyaz bir doktor veya siyahi bir öğretmen gibi belirli bir kişinin tasvir edilmesini istediğinde, Gemini’nin bu talebe uygun bir sanat eseri oluşturabilmesi gerektiği belirtildi.
Raghavan, Gemini’nin metin istemlerinde bulunan sınırlamalardaki iki spesifik durumun uygunsuz görsellerin oluşumuna neden olduğunu ifade etti. Raghavan’ın açıklamaları şu şekildeydi:
- “İlk olarak, Gemini’nin bir dizi insanı göstermesini sağlamak için yaptığımız ayarlama, açıkça bir aralık göstermemesi gereken vakaları hesaba katmada başarısız oldu.”
- “İkincisi, zamanla model, planladığımızdan çok daha temkinli hale geldi ve belirli uyarılara tamamen yanıt vermeyi reddetti; bazı çok belirsiz istemleri yanlış bir şekilde hassas olarak yorumladı.”
Raghavan, “Bu iki durum, modelin bazı vakalarda aşırı telafi etmesine, diğerlerinde ise aşırı temkinli olmasına yol açarak utanç verici ve yanlış görüntülere neden oldu.” şeklinde ekledi. Google’ın Gemini görüntü oluşturucusundaki bu kuralları düzeltme sürecinin ne kadar süreceği henüz bilinmiyor. Raghavan, Gemini’nin asla saldırgan sanat eserleri üretmeyeceğine söz veremese de Google’ın “bir sorun tespit edildiğinde hızla harekete geçmeye devam edeceğini” belirtti.
