Fight for the Future’dan Zoom’a Açık Mektup
Kar amacı gütmeyen dijital haklar vakfı Fight for the Future ve 27 insan hakları kuruluşu, Zoom’a açık bir mektup göndererek şirketten video konferans platformunda duygusal analiz yapabilen yapay zeka kullanımını durdurmasını talep etti. Bu mektup, Zoom’un gelecekte duygusal yapay zekayı ürününe nasıl entegre edeceğini araştırdığına dair bir Protokol haberine yanıt olarak kaleme alındı.
Gruplar, bu araştırmanın şirketlerin satış görüşmeleri sırasında potansiyel müşterilerin duygusal durumlarını tespit etmek için yapay zekayı nasıl kullanmaya başladığını inceleyen daha geniş bir çabanın parçası olduğunu belirtiyor. Pandeminin başlamasıyla birlikte, video konferanslar dünya genelinde çok daha yaygın hale geldi. Bu dönemde, satış temsilcileri, ekran üzerinden vücut dilini okuyabilme yeteneğinden yoksun oldukları için potansiyel müşterilerin ürün ve hizmetlerine ne kadar açık olduklarını ölçmekte zorlandılar.
Bu bağlamda, şirketler, telefon görüşmeleri sırasında insanların ruh hallerini analiz edebilme kapasitesine sahip teknolojileri kullanmaya başlamışlardır. Protokol’ün bildirdiğine göre, Zoom da benzer bir hizmet sunmayı planlıyor. Fight for the Future ve diğer insan hakları örgütleri, bu çağrının Zoom’un planlarından vazgeçmesi için bir baskı aracı olmasını umuyorlar.
Bu gruplar, bu tür bir teknolojiyi “ayrımcı, manipülatif, potansiyel olarak tehlikeli ve tüm insanların aynı yüz ifadelerini, ses kalıplarını ve beden dilini kullandığı varsayımlarına dayalı” olarak tanımlıyorlar. Ayrıca, teknolojinin doğası gereği önyargılı ve ırkçı olduğuna dikkat çekerek, Zoom’un bu özelliği dahil etmesi durumunda belirli etnik gruplara ve engelli bireylere karşı ayrımcılık yapabileceğini öne sürüyorlar.
Yanlış bir duygusal ifade sergiledikleri takdirde, öğrencilerin veya çalışanların cezalandırılması gibi olumsuz sonuçların ortaya çıkabileceğine de vurgu yapıyorlar. 2021 yılında Cambridge Üniversitesi profesörü Alexa Hagerty tarafından yürütülen bir projede, duygu tanıma yapay zekalarının sınırları ve bu sistemlerin yanıltılmasının ne kadar kolay olduğu ortaya konmuştu. Daha önceki araştırmalar da bu tür programların ırksal önyargılar testinde başarısız olduğunu ve özellikle siyahi yüzleri okuma konusunda zorluklar yaşadığını göstermişti.
Grup, Zoom’un yüz izleme özelliklerinin kullanımını iptal etme kararını anarak, bu durumu kullanıcıları için doğru olanı yapma fırsatı olarak değerlendirerek mektubunu sonlandırdı. Şimdi, Zoom’dan 20 Mayıs 2022 tarihine kadar ürününde duygusal yapay zeka uygulamama taahhüdünde bulunmasını talep ediyorlar.
