New York Şehir Hükümeti’nin AI Sohbet Robotu Yanıltıcı Bilgiler Veriyor
The Markup tarafından yayımlanan habere göre, New York City hükümeti, işletme sahiplerinin yasal bilgilere erişimini kolaylaştırmak amacıyla geliştirdiği bir yapay zeka sohbet robotunun güvenilirlik sorunlarıyla karşı karşıya. Bu robot, bazı durumlarda kullanıcılara yasalara aykırı eylemler hakkında yanıltıcı bilgiler sunuyor.
Yerel kar amacı gütmeyen haber kuruluşları Documented ve The City ile birlikte yapılan araştırmalar, bu sohbet robotunun konut politikaları, işçi hakları ve daha birçok konuda verdiği yanıtlardaki hataların sayısının fazlalığını gözler önüne seriyor. New York City Belediye Başkanı Adams yönetimi, Mart 2023’te “şehir hizmetleri ve avantajları için tek adres” olarak tanıtılan MyCity portalına ek olarak, Ekim ayında bu AI sohbet robotunu hizmete sundu.
Microsoft’un Azure AI teknolojisi ile desteklenen bu sohbet robotu, mevcut ve potansiyel işletme sahiplerini hedef alarak, şehir yönetiminin web sitelerinden elde edilen “işlem yapılabilir ve güvenilir bilgi” kaynağı olarak tanıtılıyor. Ancak, şehrin yaptığı açıklamalara göre, bu robot hâlâ bir pilot program aşamasında ve üzerinde geliştirme çalışmaları devam etmekte.
Resmi web sitesinde yer alan uyarı, “bazen yanlış, zararlı veya önyargılı içerik üretebileceği” hususunu özellikle vurguluyor. Buna rağmen, The Markup‘ın raporuna ve sunduğu örneklere göre, yapılan testlerde beklenenden çok daha fazla yanlış bilgi tespit edilmiştir. Hatta, The Markup ile görüşen bir konut politikası uzmanı, sohbet robotunu en kötü ihtimalle “tehlikeli derecede hatalı” olarak nitelendirmiştir.
