Yapay Zeka Güvenliği İçin Yeni Bir Adım: Frontier Model Forum
Temmuz 2023’te dört büyük teknoloji şirketi olan OpenAI, Microsoft, Google ve Anthropic, Frontier Model Forum adında bir platform kurduklarını resmi olarak duyurdular. Bu forum, üretken yapay zekanın, özellikle de sınır yapay zeka modellerinin güvenli ve sorumlu bir şekilde geliştirilmesini sağlamak amacıyla oluşturulmuştur.
Son gelişmelerle birlikte, bu şirketler Frontier Model Forum’un ilk İcra Direktörü olarak Chris Meserole‘un atandığını ve yapay zeka güvenliği alanındaki araştırmaları desteklemek amacıyla 10 milyon dolardan fazla bir yatırım ile bir yapay zeka güvenlik fonu kurduklarını açıkladılar. Bu fon, yapay zeka güvenliğine dair önemli projeleri finanse etmeyi hedefliyor.
Yapay Zeka Güvenlik Fonu’na, dört teknoloji devi şirketin yanı sıra Patrick J. McGovern Vakfı, David ve Lucile Packard Vakfı, Eric Schmidt (Google’ın eski CEO’su ve hayırsever) ve Jaan Tallinn (Estonyalı milyarder) gibi önemli isimler de katkıda bulunuyor. Fon, yeni model değerlendirmelerinin ve yapay zeka sistemlerinin kırmızı ekip olarak kullanılmasına yönelik tekniklerin geliştirilmesine öncelik verecek. Bu bağlamda, fon, sınır sistemlerinin potansiyel tehlikeli yeteneklerine yönelik değerlendirme tekniklerinin geliştirilmesi ve test edilmesi konularında önemli bir rol oynamayı hedefliyor.
En son çalışma grubu güncellemesinde grup, kırmızı ekip için “Zararlı yeteneklerin, çıktılarının veya altyapı tehditlerinin belirlenmesi için yapay zeka sistemlerini ve ürünlerini araştırmaya yönelik yapılandırılmış bir süreç” tanımı getirmiştir. Ayrıca, bu konuyla ilgili vurgulayan vaka çalışmaları da paylaşılmaktadır.
Yayınlanan blog yazısında Forum’un yakın zamanda yürütmekte olduğu bazı projelere de değinilmiştir. Forum, öncü yapay zeka laboratuvarlarının, öncü yapay zeka modellerindeki güvenlik açıklarının veya potansiyel tehlikeli yeteneklerin keşfedilmesi ve bunların hafifletilmesiyle ilgili bilgileri paylaşmasına olanak tanıyacak yeni bir süreç üzerinde çalışmaktadır. Ayrıca, gelecekte strateji geliştirmeye yardımcı olacak bir Danışma Kurulu kurmayı planladıkları da belirtilmektedir.
