Aspen Güvenlik Forumu’nda CoSAI Duyurusu
Son dönemde düzenlenen Aspen Güvenlik Forumu’nda, Güvenli Yapay Zeka Koalisyonu (CoSAI) adıyla yeni bir endüstri kuruluşunun tanıtımı gerçekleştirildi. Bu heyecan verici girişim, yapay zeka alanındaki güvenlik standartlarını yükseltmeyi amaçlıyor. CoSAI’nin kurucu Premier Sponsorları arasında teknoloji devleri Google, IBM, Intel, Microsoft, NVIDIA ve PayPal yer alıyor. Ayrıca, Amazon, Anthropic, Cisco, Chainguard, Cohere, GenLab, OpenAI ve Wiz gibi diğer önemli firmalar da koalisyonun kurucu sponsorları arasında bulunuyor.
CoSAI, açık kaynak metodolojileri, standartlaştırılmış taslaklar ve araçlar aracılığıyla, geliştiricilerin Tasarım Yoluyla Güvenli Yapay Zeka sistemleri oluşturmalarına rehberlik sağlamayı hedefliyor. Bu kuruluş, yapay zeka sistemlerinin güvenli bir şekilde geliştirilmesi, entegrasyonu, konuşlandırılması ve işletilmesine özel bir vurgu yapacak. Aynı zamanda, model hırsızlığı, veri zehirlenmesi, anında enjeksiyon, ölçekli kötüye kullanım ve çıkarım saldırıları gibi ciddi riskleri azaltmak için stratejiler geliştirecek.
CoSAI, diğer açık kaynak topluluk projelerine benzer şekilde, genel teknik gündemini ilerletmek ve yönetmek için bir Proje Yönetim Kurulu oluşturacak. Bunun yanı sıra, akademi ve endüstriden yapay zeka uzmanlarından oluşan bir Teknik Yönlendirme Komitesi
Bildirilenlere göre, CoSAI’nin ilk çalışmaları arasında yapay zeka sistemleri için yazılım tedarik zinciri güvenliği, savunucuları değişen siber güvenlik ortamına hazırlamak ve yapay zeka güvenlik yönetimi gibi kritik konular yer alacak. Google CoSAI Yönetim Kurulu eş başkanı David LaBianca, CoSAI’nin kuruluşuna ilişkin yaptığı açıklamada, bu organizasyonun yapay zekanın güvenli entegrasyonu ve dağıtımı için gerekli olan bilgi ve ilerlemelerin demokratikleştirilmesi gerekliliği temelinde şekillendiğini vurguladı. LaBianca, OASIS Open’ın yardımıyla bu çalışmayı ve önde gelen şirketler, uzmanlar ve akademisyenler arasındaki iş birliğini sürdürmeyi büyük bir heyecanla beklediklerini ifade etti.
