OpenAI’nin Eski Yöneticisi Jan Leike, Anthropic’e Katıldı
OpenAI’nin eski yapay zeka güvenliği yöneticilerinden biri olan Jan Leike, rakip şirket Anthropic’e katıldı. Leike, geçtiğimiz ayın başlarında OpenAI’den ayrıldığını duyurdu. Ayrılığının gerekçesi, OpenAI’nin varsayımsal süper akıllı yapay zekalar üzerindeki kontrolü sürdürme yönündeki çabaları olan süper hizalamadan vazgeçiyor olmalarıydı.
Yeni pozisyonunda, Leike süper hizalama üzerine çalışmalarına devam edeceğini belirtti. Anthropic ekibi, ölçeklenebilir gözetim, zayıftan güçlüye genelleme (zayıf yapay zeka sistemlerinin daha güçlü yapay zekalara rehberlik etme süreci) ve otomatik hizalama araştırması üzerinde yoğunlaşacak. Leike, X üzerinde paylaştığı bir gönderide, gerekli becerilere sahip olanların ekibine katılmak istemeleri durumunda kendisiyle doğrudan iletişime geçebileceklerini ifade etti.
Jan Leike’nin ayrılığı, OpenAI kurucu ortağı Ilya Sutskever ile birlikte gerçekleşti. İkili, Mayıs ayında şirketten ayrıldılar. O dönemde şirket içindeki kaynaklar, OpenAI’nin süper hizalama ekibini dağıttığını ve bu alanda çalışanları diğer projelere yönlendirdiğini bildirmişti.
Ayrıca, Leike OpenAI’den ayrılırken, şirketin gidişatını eleştirerek Sam Altman ve Greg Brockman’ı güvenlik konusuna daha fazla önem vermeye ve bu durumu bildiren bir açıklama yapmaya zorladı. OpenAI, Leike’nin ayrılığının ardından güvenlik süreçlerini güçlendirmek amacıyla yeni ürünler geliştirmeye başladı ve bu süreçlerin denetimi için bir güvenlik komitesinin kurulduğunu duyurdu.
