Temmuz 2023’te dört teknoloji devi Open AI, Microsoft, Google ve Anthropic, Frontier Model Forum adlı bir platform kurduklarını duyurdu. Forum, üretken yapay zekanın, özellikle de sınır yapay zeka modellerinin güvenli ve sorumlu bir şekilde geliştirilmesini sağlamayı amaçlıyordu.

Ve şimdi şirketler, Frontier Model Forum’un ilk İcra Direktörü olarak Chris Meserole‘un atandığını ve yapay zeka güvenliği alanındaki araştırmaları geliştirmek için 10 milyon dolardan fazla bir girişimle bir yapay zeka güvenlik fonu kurulduğunu ortak bir açıklama ile duyurdu. Yapay Zeka Güvenlik Fonu’na dört teknoloji devinin yanı sıra Patrick J. McGovern Vakfı, David ve Lucile Packard Vakfı, Eric Schmidt (Google’ın eski CEO’su ve hayırsever) ve Jaan Tallinn (Estonyalı milyarder) önemli katkılarda bulunuyor.

Fon, yeni model değerlendirmelerinin ve yapay zeka modellerinin kırmızı ekip olarak kullanılmasına yönelik tekniklerin geliştirilmesine öncelik verecek. Dolayısıyla bunlar, sınır sistemlerinin tehlikeli olabilecek yeteneklerine yönelik değerlendirme tekniklerinin geliştirilmesine ve test edilmesine yardımcı olacak.

En son çalışma grubu güncellemesinde grup, kırmızı ekip için “Zararlı yeteneklerin, çıktıların veya altyapı tehditlerinin belirlenmesi için YZ sistemlerini ve ürünlerini araştırmaya yönelik yapılandırılmış bir süreç” şeklinde bir tanım getiriyor. Ayrıca konuyu vurgulayan vaka çalışmaları da paylaşılıyor.

Yayınlanan blog yazısında ayrıca Forum’un yakın zamanda devam eden bazı projelerinden de bahsedildi. Forum, öncü yapay zeka laboratuvarlarının, öncü yapay zeka modellerindeki güvenlik açıklarının veya potansiyel olarak tehlikeli yeteneklerin keşfedilmesi ve bunların hafifletilmesiyle ilgili bilgileri paylaşmasına imkan tanıyacak yeni bir süreç üzerinde çalışıyor. Ayrıca gelecekte strateji oluşturmaya yardımcı olacak bir Danışma Kurulu kurmayı planlıyor.

Kaynak: Chip