Yapay zeka geliştirmenin pek çok güvenlik riskini beraberinde getirdiği bir sır değil. Yönetim organları düzenlemeler getirmek için çalışsa da şimdilik önlem almak çoğunlukla şirketlerin kendilerine kalmış durumda. Bunun için son adım, Anthropic, Google, Microsoft ve Open AI‘nin güvenli ve dikkatli yapay zeka geliştirmeye odaklanan Frontier Model Forum‘u ortaklaşa oluşturmasıyla geldi.

Forum, bir danışma komitesi, tüzük ve finansman oluşturmayı planlıyor. Ayrıca yapay zeka güvenlik araştırmalarını ilerletmeye, en iyi uygulamaları belirlemeye, politika yapıcılar, akademisyenler, sivil toplum ve şirketlerle yakın çalışmaya ve toplumun en büyük zorluklarının üstesinden gelmeye yardımcı olabilecek yapay zeka oluşturma çabalarını teşvik etmeye odaklanıyor.

Üyelerin önümüzdeki yıl boyunca ilk üç hedef üzerinde çalışacakları bildirildi. Üyelikten bahsetmişken duyuru, öncü modeller üretmek ve bunları güvenli hale getirme konusunda açık bir kararlılık göstermek gibi katılım için gerekli nitelikleri sıralıyor.

Forumun kurulması, Beyaz Saray ile bu yeni girişimden sorumlu olanlar da dahil olmak üzere önde gelen yapay zeka şirketleri arasında yakın zamanda yapılan bir güvenlik anlaşmasının ardından gerçekleşti. Taahhüt edilen güvenlik önlemleri arasında dış uzmanlar tarafından testler yapılması ve yapay zeka tarafından oluşturulan içeriğe bir filigran konulması yer alıyor.

Kaynak: Chip