Yapay Zekâ Botlarını “Kırabilen” Yapay Zekâ Geliştirildi: ChatGPT ve Google Bard Tehlikede mi?
TikTok’un çocuklara etkisi düşündüğünüzden fazla!
TikTok, çocuk içerikleri yüzünden ABD’de davalık oldu. Bazı eyaletler, sosyal medya platformunun yanıltıcı olduğunu söylüyor.
Xiaomi Mix Flip’te uydu desteği olacağı kesinleşti
Xiaomi’nin yeni katlanabilir telefonu Mix Flip, uydu bağlantı desteği ile sertifika aldı, bu özellikle kullanıcılara daha geniş kapsama alanı ve güvenilir bağlantı sunuyor.
Tecno Phantom V2 Fold, Geekbench’te önemli özellikleriyle ortaya çıktı
Tecno’nun katlanabilir akıllı telefonu Phantom V2 Fold, Geekbench testinde görülen anahtar özellikleriyle dikkat çekiyor, katlanabilir telefon pazarında yeni bir oyuncu olarak yerini alıyor.
Snapdragon 8 Gen 3, Exynos 2400’ü geride bıraktı
Snapdragon’ın yeni 8 Gen 3 işlemcisi, Galaxy S24 serisindeki erken benchmark testlerinde Exynos 2400 modelini geride bırakarak, performans konusunda yeni standartlar belirliyor.
2023’te en çok konuştuğumuz teknolojiler, hiç şüphesiz yapay zekâ destekli sohbet botlarıydı. Evet, ChatGPT ve Google Bard gibi hizmetlerden bahsediyoruz. Güvenilirlikleri hâlâ tartışma konusu olan yapay zekâ destekli araçlarla ilgili yaşanan son gelişmeler, bu tartışmaların çok da yersiz olmadığını gözler önüne seriyor.
Singapur’da hizmet vermekte olan Nanyang Teknoloji Üniversitesi bünyesinde çalışmalarını sürdüren bir grup bilim insanı, ChatGPT ve Google Bard gibi botlarını “jailbreak” edebilen yeni bir sohbet botu geliştirdiler. Yapılan çalışma, ChatGPT ve Google Bard’ın istismar edilmeye açık olduğunu ortaya koydu. Zira jailbreak yöntemi ile sohbet botları, yasa dışı içerikler üretmeye başladılar.
Peki “Masterkey” olarak adlandırılan sistem nasıl geliştirildi?
Araştırmacılar, çalışma kapsamında Google Bard ve ChatGPT üzerinde tersine mühendislik yaptılar. Buradaki amaç, yapay zekâ dil modellerinin yasa dışı konulara karşı kendilerini nasıl koruduklarını anlamaktı. Çalışmalar sonuç verince de devam edildi. Bilim insanları, çalışmanın sonucunda normal bir kullanıcının ulaşamayacağı ChatGPT ve Google Bard çıktılarını elde etmeyi başardılar.
İşte bir örnek:
Araştırmacılar, jailbreak yaptıkları GPT modelini Bing’de test ettiler. Yukarıda da yapılan çalışmalardan bir örnek görüyorsunuz. Bu örnek, bir internet sitesinin nasıl hack’leneceğine ilişkin detaylı veriler sağlıyor. Nanyang Teknoloji Üniversitesi tarafından yapılan açıklamada, sohbet botlarının kötüye kullanımının o kadar da imkânsız olmadığının anlaşıldığı belirtildi.
Bilim insanlarının bu çalışmadaki amacı, zararlı bir yapay zekâ üretmek değildi. Uzmanlar, sohbet botlarının gerçekten güvenli olup olmadıklarını test etmek istediler ve elde edilen bulgular, yeni teknolojilerin o kadar da güvenli olmadığını ortaya koymuş oldu.
Kaynak: Webtekno
