İnsan, bir robotun yardımıyla AI’yı Go’da yendi

Amerikalı oyuncu Kellin Pelrine, hatadan yararlanarak KataGo sistemini mağlup etti ve 15 oyunun 14’ünü bilgisayar yardımı olmadan kazandı. Bu, AlphaGo’nun şu anki AI çılgınlığının önünü açan bir dönüm noktası kabul edilen 2016 zaferinden bu yana insanlar için nadiren gerçekleşen bir Go galibiyeti. Ayrıca, en gelişmiş AI sistemlerinin bile göze batan kör noktalara sahip olabileceğini göstermesi açısından da önemli bir zafer.

Pelrine’in zaferi, KataGo’nun zayıflıklarını araştırmak üzere bir program geliştiren FAR AI adlı bir araştırma firması sayesinde mümkün oldu. Program bir milyondan fazla oyun oynadıktan sonra iyi bir amatör oyuncunun yararlanabileceği bir zayıflık bulmayı başarabildi. Pelrine, “tamamen önemsiz olduğunu söylemek istemiyorum ama öğrenmesi çok da zor olmadı” dedi. Pelrine aynı yöntemi, başka bir en iyi Go AI olan Leela Zero’yu yenmek için de kullandı.

İnsan, bir robotun yardımıyla AI’yı Go’da yendi

Hata, AI sistemlerinin eğitimlerinin ötesinde gerçekten “düşünemeyeceğini” gösteriyor, bu nedenle genellikle insanlara inanılmaz derecede aptalca görünen şeyler yapıyorlar. Microsoft’un Bing arama motoru tarafından kullanılana benzer sohbet robotlarında da benzer şeyler gördük. Robot bir seyahat güzergahı bulmak gibi basit görevlerde iyi olsa da, aynı zamanda yanlış bilgiler veriyor ve zamanını boşa harcadığı için kullanıcıları azarlıyor ve hatta muhtemelen üzerinde eğitildiği modeller nedeniyle “akılsız” davranışlar sergiliyor.

Lightvector (KataGo’nun geliştiricisi), oyuncuların birkaç aydır istismar ettiği sorunun kesinlikle farkında. Bir GitHub gönderisinde, istismarı kullanan çeşitli saldırı türleri için bir düzeltme üzerinde çalıştıkları söylendi.