Amerikalı oyuncu Kellin Pelrine, yanılgıdan yararlanarak KataGo sistemini mağlup etti ve 15 oyunun 14’ünü bilgisayar yardımı olmadan kazandı. Bu, AlphaGo’nun şu anki AI çılgınlığının önünü açan bir dönüm noktası kabul edilen 2016 zaferinden bu yana beşerler için nadiren gerçekleşen bir Go galibiyeti. Ayrıyeten, en gelişmiş AI sistemlerinin bile göze batan kör noktalara sahip olabileceğini göstermesi açısından da kıymetli bir zafer.
Pelrine’in zaferi, KataGo’nun zayıflıklarını araştırmak üzere bir program geliştiren FAR AI isimli bir araştırma firması sayesinde mümkün oldu. Program bir milyondan fazla oyun oynadıktan sonra uygun bir amatör oyuncunun yararlanabileceği bir zayıflık bulmayı başarabildi. Pelrine, “tamamen değersiz olduğunu söylemek istemiyorum fakat öğrenmesi çok da güç olmadı” dedi. Pelrine tıpkı tekniği, öteki bir en âlâ Go AI olan Leela Zero’yu yenmek için de kullandı.
İnsan, bir robotun yardımıyla AI’yı Go’da yendi
Hata, AI sistemlerinin eğitimlerinin ötesinde hakikaten “düşünemeyeceğini” gösteriyor, bu nedenle ekseriyetle insanlara inanılmaz derecede aptalca görünen şeyler yapıyorlar. Microsoft’un Bing arama motoru tarafından kullanılana emsal sohbet robotlarında da benzeri şeyler gördük. Robot bir seyahat güzergahı bulmak üzere kolay misyonlarda uygun olsa da, birebir vakitte yanlış bilgiler veriyor ve vaktini boşa harcadığı için kullanıcıları azarlıyor ve hatta muhtemelen üzerinde eğitildiği modeller nedeniyle “akılsız” davranışlar sergiliyor.
Lightvector (KataGo’nun geliştiricisi), oyuncuların birkaç aydır istismar ettiği sorunun mutlaka farkında. Bir GitHub gönderisinde, istismarı kullanan çeşitli akın cinsleri için bir düzeltme üzerinde çalıştıkları söylendi.