AIを完璧だと思い込んでは危険
羽生 人間が相手なら許せるけれど、AIだと許せないということは確かにある。論理とは別の感情の問題です。裁判官、検察官、弁護士が全てAIだったらスピード決裁できるのでしょうけれど、それで本当に間違いがないのか、そしてみんなが納得するのか。正解はないですよね。もう一つ、AIって決して完璧ではないという点も忘れてはいけない。人間って不思議で、今はまだAIにアレルギーもありますけれど、ある程度AIが実用的に運用されるようになると、完璧なものと思い込んでしまうでしょう
小松 AIも機械ですから、ミスすることもある。確かにそうです。
羽生 人間よりは間違えないかもしれないけれど、ミスをする可能性もある。たとえばATMがミスしたら怒るでしょう？ でも、本当はATMだって間違えることはあるはず。人間はATMを受け入れたとたんに完全に信用してしまっているんです。これと同じで、AIだって完璧ではないんです。しかし「ミスするかもしれない」という技術は、世の中に普及しない。「完璧です」って言って普及させようとする。だからこそ、将来AIで何か深刻なトラブルが起きたときに収拾がつかなくなってしまうかもしれないなあと恐れています。
小松 AI将棋はどうでしょう。違和感を覚えることはありますか。
羽生 AI将棋はどこかおみくじを引いているようなところもあるんですよ。出てくる手がランダムなんです。例えば人間ならば、同じ人が時間の経過とともに「こう判断した」という部分が見えますが、AIはその時その時で点数が高い手を選んでいるから、方向性がありません。アルファゼロの棋譜も見ましたが、強いことはわかるんだけどどう強いのか説明がつかないんですよ。なんとなくブラックボックスだなあと思うこともあります。
小松 完璧じゃないとなると、AI時代も人間の出番は残ると思いますか。
