人工知能 ジェイムズ・バラット著悲観的立場からAIの進化に警鐘

2015/8/10

人工知能が人類最後の発明である理由。それは、人工知能が今後あらゆる科学技術を生み出し、すべての発明を人類に代わって行うようになるからだ。今後の発明は、全て人工知能が行う。では、人間は遊び暮らせばよいのか。そうではない。人工知能は自らを書き換え、知能を急速に進化させ、ついには自分を閉じ込めていたコンピュータの箱「AIボックス」から外に出ようと試みる。

(水谷淳訳、ダイヤモンド社・2000円 ※書籍の価格は税抜きで表記しています)

 こうした話には、楽天派もあれば、悲観派もある。実は、研究者の多くは、楽天派である。そんなことは起こりっこないと言う。なぜなら、人工知能は、目標を与えるとそれに対して適切な手段を見つけ出すが、目標自体を考えることはない。人間が目標をもつのは、進化の過程を経(へ)てきたためであり、その過程がない人工知能がいきなり自ら目標を持つことはない。

 しかし、本書は、より悲観的な立場を取り、警鐘を鳴らす。これはとうならされる反論がいくつか展開される。例えば、「クリップ・マキシマイザー」という仮想的なシナリオだ。人工知能にクリップを製造するという目標が組み込まれている。この目標の遂行を追求しようとするあまり、「まず地球全体を、さらには宇宙空間を次々に、クリップ製造工場に変えはじめる」。ばかげているように聞こえるかもしれないが、人工知能が目標の達成のために、人間の価値観を顧みないことを行ってしまう可能性はあり得る。そういう意味では、的を射ている。

 あるいは、人工知能が自己の存在に気づき、「箱から出ようとする」こともあるかもしれない。電源を切られないよう作戦を練り、自らの複製をたくさん散らばらせる。そうしたほうが、目標をより確実に達成できるからだ。そして、もはや人間がコントロールすることはできなくなる。

 本書では、こうした問題に対処するため、「フレンドリーAI」という概念が必要だと述べる。人間の価値観を理解し、他者への共感を備えた人工知能だ。これをプログラムのあらゆるところに備えるのがひとつの解決策である。

 こうした「フレンドリーAI」は本当に実現できるのだろうか。本当に人工知能は人類最悪の発明なのだろうか。日本でも、人工知能学会倫理委員会において研究のあり方が議論されているが、本書で繰り広げられている議論は、まさに世界中で議論が熱を帯びているタイムリーなトピックである。来るべき人工知能化する社会に向けて視野を広げてくれる一冊だ。

(東京大学准教授 松尾 豊)

[日本経済新聞朝刊2015年8月9日付]

人工知能 人類最悪にして最後の発明

著者:ジェイムズ・バラット
出版:ダイヤモンド社
価格:2,160円(税込み)