ホフスタッターは何を恐れているのか

ホフスタッター氏の言葉を聞いたグーグルのAI研究者たちの多くは、「なにを今さら」と感じたようです。AI分野に携わっている人なら、、「スーパーインテリジェント(超高度な知能)を持つ機械が悪と化す」という話題に慣れています。いわく「高性能化したAIに仕事を奪われる」「AIに自律的な判断を任せると大惨事を招く」といったものです。

しかし、ホフスタッター氏がAIを恐れる理由は、こうした脅威論・悲観論によるものではありませんでした。

ホフスタッターの恐怖は、まったく違うものに対してだった。AIが度を超えて賢くなる、侵略的になる、有害化するといったことでも、あるいは役に立ちすぎるということにでもなかった。
 彼が恐ろしくなったのは、「知性、創造性、感情、あるいは意識そのものさえ、あまりに簡単につくれるようになるのではないか」「自分が人間性で最も大切だと思っていたものが、『便利なツール』にすぎなくなってしまうのではないか」「うわべだけをまねるしらみつぶしのアルゴリズムが、人間の精神を解き明かせるようになるのではないか」ということに対してだった。
(「はじめに 恐怖にとらわれる」 17~18ページ)

ホフスタッター氏の関心は、GEB本で人間の知能の本質を説いたときから一貫して、人間の創造性にあります。私たちを人間たらしめている大切な要素、創造性すらAIが獲得できるのなら、私たちの価値はどこにあるのでしょうか。このことが、AIの進歩が著しい今、ホフスタッター氏を苦しめている心配事だったのです。

その心配は杞憂なのか

その心配事はどれほど重要なのか。それを解き明かすために、ホフスタッター氏のまな弟子にしてAI研究者であるミッチェル氏は、AIの現状および将来の見通しをあらためて調べ始めます。その成果をまとめ、一般の人向けに分かりやすく解説した書籍が『教養としてのAI講義』です。

本書では、新旧AIの仕組みと成果から、多くの未解決問題、潜在的な利益とリスク、科学的・論理的な問題まで、最新AIの現況と今後の見通しを深く掘り下げつつ、ビジネスパーソンに向けてわかりやすく説明しています。

ビジネス書などの書評を紹介