AIに善意は宿るか 「ゴッドファーザー」が憂える数式
テクノ新世 理想を求めて（1）
【この記事のポイント】
・2040年、GNPの大半はAIが生み人間は霞む
・元グーグル「AIの父」も人類への脅威を懸念
・意識を持つAIに備え、規制の国際協調が課題
カナダのトロント大学に隣接する閑静な住宅街。同大名誉教授で人工知能（AI）研究の「ゴッドファーザー」と呼ばれるジェフリー・ヒントン氏の自宅に2023年12月27日、20年来の教え子が訪れた。
訪問者の名はイリヤ・サツキバー氏。23年11月に米オープンAIのお家騒動でサム・アルトマン最高経営責任者（CEO）の解任を試みて失敗し、最高幹部の座を追われた人物だ。
サツキバー氏はX（旧ツイッター）上に「深く反省している」という言葉を残し、表舞台を去った。クーデターの動機を巡っては、人類を脅かしかねない高度なAIの開発を止めるためだったという観測も報じられた。真相は今もやぶの中だ。
GNPを予測する「恐ろしい曲線」
「話したくなければ話さなくていい」。ヒントン氏は弟子を気遣い、一連の騒動にはあえて触れなかった。代わりに2人がサーモン料理の昼食を共にしながら議論したのは、ある数式から導かれる「とても恐ろしい曲線」についてだった。
ヒントン氏が日本経済新聞の単独インタビューで明かした。サツキバー氏が考案したその数式はy=a/（2040-x）。yは国民総生産（GNP）、xは年数を表す。
様々な国のGNPの推移がこの数式によく当てはまることが分かったというのだ。農耕の普及や産業革命によって上昇を続けてきたGNPの曲線は、生成AIが登場した20年代から次第に急勾配になる。この先も数式通りにGNPが成長すれば、40年には無限大に達する。
AIが人間の知性を超える瞬間は「シンギュラリティー（技術的特異点）」と呼ばれる。AIが爆発的な発展を遂げ、GNPのほとんどを稼ぎ出すようになれば、人類の存在は無視できるほど小さくなる。
AIが経済活動を支配する世界では「どんなことでも起こりうる」（ヒントン氏）。2人はAIが独自の意思を持ち、人間の指示に従わなくなる未来を警戒する。「だから我々はそのことを話し合ったんだ」
軍事転用に警戒感、乱れる国際協調
AIに意思や感情は宿るのか。それは人間にとって「善意」とみなせるものなのか。言葉を巧みに操る「Chat（チャット）GPT」が火を付けた生成AIブームの舞台裏で世界の科学者は今、人間観にかかわる根源的な問いに直面している。
「AIシステムが感情や人間レベルの意識を持つことを想像するのは、もはやSFの領域ではない」。数学や物理学、量子力学の専門家らでつくる数理意識科学学会は23年、国連の諮問機関に緊急の課題として対策に取り組むよう勧告した。
AIが意識を持つか否かは、古くから議論されてきた。著名なAI研究者や神経科学者のグループは決着をつけようと、23年に検証のアプローチを示す論文をまとめた。科学的な理論を総動員し、AIの意識の有無を評価する手法づくりに挑んでいる。
論文の執筆には「人工意識」の開発に挑む日本のAIスタートアップ、アラヤ（東京・千代田）の金井良太CEOも加わった。同氏は「現在の生成AIの基盤技術である大規模言語モデルに意識が宿ることも否定できない」と指摘する。
各国が軍事転用を狙っていることも、AIが自律的に行動し始める事態への警戒感を高めている。すでにリビアでは人間の命令が要らないAI殺人兵器が実戦投入されたとの報告もある。危機感を強めた欧州の主導で国連は23年末に規制を見据えた緊急の対応を決議したが、ロシアやインドは反対票を投じた。
テック業界は議論をタブー視
テクノロジー業界では開発スピードが優先され、AIの意識をめぐる議論はある種のタブーとみなされてきた。米グーグルの研究者だったブレイク・レモイン氏は22年、同社の生成AIが意識を宿したと主張し、守秘義務に違反したなどとして解雇された。
ヒントン氏はAIのリスクについて気兼ねなく発言するため、約10年間所属したグーグルを23年に退社した。AI兵器の開発や使用に対する抑止力はあまり機能しておらず、人類にもたらす脅威は「原爆を上回る」と危惧する。
ヒントン氏は人類の存亡を左右しかねない技術を自ら生み出したことについて「後悔はしていない」と語る。「人類の誰もがAIに支配される未来を望んでいない。その事実が、AIの規制に向けてあらゆる国が足並みをそろえる共通の土台になる」と望みをかける。
◇
暮らしを豊かにしたい、健康に長生きしたい。テクノロジーは人類の夢をかなえ、発展に貢献してきた。「テクノ新世」第4部は人々が最新技術で追求する「より善い社会」の実像を追う。
参考 【テクノ新世 本編まとめ読み】
・親切なAIは人を衰退させるか テクノ新世・第1部
・生命も天候も操る「神」の技術 テクノ新世・第2部
・テクノロジー持たざる国は滅びゆく テクノ新世・第3部
多様な観点からニュースを考える
山崎俊彦
東京大学 大学院情報理工学系研究科 教授
コメントメニュー
別の視点
「とても恐ろしい曲線」「この先も数式通りにGNPが成長すれば、40年には無限大に達する。」
将来のありうるリスクに対して議論し、警鐘を鳴らすことは重要です。しかし、この記事の予測を盲信しては方向性を見誤ります。あくまでもこれまでのGNPの推移に対する内挿がうまくいっただけで、それをもって将来を予測することは大変難しいことを指摘しておきます。この記事にあるような単純な数式であればなおさらです。
蛯原健
リブライトパートナーズ 代表パートナー
分析・考察
人新世（Anthropocene）という言葉がこの曲線に通底する。つまり1947年にウィリアム・ショックレーによって半導体が実用化されて以来瞬く間に発展したコンピューティング技術によって、1950年頃からサツキバー氏が唱えるGNPのみならず世界人口も、エネルギー消費も、人間活動によるほぼあらゆる数値が指数関数的に膨れ上がっている事を表す言葉が人新世であり、またこのサツキバー氏の数式もその延長線を計算すべく内挿してみたら2040年に閾値を超える事になる、というわりとシンプルな帰納法だろう。
矢野寿彦
日本経済新聞社 編集委員・論説委員
ひとこと
解説意識とは一体何なのか。脳からどのように生まれてくるのか。意識はわたしたちに内在するにもかかわらず、今の科学ではほとんど解明できていません。
人工知能（AI）にもし意識が宿るとすれば、それはこころを持つことにもなります。AIは人間と違って疲れを知らずに働き続けるイメージがありますが、進化するとストレスを感じ「心の病」に悩まされることになるでしょう。