AI、弱点は「常識知らず」

状況把握が苦手、活用に課題

 

 受験シーズンたけなわだ。国立情報学研究所(NII)などが開発を進めている人工知能(AI)の「東ロボくん」も、2021年度の東大合格を目指している。成績は上がってきたが、意外な弱点があることがわかってきた。機械の脳は、人間が経験を通じて獲得した膨大な「常識」を持たず、そのことが文意の理解や状況の把握のハンデとなる。問題は入試に限ったことではなく、今後の人工知能の活用を考えるうえで、重要な課題となりそうだ。

 「数学と歴史は胸を張ってよいレベル」。2015年11月、東ロボくんの成果報告会で、出題したベネッセコーポレーションの担当者はこう評した。東ロボくんの開発がスタートしたのは11年度。13年度に初めてセンター試験の模試を受けたときの偏差値は45だったが、今年度は57.8。受験生の平均点を超えた。
 世界史は安定して8割の得点を取れるようになった。数学は、筑波大学チームが作った数列の問題を解くアルゴリズムで点を伸ばした。「昔の私より、東ロボくんの方が成績が上です」と、チームの中井章准教授は笑う。
 一方、物理は苦戦を強いられている。最大の壁は、問題文の理解だ。数式や定型の表現が多く、設問の意味が1つに定まる数学と違い、物理ではまず、文章で説明された状況を把握する必要がある。
 例えば「時速40`で走る自動車から後方に投げたボールの運動」について聞かれれば、人間なら誰でも、道を走る自動車の窓から外に向かってボールを投げる光景を思い描くだろう。その背後には、これまでの経験で培ってきた膨大な知識の蓄積がある。「自動車とは人が乗って動くものだ」 「ボールは外に向かって投げた」 「自動車には重力が働いている」。どれも問題文には書いてないが、当然の前提となっている。
 だが日常生活を送った経験がないコンピューターは、そうした「常識」を持たない。そのため問題文の説明から、常識を頼りに状況を把握することができないのだ。
 プロジェクトを率いるNIの新井紀子教授は、物理への挑戦を「ロボティクスの今後を占うのに重要な取り組み」と位置づける。それは将来、家庭や町中で働くロボッ上が身の回りの出来事をどこまで把握できるかを占う試金石となる。
 人間の常識を、辞書のよう」にロボットに与えることは可能だろうか。物理の解答プログラムを開発したNIIの稲邑哲也准教授は「現実世界と言葉は1対1対応しておらず、難しい」と指摘する。
 例えば「かばんを持つ」と「かばんをぶらさげる」はほぼ同じ動作を表しているが、「かぽんを持つ」と「鉄棒を持つ」の「持つ」はまったく違う。人間が状況把握に用いるあらゆる常識をロボットに教えるのは不可能に近い。
 「常識」は、経験から得られるものだけではない。人間は生まれたばかりの赤ん坊でも、例えば「空腹になったら食べなくてはいけない」 「動いているものに注目する」ことを知っている。それは生物進化の長い歴史の中で、人間が獲得した「常識」だ。
 我々が現実世界で下す判断や行動の多くは、そうした「常識」に基づいている。一方、生身の体がないコンピューターやロボットは、何ら「常識」を持っていない。どれだけAIが進歩しても、コンピューターが人と同じようにこの世界を認識するようにはならないとみられる。
 NIIの新井教授は「物理の試験結果は、自動運転車(の{開発)に重い課題を残したと思う」と話す。たとえば運転中に何かが飛び出してきて、進めばぶつかるが、避ければガードレールに衝突するような場合、人間は状況を瞬時に把握し、自己防衛を最優先しつつ、できれば他者も守ろうとして、とっさの判断を下すだろう。だがロボットに、そうした判断は難しい。
 かってアイザック・アシモフは、「人を傷つけない」「自分を守る」など、ロボットが守るべき3つの原則を提唱した。だがこの原則を守るには、目的のためにどんな行動を取るべきかを判断する必要がある。それには何よりも「常識」が必要なのだ。
 人工知能のゴールは、おそらく人間の知能ではないだろう。ロボットの特徴を生かし、ロボットにしかできないタスクを担う、新たな知能を目指す必要があると専門家の多くは考えている。新井教授は「人と機械の生産性のベストミックスを探るのが大事だ」と指摘する。
 人工知能は今後、どこに向かうのか。具体的な形はまだ見えていないが、東ロボくんが今後、そのヒントをくれるかもしれない。

 


キーワード


東ロボくん 科目ごとに解答ソフト開発

 国立情報学研究所が中心になって進める人工知能(AI)の開発プロジェクト。様々な企業や大学の研究者らが科目ごとにチームを組み、東京大学の入学試験の問題を解くソフトウエアを開発する。
 大学入試は出題の範囲が明確に決まっており、解答に必要な作業もはっきりしている。AIが対応しやすい課題ということで選ばれたが、実際には「常識」を予想以上に必要としていて、一筋縄ではいかないことがわかった。
 米国でもコンピューターに数学の問題を解かせるプロジェクトが実施されたが、設問に書かれていない、人間には自明の条件を理解させることが大きな課題だったという。

 

 

 

戻る