時論・創論・複眼
生成AIが問うもの
人間の自己決定守れるか
グレン・ワイル氏/山本龍彦氏
文書を自動的につくる「Chat（チャット）GPT」の急速な進化と普及を受け、生成AI（人工知能）への期待と警戒感が同時に高まっている。民主主義の根幹となる人間の意思決定への影響も指摘されている。世界に巨大な光と影をもたらしうる新技術に対し、人類はどう向き合うべきか。経済社会や法律に詳しい日米の論客に聞いた。
◇ ◇ ◇
社会が関与し技術発展を
マイクロソフト研究主任 グレン・ワイル氏
Glen Weyl 2008年米プリンストン大経済学博士。社会の多様性を推進する米マイクロソフトのプロジェクトの研究主任
生成AIは私が生きている間に起きた最も大きな変革の一つだ。生産性の向上や特定の課題を解決するという話ではなく、「どんな未来を生きるのか」というビジョンにかかわる変革をもたらしうる。
長い間、我々は単純なシステムで社会を築いてきた。私有財産を保有し、IDカードで番号が与えられ、政府と関係づけられている。投票というシンプルなシステムを持ち「一人一票」のような形で政治に関わる。背景には政府などが個々の複雑な生活を把握するのが難しいという事情があり、近代的な国民国家では画一的な管理を用いてきた。
生成AIの最もエキサイティングな可能性のひとつは、人々がより多様な方法で生活できるようになることだ。（米オープンAIが開発した最先端AIの）「GPT-4」は何十もの言語を流暢に操る。シェイクスピアのような詩を書いて数学を説明したり、米国人が日本文化の文脈で自分を表現する方法を理解したり、インドの方言を話す人が植民地支配の被害に関して英語で法的文書を書いたりすることができるようになる。
単にコミュニケーションや翻訳が容易になるだけではない。そのような「普遍的な翻訳装置」が実現すれば、全ての人が英語や「近代西洋」文化に合致した生き方を学ぶことは重要ではなくなる。多様な生き方をしつつ互いに協力し合えるシステムを実現できる可能性がある。
生成AIには恐ろしい面もある。もしデジタルコンテンツや出生証明書、通貨などをほぼ完璧に複製し、変更し、それらを印刷して普及させられれば、私たちが依拠する統治基盤の大半がおかしくなってしまう。
従来の行政や官僚機構は制限的で、誤りもたくさんあった。多様性を減らし、あらゆるものを均質化してきた。一方でそれらが解消されることは恐怖でもある。生活を支配する多くのシステムが崩れてしまうかもしれない。
雇用への影響を民間だけに任せた場合、最も予想できるのは現在人間が取り組んでいる仕事がより安く、自動化されることだ。放置すれば有意義な経済機会の多くが失われることになる。少数が主導するやり方では、取り残された人々の潜在能力をすべて活用することは難しい。望ましい道とはいえない。
生成AIには人々をより生産的にし、あらゆる能力を活用する可能性があることは間違いない。ただ自動化と置き換えによる最も直接的な道筋をたどれば、企業の利益だけが伸びてしまう。今後10年間で、企業の収益が上がり賃金の割合が低下する可能性は十分にある。
これらの問題を考える際に重要なテーマは2つある。一つは「AIにどんな制限をかけるべきか」ということ。もう一つは「開発すべき補完的な技術は何か」だ。
その点、米国の技術開発の歴史が参考になるのではないか。1960?80年はコンピューター技術に対する政府の主な役割は規制ではなく「構築」だった。インターネットは政府先導で構築された。一方、2000?20年にかけては政府が規制を試みた時期だった。テクノロジーの形成段階では、規制の時期よりも、国民が望む目標を達成するために多くのことを実現した。
生成AIについても、テクノロジーの形成に向けた公共投資にもっと力を入れてほしい。政府の役割としては規制することも必要だが、アプローチとしては、事後的な対処だけでなく（先を見越す）プロアクティブな開発にも目を向けないと、間違った方向に進んでしまうだろう。
テクノロジーの進化を人類の利益につなげるには研究者や民間企業にすべてを任せるのではなく、政府や社会のさまざまなセクターが、技術の形成と開発に積極的に参加し、関与することが必要だ。
例えば台湾はデジタル技術の発展に社会的なセクターが深く関与したことで、成功している。こうしたケースを実現するには人々が切迫感や脅威を感じると同時に、自分たちが関われば何かが変わるかもしれないという希望や可能性を感じる必要がある。
◇ ◇ ◇
人間の自己決定 守れるか
慶応大法科大学院教授 山本龍彦氏
やまもと・たつひこ 2007年慶応大法学博士。専門は憲法学。14年から現職。17年に米ワシントン大客員教授
AIが人間社会に与えうるインパクトは従来、動力機械の利用、移動の高速化、企業の発達、企業で働く労働形態の広がりなどで人間の行動様式を大きく変えた19世紀の産業革命の類推で語られることが多かった。しかし、あらゆる問いに答え、事柄を言語で表せる生成AIの登場で、その類推ではAIのインパクトの深さを捉えきれなくなったように思える。
もちろん生成AIは事務作業や創作活動など人間の行動様式も変えるだろう。ただ、もっと重要なのは意思決定の過程、つまり人間の思考様式を生成AIが直接変えるかもしれない点ではないだろうか。特に、AIを使いながら個人が下す判断が社会全体の意思の形成と決定に反映されることで、社会の統治プロセスがAIの影響を受ける可能性に注目したい。
社会全体の意思決定のプロセスが根本的に変われば、産業革命よりはるか前、ルネサンスと宗教改革で起きた欧州社会の大変革以来になる。
中世の欧州では、あらゆることは神が決め、人間は神の決定の解釈者であるカトリック教会に従うべきだという世界観で人々は生きていた。人間が自分の理性で判断し意思決定することは、どちらかというと「悪いこと」だった。その後のルネサンスと宗教改革を経て初めて、個人や社会のことは人間が自らの意思で決める、つまり人間中心の世界観が普通になった。
この大変革により、個人の自己決定を尊重する原則、自己決定の集積としての民主主義、それを制度化した近代立憲主義という近代の統治原理の基礎が確立した。それ以来今日まで、産業や技術の革新があっても、人間が自己決定に基づいて社会を統治するという原理は揺るがなかった。だが生成AIが意思決定の過程に深く入り込むと、人間は自律的、主体的に意思決定できる存在だという当然かつ強固な前提も揺らぎかねない。
情報を集めたうえで総合的に判断して結論を出すプロセスのあらゆる部分にAIが活用される場合、それは人間の自己決定といえるのか。AIが人間に提示する知識や推奨する結論を他の誰かが操作してしまうリスクはどうすれば防げるのか。それらの要素を勘案し、人間自身の自己決定を前提にした民主主義による統治の仕組みはいったい、どうすれば維持できるのか。
現在、企業や個人による色々な利用法に応じたリスクの抑制、悪意を持った主体による世論操作や詐欺などの悪用の防止、プライバシーや著作権の保護などのための規制やルールのあり方を巡って議論が盛り上がっている。だが、人間社会の統治のプロセスの深いところでAIをどう扱うのかという、もっと根源的な憲法レベルの問題をそろそろ考える必要がある。
欧州連合（EU）は22年末、EUの憲法に当たる「基本権憲章」で約束した市民の基本権がデジタル社会でも保護されるよう「デジタルの権利と原則に関する宣言」を定めた。その原則に基づき、具体的なAIの用途とリスク別の規制体系を定める「AI法」案を検討している。
米ホワイトハウスは昨年秋、「AI権利章典」の草案を公表し、AI社会において保護されるべき基本的な権利について社会的な合意を確立しようと動いている。これら欧米の動きに共通するのは、いかにAI社会で人間の自己決定権を確保するかという、人間中心主義の理念だ。
日本は欧米に比べ、AI統治の基本理念を明文化する努力が遅れている。有識者会議などを経て、政府や業界のガイドラインのようなソフトな規制を導入しようとの議論もあるが、それでは社会の基本的なルールづくりに市民が参加するという民主主義のプロセスが省かれてしまう。国会での議論が必要ではないか。
たとえば、これまでもデジタル時代の憲法のあり方について議論を重ね知見を蓄積してきた衆議院憲法審査会などの場で、三権分立の枠組みによる統治のプロセスと基本権保護のAI時代でのあり方について、超党派で議論を始めてみてはどうだろう。
◇ ◇ ◇
＜聞き手から＞広い視点で議論 覆る常識に備え
生成AIが人類に与えるインパクトの大きさが議論を呼ぶ（写真はチャットGPTのアプリ）
一般的には無名の存在だった米オープンAIが対話型のAI「チャットGPT」を公開したのは2022年11月末。つい半年前の出来事だ。2カ月で世界の利用者は1億人を超え、今やヒトとAIが自然に「会話」する光景はありふれたものとなった。改めてテクノロジーの進化と、その利用拡大の速さに驚かざるを得ない。
チャットGPTに代表される生成AIは生産性向上などに革新を起こすと期待される一方、偽情報の拡散や偏見の助長、サイバー犯罪への悪用といった弊害が指摘されてきた。技術が生み出す光と影が世界で議論されているが、そこではより広い視点を取り入れていく必要がある。
慶応大の山本龍彦教授は生成AIが人間の意思決定や思考様式、社会の統治プロセスに影響を及ぼす可能性を指摘し、マイクロソフトのグレン・ワイル氏は人類の「未来のビジョン」を左右するとの見方を示した。
言語は人間が社会を形成していくうえでの根幹に関わる存在だ。AIが言語を巧みに扱うことには想像している以上の意味があり、これまで成り立ってきた常識がさまざまな場面で覆るかもしれない。
そのインパクトは世界のリーダーらも無視できないほど拡大し、主要7カ国首脳会議（G7広島サミット）の首脳宣言は「責任あるAIの推進」の重要性を強調した。生成AIとどう向き合うか、あらゆる階層で未来を分ける選択が迫られてくる。