テクノ新世
「AIは異星人の知性」
哲学界の若き巨人が鳴らす警鐘
ボン大学のマルクス・ガブリエル教授
人間をしのぐ知性を持つ機械の登場は、意識や精神をめぐる根源的な問いも投げかけている。「『私』は脳ではない」などの著書で知られるドイツ・ボン大学の哲学者、マルクス・ガブリエル教授はブームを巻き起こす人工知能（AI）を「Alien Intelligence（異星人の知性）」と呼び、不意に人類の前に現れた理解が及ばない存在だと語る。
人類の知性の先に生まれた脅威
――テクノロジーの進歩があまりに速く、いずれ人間に制御できなくなるのではないかという懸念が広がっています。
「人間の知性の延長線上に人類の脅威が生まれている。そのことを考える前に、『人間とは自然とテクノロジーの複合体である』という命題を整理しておく必要がある」
「我々は環境の中で生きる生物学的存在であるだけでなく、環境そのものを自ら生み出す存在でもある。人間の活動が環境に影響を与えるようになった地質年代を『人新世』と呼ぶようになったが、我々がテクノロジーを使って行っているのは環境を造り替えることだ」
「たとえばAIは人間の知能を拡張している。原子力も『物理の現象を人間の環境に拡張したテクノロジー』とみることができる。これらのテクノロジーはあくまで人間や火を模倣したモデルにすぎないのに、我々はこれを実際の自然であると混同してしまっていることに問題がある」
「グーグルマップに表示される都市を思い浮かべてみてほしい。情報量は豊かだが、絶えず変化する現実とは全く異なるものだ。人間が目にする現実はきわめて複雑なものであるにもかかわらず、現代人は科学によってすべてが説明できると信じきっている。現実や自然はそんなたやすい代物ではない」
ガブリエル氏は「数学や物理学の方程式で解明できる事象は、現実のほんの一部でしかない」と主張する
――特に「Chat（チャット）GPT」などの生成AIに対する脅威論が高まっています。
「現代人は『情報圏』（インフォスフィア）と呼ばれる空間に生きている。オンラインに蓄積された情報が、我々の行動に作用する環境の中にいるということだ」
「その最先端の例がAIだ。我々の身の回りの環境に知性を与え、知的な手段で人々と相互作用する存在になっている。我々はよく、『異星人が来たらどうなるんだろう』と考える。同じことがAIという非生物的なモデルの普及によって実際に起きている」
「だから私は『人工知能（Artificial Intelligence）』を『異星人の知性（Alien Intelligence）』と呼ぶことにしている。この我々の理解が及ばない存在を、我々自身が生み出したことに恐ろしさを感じる」
「ただ、AIにできるのは人間の行動を模倣し増強することだけだ。チェスや囲碁でAIがプロ棋士に勝利を収めたとしても、それは人間が生み出したゲームで機械が優れたプレーをしたにすぎない。AIにチェスや囲碁を発明することは不可能だ。機械は自立的には何もできない。そこに限界がある」
「AIの脅威とは何かといえば、それは悪用だと思う。人間の悪が増強され、独裁や犯罪などに使われる事態こそ恐ろしい。高度なテクノロジーを手にしたからといって、人間が倫理的な存在になるわけではない。使う側が倫理的に正しい情報を教えない限り、AIが人間を幸福に導くことはあり得ない」
「テクノロジーの健全な発展のためには、科学とは別の倫理学の知見が求められている。『プライバシーを侵害してはならない』といった普遍的な倫理原則と、各国・地域にあるローカルな倫理の組み合わせに着地するだろうと私は考えている」
「新しい権力」に統治される人間
――IT（情報技術）が新しい権力となり、監視社会や全体主義を生み出すことも懸念されています。
「現代社会においては全てが記録されている。検索・閲覧履歴が積み上がるデジタル空間や街中に設置された監視カメラによって、自分の行動が全て見られているのは恐ろしいことだ」
「人々の行動をつぶさに観察し、そのパターンを予測してコントロールすることは、いつの時代も全体主義の夢だった。それが可能となる時代に近づいている今、テクノロジーは全体主義の担い手になったとみることもできる」
「たとえば新型コロナウイルス禍の際に利用された接触確認アプリのようなデジタル技術は、本来は全体主義とは無縁のものだ。だが権力者はこうした技術を使って我々の健康状態を観察し、自由を制限することもできる」
「便利で人間を幸福にしてくれるはずのテクノロジーが無価値なものへとすり替わってしまう恐れがある。しかもこうした価値の転倒は、きわめて簡単に起こりうることに留意が必要だ」
――そうした状況を18世紀英国の思想家ベンサムが構想した監獄の監視システム、パノプティコン（※）に例える人も少なくありません。
「人間の行動を企業の利益にかなうようにコントロールする監視資本主義を筆頭に、現実はパノプティコンより悪い状況に進んでいる。たとえば米グーグルは利用者の検索履歴を測定・分析しながら、人々の行動に作用を及ぼしている」
ガブリエル氏は「我々は道徳的真実を見つけ出し、実践するために存在している」と話す
「『おいしいレストランはどこか』『バカンスはどこに行くべきか』『コロナの感染者数が少ない地域は』――。人々は検索結果という答えを手にして都市に集まり、その結果、街の様子も変化していく」
「我々の欲望は今や、監視資本主義のシステムにつくり出されているといえる。監視者はスマートフォンという独房にいる人々に情報を送り、特定の行動をするように促してくる。スマホの利用者は監視者の意図が分からないまま無意識に動かされている。この新しいパノプティコンは、ベンサムの時代のそれよりはるかに強力だといえる」
※パノプティコン 「一望監視システム」などと訳される。監獄で監視者の姿を見えないようにすることで、収容者が監視されていることをかえって意識するようになり、秩序が保たれるしくみ。20世紀フランスの哲学者フーコーが権力論を展開するときにこの概念を援用し、広く知られるようになった。
――ITによって人と人はつながりやすくなったはずなのに、社会の分断や対立が生まれているという指摘もあります。
「歴史上、極端な政治的主張は常に存在してきた。だがSNSをはじめとするデジタル空間では、あたかも2つの選択肢しか存在しないかのように大衆が二極化してしまっている」
「自分と同じ意見ばかりが目に入る『エコーチェンバー』や、知りたい情報が優先表示される『フィルターバブル』の影響で対立がエスカレートしやすい。中絶やジェンダー、環境問題といった議論が典型的だ」
「デジタル空間には、二極化から独立して中立的な判断を下す裁判官は存在しない。この状況は英作家のジョージ・オーウェルのディストピア小説『一九八四年』（※）を思い起こさせる」
「オーウェルはこの小説で、人々を常に見張っている架空の独裁者『ビッグ・ブラザー』が統べる全体主義社会を描いた。SNSで起きている分断を見ていると、誰もが過激主義者やビッグ・ブラザーになる可能性が潜んでいると思わずにはいられない」
※「一九八四年」 英国の作家ジョージ・オーウェルが1949年に発表した小説。思想や行動の自由が完全に奪われた未来の架空社会を描く。支配的なイデオロギーに反論できない新しい国語「ニュースピーク（新語法）」や、矛盾した信念を疑わずに保ち続ける「ダブルシンク（二重思考）」など、作中の描写が現代社会を予言したとされ、今も世界中で読まれている。
「人間的なテクノロジー」の発展を
――科学万能主義への懐疑論も出ています。
「哲学者ニーチェは『神は死んだ』と喝破してニヒリズム（※）の思想を唱えた。神や精霊などの存在を前提とする前近代の世界観が否定され、自然科学的なものの見方のみを正しいとする自然主義（※）が生まれた」
「非物質的な世界を『非科学的』として退けるこれらのイデオロギーを、私は根本的に否定する。数学や物理学の方程式で解明できる事象は、現実のほんの一部でしかないからだ」
「近代はテクノロジーが多大な利益をもたらす一方、戦争や巨大事故などを引き起こし無数の人々を死に追いやった時代でもある。科学万能の考え方には正負の両面があることを忘れてはならない」
※ニヒリズム 「虚無主義」とも訳される。伝統的な権威や価値観、道徳などを否定する思想。19世紀ドイツの哲学者ニーチェはキリスト教的な道徳を批判する立場からこれを主張した。
※自然主義 自然を唯一絶対の真理と考え、精神現象を含め、現実のすべてを自然科学の論理で説明できるとする立場。現代の科学信仰のベースにはこの考え方がある。哲学の用語であり、文学・美術において写実を重んじる「自然主義」とは意味が異なる。
「『自然は予測やコントロールが可能だ』という考え方が生み出した問題の顕著な例が環境問題だ。原子力発電や二酸化炭素回収などのテクノロジーで問題がすべて解決できるなら素晴らしい。だが環境の危機に対応するには、単にテクノロジーを発展させるだけでなく、人間中心の考え方そのものを改め、科学万能主義とは異なる道を探らなければならない」
「私は『人間的なテクノロジー』の発展を推奨している。人間はただ生き延びられればいいという存在ではない。あらゆる技術は人間の利益に完全に沿うものでなければならない。我々は（テクノロジーに対して）倫理的な便益をもたらすことさえ欲しているのだ」
ガブリエル氏は「人類は環境そのものを自ら生み出す存在だ」と指摘する
「政治哲学者のハンナ・アレント（※）は、人間の条件を『労働』『仕事』『活動』と説いたが、こうした唯物的な考えには同意しかねる。私たちは自分が何者であるかを意識しながら人生を送ることで自己表現をしている」
「AIにも他の動物にもそれはできない。だから私は人間を『精神的動物』と呼ぶ。精神の自己表現をすること。それが人間の条件だと私は考える」
※ハンナ・アレント 1906?1975年。ドイツ出身の米国の政治哲学者。ナチズムと旧ソ連の共産主義を考察した大著「全体主義の起源」で知られる。人間にとっての公と私の関係を分析するなど領域横断的な思索を展開した。
――人間の偉大さは科学的な知を生み出すことだけではないということですか。
「人類の祖先がアフリカを北上し、長い旅をして日本やポリネシアといった島々にたどり着けたのはなぜなのか。これは現代のテクノロジーの発明などよりはるかに大きな偉業だ。想像を絶する困難を人間が乗り越えられたのは、人間が心の中に神や精霊などの超越的な思考を抱いていたからだと私は考えている」
「テクノロジーだけでは問題は解決しない。道徳的に正しくあることを目指さなくてはならない。人生に意味があろうがなかろうが、神がいようがいまいが、我々は道徳的真実を見つけ出し実践するために存在しているのだと考えねばならない。我々には未来を守る義務がある」
Markus Gabriel 1980年生まれ。史上最年少の29歳でボン大学の教授となった気鋭の哲学者。ドイツ観念論を踏まえた「新しい実在論」を提唱するとともに、資本主義や環境問題などについても積極的に発言している。著書に「なぜ世界は存在しないのか」「アートの力 美的実在論」など。