データの世紀 グレートリセット（上）
AI開発、5割は失敗 知の利器のあやうさ悟る
英国ではアルゴリズムによって成績を下げられた学生が抗議デモを繰り広げた（20年8月）=ロイター
膨大なデータを駆使するネット社会が岐路に立っている。デジタル空間に広がる情報汚染は現実の日常や生活を揺らし、人類はいまだ人工知能（AI）など新たなテクノロジーも使いこなせないでいる。より良い未来へ「グレートリセット」を実現できるか。
英国の金融機関で働くスワガタム・センさん（39）には風変わりな習慣がある。「朝起きたらまず、スマホで全く興味のないサイトにあえてアクセスしているんだ」
仕事中もプライベートの時間も四六時中、好きなサイトと嫌いなサイトを交互に見続ける。狙いは、AIアルゴリズムをだますことだという。
SNS（交流サイト）などのAIはユーザーの日ごろの検索履歴を学習して「その人にぴったり」の広告や情報を流す。1年前、センさんは「自分の知識が好きな分野に偏ってしまう」と危機感を抱き、AIを混乱させる挑戦を始めた。
英国在住のセンさんは、AIをだますために興味のないサイトにあえてアクセスする
米IDCによると、企業などのAIへの総投資額は2024年に20年の2倍の約12兆円に増え、世界の自動車産業の研究開発費に迫る。PwCグループの予測では、30年代半ばにはAIやロボットが人類に代わって、最大3割の仕事をこなす新たな世界が訪れる。
しかし私たちはいま、逆にAIの限界を感じ始めている。米ガートナーはAI事業の47%が研究段階で頓挫するとの調査をまとめた。AIは「学習する」といわれるが、利用が増えても失敗がいっこうに減らない。
20年8月、英国・ロンドン。「アルゴリズムなんてくそ食らえ!」。市中心部の教育省前に、高校生数百人が抗議デモに集まった。
英国はコロナ禍を受け、大学入試に代わるAI成績判定を導入した。判断材料は過去の試験結果などだ。だが全体の4割が教師の予想より不当に劣る評価を受け、その多くが学費の安い公立校に通う労働者階級の学生だった。学生団体のパウエルさんは「多くの学生の将来やキャリアを危険にさらしたことを謝罪してほしい」と憤る。
米国でも顔認証システムが原因で黒人男性が誤認逮捕されるなど、AIが人生を左右するようなエラーが絶えない。「AIによる顔分析を停止する」。米オンライン面接ツール大手のハイアービューは1月、人権団体からの抗議を受けて中核技術を凍結したと明らかにした。
英オックスフォード大の哲学者、ニック・ボストロム氏は「AIは文明を滅ぼすテクノロジーかもしれない」と警鐘を鳴らす。データを大量処理できる利点に目を奪われ、アルゴリズムの負の面を制御できなければ足をすくわれてしまう。
最新のAI開発現場では、多様性が失われる懸念が膨らんでいる。
「グーグルの言語AIでも偏見は避けられない」。米グーグルでAI倫理を研究していたティムニット・ゲブル氏は20年末、論文で自社AIの問題を指摘し、同社から解雇された。世界の研究者は「自社批判の声を排除するのは、正しいAI開発に逆行する」と懸念を強める。
米中対立の余波も広がる。ソニーや米国のアップル、IBM、インテルなどが参加し、AIの課題に共同で取り組む国際団体「パートナーシップ・オン・AI」。20年には中国検索大手の百度（バイドゥ）が脱退した。
企業や国の論理を優先したままでは、公正で偏見のない判断を下すAIは遠のく。
社会や経済に対し、AIを駆使する巨大ITの影響力が高まっている
AIは現代が生んだ利器だが、自らは失敗を正せない。それができるのは使い手である私たち人類だけだ。
欧州連合（EU）は4月、世界初となるAIの利用規制案を公表した。政府機関が個人の信頼性を格付けするスコアリングを禁止。企業の採用活動での利用なども「高リスク」と位置づけて事前審査の対象とする。
違反企業には巨額罰金を命じる厳しさだ。テクノロジーの暴走を封じ込めようという試みが各地で始まる。
AIに何を学ばせ、どう導いていくか。人の判断次第でAIも変わる。
米プリンストン大は20年、AIに学ばせるデータの偏りを検知するツールを開発した。花と女性、野球と男性といった画像を見つけ、固定観念にとらわれていないか、開発者に注意する。決めるのはあくまで人だ。世界に無償公開し、共同改修を呼びかける。
フェイスブック出身のケンダール氏はアルゴリズムが持つ危険性への対応が必要と訴える=ロイター
米実業家のティム・ケンダール氏はユーザー一人ひとりの向き合い方に光明を見る。18年にSNSの使いすぎを防ぐアプリ開発企業の経営に加わった。「アルゴリズムはニコチンと同じ中毒性を持つ」と訴える。
実は同氏は初期のフェイスブックの成長を支えた人物だ。アルゴリズムを駆使してユーザーが好む投稿や広告を次々と表示させ、人びとを画面にくぎ付けにしてきた。
自分自身がSNS依存に陥ったことが、ケンダール氏を変えた。寝る直前までスマホを手放せなくなり「技術が健康をむしばんでは意味がない」と思い返した。いまは「SNSは人間中心のモデルに変わらなければならない」と信じている。
火の利用を発明して以来、人類は新たなテクノロジーの光と影のはざまでもがき、そして進化を繰り返してきた。AIも同じだ。万能を期待するのではなく、私たち一人ひとりを磨く。悩みと試行錯誤の中から、成長の果実を最大にするグレートリセットは始まる。
コメントメニュー 山崎俊彦 東京大学 大学院情報理工学系研究科 准教授
貴重な体験談「米ガートナーはAI事業の47%が研究段階で頓挫するとの調査をまとめた。」
体感的にはもっと失敗例があると思います。恥ずかしながら、私も外部との共同研究で「これは行ける！」とおもって始めたものの、なぜうまく行かないかがよく分かって終了したプロジェクトがいくつかあります。世の中にはAIの成功事例が溢れているように見えがちですが、そもそも失敗したら「これはうまくいきません」とは宣伝しないだけです。もちろん、うまくいくものもあります。
データの世紀 グレートリセット（中）
自由試す2つのSNS 文明曇らす情報汚染
フェイスブックにあふれる膨大な投稿がミャンマーの混乱に拍車をかける
混迷が続くミャンマー。中部マンダレーに住むニュート・サンディ・チョウさん（24）は2月中旬、街で冷たい言葉を浴びせられ、凍り付いた。「おまえたち中華系は仲間ではない」
原因はSNS（交流サイト）で流れた真偽不明の噂だった。「軍の要請でネットを遮断しに、中国人技術者が入国してきたぞ」。2月上旬、国内SNS利用者の9割が使うフェイスブックでこうした投稿が拡散し、反中感情が高まった。
中華系ミャンマー人への暴行や中国企業への放火が激化したのは、その数日後だ。「同じ過ちの繰り返しだ」。人権保護団体のオリバーさんは肩を落とす。2018年には少数民族ロヒンギャに対する迫害が国際的な問題となった。この時の引き金になったのも、SNSの投稿だったからだ。
ミャンマー国軍と対峙する民主派デモ隊はSNSで連帯を呼びかけるが、思わぬ混乱も生んでいる（ロイター）
問題に直面するのが米国だ。米PR会社エデルマンの最新調査や社会科学者らによる国際プロジェクト「世界価値観調査」から、それが浮かぶ。「自国政府を信頼する」国民は42%と対象28カ国の中で19位。「他人を信じられる」と答えた人は4割を切った。
一方、中国は8割の国民が政府を信頼し、他人を信じる人も6割を超す。ネット統制を強め、自由に大きな制限をかける強権国家とはいえ、米国は国や社会への信頼度でその中国を下回る皮肉な現象が広がる。
自由で開かれた豊かな国として羨望を集めてきた米国。だが現状はSNSにあふれる憎悪や暴力をあおるつぶやきが国家の分断を助長する。自由であるがゆえのジレンマに市場も悩む。
米ゲームストップ株急騰騒ぎを巡り、2月に開いた米議会公聴会。「自分の利益のために買いを勧めたわけではない」。SNSのレディットで「共闘」を仕掛けたとされるキース・ギル氏は相場操縦の疑いを全面否定した。
その後、明らかになったギル氏の含み益は21億円。多くの投資家を扇動する不正と紙一重だけに、規制当局も頭を抱える。「こんなおいしい手はない」「乗り遅れるな」。舞台のSNSでは次の「宝の山」を追う狂騒が止まらない。
利用者を惑わす情報が増え続ければ、ネット社会そのものの信用性にもひびが入る。だがそれでも自由を諦めるわけにはいかない。
「SNSは趣味や仕事、政治と、人びとに新しい世界を開いてくれる。市場も拒んではいけない」。米証券取引委員会（SEC）のへスター・ピアース委員はSNS情報への規制に悩みつつも、希望を託す。
ミャンマーで差別に傷ついたチョウさんを救ったのも、やはりSNSだった。「私たちが間違っていた。ごめんなさい」
転機は3月。複数の中華系ミャンマー人が国軍との衝突で犠牲になり、チョウさんらに向けられる視線も一変した。SNSでは同じミャンマー人として混乱を乗り越えようと、共感の輪が生まれつつある。
かき消されるはずの小さな声を拾い、災害時には互いを助け合う励ましの声となる。それもまた、SNSの真価だ。英知を集める場とするか、文明を揺らす暴力装置とするか。「グレートリセット」を起こせるかは、一人ひとりの小さな一歩にかかっている。
コメントメニュー 藤井保文ビービット 執行役員CCO 兼 東アジア営業責任者
分析・考察国家への信頼はおそらく経済成長と有事対応なので、このランキングになるのは頷けて、成熟市場で成長が停滞する国がなかなか上に上がらないのは必然と思います。（その意味で、自由という形而上学的な概念はあまりここに絡んでいないのではないかなと...）
データの世紀 グレートリセット（下）
人生の半分「バーチャル生活」 人類の進化か退化か
英ロボット学者のピーター・スコット・モーガン氏（左）は難病を患ってほぼすべての身体機能をデジタル空間に移した（本人のツイッターより）
フィリピン南部のダバオ。わんぱく少年だったレブ・ブエンディアさん（21）は中学2年でスマホを持って人生が一変した。4月30日は計14時間23分。画面の中の生活がどんどん現実に入り込んで止まらない。
家族との食事、趣味の買い物、大学の授業、一事が万事だ。気付けばフェイスブックで友人と会話をしている。動画にビデオ通話と、寝るのはいつも午前2時すぎだ。「スマホの中なら何でもできる。使わない生活なんてありえないよ」
起きて活動する生活時間の半分以上をデジタル空間で過ごす。英グローバル・ウェブ・インデックス（GWI）の世界メディア利用調査を集計したところ、対象の42カ国・地域のうち、2020年には3割の12カ国でこうした新たな傾向が生まれたことがわかった。
首位はフィリピンだ。パソコンやスマホの利用時間は1日平均10時間を超す。南アフリカやブラジルなどスマホが一足飛びに普及した新興国が上位に続く。
コロナ禍もあり、各地でリアル主体の生活がリセットを迫られる。それは新たな摩擦と背中合わせだ。
「あれ、なんで涙が止まらないんだろう」。20年12月上旬、都内の通販企業に勤める山田海人さん（37）は突然の虚無感に襲われた。うつだと直感した。
1年半前からウェブデザイン部門の責任者を担ってきた。だが在宅主体となり、深夜まで仕事漬けになる日が急増。周りとの交流も滞って孤立した。誰もがデジタル化との折り合いを求められ、負の面にのみ込まれるリスクに直面する。
社会全体も急激なデジタル化に戸惑う。米ハーバード・ビジネス・スクールは世界300万人を対象に、デジタル活用が個人の働き方にどんな影響を及ぼすか調べた。結果は1日当たりの勤務時間が平均48.5分延び、会議数も12.9%増えたという。
画面越しだと息づかいや細かい表情の変化が分からない。相手の意図を読み取るのにも時間がかかる。「人の脳はまだ、最新技術に完全に適応できていない」。脳専門医の加藤俊徳氏は社会全体で逆に生産性が低下する「デジタル化のワナ」に警鐘を鳴らす。
それでもバーチャルがリアルを上回る新世界はもう止まらない。人類のさらなる進化か、それとも退化の始まりか。恐れ惑っているだけでは前に進めない。
モーガン氏はデジタル空間に自身とそっくりなアバターを作成した（本人のツイッターより）
英ロボット学者のピーター・スコット・モーガン氏がデジタル空間に移住して1年半たった。ALS（筋萎縮性側索硬化症）と診断されて以降、ほぼすべての身体機能を機械に移植した。デジタル空間のアバターは顔も声もそっくりな「もう1人の自分」を体現する。
人工呼吸器がつながり、胃には栄養チューブ、結腸には人工肛門が着けられている。だが不便どころか、むしろ自分を「ピーター2.0」に更新できたと喜びを感じる。「デジタル空間の私は年を取らないし、あらゆる言語を話せる。週7日間、これまでのキャリアで最もハードに働いているよ」
物理的な制約に縛られず、距離や時間、そしてあらゆるハンディをも乗り越えられる。うまく使いこなせば、デジタル空間は豊かな想像力を育む創造の場だ。より良いデータの世紀へ、どう考え、何を選び抜くか。一人ひとりの「グレートリセット」が始まる。
コメントメニュー 大岩佐和子 日本経済新聞社 編集委員
ひとこと解説バーチャル生活の中でもやはりSNSの影響は大きいです。SNSは幸福度を下げると国内外で研究されています。他者のポジティブな投稿を見ると、それと比べて自分の人生は良くないと思い込んでしまう。内閣府の調査によると日本の若い世代の自己肯定感は他国より低く、他者と幸せの大きさを競うことにほとんど意味がないと頭ではわかっていても、比べてしまうのかもしれません。進化するか退化するかはその人次第。こればかりは自分なりの付き合い方を見出していくしかありません