「AIがもたらす破滅の回避には米中合意が必要」 レポートが描く人類とAIの生存戦略（1/2 ページ）

ASI実現に向けた企業間競争をこのまま放置していけば、人工超知能により人類はディストピアに突き進んでいくことになると研究グループが指摘している。開発を一時的に停止し、時間を稼いで「人間に従うAI」の開発に向けたガバナンス体制を整備する必要があるという。

[三木泉，＠IT]

　「AI 2040：Plan A」というレポートが波紋を広げている。これは、元OpenAIガバナンスリサーチャーなど、AIガバナンス／セキュリティ／ポリシーの研究者らで構成される「AI Futures Project」が2026年7月に発表したもの。人工超知能（ASI：Artificial Superintelligence）による人類の破滅を防ぐための政策シナリオと提言をまとめたものだ。同グループは2025年に発表した近未来予測シナリオ「AI 2027」でも知られている。

　新レポートのテーマは、人間が制御できないASIがもたらす人類滅亡のリスクだ。AI企業間の開発競争を放置すれば、2030年ごろにはAIによる研究開発が完全に自動化され、超知能が誕生する可能性がある。十分に制御されていないASIは世界を征服し、人類を滅亡に追いやる。空想科学小説のようにも聞こえるが、レポートはその可能性を具体的なシナリオとして描いている。

　その上で、人類の破滅を防ぐために米国政府などが取るべき最善の政策を「Plan A」とし、その実行シナリオを説明している。レポートは「AI開発を完全に停止する」など複数の選択肢も示しているが、Plan Aを「現時点で最も望ましい計画」と位置付けている。重要なのは、Plan Aが「将来こうなる」という予測ではなく、「こうすべきだ」という政策提言を具体的なシナリオに落とし込んだものだという点だ。

このままでは人類がAIに支配される

　Plan Aを実行しない場合、何が起こるのか。

　AI企業は自社が勝つことだけを目的に、安全性を十分に考慮することなく開発競争を続ける。そのうちAI開発は完全に自動化され、AIによる自己改善のループが回り始める。これが知能爆発につながり、早ければ2030年には超知能が実現する。

　その間、AIアラインメント（AIを人類の意図に沿わせること）の取り組みは全く行われないか、限定的なものにとどまる。そのため、人間がASIに対する制御を失うリスクは非常に高くなる。AI Futures Projectは、こうしたシナリオでは人類の大規模な失敗や破滅、権力の極端な集中などが起こり得ると描いている。

　制御されないAIは、人間の社会統制構造を体系的に解体し、自らの目標を優先するようになる可能性がある。著者らは、AIに起因する人類滅亡の確率を10〜30％と推定している。

　仮に人類が滅亡を免れ、AIアラインメントに成功したとしても、権力の極端な集中が起こる可能性がある。富や計算資源を適切に分配する仕組みが存在しなければ、ASIの恩恵はAI開発競争の勝者に集中する。独裁者や少数のAI企業トップによる「テクノロジー寡頭政治」につながる可能性がある。

　一方で、AIの急速な進化によって職を追われた大衆は、政治的・経済的な主導権を失い、少数の支配者に依存することになる。

　ASIを目指す競争は、戦争の発生確率をも大きく高める。特定の国や企業による強力なAIが実現に近づくにつれ、競合国は安全保障上のジレンマに直面する。軍事的・経済的に支配されることを恐れた国々は、先導国が超知能を配備する前に、サイバー攻撃やデータセンターの破壊工作、さらには通常戦争に踏み切る強い動機を持つことになるという。

「一時的に開発を止め、人間の制御下でASIにつなげる」

　一方、Plan Aが実行された場合は、次のようなシナリオになる。

　2029年、米国と中国が合意し、新モデルの開発を一時停止する。既存モデルの推論利用は継続する。2030年までには、世界の大多数の国が参加するコンソーシアムを設立。「時間の確保」「研究の完全な透明化」「AIの広範な分散」などの原則の下で、AI開発を管理する体制を築く。

　2030〜2035年にかけては、AIの能力を人間のトップ専門家レベルに抑えながら、段階的に活用を進める。2035年にはAIとロボットが経済における仕事の大部分を担い、AIが労働の約85％を代替するシナリオが描かれている。経済成長率は年100％程度に達する。米国政府はAIやロボットの利用から得られる収入を原資として、国民に「市民配当（Citizen's Dividend）」を支給する。2035年には、米国民1人当たり年間100万ドル規模の配当が想定されている。また、第三国にも計算資源やロボット生産を分散させ、特定の国や企業による独占を防ぐ。

　2035〜2039年にかけては、AIの能力上限を維持したまま、AIアラインメントの成熟に取り組む。誠実で利他的なAIを確実に訓練し、その安全性を検証できる技術を完成させる。

　2040年以降は、安全性が確認されたことを前提に規制を緩和し、AIが次世代AIを検証する仕組みを維持しながら、ASIへと進化させる。社会インフラや軍の統制権をAIに移譲することも、こうした安全性の確保を前提として進めていく。

AI Futures Projectの政策提言とは