「AIがもたらす破滅の回避には米中合意が必要」 レポートが描く人類とAIの生存戦略（2/2 ページ）

ASI実現に向けた企業間競争をこのまま放置していけば、人工超知能により人類はディストピアに突き進んでいくことになると研究グループが指摘している。開発を一時的に停止し、時間を稼いで「人間に従うAI」の開発に向けたガバナンス体制を整備する必要があるという。

[三木泉，＠IT]

　以上のように、Plan AではAI開発をいったん減速させ、アラインメント／ガバナンス技術を確立する。その上でASIを開発し、人類の繁栄に役立てていく。具体的な政策提言は以下の通りだ。

AI開発の一時停止についての米中合意（重要度：高）

　米中合意がPlan Aの出発点であり、中核となる。ただし筆者らは、合意の具体的な形態や、AI開発を完全に停止することとの優劣については確信を持てないとしている。「AI開発を減速させるためには、計算資源のガバナンスを通じたアプローチが最も有効な手段に見える」としている。

　具体的な例として、次のような政策シナリオを描いている。

計算資源の申告

　これは、AIチップの流通とデータセンターの規模を世界規模で監視する仕組み。例えば、主要なデータセンターの所有者やチップ製造工場に対し、全ての主要な取引（売買）を公的に申告することを義務付ける。そして米中双方が相互のインフラを監視する。

トレーニングの一時停止

　安全なAIと危険なAIを識別する技術や、安全基準を確立するまでの間、既存モデルによる推論は許可するが、新規フロンティアモデルのトレーニングを一時的に停止する。このため、相互のデータセンターに推論検証デバイスを設置して厳格な相互監視を行う。

世界的な合意形成

　米中間の協定からスタートしたこの取り組みに第三国の賛同を呼び込む。2029年末までに、世界のほぼ全ての最先端チップ製造能力と計算資源を網羅する形で、多くの国がコンソーシアムに加入する。

　米中合意については、万が一破綻した場合に備え、最先端のデータセンターを第三国（例えば米国のデータセンターはモンゴル、中国のデータセンターはカナダ）に建設し、有事の際には相手国に接収される前にチップを物理的に無力化する体制を確立する。

政府におけるAI対応能力の向上（重要度：中）

　「透明性の確保」「政府内の技術的専門知識の向上」「検証研究の加速」といった政策は、Plan Aにおいて極めて重要だという。

モデル仕様の透明性と権力掌握に対する検証（重要度：中）

　AIモデルの仕様において、特定の人物への権力集中を支援することを明示的に禁止すべきだとする。また、バックドアを防止するための検証措置をAIプロジェクトに義務付ける必要があるという。

AIが生み出す富の再分配（重要度：中）

　AIが経済全体を自動化するにつれ、人間が得られる賃金はほぼゼロにまで低下する可能性がある。現在の状態のまま推移すれば、AIによる支配を回避できたとしても、AIは歴史上かつてない不平等をもたらす。「そのため、何らかの富の再分配が必要だと確信している」とレポートは述べている。

防衛的加速（重要度：中）

　政府やAI企業、社会全体として、社会の堅牢性を高める技術に投資すべきだという。特に重要な分野として、情報検証のためのAI、バイオ防衛、サイバーセキュリティを挙げる。

　防衛的加速への協調的な取り組みがなければ、高いAI能力によって攻撃能力も向上し、大きなリスクが生じる。また防衛的加速には、ミスアラインメント状態のAIによる世界征服を難しくし、アラインメント研究のための時間的猶予を増やすメリットもある。

ASI（人工超知能）誕生後のガバナンス（重要度：高）

　レポートは、ASI誕生後のガバナンスについて、次の3つの基本原則を提示している。

1.多くの優秀な人々がアラインメント済みのAIによる支援を受けながら、効果的なガバナンスを慎重に検討すること

2.不可逆的な決定については慎重に行うこと

3.単一の主体への権力集中を困難にすること

　レポートが描く世界は簡単には想像しにくいものではあるが、AIが技術的な進化の枠をはるかに超え、経済的、社会的、地政学的に破滅的な影響を及ぼす可能性があることを、改めて想起させている。