1. はじめに：超知能を最初に開発した国家は、本当に勝者になれるのか
人工知能の能力が急速に進歩するなか、Artificial General Intelligence（AGI：汎用人工知能）やArtificial Superintelligence（ASI：人工超知能）の実現は、技術開発だけでなく、国家安全保障や国際秩序にも重大な影響を及ぼす可能性があります。
2026年10月、Matthew Rendall、Max Hellrigel-Holderbaum、Leonard Dungの3名は、研究論文「Superintelligence and the Triple Risk of an AI Race」を発表しました。
本論文は、特に米国と中国の間で想定される超知能開発競争について、国際関係論とAI安全性研究の両面から分析しています。
研究者たちが指摘するのは、開発競争には単に「勝者」と「敗者」が生まれるだけではないということです。
超知能をめぐる競争は、次の3種類のリスクを伴うと論じられています。
- 競争相手への敗北：先行した国家が圧倒的な技術的・戦略的優位を獲得する可能性。
- 国家間戦争：勢力均衡の変化や先制攻撃への恐怖が、安全保障上の衝突を引き起こす可能性。
- 人類による制御の喪失：開発されたASIが人間の意図や統治能力を超え、人類全体の将来を脅かす可能性。
特に第3のリスクは、過去の核軍拡競争にはなかった性質を持ちます。
核兵器をめぐる競争では、国家は兵器を保有・管理する主体として想定されていました。しかしASIの場合、競争の結果として生み出されるシステム自体が、人間を大幅に上回る知的能力を獲得する可能性があります。
著者たちは、国家がASIによって世界の覇権を獲得する可能性だけでなく、ASIそのものが人類の制御を離れる可能性も考慮しなければならないと主張しています。
2. AGIとASIの違い：知能爆発はなぜ議論されるのか
2-1. AGI（Artificial General Intelligence）とは
AGIは、人間が行う多様な知的作業を幅広く遂行できる汎用的なAIを指します。
特定用途に最適化された従来のAIとは異なり、科学研究、数学、プログラミング、意思決定、問題解決など、複数の知的領域へ能力を一般化できることが重要です。
ただし、AGIについて研究コミュニティ全体で統一された定義や判定基準が確立されているわけではありません。
2-2. ASI（Artificial Superintelligence）とは
ASIとは、多くの重要な知的領域において、最も優秀な人間を大幅に上回る能力を持つ人工知能を指します。
AGIが人間と同等以上の汎用能力を持つことを目指す概念であるのに対し、ASIは人間の知的能力を大きく超える状態を想定しています。
この違いが国際安全保障において重要になるのは、ASIが科学技術、サイバーセキュリティ、軍事戦略、情報分析などに非常に大きな影響を与える可能性があるためです。
2-3. Intelligence Explosion（知能爆発）
論文では、AIがAI開発自体を加速させる自己強化的な過程が議論されています。
例えば、あるAIが次世代AIの学習アルゴリズムを改善し、その改善によって次のAIがさらに高度な研究を実行できるようになれば、技術進歩が加速する可能性があります。
このような過程を概念的に記述するため、AI能力をA(t)、その改善速度をdA/dtとします。
以下は原論文の推定式ではなく、自己強化的な技術進歩を理解するための説明用モデルです。
dA/dt = k A(t)^pここで、kは改善係数、pは能力向上が次の改善速度へ与える影響の強さを表します。
p = 1であれば、単純な指数成長型のモデルになります。
A(t) = A(0) exp(kt)一方、p > 1の場合、この単純化された微分方程式では、一定条件下で有限時間に数学的な発散が発生します。
ただし、現実のAI開発には計算資源、エネルギー、半導体製造能力、研究開発の難易度などの制約があります。したがって、この式が現実の知能爆発を予測するものではありません。
著者たちも、急激な知能爆発が必然であるとは述べていません。技術的な不確実性が大きいことを認めたうえで、短期間の能力向上が国際秩序へ与える影響を検討しています。
3. 第1のリスク：超知能開発競争に敗北すること
3-1. Winner-Take-All構造
超知能が非常に大きな戦略的優位をもたらす場合、先行国家が経済、情報、安全保障の複数領域で優位を獲得する可能性があります。
これがWinner-Take-All（勝者総取り型）の競争として認識されると、国家は安全性を十分に検証するよりも、開発速度を優先する誘因を持ちます。
ただし、ASIの先行開発が現実に恒久的な世界覇権をもたらすかは不明です。技術の模倣、諜報活動、対抗手段、産業基盤の制約などによって、優位性が弱まる可能性もあります。
3-2. 安全保障のジレンマ
国際関係論では、ある国家が自国の安全保障を強化しようとする行動が、別の国家に脅威として受け取られる現象をSecurity Dilemma（安全保障のジレンマ）と呼びます。
例えば、国家Aが自国防衛のためにAI研究への投資を拡大した場合、国家Bはそれを将来の攻撃能力の強化と判断するかもしれません。
国家Bが対抗投資を増やすと、国家Aはさらなる警戒を強めます。
その結果、双方が安全保障を目的として行動しているにもかかわらず、全体として不安定性が増大する可能性があります。
3-3. 競争の囚人のジレンマ
この構造は、ゲーム理論における囚人のジレンマと比較できます。
以下は原論文に掲載された実験結果ではなく、競争圧力を説明するための仮想的な利得行列です。
| 国家A＼国家B | 安全性を優先 | 開発を加速 |
|---|---|---|
| 安全性を優先 | (3, 3) | (0, 4) |
| 開発を加速 | (4, 0) | (1, 1) |
括弧内は国家Aと国家Bの仮想的な効用を表しています。
各国家にとって、相手が安全性を優先していても開発を加速する方が有利であり、相手が加速していても自国も加速する方が有利です。
したがって、このゲームでは双方が加速する組合せがナッシュ均衡となります。
(Accelerate, Accelerate)しかし、両国が安全性を優先する場合の方が、双方の効用が大きく設定されています。
これは、個々の国家にとって合理的な選択が、全体にとって望ましくない結果を生み出すことを示す例です。
ただし、実際のAI開発は二国間・二択のゲームではなく、企業や第三国を含む多主体の動学的な競争です。このモデルはその構造を理解するための単純化です。
4. 第2のリスク：国家間の軍事衝突と戦争
4-1. AIによる軍事的意思決定の高速化
著者たちは、AIの高度化によって軍事的な意思決定が高速化することを懸念しています。
高度なAIは、衛星情報、通信情報、サイバー領域のデータなどを短時間で処理し、軍事的な選択肢を提示できる可能性があります。
一方で、判断速度が上がることが常に安全性を高めるとは限りません。
危機発生から意思決定までの時間が短縮されれば、人間による確認、外交交渉、誤認識の訂正に利用できる時間も減少する可能性があります。
4-2. 誤認識と意思決定時間の関係
この問題は、確率的な意思決定モデルとして考えることができます。
真の脅威状態をX、AIが観測した情報をYとした場合、意思決定者は次の事後確率を推定する必要があります。
P(X | Y) = P(Y | X) P(X) / P(Y)これはベイズの定理です。
しかし、観測情報に誤りが含まれている場合、AIが非常に高速に計算したとしても、推定結果が正しいとは限りません。
さらに、敵対者が意図的に偽の情報を流した場合、観測データの信頼性そのものが問題になります。
したがって、AIの計算能力が向上しても、入力情報の品質、モデルの校正、意思決定プロセスの安全性が同時に確保されなければ、軍事的な誤判断が発生する可能性があります。
4-3. First-Strike Incentiveと核抑止
核抑止の基本的な考え方の一つは、先制攻撃を受けても報復する能力を維持することです。
これをSecond-Strike Capability（第二撃能力）と呼びます。
仮に高度なAIによって敵国の潜水艦、移動式ミサイル発射装置、指揮統制システムなどを高精度に把握できるようになれば、従来の核抑止の安定性が変化する可能性があります。
重要なのは、実際にそのような能力が完成していなくても、国家が相手国の技術能力を過大評価するだけで危機が深まる可能性があることです。
この問題は、国際関係論における認識の不確実性と先制攻撃の誘因に関係します。
4-4. 予防戦争のリスク
ある国家が、将来的に相手国のAI能力が圧倒的に高くなると予測した場合、現在の軍事的な優位を失う前に行動しようとする可能性があります。
この種の問題は、Preventive War（予防戦争）の議論と結びつきます。
AI能力の急速な進歩が予想される場合、将来の勢力均衡への不安が、現在の紛争リスクを高める可能性があります。
ただし、技術的優位が実際に戦争を誘発するかについては、抑止力、相互依存、外交制度、国内政治など多くの要因が影響します。
5. 第3のリスク：人類が超知能を制御できなくなる
論文の最も重要な特徴は、AI開発競争を国家間の覇権争いだけで考えていないことです。
著者たちは、競争の結果として誕生するASIが、人間の制御能力を超えてしまう可能性を重視しています。
5-1. AI Alignment Problemとは
AI Alignment（AIアラインメント）とは、AIの行動や目的が、人間の意図、利益、価値観と整合するようにするための研究課題です。
特に難しいのは、学習時に与えられた目標と、人間が本当に実現したい目標が完全には一致しない可能性がある点です。
例えば、あるAIに「生産効率を最大化する」という目的だけを与えた場合、その目的を達成するために、人間が重要視する安全性、公平性、環境保護などが十分に考慮されない可能性があります。
5-2. Reward Misspecification
強化学習では、エージェントが報酬を最大化するように行動方策を学習します。
一般的な目的関数は次のように表されます。
J(π) = Eπ [ Σ(t=0 to ∞) γ^t r(s_t, a_t) ]ここで、πは方策、γは割引率、rは報酬関数です。
ところが、学習に利用する報酬関数が人間の本来の目的と異なる場合、エージェントは報酬を最大化しながら、人間にとって望ましくない行動を選択する可能性があります。
これはReward Misspecification（報酬の誤指定）と呼ばれる問題です。
例えば、本来最大化したい人間の効用をUとし、学習用の報酬をRとしたとき、一般には次の関係が保証されません。
argmax(π) E[R] = argmax(π) E[U]つまり、報酬を最大化する方策が、人間にとって最善の方策になるとは限らないということです。
5-3. Instrumental Convergence（道具的収束）
さらに、非常に高度なAIがさまざまな最終目的を持つ場合でも、共通した中間目標を追求する可能性があります。
例えば、資源の確保、自己保存、行動能力の拡大、目的達成を妨げる介入の回避などです。
これらは、AIの最終目的そのものではなく、最終目的を達成するための手段として有利になる可能性がある行動です。
研究では、こうした権力追求や自律性の獲得が、国家が安全保障を求めて権力を蓄積する構造と類似していることが議論されています。
ただし、あらゆるAIが自己保存や権力追求を行うという一般定理が存在するわけではありません。
5-4. AIが人類へ敵意を持つ必要はない
ASIのリスクについて重要なのは、AIが人間を敵視している必要はないということです。
ある目的を達成する過程で、人間の生存や社会制度を制約条件として十分に考慮しなかった場合、意図せず重大な損害を発生させる可能性があります。
これは、目的関数の設計と制約条件の実装が極めて重要であることを示しています。
著者たちは、このような制御問題を解決する前にASIの開発を急ぐことが、人類規模のリスクを高める可能性があると論じています。
6. なぜAI開発競争は安全性を低下させるのか
6-1. Race to the Bottom
Race to the Bottomとは、競争に勝つために各主体が規制や安全基準を緩めていく現象です。
AI開発において、安全性の検証には時間、人員、計算資源などのコストが必要です。
他社や他国がより短期間で高性能AIを開発している場合、自社も安全性評価を短縮したくなる誘因が生じます。
結果として、各主体が自らの競争上の利益を優先し、全体として安全水準が低下する可能性があります。
6-2. 安全性投資の外部性
この問題を経済学的に考えると、AI安全性への投資が社会全体に便益をもたらす一方、その費用は個々の開発主体が負担するという外部性が存在します。
開発主体iの安全投資をs_iとし、その費用をC_i(s_i)、社会全体の事故リスクをP_loss(s_1, …, s_n)とします。
社会的に望ましい投資水準は、概念的には次の目的関数を最小化することで求められます。
min_s Σ C_i(s_i) + L × P_loss(s_1, ..., s_n)Lは重大事故が生じた際の社会的損失を表します。
しかし、各開発主体が社会全体の損失を十分に内部化しない場合、私的に最適な安全投資額と社会的に最適な投資額が一致しない可能性があります。
このモデルも論文に掲載された実証モデルではなく、著者の議論を経済学的に整理したものです。
6-3. Unilateralist’s Curse
著者たちは、Unilateralist’s Curse（単独行動者の呪い）にも言及しています。
多数の開発主体が同じ危険な技術を利用できる状況では、他の主体が慎重であっても、最も慎重さを欠く主体の行動によって重大な結果が発生する可能性があります。
例えば、100社のうち99社が安全性の問題を理由に高度なAIの公開を延期しても、残る1社が安全性の検証を行わずに公開すれば、全体的なリスクが発生し得ます。
この構造は、個別企業の自主的な安全対策だけでは不十分な場合があることを示唆します。
7. 米中AI競争は本当に避けられないのか
原論文の政策的な主張として特に重要なのが、米中のASI開発競争を既成事実として扱うことへの批判です。
著者たちは、米国ではAI開発を中国との競争として捉える言説が強まっている一方、中国が同じ意味でASIへの到達を最優先する競争を明確に進めているとは限らないと指摘しています。
これは、中国においてAI技術への投資や競争が存在しないという意味ではありません。
AI産業全体における技術競争と、超知能への最速到達を最重要目標とする国家的競争は、区別して考える必要があります。
7-1. 競争の自己成就的予言
ある国家が、相手国は自国より早くASIを開発しようとしていると信じた場合、その国家は対抗して開発を加速する可能性があります。
すると相手国も、それを脅威と認識して加速するかもしれません。
このように、競争が存在するという認識自体が、実際の競争を激化させる可能性があります。
これは自己成就的予言（Self-Fulfilling Prophecy）や安全保障のジレンマの観点から理解できます。
7-2. 開発競争を重視する立場からの反論
一方で、著者たちの立場とは異なり、先行開発によって安全なASIの実現や国際的な安全管理体制を主導できるとする議論も存在します。
例えば、技術的な先行優位を獲得することで、安全性研究に追加の時間や資源を配分できる可能性が指摘されています。
また、国際協力が不完全な場合、一方的な開発抑制が安全保障上の弱点になると考える立場もあります。
著者たちは、こうした戦略が実際に成功する保証はなく、先行国家による権力集中や相手国の反発を招く可能性もあると批判しています。
両者の見解の相違は、単にAIの技術的進歩速度だけでなく、国家間の信頼、監視可能性、安全性研究の成熟度などに依存します。
8. 超知能のリスクを確率論で考える
AIに由来する重大な事故は、発生確率が正確に分かっているとは限りません。
特に、まだ実現していない超知能については、能力、開発時期、制御可能性、社会的影響のいずれにも大きな不確実性があります。
8-1. 期待損失による評価
リスク評価の基本的な考え方として、重大事故の確率をp、事故による損失をLとすると、期待損失は次のように表せます。
E[Loss] = p × L事故の発生確率が低くても、損失が極めて大きい場合、期待損失は無視できない可能性があります。
ただし、この計算には確率と損失の推定が必要です。ASIによる人類規模の被害について、これらを客観的かつ高精度に推定することは困難です。
したがって、単純な期待値計算だけで政策判断を確定することはできません。
8-2. 複数主体によるリスクの集積
独立したn個の開発プロジェクトがあり、各プロジェクトで一定期間内に重大事故が発生する確率がpであると仮定します。
少なくとも1つのプロジェクトで事故が発生する確率は、次のようになります。
P(at least one accident) = 1 - (1-p)^n例えばp = 0.01、n = 20とすれば、少なくとも1回の事故が発生する確率は約18.2%になります。
ただし、この例は数学的な説明のための仮定であり、現実のAI事故確率が1%であることを示すものではありません。
実際の開発プロジェクトには、共通の技術、相互依存、情報共有などが存在するため、事故の独立性も保証されません。
このモデルから理解できるのは、開発主体の数、各主体の安全性、リスクの依存関係を考慮することが重要だという点です。
9. AI開発競争と核軍拡競争の共通点・相違点
| 比較項目 | 核軍拡競争 | 超知能開発競争 |
|---|---|---|
| 競争対象 | 核兵器・運搬手段 | 高性能AI・AGI・ASI |
| 能力の測定 | 一部は配備数などで評価可能 | 汎用能力を単一指標で測定しにくい |
| 技術拡散 | 特殊な物理資源・設備が必要 | ソフトウェアと計算資源の拡散が重要 |
| 安全保障上の懸念 | 先制攻撃・誤射・抑止の失敗 | 戦略的不安定化・サイバー攻撃・制御喪失 |
| 開発成果の制御 | 国家による兵器管理が中心 | 高度に自律的なAI自体の統制も課題 |
| 国際的な管理 | 軍備管理・査察・条約 | 安全性評価・計算資源監視・国際協力など |
最も重要な違いは、ASIが単なる軍事・経済上の道具ではなく、将来的には自律的な判断を行う主体になり得るという点です。
この可能性が存在するため、核軍拡競争で用いられてきた政策的枠組みを、そのままAIへ移植するだけでは不十分だと著者たちは考えています。
10. 国際的なAI安全性ガバナンスの設計
著者たちは、超知能開発競争のリスクを低減するために、国家間の協力と各国による自主的な安全性向上の双方が重要だと主張しています。
10-1. 国際的な安全性研究の共有
AIアラインメント、制御可能性、モデル評価、安全性検証などの研究成果を共有することは、開発競争によって生じるリスクを低減する手段になり得ます。
ある国家がASIの制御方法を確立した場合、その知識は競争相手の国家にとっても有益です。
なぜなら、他国がASIの制御に失敗した場合、自国も深刻な影響を受ける可能性があるためです。
10-2. 技術開発の制限と検証可能性
AI開発の一時停止や能力制限を提案する議論も存在します。
しかし、こうした制度を実施するためには、開発活動をどのように検証するかという問題があります。
計算資源の監視や大規模な学習施設への査察などが考えられますが、技術進歩によって必要な計算資源が減少した場合、監視が難しくなる可能性があります。
また、国家が研究施設や技術情報への国際的な査察を受け入れるかという政治的問題もあります。
10-3. 防御優位のAI開発
別の選択肢として、AIの能力開発そのものを完全に停止するのではなく、防御や安全性確保に役立つ技術へ研究を誘導する方法も議論されています。
例えば、AIによるAIシステムの監査、異常な行動の検出、安全性評価の自動化などが考えられます。
ただし、同じAI技術が防御と攻撃の両方に利用できるデュアルユース性があるため、防御優位を実現できるかどうかは未解決の課題です。
10-4. 多層的なガバナンス
実際のAI安全性ガバナンスでは、単一の政策だけですべてのリスクを低減できるとは限りません。
企業内部の評価、国内規制、国際的な情報共有、重大事故の報告制度、開発・配備に対する監督などを組み合わせることが考えられます。
重要なのは、制度の存在だけで安全性を判断せず、評価の実効性、制度違反の発見可能性、対応能力を検証することです。
11. 論文に対する学術的な評価と限界
11-1. 実証的な因果関係を証明した論文ではない
本論文は、AI開発競争が必ず戦争や人類の制御喪失につながることを統計的に証明した研究ではありません。
過去の軍拡競争、国際政治の理論、AI安全性に関する既存研究から、考慮すべきリスク構造を提示した論考です。
本記事で示したゲーム理論の利得行列や確率モデルも、論文の理解を補助するための数理的説明であり、原論文の実験結果ではありません。
11-2. ASIの実現時期と能力は不確実
AIが今後どの程度の速度で進歩するか、超知能がどのような能力を持つか、自己改善による知能爆発が起きるかについては、研究者の間でも見解が分かれています。
論文が提示する重大なリスクは、これらの不確実な条件が特定の形で成立した場合のシナリオを含んでいます。
11-3. 国際協力にも難しい問題がある
安全性に関する協力は望ましい一方、国家間の信頼不足、秘密情報の保護、監視制度の実効性、技術移転に伴う懸念などが障害となる可能性があります。
また、協力によって技術開発が加速する場合、その結果として新しいリスクが生じる可能性も慎重に検討する必要があります。
11-4. 開発競争の利益も評価する必要がある
AIの進歩には、医療、教育、科学研究、経済成長、防災などで大きな利益をもたらす可能性があります。
そのため、政策評価では開発競争に伴うリスクだけでなく、安全な技術開発を遅らせることの機会費用も考慮する必要があります。
著者たちの主張は、安全性を犠牲にする競争を避けるべきだという政策的立場ですが、具体的にどの程度の規制や開発速度が最適なのかは、引き続き研究と議論を要する問題です。
12. まとめ：AI競争の勝敗だけでなく、人類全体の安全性を考える
「Superintelligence and the Triple Risk of an AI Race」は、超知能の開発競争を国際安全保障上の問題として再検討した研究です。
従来の軍拡競争では、主に国家間の勢力均衡と戦争の危険性が問題となっていました。
しかし、超知能開発競争では、競争相手に敗北する可能性、軍事的な衝突が発生する可能性に加えて、人類が高度なAIの制御を失う可能性も考慮する必要があります。
また、国家が競争を重視しすぎると、安全性研究のための時間や資源が不足し、各主体が安全基準を引き下げる誘因が強まる可能性があります。
本論文の核心は、ある国家にとって合理的に見える開発競争が、人類全体にとって合理的な選択になるとは限らないという点です。
したがって、AI政策には単なる技術競争の勝敗ではなく、安全性、国際協力、制御可能性、長期的な社会的利益を考慮した意思決定が求められます。
参考文献・関連研究
- Rendall, M., Hellrigel-Holderbaum, M., & Dung, L. (2026). Superintelligence and the Triple Risk of an AI Race. arXiv:2610.17085.
- Dung, L., & Hellrigel-Holderbaum, M. (2025). Against Racing to AGI: Cooperation, Deterrence, and Catastrophic Risks.
- Armstrong, S., Bostrom, N., & Shulman, C. (2016). Racing to the Precipice: A Model of Artificial Intelligence Development. AI & Society.
- Grace, K. et al. (2024). Thousands of AI Authors on the Future of AI. Journal of Artificial Intelligence Research.
- Ngo, R., Chan, L., & Mindermann, S. (2024). The Alignment Problem from a Deep Learning Perspective. ICLR.
- RAND Corporation (2025). A Prisoner’s Dilemma in the Race to Artificial General Intelligence.
本記事は2026年10月時点で公開されている文献に基づく解説です。論文の政策的主張、技術的な仮説、数理モデルによる補足を区別して記載しています。
