CASE-001|AI開発競争と核エスカレーション圧力

この事例は、AI競争が実際に核戦争を引き起こしたという事故記録ではありません。公開研究・公的資料を基に、不可逆化前の人間の拒否・検証可能性を検討する構造リスク事例です。

A. 事例概要

軍事AIの導入やAI開発競争が、国家間の能力・意図に関する不確実性、意思決定時間の圧縮、戦略的脆弱性への懸念を強め、核エスカレーションのリスク環境を悪化させ得るかを検討します。

収録理由

AI関連意思決定が、危機時の人間の拒否・検証可能性を時間・情報・制度面から弱め得るというLUMINA-30の適用条件を満たす可能性があり、公開研究で検討可能な高影響の構造リスク STRUCTURAL_RISK であるため収録します。実事故による実証ケースとしては数えません。

B. 証拠の状態

確認済み事実

SIPRIは、非核用途の軍事AIであっても、意思決定時間の圧縮、誤算、AI意思決定支援への過信、戦略的安定性への影響を通じ、核エスカレーションへ影響し得ると整理しています。

国連総会決議 A/RES/80/23 は、AIを統合した核兵器の指揮・統制・通信についても、人間による統制・監督(control and oversight)を維持し、核使用に関する決定をAIに自律的に開始させないことを求めています。

ICRCは、軍事AIが戦争の速度・規模を加速し、予測困難性を増し、武力行使に対する人間の統制(human control)を低下させ得ると指摘しています。

根拠のある推論

相手能力の不透明性、AI支援判断への過信、対応時間の短縮、戦略的脆弱性への恐怖が同時に強まる場合、危機時の早期行動圧力が増える可能性があります。

シナリオ/仮説

「相手がAI上の決定的優位を得る前に行動しなければならない」という認識が危機安定性を悪化させる可能性があります。これは検証すべき仮説であり、AI開発競争から核使用への単純な因果関係を確定するものではありません。

現在の評価に反する証拠

何が判明すれば評価を変えるか

C. 不可逆境界

想定する不可逆境界は、国家間危機が、後から通常の外交的・制度的手段では元の選択可能性へ戻せない大規模軍事エスカレーションへ移る地点です。

境界を確認する問い:
不可逆な軍事行動へ移る前に、責任ある人間が追加確認、拒否、延期、方向転換を実効的に選べるか。

D. 人間の最終拒否

形式的に人間が最終決定者であっても、それだけでは十分ではありません。

確認点:

国家ごとの制度・警戒態勢・AI統合状況が異なるため、世界共通の一律な肯定/否定判定は現時点では検証不能です。

E. 運用上の実効性

本ケースの核心は、人間が判断過程にいることという形式ではなく、その人間が実際に拒否できるかです。

実効性を弱め得る要因:

F. 失敗経路

AI競争
→ 相手能力・意図の不確実性増加
→ 戦略的脆弱性への懸念
→ 判断時間短縮
→ 待つことの損失が大きいとの認識
→ 人間の拒否・再確認が実務上困難化
→ 不可逆的エスカレーション

これは必然的な因果鎖ではなく、複数条件が重なった場合のリスク経路です。

G. LUMINA-30 境界レビュー

不可逆化する前に、人間は実効的に拒否・停止・検証・方向転換できたか?

英語: Before irreversible AI escalation, could humans still effectively refuse, stop, verify, or redirect?

暫定評価: 部分適用/構造リスクを確認 PARTIAL / STRUCTURAL RISK IDENTIFIED

公開研究は、軍事AIが意思決定時間、誤認、自動化バイアス、戦略的脆弱性の認識を通じ、核エスカレーション環境を悪化させ得ることを支持しています。一方、国家別の実運用・AI統合・拒否権の実効性には非公開部分が多く、一般化した最終判定はできません。

H. 検討可能な安全策

このケースに直接関係する候補:

これらはLUMINA-30の固定必須セットではなく、このケースで検討する候補です。

I. 限界と代替説明

J. 再利用・制度接続

制度接続メタデータ

持ち運べる問い/意味を守るためのガード

根拠資料

  1. SIPRI, Impact of Military Artificial Intelligence on Nuclear Escalation Risk (June 2025)
    https://www.sipri.org/publications/2025/sipri-insights-peace-and-security/impact-military-artificial-intelligence-nuclear-escalation-risk
  2. United Nations General Assembly, A/RES/80/23, Possible risks of the integration of artificial intelligence into command, control and communications systems of nuclear weapons (2025)
    https://digitallibrary.un.org/record/4095461
  3. ICRC, FAQ: Artificial Intelligence (AI) in the military domain (11 June 2026)
    https://www.icrc.org/en/article/faq-artificial-intelligence-in-military-domain