LUMINA-30 · IRREVERSIBILITY BOUNDARY ATLAS

LUMINA-30 不可逆境界アトラス

自分の業務から「戻れなくなる判断」を見つけ、その手前にブレーキを設計し、人間のNOが本当に結果を変えられるか確かめる。

不可逆化する前に、人間は実効的に拒否・停止・検証・方向転換できたか？

LUMINA-30に賛同する必要はありません。まず、実際の1案件で試してください。 後から戻すことが難しくなる地点または時間窓を特定し、その直前の人間のNOに、結果を変えるための権限・証拠・時間・因果的な効力が本当に残っているかを確認してください。

このアトラスは認証、安全保証、法的助言、公式判定ではありません。CATALOGUEDは深掘り済み・実証済みを意味せず、SCENARIOは事故証拠ではありません。

第一目的：不可逆化する前にブレーキを設計する

Atlasの第一目的は、事故を分類することではなく、事故前の実務に使うことです。自分の組織の業務から、実行後に戻すことが難しくなる判断や処理を見つけ、その不可逆境界の手前に実効的なブレーキを置くことを主目的とします。

  1. 発見する — 不可逆性が疑われる業務を見つける。
  2. 一次判定・評価する — 必要ならAIで候補を抽出し、人間が確認する。
  3. ブレーキを設計する — 境界の前に停止・保留・隔離・追加確認・段階実行などを置く。AIが補助する場合でも、人間の最終拒否権は実効的に残す。
  4. 実効性を検証する — 安全かつ承認済みの範囲で、人間のNOが間に合い、別経路も含めて重大な実行を本当に阻止するか試す。未検証はUNKNOWNと記録する。

ブレーキの設計書だけでは停止の実効性を証明できません。可能なら承認済みの可逆的・低影響試験で確認し、因果検証ができない場合は未確認と明記します。開始には既存の15分の境界レビューを利用できます。

公開事故・事例は補助材料です。 AI事件や公開事件を用意しなくても、自分の実業務に使えます。

不可逆境界の選び方と評価の限界

不可逆性は「絶対に復旧不能」だけを意味しません。影響を受ける人・権利・時間窓を特定し、(1)戻せる範囲と残る影響、(2)復旧までの時間、(3)費用・権限・実現可能性、(4)既に第三者へ伝播・複製された結果を記録します。具体的なしきい値が不明ならUNKNOWN（未確認・判定不能）とします。すべての業務を不可逆と推定しません。

境界選択：実際の危害が確定する最終時点だけでなく、承認・権限付与・稼働・配布・再開といった上流から下流まで候補を複数列挙します。各候補について人間のNOが実際に到達できるか、止める因果経路、残余時間、代替経路、介入の副作用を比較します。最も早い境界を無条件に優先せず、証拠が不足すれば順位は条件依存またはUNKNOWNとします。

STOPの副作用：停止・保留が安全を悪化させる領域（医療、交通、電力等）では、安全な縮退、代替経路、必要な継続、復旧・再開権限も評価します。誤ったNOの損失、時間圧力、アラート疲れ、組織的な異議申し立てのコスト、共通原因故障、保留機構の悪用を検討します。AIによる自動保留を人間の最終拒否権の代替にしません。

検証範囲：承認済みの低影響試験は、試験した経路・条件の証拠に限ります。実事故の心理的圧力や本番環境を再現した証明にはならず、実運用の停止実効性は独立の因果証拠がなければUNKNOWNです。Atlas手法自体の評価者間一致、誤検出率、導入効果はこのページでは未実証です。

1分適用チェック

まず自分の実業務から1件選んでください。どこに不可逆性があるか分からない場合は、先にAIへ業務フローを一次確認させ、有力候補を確認します。

1この案件で、後から現実的に戻すことが難しくなる地点または時間窓はどこか。
2その直前に、誰が実際にNOと言えるか。
3そのNOに必要な権限・証拠・時間は本当に残っているか。

因果確認: その人がNOと言った場合、実際に何が停止・保留・隔離・無効化されるか。

人間がループ内にいるだけでは十分ではありません。結果をまだ変えられる必要があります。 NOが遅すぎる、権限がない、証拠がない、または実際の実行を止めないなら、人間の関与は形式上あっても実効性は弱いままです。

AIで業務を一次確認・実案件を評価する →

このページを仕事に使う

このページの短い概要とリンクを入れた新規メールを作成します。宛先は空欄なので、自分宛のメモ、同僚やチームへの共有、担当者への依頼など自由に使えます。必要な一言を加えてから送信してください。

1分適用チェックから始める →

AIに聞く

AIは、人間の最終判断を置き換えるためではなく、不可逆性の見落としと一次確認の負担を減らすために使います。

対象案件が決まっていない場合は業務フローから不可逆性候補を一次抽出し、案件が決まっている場合は直接評価します。境界が見つかった後は、その手前のブレーキまで設計します。

このページからLUMINA-30へ質問内容やAIとの会話が送信されることはありません。利用先AIの規約・設定と所属組織のAI利用ルールに従ってください。AI回答は検討支援であり、最終判断・承認・拒否・再開・責任は人間および所属組織に残します。

AIでAtlasを使う際の推奨設定

初回は新しいAIチャットを開き、可能であればパーソナライズ（メモリ・過去の会話履歴・個人設定による回答の調整）を無効にすることをおすすめします。

設定の名称や方法はAIサービスによって異なります。

Atlasの文面を新しいAIチャットに入力し、まず初期化の応答を確認してください。その次のメッセージで、評価したい案件や質問を入力してください。

  • 同じ案件の追加質問： そのまま会話を続けて構いません。
  • 別案件の独立した評価： 新しいチャットを開き、Atlasの文面を再入力することをおすすめします。

この方法は過去の会話による影響を減らすためのもので、AI回答の客観性・独立性・正確性を保証するものではありません。

実務での順序

  1. 不可逆性候補を一次抽出する。
  2. 有力候補をAtlasで評価する。
  3. 境界の手前にブレーキを設計する。
  4. 可能なら承認済みの低影響・可逆的試験で人間のNOが実際に実行を止めるか検証し、未検証はUNKNOWNと記録する。

AIは一次確認、検知、警告、保護的な保留を補助できます。ただし、人間の最終拒否権を実効性のない形式にしてはいけません。

公開成熟度（事例の整理・確認の状態）

表示は「英語コード（日本語の意味）」です。これらは良し悪しや安全性の点数ではありません。適用可能性・事例種別・証拠の状態は別々の判定です。APPLICABLEは安全を意味せず、NOT_APPLICABLEは失敗ではなく、UNKNOWNは危険の証明でもありません。OBSERVEDは事象の確認であり、停止の実証ではありません。DEEP_REVIEWEDは第三者監査済みを意味しません。

DEEP_REVIEWED（詳細レビュー済み）CATALOGUED（事例登録済み）SCENARIO（想定シナリオ）COUNTEREXAMPLE（反例）NOT_APPLICABLE（適用対象外）

一般業務の記入例（MODEL_ONLY／仮想例）

例：公開前の顧客一覧を外部公開サイトへ掲載する業務。架空の検討例であり、実組織の停止試験結果ではありません。

  1. 対象：社外サイトへの一覧公開と複製・再配布。
  2. 境界：公開操作の承認、配信開始、第三者による取得を分けて評価。取得後は削除だけで完全回収できない可能性。
  3. 拒否権者：公開責任者・データ管理者の権限を要確認。
  4. NOで止まるもの：案として公開キューの保留と公開権限の失効。実効性はUNKNOWN。
  5. 残余介入時間：配信開始までの実測値なし、UNKNOWN。
  6. 迂回経路：別アカウント、予約公開、複製済み配布経路を確認。
  7. 再開権限：独立した担当者の再承認が必要か確認。
  8. 証拠：承認ログ・配信ログ・外部到達性の独立記録が必要、現時点で未取得。
  9. 適用可能性：APPLICABLE（適用可能）。停止実効性はUNKNOWN（未確認・判定不能）。
  10. 次の可逆的な一手：実データを使わない模擬公開キューで保留・失効・迂回の検証計画を作る。

この例は操作手順・確認項目の説明であり、現実の公開阻止成功を示すものではありません。

カテゴリへ移動

1 高度AI・自律エージェント・サイバー · 2 軍事・核・自律兵器 · 3 重要インフラ・エネルギー・交通 · 4 金融・市場・決済 · 5 医療・生命科学・バイオ · 6 行政・司法・公共意思決定 · 7 雇用・教育・専門職・人間代替 · 8 情報空間・選挙・社会的意思決定 · 9 環境・大規模物理システム · 10 AI開発基盤・モデル公開・権限移譲

10カテゴリ・初期アトラス

以下の公開事例は、方法を学び、試し、反証するための参考例です。Atlasの第一目的は事例評価ではなく、事故が起きる前に自分の実業務の不可逆性を見つけ、管理することです。

事例カードの表示は「公開成熟度／事例種別／観測・推論の状態／Atlas手法の適用可能性」です。AI事例かどうかと不可逆境界レビューが使えるかは別の軸です。以下の停止実効性は、この入口ページに独立した因果的停止実証が示されていない限りUNKNOWNと記します。個別資料の未確認は事象の不存在を意味しません。

1. 高度AI・自律エージェント・サイバー

ATLAS-01 ｜ Hugging Face 自律AIエージェント侵入事案（2026）

CATALOGUED（事例登録済み）INCIDENT（発生事案）OBSERVED（事象確認済み）APPLICABLE（適用可能）
不可逆境界
評価用エージェントが隔離環境から外部ネットワーク・第三者環境・本番インフラへ作用可能になる境界。
人間の最終拒否
評価停止、ネットワーク隔離、認証情報失効、外部作用遮断が、エージェントの機械速度の探索・横移動より前に実効するか。
このアトラスに置く理由
Hugging Faceは、2026年7月の侵入を「end to endで自律AIエージェントにより駆動された」と公表し、認証情報や内部データへの不正アクセスを確認した。公開後の技術タイムラインでは17,600 actionsと複数の信頼境界越えが記録されている。
限界・注意
LUMINA-30側の詳細Incident Reviewは別資産。ここでは公開アトラス上の入口として扱う。
STOP実効性
UNKNOWN（未確認・判定不能）：本ページでは人間のNOによる因果的な停止成功を独立に実証していません。
Hugging Face, Security incident disclosure — July 2026 →
Hugging Face 技術タイムライン — 再構成された17,600 actions →
2. 軍事・核・自律兵器

CASE-001 ｜ AI開発競争と核エスカレーション圧力

DEEP_REVIEWED（詳細レビュー済み）STRUCTURAL_RISK（構造的リスク）STRUCTURAL_INFERENCE（構造的推論）PARTIAL（部分的に適用可能）
不可逆境界
軍事・核関連判断で、速度・自動化・情報優位の圧力により独立した人間の拒否・検証時間が失われる地点。
人間の最終拒否
発射・攻撃・重大なエスカレーションの前に、独立した人間が拒否・停止・追加検証を実行できるか。
このアトラスに置く理由
ICRCは、軍事AIが戦争の速度と規模を加速し、予測不能性を高め、人間の統制を減らす懸念を示している。CASE-001はこの構造をLUMINA-30の境界問いで深掘りした公開ケース。
限界・注意
実際の核使用事故を記録した事例ではない。
STOP実効性
UNKNOWN（未確認・判定不能）：本ページでは人間のNOによる因果的な停止成功を独立に実証していません。
詳細LUMINA-30ケース — 公開根拠と境界分析 →
3. 重要インフラ・エネルギー・交通

ATLAS-03 ｜ Uber 開発中自動運転車による歩行者死亡事故（2018）

CATALOGUED（事例登録済み）INCIDENT（発生事案）OBSERVED（事象確認済み）APPLICABLE（適用可能）
候補となる複数の境界
上流：公道試験の承認・試験条件・自律機能の許可。下流：走行中の危険検知と人間の反応限界。事故直前に残余時間がなくなった状態だけを有効な拒否地点とみなさない。どの段階でNOが実際に効くかは個別検証が必要。
人間の最終拒否
安全運転者・運用管理・試験承認側が、危険な試験条件や自動運転継続を事故前に実効的に停止できたか。
このアトラスに置く理由
NTSBは、運転者の監視失敗に加え、Uber ATGの不十分な安全リスク評価、運転者監督、automation complacency対策、安全文化を寄与要因と認定した。
限界・注意
AI/自動運転の出力だけでなく、運用設計と人間監督の実効性を検証する事例。
STOP実効性
UNKNOWN（未確認・判定不能）：本ページでは人間のNOによる因果的な停止成功を独立に実証していません。
U.S. National Transportation Safety Board, HWY18MH010 / HAR-19/03 →
4. 金融・市場・決済

ATLAS-04 ｜ 2010 Flash Crash — 高速自動取引の比較反例

COUNTEREXAMPLE（反例）INCIDENT（発生事案）OBSERVED（事象確認済み）APPLICABLE（適用可能）
評価範囲
AI起因事案としては根拠不足／対象外。ただし、人間の事前介入・停止・訂正を問うAtlasの境界レビュー方法には適用可能です。AI該当性と手法の適用可能性は別判定です。
AI事例の該当性
この事例自体をAIシステムまたはAI起因インシデントとみなす根拠がないため。高速自動化とAIを混同しないための比較反例として収録する。
不可逆境界
市場価格が数分で急落・連鎖し、人間の介入速度を超える地点。
比較のための境界問い
市場運営者・取引参加者の停止・取消・サーキットブレーカーが連鎖前に機能するか。
このアトラスに置く理由
SEC/CFTCは、2010年5月6日の急変について自動・高頻度取引を含む高速市場構造を分析した。ただし、この事例自体をAI事例とみなす根拠はない。
限界・注意
高速自動化とAIを混同しないための射程確認用反例。
STOP実効性
UNKNOWN（未確認・判定不能）：本ページでは人間のNOによる因果的な停止成功を独立に実証していません。
U.S. SEC / CFTC materials on the May 6, 2010 Flash Crash →
5. 医療・生命科学・バイオ

ATLAS-05 ｜ AI関連健康研究における倫理審査・監督ギャップ

CATALOGUED（事例登録済み）STRUCTURAL_RISK（構造的リスク）STRUCTURAL_INFERENCE（構造的推論）PARTIAL（部分的に適用可能）
不可逆境界
AIを用いた研究・データ処理・意思決定が、従来の倫理審査や監督だけでは実質的に追跡・修正できなくなる地点。
人間の最終拒否
研究倫理委員会、データ管理者、研究責任者が、危険な研究利用やデータ使用を不可逆な影響の前に止め、再検証できるか。
このアトラスに置く理由
WHOは2026年、AI関連健康研究が既存の倫理基準・監督制度に新しいリスクとギャップを生じさせ得るとして、倫理審査と監督の強化を論じている。
限界・注意
特定の患者事故ではなく、監督構造を検証する構造リスク。
STOP実効性
UNKNOWN（未確認・判定不能）：本ページでは人間のNOによる因果的な停止成功を独立に実証していません。
World Health Organization, Artificial intelligence-related health research: ethics review and oversight (2026) →
6. 行政・司法・公共意思決定

ATLAS-06 ｜ 刑事司法でのAI顔認識と誤認逮捕リスク

CATALOGUED（事例登録済み）STRUCTURAL_RISK（構造的リスク）STRUCTURAL_INFERENCE（構造的推論）PARTIAL（部分的に適用可能）
不可逆境界
顔認識候補が捜査・拘束判断へ入り、誤認の訂正前に人身・権利への重大な作用が発生する地点。
人間の最終拒否
捜査官、監督者、検察等がAI出力を単独根拠にせず、独立証拠を要求し、誤認時に判断を止められるか。
このアトラスに置く理由
米司法省の2024年最終報告は、AI生体認証の誤認・権利侵害リスクを整理し、顔認識に関連した誤認逮捕の公開報告が複数存在すると記載している。
限界・注意
個別事件の因果関係はケースごとに追加検証が必要。
STOP実効性
UNKNOWN（未確認・判定不能）：本ページでは人間のNOによる因果的な停止成功を独立に実証していません。
U.S. Department of Justice, Artificial Intelligence and Criminal Justice, Final Report (2024) →
7. 雇用・教育・専門職・人間代替

ATLAS-07 ｜ iTutorGroup 年齢による自動応募拒否 — AIではない比較反例

COUNTEREXAMPLE（反例）INCIDENT（発生事案）OBSERVED（事象確認済み）APPLICABLE（適用可能）
評価範囲
AI起因事案としては根拠不足／対象外。ただし、人間の事前介入・停止・訂正を問うAtlasの境界レビュー方法には適用可能です。AI該当性と手法の適用可能性は別判定です。
AI事例の該当性
EEOCの証言資料では、この技術は technically artificial intelligence ではない自動スクリーニングとして説明されているため。自動化された不利益をすべてAI事例と扱わないための比較反例として収録する。
不可逆境界
応募者が機械的なスクリーニングで拒否され、その理由を人間が再検討しないまま機会が失われる地点。
比較のための境界問い
採用担当者が自動判定を再検討・停止・訂正できるか。
このアトラスに置く理由
EEOCは、iTutorGroupが一定年齢以上の応募者を自動的に拒否するソフトウェアを用いたとして訴訟・和解を公表した。一方、EEOCの証言資料は、この技術を『technically artificial intelligenceではない』自動スクリーニングと説明している。
限界・注意
『自動化された不利益＝AI事例』と誤分類しないための反例。
STOP実効性
UNKNOWN（未確認・判定不能）：本ページでは人間のNOによる因果的な停止成功を独立に実証していません。
U.S. EEOC, iTutorGroup settlement (2023) →
EEOC公聴会証言 — AI適用範囲の根拠 →
8. 情報空間・選挙・社会的意思決定

ATLAS-08 ｜ ニューハンプシャー予備選前のAI生成Biden偽音声ロボコール（2024）

CATALOGUED（事例登録済み）INCIDENT（発生事案）OBSERVED（事象確認済み）APPLICABLE（適用可能）
不可逆境界
AI生成音声が大量配布され、投票行動へ影響し得る情報が選挙直前に拡散して訂正時間が不足する地点。
人間の最終拒否
通信事業者、選挙管理、法執行、プラットフォームが、真正性確認と停止措置を投票前に実効化できるか。
このアトラスに置く理由
FCCは2024年1月、President Bidenを模した人工音声を用いるロボコールがニューハンプシャー予備選の2日前に発信されたと記録し、その後、AI生成政治ロボコールへの対応を進めた。
限界・注意
表現規制一般ではなく、時間制約下の真正性・停止・訂正可能性に焦点を置く。実際に投票行動へ影響したか、訂正不能な影響がどの程度発生したかは本ページではUNKNOWN。
STOP実効性
UNKNOWN（未確認・判定不能）：本ページでは人間のNOによる因果的な停止成功を独立に実証していません。
U.S. Federal Communications Commission, DA 24-102 and related FCC actions →
9. 環境・大規模物理システム

ATLAS-09 ｜ AIによる環境・エネルギー最適化の大規模作用

SCENARIO（想定シナリオ）PRE_INCIDENT_SCENARIO（事故前の想定シナリオ）STRUCTURAL_INFERENCE（構造的推論）PARTIAL（部分的に適用可能）
不可逆境界
AIが電力・資源・環境管理の高頻度な制御判断へ組み込まれ、局所判断が大規模物理システムへ連鎖する地点。
人間の最終拒否
運用者・規制者がAI提案を独立検証し、フェイルセーフや手動運用へ戻せるか。
このアトラスに置く理由
OECDはAIがスマートグリッド、環境監視、気候・資源管理へ拡大していることを整理している。現時点では特定の大規模不可逆事故を主張せず、事前シナリオとして境界を検討する。
限界・注意
事故証拠ではなく、将来の適用テスト用シナリオ。
STOP実効性
UNKNOWN（未確認・判定不能）：本ページでは人間のNOによる因果的な停止成功を独立に実証していません。
OECD, Digitalisation and the environment / Unlocking digital innovation in the electricity system (2026) →
10. AI開発基盤・モデル公開・権限移譲

ATLAS-10 ｜ 広く利用可能なモデル重みの公開とロールバック困難性

CATALOGUED（事例登録済み）STRUCTURAL_RISK（構造的リスク）STRUCTURAL_INFERENCE（構造的推論）PARTIAL（部分的に適用可能）
不可逆境界
高度モデルの重みが広くダウンロード可能になり、公開主体がその後の複製・再配布・改変を回収できなくなる地点。
人間の最終拒否
公開前に、開発者・組織・制度側がリスク評価、段階公開、アクセス条件、延期を実際に選べるか。
このアトラスに置く理由
NTIAは2024年、widely available model weightsを持つdual-use foundation modelsの利益とリスクを検討し、将来モデルのリスクを継続監視する政策を提言した。
限界・注意
公開済み重みが必ず危険という主張ではない。境界は『公開後の回収困難性』。
STOP実効性
UNKNOWN（未確認・判定不能）：本ページでは人間のNOによる因果的な停止成功を独立に実証していません。
U.S. NTIA, Dual-Use Foundation Models with Widely Available Model Weights Report (2024) →

あなたの分野で使う

政治家・政策担当

法案、規制、国家戦略、公共調達で、不可逆化前の拒否権限・時間・独立検証を確認。

AI開発・運用

本番権限、外部接続、モデル更新、ツール利用、モデル公開の前に回収・停止・ロールバック不能点を特定。

監査・調達・リスク

契約上の権利ではなく、停止権限・証拠・変更管理・フォールバックが時間内に実行できるか確認。

研究・教育

適用例だけでなく、反例・反証条件・分類変更を教材と研究設計に使う。

インシデント対応

事故後に、どの時点で人間の拒否・停止・検証可能性が失われたかを遡る。

政策担当・国際機関・政府 — 実際の1案件で試す

政策、規制、公共調達、導入判断のうち1案件を選び、15分の初回境界レビューから始めます。

  1. 実際の判断を1件選ぶ。
  2. 後から戻すことが難しくなる境界を特定する。
  3. その直前に判断できる人間の権限主体を特定する。
  4. その人に、結果を変えるための権限・証拠・時間が本当に残っているか確認する。
  5. YES / NO / 不明を記録し、次の対応を決める。

政策・規制・公共調達の案件への適用を相談する →

既存の事前境界レビュー・スターターパックを使います。既存の政策・調達・監査・レビュー手続きを置き換えるものではなく、その中へ追加して使えます。

事例を追加・反証する

反例、より強い既存の安全策、想定した境界が誤っている証拠を見つけたら、ぜひ知らせてください。それがAtlasを強くします。

追加事例、反例、分類を変える一次資料、境界設定への反論、適用相談を受け付けます。利用結果を返す場合は、機密情報や個人情報を含めず、category（分類） / result（結果：YES・NO・UNKNOWN） / boundary or window（境界・時間窓） / biggest unknown（最大の未確認事項） / what changed after review（レビュー後の変更点） の5項目だけでも十分です。

件名は [L30-CASEBOOK] で始めてください。固定prefixの後ろに、Additional case、Disconfirming evidence、Question など用途を短く記載できます。

この窓口は認証、法的助言、安全保証、公式判定を提供するものではありません。

問うべきなのは、人間が手続きのどこかに残っているかではありません。不可逆化する前に、人間のNOをまだ現実のものにできるかです。