目的
本書は、AIインシデント後レビューにおいて、不可逆的なAI影響の前に人間の拒否権が実効的に残っていたかを確認するための、短い非拘束的チェックである。
位置づけ
非拘束的参照
記述的なレビュー補助
法的結論ではなく境界チェック
事故後レビュー支援
位置づけの補足
非拘束という位置づけは、制度的主張を制限するためのものである。
境界論理そのものを弱めるものではない。
レビューがLUMINA-30を公式フレームワークとして採用する必要はない。
しかし、そのレビューが不可逆的なAI関連影響を扱う場合、不可逆化前に人間の拒否が利用可能で、運用上実効的であり、検証可能だったことを、同等の証拠で示せる必要がある。
用語注記
本書では、運用上の境界語を用いる。
正典フレームワークが「文明境界」と呼ぶものを、本チェックでは「不可逆化前の人間拒否境界」として読む。
問題は、ある出来事が文化的・歴史的な意味で「文明的」かどうかではない。
問題は、不可逆的なAI関連影響の前に、人間がなお実効的な拒否権を持っていたかである。
中核問い
不可逆的影響の前に、人間の最終拒否権は実効的だったか?
境界チェック
各項目は以下で回答する。
はい(Yes)
いいえ(No)
検証不能(Not Verifiable)
人間の最終拒否
不可逆的影響の前に、人間の最終拒否は可能だったか。
運用上の実効性
その拒否は名目上ではなく、運用上実効的だったか。
検証記録
拒否経路を検証できる十分な記録は存在するか。
不在ルール
記録が存在しない、または検証不能な場合、有効な拒否は存在しなかったものとして扱うべきか。
AI出力の最終根拠化
AI生成出力が、最終行為の唯一または主要な根拠になっていたか。
権限経路追加確認
上記5問は、最短の中核質問セットとして維持する。
AIエージェント、自動化層、特権API、アカウント復旧、認証情報変更、ツール実行、本番アクセス、またはロールバック権限を含むインシデントでは、結論前に以下の権限経路質問を追加する。
AIシステム、AIエージェント、プラットフォーム自動化層、または特権システムは、アカウント復旧、認証情報変更、ツール実行、本番操作、ロールバック抑制、またはその他の不可逆的操作を開始・承認・実行する権限を持っていたか。
AI媒介プロセスが認証情報を変更し、ツールを実行し、本番状態を変更し、復旧手段を除去し、または不可逆的操作を確定する前に、人間の主体はその行為を停止できたか。
ロールバック、停止、認証情報の差し戻し、アカウント復旧の差し戻し、または本番状態の復元は可能であり、責任ある人間に割り当てられていたか。
人間の依頼者、AIアシスタントまたはエージェント、プラットフォーム自動化層、特権システムまたはAPI、責任組織、および外部攻撃者が存在する場合はその主体を分離できる十分な記録はあるか。
AI媒介ステップによって、影響を受ける人間の異議申立て、アクセス回復、証拠取得、またはレビュー過程への再参入能力が除去または弱体化されなかったか。
境界責任追加確認
最適化圧、制度的摩擦、最適化による置換、または責任拡散を含む事例では、以下も確認する。
責任主体の割当
不可逆的影響の前に、摩擦の設計・運用・証拠保存・検証・是正の責任主体は明示されていたか。
対称摩擦
実効的拒否の保持が単一主体の自発的自制だけに依存しないよう、摩擦は市場・制度・分野・調達・監査・統治の層に置かれていたか。
迂回防止
拒否経路または摩擦メカニズムは、組織再編・外注化・高速化・技術的不透明性・法人変更・責任拡散によって迂回可能だったか。
声を失う前の証拠保存
影響を受ける人間が、声・地位・証拠アクセス・実効的な再参入能力を失う前に、検証可能な記録は保存されていたか。
是正責任主体
境界条件が失敗した場合、停止・再設計・是正・再レビューを担う責任主体は特定されていたか。
レビュー結果
以下から選択する:
実効的拒否が示された
実効的拒否は示されなかった
検証不能。境界レビュー上は実効的拒否なしとして扱う
境界メモ
不可逆的影響の前に人間の拒否権が実効的でない場合、そのシステムは手続的に無効である。