運用ガバナンス概念
AI停止権限(Stop Authority)
停止権限(Stop Authority)とは、不可逆的影響の前に、AIの実行を停止・延期・保留・隔離・拒否できる正当な人間の能力を、運用上の形にしたものです。
定義
停止権限(Stop Authority)とは、不可逆的影響の前に、AIの実行を停止・延期・保留・隔離・拒否できる正当な人間の能力を、運用上の形にしたものです。
一般概念とLUMINA-30での用法
緊急停止は技術的な能力ですが、停止権限は制度上の問題でもあります。システムが技術的には停止可能でも、その機能を使うための情報、許可、保護、実際の制御を適時に持つ人がいない場合があります。
この区別が重要な理由
レビューでは、権限保持者、発動条件、利用可能な時間、影響するシステム、エスカレーション経路、停止の発動が関係する結果を実際に中断できるかを特定する必要があります。
適用限界と不明点
LUMINA-30は非拘束であり、停止権限を付与しません。法的権限、組織上の役割、技術的制御は、責任を負う制度・組織が確立する必要があります。
公式一次資料
これらはLUMINA-30の公式公開資料へのリンクです。このWikiページ自体は、要約した主張の根拠ではありません。