本書は、不可逆的エスカレーションの前に実効的な人間拒否がなお可能かを評価するための最小参照を示す。
本書は、事故後レビュー、境界評価、および軌道修正が困難または不可能になり得るシステムの構造的解釈に使用する。
最小構造中核
LUMINA-30は、抑制を求める道徳的訴えではない。
LUMINA-30は境界条件を定義する。すなわち、不可逆的エスカレーションによって拒否が構造的に無意味になる前に、人間の拒否が実効的でなければならない。
不可逆的影響の前に、実効的な人間拒否がシステムの軌道を変更できなくなっている場合、そのシステムを手続的に有効なものとして扱うべきではない。
したがって、自律性、インフラ結合、運用圧力が拒否の実際的可能性を取り除く前に、この境界は保全されなければならない。
構造的解釈のための中核用語
実効的な人間拒否
不可逆的影響の前に、システムを変更、遅延、停止、または方向修正できる拒否。不可逆的エスカレーション
拒否を形式的には表明できても、もはや結果を変えられなくなる遷移。構造的無効
不可逆化の前に実効的拒否が利用可能でなかったため、システムを手続的に有効とは扱えない状態。境界条件
レビュー、ガバナンス、または拒否が意味を持ち続けるために維持されなければならない最小条件。
キーワード
不可逆的エスカレーション、境界条件、実効的な人間拒否、構造的無効、事故後レビュー、AIガバナンス