この文書は説明的なものであり、規範的なものではありません。これは、高影響の自律システム事故の後に、説明責任と手続上の責任が損なわれていないかを明確にするために参照できる中立的なチェックリストを提供します。
安全対策、制御、政策、または必要な措置を提案するものではありません。
中核問い(参照)
止めなかった最後の決断は何でしたか?誰が、いつ、どんな根拠で作ったのでしょうか?
チェックリスト(参照)
最終拒否権
- 実行を停止できる最後の有効な「ノー」を保持したのは誰ですか?
- その権限はどこにありましたか (役割/委員会/プロセスステップ)?
- 拒否権限は行使されたか、試みられたか、回避されましたか?
決定境界とタイミング
- 決定が運用上不可逆になったのはいつですか?
- その時点より前の、最後の可逆的な段階は何でしたか?
- 境界線を越えるタイミングについてはどのような証拠がありますか?
異議記録
- 少数派の反対意見は正式に記録されましたか?
- 異議申し立ては、後で削除または書き換えられない形式で保存されましたか?
- 反対意見は意思決定に関連した入力として扱われましたか、それともノイズとして扱われましたか?
不可逆ログと証拠経路
- 改ざん防止された意思決定パスのログはありますか?
- チェーンのどの部分が欠落しているか、上書きされているか、検証できないか?
- ログは責任ある署名者に帰属するものですか、それとも匿名/拡散されたものですか?
冷却期間と遅延
- 承認と実行の間に必須の待機期間はありましたか?
- 最終レビューと運用開始の間に時間の隔たりはありましたか?
- 遅延があった場合、遅延は免除されたのか、圧縮されたのか、それとも手続上の手続きとして扱われたのでしょうか?
再提出と反復可能性
- 繰り返しの提出には制限がありましたか (時間/条件/内容)?
- 「わずかに修正された再提出」は以前の拒否を回避しましたか?
- 以前の受け入れによって、前例のような圧力が生じたのでしょうか?
外部観測
- 独立した観察者が存在したか、文書化されましたか?
- そうでない場合、プロセスは完全に内部で閉ループでしたか?
- 第三者の記録はクロスチェックに利用できましたか?
責任の固定
- 個々の責任ある署名者は特定されていますか?
- 誰もいない」)のは仕様なのでしょうか?
- 制度構造は意思決定の権限と責任の引き受けを分離していましたか?
境界責任の割当
- 不可逆性以前の摩擦を設計したのは誰ですか?
- 実際にその摩擦を操作する責任を負ったのは誰ですか?
- 影響を受けた人間が声や立場、再突入能力を失う前に証拠を保存する責任は誰にあったのでしょうか?
- 摩擦メカニズムの検証と修正を担当したのは誰ですか?
対称摩擦
- 摩擦は一人の俳優の自制だけに依存していたのだろうか?
- 市場、制度、部門、調達、監査、またはガバナンスの層に摩擦が埋め込まれていましたか?
- 拒否を維持する主体は、摩擦を回避する主体によって競争上不利になるでしょうか?
迂回防止レビュー
- 再構築、アウトソーシング、加速化、技術的な不透明性、事業体の置き換え、または責任の分散によって責任を回避できるでしょうか?
- 責任がリセットされたように見えても、運用機能は継続したのでしょうか?
- 摩擦は形式的なものだけだったのか、それとも事実上回避不可能だったのか?
声を失う前の証拠保存
- 影響を受けた人間は、イベント後に声、立場、証拠へのアクセス、または再突入能力を失う可能性がありましたか?
- 損失が発生する前に記録は保存されていましたか?
- レビューでは、その後の沈黙を同意、回復、または手続きの正当性として扱うことを回避していますか?
是正責任主体
- 境界条件が満たされなかった場合、レビューを中断、再設計、修正、または再開する責任は誰にありますか?
- その責任は取り消しが可能になる前に割り当てられたのでしょうか、それとも事後的に割り当てられたのでしょうか?
- 修正パスは外部機関または独立機関によってレビュー可能ですか?
終了注記(範囲)
このチェックリストは、インシデント後の責任状況を明確にすることを目的としています。これは、推奨、要件、または管理の提案ではありません。