ノート 18 星間航海士の手引き 約2分
外部送信、情報公開、金銭支出など、一度実行すると撤回できない不可逆アクションの特定。AIを出力評価に留め、意思決定の席には決して座らせない統括原則を確立します。
意思決定を伴う実務アクションは、可逆的アクションと不可逆的アクションに明確に二分されます。この境界線を事前に画定しておくことで、致命的な判断ミスを回避できます。
不可逆的アクションとは、外部へのメッセージ送信、報告書の公式公開、契約の締結、金銭の決済など、一度執行すると完全な撤回が不可能な行為を指します。
不可逆な行為において、AIに決定権を委ねてはなりません。文章の推敲や反対論点の洗い出しといった下準備は委譲できますが、行為の結果として外界に生じる責任を引き受ける主体にAIはなり得ません。
最終決定を下す前の二大防護プロトコルは、「一晩おいて冷静さを取り戻す（時間の確保）」と「信頼できる人間の同僚・第三者にレビューを求める（対人摩擦）」です。
下書きや整形は委譲できるが、結果が取り消せない「不可逆な決定」は人間自身が責任を持って下す。
この概念の背景となる事象 見た人が ひとりだけの話ふしぎな話 第12話
行為を可逆と不可逆に分け、不可逆な行為の決定をAIに委ねない、という原則を置くページです。本サイトの締めくくりにあたる考え方を扱います。
委譲の可否を能力ではなく帰結の可逆性で判断する、という基準を持たせることが目標です。送る・出す・人に言う・お金をはらう。この4つは、取り消しても相手側の記録には残ります。
委譲を全面的に禁じていません。下ごしらえ、読みやすさの改善、反対意見の提示は依頼できる。禁じるのは決定だけです。
理由を「AIは、出したあとに何が起きるかを見られない」に置きました。能力の不足ではなく観測範囲の外だから、という説明です。モデルが賢くなっても、この理由は変わりません。
決める前の手続きを2つ(一晩おく・人に見せる)に限定しました。どちらも時間と他者という、AIでは代替できない資源です。
4つ(送る・出す・人に言う・お金をはらう)は網羅ではありません。覚えてほしいのは項目ではなく、取り消しても相手側に残るかという問いのほうです。
家庭や学校の規則を上書きしません。ここで示すのは、規則が決まっていない場面での自前の線です。