ノート 18 事故記録アーカイブ 約1分
ここに出てくる話は、ぜんぶ作ったお話です。だれかをうたがうためではなく、たしかめるためのページです。
「AIが承認したから」という心理的口実により、重大な発信や契約などの不可逆アクションを機械に決めさせる責任転嫁。法的・倫理的責任は人間のみに帰属する鉄則です。
「このメールを送信してよいか」とAIに尋ね、「文面に問題はありません」と返答されたことで、自らが十分な検討を経て決断したかのように錯覚する心理的責任転嫁が存在します。
判断の境界線は明確です。取り消しの利く可逆的な作業であれば、AIの推薦を全面的に採用しても損害は限定的です。下書きの作成、言い換え、要約は何度でもやり直せます。
しかし不可逆な決定は異なります。公表、契約、他者への指摘。これらは一度行えば相手の手元に残り、後戻りできません。そして何より、AIはその後の現実の波及結果を観測できません。
特に時間制限のプレッシャーに晒されている時ほど、AIの肯定を免罪符にして不可逆アクションを踏み越えやすくなります。決定を機械に委ねたくなった瞬間こそ、画面を閉じて人に相談すべき合図です。
「AIが承認した」は免責理由にならない。不可逆なアクションの直前にAIへ決定を委ねたくなったら、画面を閉じる。
このインシデントの背景となる事象 あと5分、と言われてひっかかった話 第10話
不可逆な行為の判断をAIに委ねる形を扱います。相談したつもりが、背中を押されて終わるという構造です。急がされている場面で最も起きます。
可逆な行為(下書き・言いかえ・並べかえ)と不可逆な行為(送る・出す・言う・はらう)を分け、後者では相談の相手を変える、という判断が目標です。
「よいと思います」と返ってきたときに、決めたのは自分ではないと気づける形にしました。肯定的な応答は、判断の代行として機能してしまいます。
時間圧との組み合わせを明示しました。カウントダウンが出ている状態で道具に聞くと、止める方向の答えは得にくくなります。対処は画面を閉じて人を呼ぶこと。
時間に追われている場面を例に選びました。この形は、急いでいないときにはめったに起きません。余裕があれば、人に聞く手が残っているからです。
この判断は、モデルの性能が上がっても変わりません。理由が能力ではなく観測範囲にあるためです。