ノート 10 事故記録アーカイブ 約2分
ここに出てくる話は、ぜんぶ作ったお話です。だれかをうたがうためではなく、たしかめるためのページです。
AIの出力を論拠や出典として引用することの無効性。言語モデルは出力の客観的参照元を保持していないため、AIによる発言は一次根拠になり得ない構造的限界を示します。
調査報告や意思決定において、「AIがこう回答したから」を出典や根拠として提示する行為は、学術的・実務的に一切の妥当性を持ちません。
書籍の特定ページや学術論文のDOIと異なり、対話型AIの出力は固定された原典を持たず、再現性も保証されません。情報評価の基本3要素に照らすと、発信主体は「モデル名」、作成時点は「不明」、発信目的は「不明」となり、検証責任の免責事由にはなり得ないのです。
AIの利用自体を隠蔽する必要はありません。「初期の調査論点整理にAIを用いた」と実務プロセスを明記した上で、論拠の確定は人間自身が照合した一次資料に置くことが知的誠実さの規範です。
AIの出力は出典ではなく下書きに過ぎない。固有名詞と数値を抽出し、一次資料側を出典として確定させる。
このインシデントの背景となる事象 AIの答えを、そのまま出した日ひっかかった話 第1話
「AIが言っていた」を出所として使う形を扱います。再現性がなく、だれが・いつ・なんのために が埋まらないという点を、しらべノート2の枠組みで示します。
AIの応答が、書籍のページのような固定された参照点にならないことの理解が目標です。同じ問いでも応答は変わります。
3点確認に当てると、だれが=AI、いつ=不明、なんのために=不明。3つのうち2つが空欄になる、という形で不足を可視化します。
使用の申告を「AIを使ったことは、べつに1行書けばOK」と、隠す必要がない形にしました。禁止すると申告されなくなり、実態が見えなくなります。
手順を3段(丸をつける→照合する→そちらを出典にする)に固定しました。AIは出典ではなく道具として記録する、という位置づけです。
3点確認に当てて2つが空欄になる、という形にしたのは、足りなさを感覚ではなく欄の空きとして見せるためです。
AIを出典にできる場面がない、とは書いていません。「AIがこう答えた」こと自体を記録するなら、それは立派な出典です。使えないのは、中身の裏づけとして出す場合だけです。
検索と連携する構成では、参照元が示されることがあります。そのときは、示された元のほうを出典にします。