ノート 12 星間航海士の手引き 約2分
実在しない事実の流暢な捏造、過去情報の現在時適用、入力文脈への過度な迎合。LLMが引き起こす主要な出力誤謬のメカニズムと、その検出プロトコルを確立します。
学習データが希薄な領域（小規模自治体の郷土史、専門性の高すぎる技術仕様、古い記録）において、LLMは高頻度で事実と異なる出力を生成します。
記録密度が低い事象ほど、外部資料による裏づけ確認のコストを意識的に投じる必要があります。
出力誤謬の検出が困難な理由は、モデルが「知識の有無」に関わらず均一な格調で記述するためです。文面の雰囲気から真偽を推し量ることは不可能です。
実務的な検証プロトコルは単純です。出力テキストに含まれる固有名詞、年号、数量データに漏れなくマーキングを行い、その総数を検証対象件数として機械的に特定します。外部照会で確認できなかった項目は、「AI出力に含まれたが外部資料では未確認」と明確に注記することが知的誠実さの態度です。
出力文中の固有名詞・年号・数値にマーキングを行う。裏づけが得られない項目は未検証事項として明示する。
この概念の背景となる事象 なんでも答える AIふしぎな話 第1話
ハルシネーションが生じやすい領域を特定し、文体では判別できないことを示すページです。「丸をつけた数が、たしかめる数」という作業量の見積もりを渡します。
誤りが一様に分布しないことの理解が目標です。訓練データ中の記述量が少ない領域(小さな町、珍しい生物、古い事象)で誤りが増えます。したがって検証コストは話題によって変えるべきです。
「文の調子では見分けません。見るのは中身のほうです」と明記しました。自信の強さや説明の丁寧さは、正確さの指標になりません。
「AIはこう言ったが、見つけられなかった」という記述を正直な書き方として肯定しています。検証できなかったことを書けるようにしておかないと、検証せずに書く方向へ流れます。
「丸をつけた数が、たしかめる数」は、全部を調べよという要求ではありません。丸をつけなかったところは確認していないと自覚できれば足ります。
検索と連携する構成では事情が変わります。本ページは、手もとの対話型AIの素のふるまいを前提にしています。