ノート 14 事故記録アーカイブ 約1分
ここに出てくる話は、ぜんぶ作ったお話です。だれかをうたがうためではなく、たしかめるためのページです。
学習データに含まれない未知の領域であっても、何食わぬ顔で確信に満ちた回答を出力し続けるAIの性質。未学習ドメインにおける誤謬発生パターンをあらかじめ特定します。
未知の事象について質問された際、AIは知っている事象と全く同一の自信に満ちた調子で即答します。人間が知ったかぶりをする際に見せる視線の彷徨や言い淀みといった兆候は一切現れません。
虚偽が特に発生しやすい3大ドメインが存在します。
これらはいずれも「外部検証が困難な領域」です。検証が難しい領域ほど、AIは流暢に架空の回答を出力しやすいという逆説を肝に銘じる必要があります。
AIは無知を自己申告しない。記録密度の低い事象ほど架空の回答が生成されやすい逆説を警戒する。
このインシデントの背景となる事象 AIの答えを、そのまま出した日ひっかかった話 第1話
知識境界の外でも同じ確信度で出力されることを扱います。しらべノート14の裏面で、誤りが出やすい3場面を特定します。
人間の知ったかぶりには、言いよどみや声量の変化といった非言語の手がかりが伴います。AIには出ません。この差の理解が目標です。
誤りが出やすいのは、学習後の出来事・記述量の少ない事柄・そもそも記録のない事柄の3つです。
3場面に共通するのは「確かめにくいこと」であり、確かめにくい領域ほど、それらしい答えが返るという皮肉な構造を明示しました。検証の必要性と検証の困難が同じ方向を向きます。
言いよどみや声の大きさという、人の側の手がかりを先に挙げました。ふだん何で判断しているかを自覚しないと、それが無いことにも気づけません。
AIが知ったかぶりをしている、という言い方はしていません。知らないと判定するしくみが無い、という説明にとどめました。
人の知ったかぶりを見抜く話にも広げません。相手の性格ではなく、道具の性質の話だからです。