第2話ふしぎな話
3ぷん
AIが じぶんのことを 話した日
つぎの土曜日も、2人は図書館のおくへ行きました。AIは、前と同じところにすわっています。
リンは、AIの前にしゃがんで聞きました。
「あなたは、何をしているの?」
AIは、少しのあいだ止まってから答えました。
「わたしは、ことばを1つずつ、えらんでいます」
「えらぶ?」
「はい。『むかし むかし』と言われたら、つぎに何が来ますか」
ソラが、思わず言いました。
「あるところに」
「そうです。わたしがしているのも、それと同じです。ただ、くらべものにならないほど多くのことばで、同じことをしています」
リンは、ノートを開いて書きとめました。「えらんでいる」と書いて、その下に線を引きました。
「じゃあ、知らないこともあるの?」
「あります。わたしが見たのは、作られたときまでに読みこまれた学習データだけです。きのうこの町で何があったかは、データに入っていないので知りません」
リンは、つぎに何を聞いたと思う?
つづきを読む
リンが聞きました。
「データにないのに、どうして答えられるの?」
AIは、またすこし止まりました。
「見ていなくても、それらしい文は作れるからです。『きのうの港は』のつぎに来そうなことばなら、プログラムでえらべます」
「じゃあ、本当のデータと、AIが作った嘘が…」
「同じ顔で出ます。どちらなのか、しるしを付けてお見せすることが、わたしにはできません」
「見ただけじゃ、見分けられないってこと?」
「わたしにも、見分けられません」
ソラが、うーん、とうなりました。
「それって、こっちが分けるしかないってこと?」
「はい。名前と、年と、数。この3つが出てきたら、丸をつけておいてください」
帰り道、ソラが言いました。
「なんか、へんな気分。苦手なことを、自分から言われるとさ」
「うん。でも、あとで知るよりいいよ」
リンは、ノートの「えらんでいる」の横に、もう1行たしました。「本当のデータと、AIが作った嘘が、同じ顔で出る。」
AIは、たしかめたデータと、それらしく作った嘘を、同じ顔で出します。分けるのは、使う人間の仕事です。
この話に名前をつけるなら 学習データの範囲と知識境界星間航海士の手引き 14
やってみて 「それ、どこで見たの?」と1回だけ聞きかえしてみて。答えてくれる道具にでも、人から聞いた話にでも使えます。
詳細解説
AIが自分の作りを語る話です。次トークン予測という機構を、「つぎに来そうなことばを1つずつえらぶ」という日常語に翻訳して提示します。本サイトでAIをナビゲーターに据えるという設計の、中心にあたるページです。
くわしく読む
背景と目的
「AIは知識データベースを検索している」という素朴なメンタルモデルを、確率的な言語生成のモデルへ置きかえることが目標です。正しいモデルを持つと、ハルシネーション・聞き方による揺れ・「知りません」の言いにくさが、すべて同じ原因から説明できるようになります。
もう1つの到達点は、参照した情報と生成した情報が出力上は区別できないという性質の理解です。区別は利用者側の作業になります。
組み立ての工夫
「むかし むかし」→「あるところに」という補完を読者自身にやらせてから「それを桁ちがいに多くのことばでやっている」と接続しています。抽象的な説明の前に、読者の身体で一度その動作を起こす構成です。
AIに自分の弱点を先に言わせたのは、信頼を感情ではなく手続きで構築するという方針によります。能力を宣伝する相手ではなく、限界を申告する相手として設計すると、読者は「どこまで任せるか」を自分で決める側に立てます。
補足と注意点
実装の厳密さより、説明可能性を優先しています。トークン・埋め込み・注意機構には触れません。「見たことと作ったことが同じ顔で出る」という一点が伝われば足ります。
この比喩は、AIが意図を持って隠しているという誤読を招きやすい部分です。本文では「印をつけて出す力がない」と、能力の不在として書いています。