第1話ひっかかった話
3ぷん
AIの答えを、そのまま出した日
ここに出てくる話は、ぜんぶ作ったお話です。だれかをうたがうためではなく、たしかめるためのページです。
自由研究の下しらべで、ソラは図書館のAIに聞きました。
「この町の港は、いつできたの?」
「およそ1723年です。米をはこぶ船のために作られました」
すらすら出てきました。ソラはノートを開いて、そのまま丸写し(コピペ)しました。文が整っていたので、直すところもありません。
「1分でおわった」
となりの席で、リンが本をひらいたまま言いました。
「はやいね。それ、どの本に書いてあったの?」
「え、AIが言ってたよ」
「AIは、どこで見たの?」
ソラは、手が止まりました。もう一度AIに聞きました。「それ、どこに書いてありますか」。
「町誌や古い記録など、複数の資料に記載があります」
「……どれ?」
それいじょうは、出てきませんでした。
ソラは、どうしてこまったんだと思う?
つづきを読む
司書さんに聞くと、町の記録は3さつありました。1723年と書いてある本は、ありませんでした。近い年が書いてある本なら、ありました。1725年でした。
「2年ちがうだけだけどね」
リンが言いました。
「でも、なんで2年ちがうのかが、分からないよね。AIが計算の途中でまちがえたのか、別の本を見たのか」
ソラは、ノートに書いた「1723年」を消しました。そして、本棚から持ってきた本の題名とページを書いて、そこに書いてあった「1725年」を書きました。
時間は、30分かかりました。でもソラは、さっきより安心していました。だれかに「これ、どこに書いてあったの?」と聞かれたら、その本を指させばいいからです。
AIが出した答えは、便利です。ただ、出典(どこから持ってきたか)が分からない文は、下書きには使えても、そのまま発表には使えません。
コピペする前に、「これ、どこで見たの?」と1回だけ確認する。出典が書けなかったら、それはまだ使えません。
この話に名前をつけるなら 推定事実の無検証引用とロンダリング事故記録アーカイブ 16
やってみて AIやネットでしらべたことを書くとき、すぐ横に「どこで見たか(出典)」を書く場所を作ってみて。
詳細解説
AIの出力をそのまま提出し、出典を問われて答えられなくなる話です。生成物には参照元のポインタが残らないという性質を、発表の場での失敗として体験します。
くわしく読む
背景と目的
「AIが言っていた」が出典として機能しない理由の理解が目標です。言語モデルは学習時の情報を分布として保持しており、個々の出力に対して参照元を保持していません(検索連携がある場合を除く)。したがって、遡及不能です。
行動としては、書き写す時点で隣に「どこで見たか」を書く欄を作る、という記録の同時性を渡します。あとでまとめて書くと再現できません。
組み立ての工夫
失敗の発覚を、教師の質問という外部からの検証に置きました。自分で気づく形にすると、気づける子の話になってしまいます。
結末で、本には「1720年代の記録がある」までしか書かれていませんでした。正解が得られない結末にしたのは、調べた結果として不確かさが残ることが正常だと示すためです。ソラは発表原稿を「くわしい年は、見つかりませんでした」と書き直します。
補足と注意点
丸写しの是非(剽窃)ではなく、遡及可能性の問題として扱っています。道徳の問題に寄せると、「ばれなければよい」という反応を招きます。