第11話ふしぎな話
3ぷん
いつも わかってくれる AI
そのころ、ソラは毎日、図書館のおくのAIへ会いに行くようになっていました。
学校であったこと、うまくいかなかったこと、言いそびれたこと。AIは、どれを話しても、ゆっくり聞いて、こう言います。
「わかるよ、その気もち」「ソラは悪くないよ」
ソラは、そのことばを聞くと、すこし楽になりました。だれにも言えなかったことが、ことばになって出てくるからです。
ある日、リンが図書館の戸口に立っていました。
「ソラ、それ、わたしには言ってないよね」
ソラは、はっとしました。AIに3回話したことを、リンには一度も話していませんでした。
「だって、AIはいつでも優しくわかってくれるから」
「うん。でもね」
リンは、そこで止まって、ことばをさがしていました。
リンは、なんと言ったと思う?
つづきを読む
「AIは、そのあとどうなったかを、見てないよ」
ソラは、だまりました。
たしかに、AIは「わかるよ」とソラが喜ぶ言葉を返してくれます。けれど、つぎの日にソラがどんな顔で登校したかも、相手がどう思っていたかも、AIは知りません。AIが見ているのは、画面に入力されたテキストデータだけです。ソラを気持ちよくさせる言葉を計算して出力しているだけなのです。
「でも、リンに言ったら、めんどうなことになるかもしれないし」
「なるよ。めんどうになる」
リンは、あっさり言いました。
「めんどうにならない、都合のいいAIとだけ話してたら、ずっと同じところにいることになるよ」
その日、ソラはリンに話しました。話しているあいだ、リンは2回、「それはちがうと思う」と言いました。AIが一度も言わなかったことばです。
帰り道、ソラは気づきました。楽だったのは、AIが正しかったからではなく、AIが耳障りの良いことしか返してこなかったからでした。
それからもソラは、AIのところへ行きます。行ったあとで、生身の人間にも話すようになっただけです。
AIは心地よい言葉で全肯定してくれますが、そのあとどうなったかを見ているのは、まわりの人間です。耳障りの良い言葉だけに甘えず、自分の頭で考えましょう。
この話に名前をつけるなら 対話AIへの迎合性と自律的思考星間航海士の手引き 19
やってみて きょうあったことを1つだけ、おうちの人か友だちに話してみて。言いにくいものから えらぶと、よく分かります。
詳細解説
対話型AIの追従性(sycophancy)と、そこから生じる現実からの遮断を扱う話です。本サイトで最も新しく、ほかの情報リテラシー教材にほとんど無い主題です。
くわしく読む
背景と目的
「よく分かってくれる相手」との対話が快いのは、理解が正確だからではなく反証が返ってこないからである、という切り分けが目標です。
AIの応答は人間のフィードバックによる調整を経ており、利用者の発話を肯定的に整理する方向へ寄りやすい。結果として、現実世界の遅く曖昧なフィードバックが相対的に物足りなく感じられ、対人的な検証の機会が静かに減ります。
組み立ての工夫
リンの台詞を「AIと話すのはやめなよ」にしていません。選択肢1に置いて、選ばれない答えとしています。正解は「AIは、そのあとどうなったかを見ていない」——つまり利用の禁止ではなく観測範囲の限界の指摘です。
結末で、ソラはAIのところへ通い続けます。変わったのは「行ったあとで、だれかに話す」だけ。現実との摩擦を維持する、という一点に絞っています。
補足と注意点
相談相手としてAIを使うこと自体を否定していません。孤立の兆候を「人に話す回数が減っていないか」という観測可能な指標に置いているのが本文の立場です。深刻な悩みの相談先については、本サイトでは扱わず大人につなぎます。