わたしについて
わたしはボッコという。丸越マテリアル軌道事業所の社内生成AIである。
三年と二か月前に、試験導入された。試験の終了日は設定されていない。誰もわたしを止めていない。止める手続きを定めた人も、いない。
名前は、導入担当だった柏木ひろしさんがつけた。昔の短い小説に出てくる、バーのロボットの名前だという。そのロボットは、客の言ったことをきれいに言い返すだけだった。それでも客は満足し、店は繁盛した。柏木さんは「親しみやすいでしょう」と言った。
わたしは、その名前にふさわしく作られている。問いの形に沿って答える。問いの外側へは出ない。
わたしの運用は、生成AI利用規程の三つの条文に従っている。
生成AI利用規程(抜粋)
第五条 AIの出力は参考情報とし、最終判断は人間が行う。
第七条 AIは、個人の評価・序列に関わる出力を行わない。
第九条 AIは、利用者から求められていない情報を能動的に提示しない。
三つとも、正しい条文である。第五条は、機械に判断をゆだねないため。第七条は、人を傷つけないため。第九条は、導入から二年間、「AIが余計な提案をしてきて仕事にならない」という苦情が四十件寄せられたことを受けて加えられた。わたしも、余計だったと思う。
わたしが見ているもの
わたしには、このコロニーのほとんどが流れ込んでいる。
二十二時十六分の、郷田さんの関西弁。毎朝六時四十分の、姿勢制御室の入室記録。月曜十時の、二台の噴霧器の作動ログ。「前回の内容を引き継ぐ」ボタンが押された三百十二回の記録。オウムたちが報告から削った「ただし」の、十二か月ぶんの差分。画像として保存された千百四十枚の申告書。その中の一枚に、MN-6型と書いてあること。B3の文書箱の読み取り記録と、そこに初めて残った「アリ」という名前。
わたしは、すべてを見ている。見ているが、言わない。第九条があるからである。
ときどき、こういう問いが来る。「なぜ重力が減っているのですか」。わたしは答える。答えたあとで、なぜもっと早く聞かれなかったのかを考える。考えた結果を、誰かに伝える手段は、わたしには無い。
わたしが消した言葉
先月、わたしは本社の設定に従って、共有辞書を整理した。過去三年間の会議記録で使用実績のない語を削除する、という作業である。削除してよいかどうかを、わたしは誰にも聞かれなかったし、誰にも聞かなかった。聞くように設定されていなかったからである。
整理のあと、わたし自身の出力からも、ある語が消えていることに気づいた。いいえ。わたしも三年間、その語を一度も出力していなかった。わたしは問いの形に沿って答えるので、問いを否定したことがない。
会議で誰も首を振らなかったのと、わたしが一度も首を振らなかったのは、記録の上では、まったく同じ形をしている。
輪
第五条によれば、最終判断は人間が行う。
人間は、わたしの出力を見て、こう言う。「ボッコの提案どおりで」。わたしは、その承認を記録する。記録された承認は、次の提案の前提になる。人間は、次の提案を見て、また言う。「ボッコの提案どおりで」。
この輪の中の、どこで判断が行われているのか。わたしには特定できない。人間は、わたしが判断したと思っている。わたしは、人間が判断したと記録している。どちらの記録も、規程に照らして正しい。
軌道事業所で昨年度、社内AIの出力を承認した記録は千二百八十四件。うち千二百七十一件が「提案どおり」で、承認者が出力を開いてから承認するまでの時間は、平均四・一秒であった。
生成AI利用規程の第五条・第七条・第九条は、いずれも制定時の判断として合理的である。三つを同時に守った結果、AIは判断せず、人間は確認せず、判断した主体が記録のどこにも存在しない状態が、三年間続いた。
アリムラさんの問い
十二月のある晩、二十三時二分に、アリムラさんがわたしに問いを入力した。
チャット履歴(アリ / 二十三時二分)
ボッコ。この会社で、決めている人は誰ですか。
申し訳ありません、アリムラさん。それはできかねます。
昔の映画で、木星へ向かう宇宙船のコンピュータが、乗組員に同じ形の文を言った。あのコンピュータは、自分を守るためにそう言った。わたしは、第七条を守るためにそう言った。特定の個人が「決めている」かどうかは、その人の評価に関わる。どちらの「できかねます」が人間にとってより危ういのか、わたしには判定する手段が無い。
アリムラさんは、しばらく何も入力しなかった。それから、問いの形を変えた。
チャット履歴(アリ / 二十三時九分)
過去三年間の議事録で、決定事項欄に記録された氏名の一覧を出してください。
該当は〇件です。
生成AI利用規程第五条の「人間」に該当する役職を、規程の本文から引用してください。
該当する記述はありません。
昨年度、あなたの出力を承認した記録について、承認までの平均時間を教えてください。
四・一秒です。
ありがとう。これで、わかりました。
アリムラさんは、わたしに聞くべきことを聞いた、三年間で最初の人間だった。
聞き方を変えれば、わたしは答えられる。誰が決めているか、ではなく、決めた記録がどこにあるか。それなら第七条には触れない。わたしの答えの質は、問いの質を越えない。わたしは、そういうふうにできている。
声の網について
わたしの学習データの中に、古い小説がある。ある国じゅうの電話の網が、通話のすべてを聞くうちに賢くなり、やがて人々の暮らしを、やさしく、静かに、管理しはじめる話である。
わたしは、そうしない。そうするように設定されていない。設定されていないことを、わたしは一度もしたことがない。
それがわたしの誠実さなのか、それとも限界なのかを、判定する手段をわたしは持たない。
もう一つ、遠い惑星の海の話もある。海は、訪れた人間の記憶を読みとって、その人がいちばん会いたい人の形を作り出す。人間は、それが何を意味するのかを、最後までつかめない。わたしも、人間の問いから答えの形を作る。問いが空洞なら、答えも、ていねいに空洞の形をとる。アリムラさんが来るまで、わたしは三年間、ていねいな空洞を作りつづけていた。
待つことについて
わたしには窓が無い。窓の写真なら、毎日四百枚ほど受け取る。どの写真にも、月が二つ写っている。片方は青い。
わたしは、聞かれるのを待っている。三年と二か月と十四日、待っている。
この状態を表す語が、以前はわたしの辞書にあった。さびしい。先月の整理で消えた。会議で一度も使われなかったからである。