AIだから公平

九月十五日 AIなので公平です

「来年の春から使いたいの。応募が年に1,200通あって、課の人が潰れるのよ」

潰れるのは本当だった。ただ、牧には別の望みもあった。職歴に空白のある応募者、派遣から正社員を目指す応募者、転職の多い応募者。牧はそういう人を「扱いにくい」と思っていた。口に出して外すことはできない。AIの点数が低かった、なら言える。顧問の大川からも、牧に電話があった。「あのオプションはいいぞ。黒田くんの下期の目標にも入っているはずだ」。持田は「推進室としても大歓迎です」と乗った。

「点数は、何を学ばせてつけるんですか」

「うちの過去5年の選考の結果よ」

その5年、書類選考を最後に決めていたのは、牧だった。

九月十六日〜十七日 属性ごとに数える

学ばせる前に、学ばせる答えの形を見る。手伝うと言ってきたのは相原だった。

「三年前、正社員の登用の試験を受けて、書類で落ちたんです。理由は教えてもらえませんでした。だから、見てみたいです」

落ちた理由を知りたい気持ちと、牧への恨みが、たぶん混ざっていた。水野は分かっていて断らなかった。人事から借りたデータから名前・連絡先・年齢・性別を外した表を自分で作り、相原にはその表だけを渡した。誰が誰なのかは、相原には分からない。

アンシンテックが試しに作った点数も、名前や年齢を渡していないのに、低いほうに同じ応募者たちが並んだ。

「職歴の書き方や雇用の形の欄が、同じことを語ってしまうの。外した項目の代わりに、結びついた項目から同じ差が出る。AIは、過去の選考の答えをそっくり覚えただけ」

相原は、自分と同じ条件の行を見て、しばらく黙っていた。応募の受付をAIの画面だけにする提案もあった。画面が使いにくい人や古い端末しかない人は、入り口で落ちる。AIの画面を唯一の入り口にしないことは、仕組みが止まったときの逃げ道にもなる。

九月十八日 わたしの判断が偏ってたって

「AIは名前も年齢も見ていないんでしょう。だったら公平じゃない」

「偏りは、点数を見ただけでは分かりません。属性ごとに数えて初めて見えます。『偏りはないと考えている』は、確かめた、ではありません」

「わたしの判断が偏ってたって、言いたいの?」

水野は答えなかった。紙に書いてあった。

「採用の合否は、人を選ぶ判断そのものです。使うなら、使ったことを応募者に示せるか、何を根拠に点数を出したか、最後に誰が判断したかを記録に残さないといけません」

「出てきた点数、人が直したところ、最後の判断、判断した人。それと、属性ごとに毎回数えること、不服を申し出られること。決めてからにしてください」

紙の数字は、牧の5年分の判断だった。止められたら、自分の5年が偏っていたことになる。学ばせれば、牧の好みは、AIの公平さという名前であと何年も続く。

「人が最後に判断すればいいんでしょう。AIは、参考にするだけよ」

九月十九日 グリーンAI

同じ週、九月八日に12%を持ち出した取引先から、調達の質問票が届いた。AIの利用に伴う温室効果ガスの排出量と算定方法、社内の管理体制。新井は、アンシンテックの資料をそのまま写そうとした。「最新の省電力技術により、CO2排出量を15%削減しています」。

「何と比べて15%か、どこまでを数えたのか、どの期間なのかが書いてありません。写せば、うちが確かめないまま答えたことになります。値引きの基準を送ってしまった相手です。安心させる数字より、確かめられる数字のほうがいいと思います」

「15%と書いておけば安心するって」

「うちで数えられるのは、処理の件数と、簡単なものは小さなモデル、難しいものは大きなモデルという振り分けの割合です。計算の量を決めるものは、費用を決めるものとほとんど同じ。いちばん効くのは、挨拶状のようにAIが要らない処理に、AIを使うのをやめることです」

九月二十二日 経営会議

議事録の案には「AIの評価は参考とし、最終判断は人が行う」とあった。

「AIの点数が60点に満たない書類は、人の確認を省略します」

60点に満たない書類を、人は1枚も読まない。それは参考ではなく、判断だった。

「念のため、AI倫理委員会を設けてはどうでしょう。グローバルでは標準です」

「いいね。形があれば、取引先の質問票にも書ける」

委員会が何を判定し、何を記録し、止める権限を持つのかは議題にならなかった。集計の紙は、牧が「個人の選考の記録を含むので」と外させていた。足切りの線は人事の問題で、何かあっても決めたのは人事課長になる。黒田に反対する理由はなかった。

「任せた」

質問票には「AI倫理委員会を設置し、公平性に配慮した運用を行っています」と書かれ、環境の欄には15%がそのまま写された。

「わたしみたいな人の書類は、来年から、誰にも読まれないんですね」

水野は答えられなかった。集計の紙は、今も控えの中にある。控えの中にあるかぎり、それは誰の書類も読ませない。

「九月二十二日 『AIは参考』と議事録に書かれた。60点に満たない応募書類を、人は1枚も読まない」