誰のための公平

三月十一日 人事課

人事課長の東智子は、机の上に応募書類の束を積んでいた。春の中途採用だけで400通を超え、課員3人が書類選考に追われている。採用の効率化は、年度の初めに東が任された仕事だった。

「四月の募集に間に合わせたいの。書類で2週間も待たせたら、いい人から他社に決まっていく。一次選考をAIに任せれば、面接に時間を回せる」

AI推進室の瀬尾奈々が呼ばれたのは、採用支援サービスの営業担当が来ている場だった。説明は短く、よく整っていた。

「御社の過去の採用実績を学習させて、応募書類に点数を付けます。AIなので、人の偏りが入りません。氏名・年齢・性別は入力から外しますので、公平性に配慮した設計です。弊社にはAI倫理委員会もございます」

「3つ伺わせてください。属性ごとに結果を集計した記録はありますか。倫理委員会で、条件付きで承認したり、見送ったりした案件はありますか。それから、点数の理由は応募者に説明できますか」

「御社のデータでの集計は、導入後に。委員会では、これまですべて承認されております。点数の理由は、AIの内部の話になりますので、技術的に説明が難しいところです」

「公平だという根拠は、氏名・年齢・性別を外していること、でしょうか」

「はい。見ていない情報で差が付くことはございませんので」

見ていない情報で差は付かない。では、ほかの項目を通って差が付くことはないのか。瀬尾はその問いを手帳の端に書き、聞き返すのはやめた。答えは、営業担当の側ではなく、朝凪精機の過去のデータの側にあるはずだった。

営業担当が帰ったあと、東は腕を組んだ。

「全部承認、は、ちゃんと見てるって意味じゃないの?」

「基準がはっきりしていれば、条件付きの案件はふつう出てきます。全部通っているなら、判定していない可能性もあります。それと、内部が説明できなくても、AIを使ったこと、何を入れて何を見たか、誰が決めたか、は記録すれば説明できます」

瀬尾は、導入の前に一度だけ試すことを提案した。過去3年分、約900件の応募書類と選考結果を試用版に通し、属性ごとに点数を集計する。使ってよいかは、総務課の戸田美和が顧問弁護士の早坂に確認した。

文面を一緒に読んだうえで、試用版は人事課が管理する環境の中だけで動かし、検証が終わったらデータを消すことにした。集計の手順は情報システム課の森拓海が組み、実際に回すのは人事課の課員にした。応募者の個人情報は、人事課の外に出さない。

三月十二日 AI推進室

同じ週、大手の取引先から質問票が届いた。取引先に毎年出している環境への取り組みの調査に、今年から一問増えていた。

その日の午後、常務の大槻修から、クラウゼル・テクノロジーズの黒江翔のメールが転送されてきた。社内チャットの「グリーンAIプラン」の案内だった。

添付の資料をめくると、最後のページの小さな注記に「比較対象は同業他社の平均」とあった。削減の中身は、紙の印刷と出張の減少の見込みだった。

「AIそのものが使う電気は、引き算に入ってないな。それに、比べてる相手がうちの今の数字じゃない」

情報システム課の係長で推進室を兼務する倉田誠が、資料を指ではじいた。

「期間も書いてない。いつからいつまでの15%なのか」

「比べた相手、数えた範囲、期間。3つないと、ほかの数字と並べられない。黒江さんに聞けば、ちゃんと計算してる可能性もある。聞かないと分からない、ってだけだ」

瀬尾は黒江に3点を照会するメールを書いた。公平性に配慮した設計、グリーンAI。どちらも、何を確かめたのかが、まだ書かれていなかった。

三月十六日 人事課の会議室

集計の結果を持ってきた森は、表の一行を指で押さえた。

「外した属性の代わりに、空白の期間が効いています。空白の理由は育児や介護、病気、留学とさまざまで、そのいくつかは外したはずの属性とつながっています。代わりの手がかりになる項目があれば、除外しても偏りは残ります」

「過去の通過率にも同じ差がある、ってことは……うちの選考の癖を、そのまま覚えたのね」

「そうです。過去の実績を正解にして学ばせると、過去の判断の偏りを再現します。人の偏りが入らない、ではなくて、人の偏りを学んでいました」

東はしばらく黙っていた。それから、表の下の行を読み上げた。人の判断にも同じ差があった。AIを入れようとしなければ、誰もこの表を作らなかった。

森は同じ集計を、すでに動いている仕組みにも当てていた。CS課の回答案づくりには、問い合わせに緊急度の目安を付ける機能がある。営業所別に数えると、一つの営業所から転送されてくる問い合わせだけが、一貫して低く付いていた。

「その営業所は、転送するときに丁寧な定型文を頭に付けていました。落ち着いた書き方を、急ぎではないと読んでいたんです。数えるまで、誰も気づいていませんでした」

大槻も会議室に来ていた。

「他社は倫理委員会を作ってるぞ。うちも作るか」

「委員会を作るより、4つの役目を誰が持つかを先に決めたいです。これは要検証の用途だと判定する人、集計が行われたかを確かめる人、なぜ許可したかを記録する人、問題が出たら止める人。判定は推進室、確認は森さん、記録は総務、止める権限は常務にお願いしたいです」

「止めるのは私か。分かった」

「点数を付けさせれば、客観的に見えると思ったんだがな」

「点数は客観的に見えます。でも、何を正解にして学ばせたか、何を入れたかに、もう判断が入っています。今回なら、これまでの書類選考の判断です」

「四番の問い合わせ先は、結果に疑問を持った人が声を上げられる入口です。入口がないと、偏りがあっても、見つかるのが遅れます。五番は、応募者の傾向が変われば偏りも変わるので、一度確かめて終わりにしないためです」

「要約だけでも、読む時間は減るわね。点数がほしかったのは、決める責任を軽くしたかったからかもしれない」

三月十八日 AI推進室

黒江からの返事は、朝のうちに届いていた。期間は導入後1年の見込み、AIの利用に伴う排出は含めていない、と率直に書いてあった。

「紙と出張が減れば、差し引いても何かは残るのかもしれない。でもそれは、プランを切り替える理由じゃなくて、紙と出張を減らした理由だよね」

瀬尾は、取引先への回答を、自社で数えられるものだけで組み立てることにした。

「件数は全部あります。費用を見るために、用途ごとの月の処理件数と、どの処理にどの大きさのモデルを使ったかを残してきましたから」

六月に自社の問い合わせで測ったとき、上位のモデルと中位のモデルの差は小さかった。それ以来、問い合わせの分類や緊急度の目安のような定型の処理は小さいモデルに回し、回答の文面を作るところだけに大きいモデルを使ってきた。今月、事故のあとで切り分けた文面の読み取りも、小さいモデルで足りた。費用を下げるための振り分けが、そのまま計算の量を抑える取り組みになっていた。

「一番効いたのは、AIを使わなかったやつだ。一年前の経理の月末集計、書き出しの設定を一つ足して済ませた。あれは計算量ゼロだぞ」

電力や排出の数字は、自社では出さない。森が各提供元の公表している環境の情報を確かめ、その所在を書き添えることにした。

「四番、算定していない、って書いて大丈夫かな」

「数えてない15%より、ずっと使える答えだよ。五番も効く。環境の設問でも、見てるのは、ちゃんと管理してる会社かどうかだから」

五番の最後の一行は、二日前に人事課で決めたことだった。公平も環境も、別々の宿題に見えて、同じところで問われていた。誰について何を数え、その記録が残っているか。

瀬尾は手帳に書いた。「公平も省エネも、言葉ではなく、誰について何を数えたかの記録で言う」