ガバナンスは禁止事項の一覧ではない
社内のAI利用ルールを作るとき、最初に出てくるのは禁止事項の一覧です。しかし禁止事項だけの規程は、次の2つの結果を招きます。
1つは、把握できない利用が増えること。禁止された利用は止まらず、報告されなくなるだけです。個人でサービスを契約できる状況では、禁止で止めることはできません(第12章)。
もう1つは、使ってよい範囲が分からず利用が止まること。「機密情報は入力禁止」だけでは、何が機密情報かの判断が個人に委ねられます。慎重な人は使わなくなり、そうでない人は境界を越えます。
機能するガバナンスは、使ってよい範囲を明示し、そのための経路を用意することです。本章ではその設計を扱います。
社内AI利用規程の設計
最小限の構成
規程は短いほうが読まれます。次の5項目で成立します。
- 入力してよい情報の区分 ― 3段階で示します(後述)。
- 使ってよいサービスの一覧 ― 承認済みのサービスを列挙します。
- 出力の扱い ― 確認義務と、最終責任の所在。
- 新しいサービスを使いたい場合の経路 ― 申請の方法。
- 禁止事項 ― 具体的に数項目に絞ります。
4番目が重要です。経路がない規程は、規程外の利用を生みます。
入力してよい情報の3段階
現場が覚えられる形にします。細かい分類は運用されません。
| 区分 | 該当する情報 | 使えるサービス |
|---|---|---|
| 区分1(公開情報) | 公開済みの資料、一般的な調べもの、公開情報からの作成物 | 承認済みのサービスすべて |
| 区分2(社内限り) | 社内資料、業務手順、非公開の企画 | 学習利用を除外する契約を結んだサービス、または自社環境 |
| 区分3(取扱注意) | 個人情報、人事・給与情報、取引先の機密情報、未公開の財務情報 | 指定された環境のみ。または該当部分を除去してから利用 |
この3段階に加えて、判断に迷った場合の連絡先を明記することが実効性を左右します。「迷ったら聞く」経路がなければ、迷った人は自分で判断します。
規程に書くべきでないこと
- 技術的な詳細(変化が早く、規程の改定が追いつきません)
- 特定の製品名だけを前提にした記述(製品が変わると規程が無効になります)
- 「適切に判断する」「十分に注意する」といった、判断を委ねる表現
利用申請・承認フローの設計
承認フローが重い組織では、規程外の利用が増えます。目的は制限ではなく把握なので、負荷を最小にする設計が正解です。
リスクに応じて経路を分ける
| 経路 | 対象 | 手続き | 所要 |
|---|---|---|---|
| 登録のみ | 承認済みサービスの、区分1の情報での利用 | 使用開始の登録(数行) | 即時 |
| 簡易確認 | 承認済みサービスの、区分2の情報での利用。自作ツール | 用途・データ・権限の申告と確認 | 数日 |
| 正式審査 | 新規サービスの導入。区分3の情報の利用。外部への公開 | 契約条件・セキュリティ・法務の確認 | 数週間 |
実務では、1番目の経路の存在が全体の成否を決めます。「使ってよい範囲での利用は、登録するだけで始められる」状態を作ることで、把握される割合が上がります。
申請書に必ず入れる項目
- 用途(何をするのか)
- 扱うデータの区分(1〜3)
- 利用者の範囲(誰が使うか)
- 使用するサービス
- 出力の確認方法(誰がどう確認するか)
- 費用の見込みと上限
- 担当者と連絡先
5番目を必須にすることが、ガバナンスの実質になります。確認方法が書けない利用は、まだ設計されていないということです。
責任分界 ― AI出力の最終責任は誰が負うか
本章で最も重要な項目です。ここが曖昧なままAI活用を進めると、次の2つが同時に起こります。現場が使わなくなり、事故が起きたときに責任の所在が争点になります。
原則
明文化すべき原則は単純です。AIの出力を業務に使った結果の責任は、それを使うことを決めた人と組織が負う。「AIがそう出力したから」は、対外的にも社内的にも説明として成立しません。
この原則を運用に落とすには、次の3点を決めます。
- どの工程で人が判断するか ― 確認の型(第4・14章)を業務ごとに決めます。
- 誰が判断したかを記録するか ― 記録がないと、事後の検証ができません。
- 判断者が確認に必要な情報を持っているか ― 根拠が表示されない出力を「確認」させるのは、責任だけを移すことになります。
3番目が実務では見落とされます。出典や根拠が示されない出力について、担当者に責任を負わせる設計は機能しません。確認できない責任は、形式的な承認になります。
記録すべき内容
- AIの出力(第13章のログ)
- 人が修正したか、修正内容
- 最終的に業務で使った内容
- 判断した担当者
これらが揃っていれば、事後の検証と改善が可能になります。また、この記録は品質の実測値としても機能します(第14章)。
監査と利用ログの管理
ガバナンスが機能しているかを確認する手段です。「規程を作った」だけでは、運用されているかは分かりません。
把握すべき情報
形骸化を防ぐ
ログを取得していても、見なければ意味がありません。実務的な運用は次のとおりです。
- 月次で見る項目を3つに絞る ― 費用、利用者数、修正率。多くすると見られなくなります。
- 年1回の棚卸し ― 使用中のサービス、自作ツール、付与された権限の一覧を更新します(第10・12章)。
- 退職・異動時の権限整理を手続きに組み込む ― 既存の入退社手続きに1項目追加します。
3番目は見落とされやすく、しかもリスクが直接的です。退職者のアカウントが有効なまま残っている状態は、AI関連のサービスでも同様に発生します。
リスクレベルに応じた利用制限
すべての利用に同じ管理を適用すると、負荷が過大になります。リスクで分けます。
| レベル | 該当する利用 | 必要な管理 |
|---|---|---|
| 低 | 個人の調べもの、公開情報の要約、文章の下書き | 規程の周知と登録のみ |
| 中 | 社内資料の処理、業務への組み込み、自作ツール | +確認方法の申告、ログの記録、費用管理 |
| 高 | 個人情報の処理、判断への使用、外部への出力、自動実行 | +正式審査、責任者の指定、監査対象、定期的な品質検証 |
高リスクに該当する判定基準を明確にしておくと、現場が自分で判定できます。次のいずれかに該当すれば高リスクとする、という形が実務的です。
- 個人情報または取引先の機密情報を扱う
- AIの出力が、人に対する判断(採用、評価、与信、給付)に使われる
- 出力が社外に出る(顧客への回答、公開物)
- 人の承認なしに操作が実行される(送信、更新、削除)
- 止まると業務が止まる
4番目が、エージェント型の利用に対応します。自律的に操作を実行する仕組みは、それだけで高リスクに分類するのが安全側の設計です(第21章)。
保険の活用
AIの利用に伴う損害に備える保険商品が提供されています。ガバナンス体制の一部として検討する価値がありますが、次の点を踏まえる必要があります。
- 補償の範囲を確認する ― どのような事故が対象か。誤った出力による損害、情報漏えい、著作権に関する紛争など、範囲は商品によって異なります。
- 前提となる管理体制の要件がある ― 一定の管理措置を講じていることが条件になる場合があります。
- 保険は管理の代替ではない ― 補償があることは、事故を防ぐ設計を省略してよい理由になりません。
検討する場合は、自社が実際に負っているリスク(前掲の高リスク判定基準に該当する利用の内容)を整理してから、保険会社と条件を確認する順序が有効です。
朝凪精機のAI利用規程は、二年目の四月、AI推進室の新設に合わせて総務課が作ったもので、全員が「読みました」にチェックを入れていました。二月下旬、推進室の瀬尾室長代理が各部で聞き取ると、承認済みの一覧にない翻訳・文字起こし・画像づくりのサービスが、4つの部署で業務に使われていました。規程には「所定の手続きを経る」とあるだけで、その手続きはどこにも定めがなく、申請はゼロ件でした。開発課長は十月に英文仕様書の翻訳について総務課へ問い合わせましたが、返事が来たのは四週間後で、そのあいだも仕様書は届き続けていました。三月二日、登録のみで始められる経路を作り、承認済みサービスの一覧を毎月更新する運用に変えると、翌日の夕方には開発課長から最初の申請が届き、把握できる利用の割合が上がり始めました。
この場面は網羅物語之巻 第13章「規程は作った」に出てきます。
ガバナンス体制の最小構成
大きな組織でなくても作れる形を示します。
- 入力してよい情報の3段階を決め、判断に迷ったときの連絡先を明記する
- 承認済みサービスの一覧を作り、月次で更新する
- 登録のみで始められる経路を用意する(把握の入口)
- 申請書に「出力の確認方法」を必須項目として入れる
- AI出力の最終責任は使う側が負うことを明文化する(および根拠が確認できる設計を条件にする)
- 高リスクの判定基準を5項目で示し、該当時のみ正式審査を行う
- 年1回の棚卸し(サービス・自作ツール・権限)
- 退職・異動時の権限整理を既存手続きに追加する
この8項目は、規程の分量にすれば2〜3ページです。分量ではなく、経路と判定基準が具体的であることが実効性を決めます。