生成AIの例外対応ルールとは
例外対応ルールとは、AIが通常手順で処理できない案件を見つけ、作業を止め、判断できる人へ必要な情報とともに戻すための約束です。単に「不明な時は人へ確認」と書くだけでは足りません。何を不明とみなすか、誰が答えるか、いつまで待つか、回答後にどこから再開するかを決めます。
会社がAI導入前に決めるべきことは、正答率の目標だけではありません。間違えやすい境界で、AIが勝手に推測せず止まれるかが重要です。導入全体の確認は中小企業向けAI導入前チェックリスト、入力禁止情報はAIに送ってはいけない情報の社内ルールと併せて整理してください。
例外は失敗ではありません。本番業務には、情報不足、規程の衝突、顧客感情、担当者不在、システム障害など、事前に一つの正解へ固定できない場面があります。例外をゼロにしようとすると、現場は無理に通常処理へ押し込みます。必要なのは、例外を小さく発見し、対外影響が出る前に人の判断へ切り替える設計です。
最初に分ける4種類の例外
| 種類 | 例 | 戻す相手 |
|---|---|---|
| 情報不足 | 注文番号や希望日がない | 受付担当・顧客への確認 |
| 高影響判断 | 価格、契約、返金、約束 | 責任者・権限保有者 |
| 情報取扱い | 個人情報や社外秘を含む | 情報管理担当 |
| 感情・関係 | 苦情、解約、強い不満 | 顧客対応責任者 |
分類の目的は、案件へ細かな名前を付けることではなく、次の行き先を決めることです。「例外」だけの共有箱に集めると、管理者がすべて読み直し、回答できる人を探すことになります。理由ごとに担当者を割り当て、担当者不在時の代理まで決めます。問い合わせ業務ならAI導入前の例外ケース一覧をたたき台にできます。
一つの案件が複数分類に当てはまる場合は、影響が大きい方を優先します。たとえば住所を含む返金依頼は、情報不足より情報取扱いと高影響判断を優先します。優先順位は「安全・法令や契約・顧客影響・業務効率」の順など、会社で明文化します。個別案件の法的判断は専門家や社内責任者へ確認し、AIに結論を委ねません。
検知から見直しまでの5段階
- 検知：禁止語だけでなく、必須項目の欠落、参照資料の不一致、確信を持てない条件を定義する。
- 停止：対外送信や更新を行わず、下書き状態で止める。
- 引継ぎ：原文、AIの下書き、止めた理由、必要な質問を一組で渡す。
- 再開：人の回答を正本として反映し、送信者と最終確認者を残す。
- 見直し：同じ例外が続く時だけ通常ルールへ昇格するか判断する。
停止時に原文だけを転送すると、担当者は最初から調査し直します。「契約期間が資料Aと資料Bで異なるため停止」「返金可否は責任者承認が必要」のように、停止理由を一文で添えます。一方、AIが作った推測を事実のように引き継がないため、参照した正本と未確認点を分けて表示します。
再開条件も重要です。「担当者が確認したら再開」ではなく、「責任者が正本URLと回答文を承認したら、受付担当が送信」のように行為を分けます。自動化は送信まで一気に進めず、初期段階では下書き作成、分類、通知に限定します。試験の評価方法は生成AI試験導入の成功基準で確認できます。
引継ぎ先には通知を送るだけでなく、受領状態を残します。未読、確認中、回答済みを区別し、期限を過ぎた案件だけ代理担当へ通知します。顧客へ待ってもらう場合は、回答予定や受付済みであることを人が案内します。AIの内部処理を説明するのではなく、相手が次にいつ連絡を受けられるかを伝えることが大切です。
例外対応表のテンプレート
最初の表は七項目で十分です。「例外ID」「検知条件」「してはいけないこと」「戻す担当」「必要な添付情報」「回答期限」「見直し日」です。例外IDは高度な番号体系にせず、INFO-01、CONTRACT-01のように現場が読める形にします。
- 検知条件は、担当者が同じ案件を見て同じ判断をしやすい文章にする
- してはいけないことは「返信しない」「CRMを更新しない」まで具体化する
- 戻す担当には役職だけでなく代理担当も置く
- 回答期限を超えた時の再通知先を決める
- 顧客情報を通知文へ不要に複製しない
- 最終回答とルール変更を別の記録として残す
たとえば「契約条件が参照資料にない」は、AIが一般論で補完してはいけません。営業責任者へ原文と参照済み資料を渡し、回答を待ちます。「営業時間の記載が二つある」なら、公開ページの正本責任者へ戻し、回答だけでなく情報源の修正も依頼します。例外対応は、その場の返信だけでなく、次回の迷いを減らす業務改善につながります。
運用開始前チェックリスト
- AIだけで完了してはいけない条件を業務別に書いた
- 情報不足、高影響、情報取扱い、感情の例を一件ずつ試した
- 例外ごとの担当者、代理、回答期限を決めた
- 停止中は対外送信やデータ更新が起きない
- 引継ぎに原文、参照資料、停止理由、未確認点が含まれる
- 人の回答をどの正本へ反映するか決めた
- 同じ例外を通常ルールへ変える承認者と見直し日を決めた
チェックできない項目は、現場の注意力で補わず「未決定」として導入責任者へ戻します。とくに、価格、契約、返金、採用、人事評価、個人情報に関する作業は、会社ごとの権限と規程を確認してください。ツールの機能より先に、止める条件と人間確認を決めることで試験範囲を安全に狭められます。
例外の記憶を次の判断へ変える
公開されているプロンプトやAIスキルは他社も学べます。しかし、自社でどの表現を苦情として扱ったか、どの資料が古くて止まったか、誰の承認なら再開できたかという経験はコピーできません。例外処理の履歴を単に保存するのではなく、検知条件、正本、担当、承認ルールへ戻すことが「記憶の保管ではなく、記憶の補完」です。
ただし、一度起きた例外をすぐ自動化しないでください。偶発的な事例か、繰り返す業務パターンかを見分けます。同じ理由が一定期間に複数回起き、正しい回答が安定し、責任者が承認した時にだけ通常ルールへ昇格します。判断ログの最小項目はAI運用ログの7項目テンプレートが参考になります。
よくある質問
生成AIの例外対応ルールとは何ですか？
AIだけで完了してはいけない条件を定義し、検知、停止、担当者への引継ぎ、回答後の再開、ルール見直しまでを決める運用ルールです。例外一覧だけでなく、行き先と期限が必要です。
例外はすべて管理者へ戻せばよいですか？
いいえ。管理者への集中は新しいボトルネックになります。情報不足、契約、個人情報、苦情など理由別に、回答できる担当者と代理、期限を割り当てます。
例外対応ルールはいつ見直しますか？
新しい例外の発生、誤分類、規程や商品変更、担当変更を契機に見直します。加えて月次や四半期など定期確認日を決め、使われないルールや古い連絡先を整理します。
AIが自信がないと表示した時だけ止めれば十分ですか？
十分ではありません。AIの自己評価だけに依存せず、必須情報の欠落、禁止情報、金額や契約、参照資料の不一致など、業務側の客観条件でも止めます。
例外の行き先だけでなく、通常時の実行者・確認者・最終責任者も曖昧なら、生成AI導入後の責任者と役割分担の決め方で一業務ずつ整理してください。
次の一歩：迷った一件の行き先を書く
最近、担当者が回答に迷った案件を一つ選び、「なぜ通常処理できなかったか」「誰なら答えられるか」「答えが出るまで何を止めるか」を書いてください。これが最初の例外対応ルールになります。
Miraigentの無料AI導入診断では、対象業務、任せない範囲、人間確認、例外の行き先、判断ログ、見直し責任者を棚卸しします。AIを入れる前に、迷った時の戻し先を決めたい企業向けです。