AIの間違いを防ぐ「人の確認」はどう組み込むか——確認する範囲・担当・手順の決め方と、減らしていく方法
結論
AIの間違いを防ぐ「人の確認」は、業務の重要度に応じて「全件を確認する」「AIが印を付けたものだけ確認する」「一部を抜き取って確認する」の3段階を使い分け、誰が・いつ・どこを見るかを決めておくことで、無理なく業務に組み込めます。最初は全件確認から始め、間違いの記録をもとに確認の範囲を少しずつ減らしていくのが、安全と効率を両立させる進め方です。
株式会社MEDISITE 執行役員・AI事業責任者の吉村聡一郎が、AIの間違いを防ぐための「人の確認」の組み込み方について解説します。AIを業務に入れると、「間違えたらどうするのか」という不安が必ず出てきます。かといって、AIが作ったものを毎回すべて人が細かく見直していては、何のためにAIを入れたのかわからなくなります。実際に、確認の負担が重すぎて現場がAIを使わなくなる、反対に確認がおろそかになって間違いが外に出てしまう、という両方の失敗が起こりえます。この記事では、AIの出力を人が確認する仕組みをどう業務に組み込むか、どう確認の手間を減らしていくかを、AI社員を提供している当社の立場から説明します。
AIは「間違える前提」で仕組みをつくる
今のAIは、文章を読んだり書いたりする力が高い一方で、次のような間違いをすることがあります。
- 読み取りの誤り：かすれた文字や手書きの数字を読み違える
- もっともらしい作り話：資料に書かれていないことを、それらしく補って答えてしまう
- 例外への対応ミス：いつもと違う注文や、特別な取り決めのある取引先を、通常どおりに処理してしまう
- 古い情報の使用：料金表やルールが変わったのに、古い資料のまま答える
人も間違えるのと同じように、AIも間違えます。大切なのは、AIに間違えさせないことではなく、間違いが外に出る前に気づける仕組みを最初から業務の流れに入れておくことです。当社がAI社員を構築するときも、請求書や取引先への返信など外に出るものは、人が確認して承認してから出す流れを基本にしています。
確認の方法は「全件・印付きのみ・抜き取り」の3段階で使い分ける
すべての業務を同じように確認する必要はありません。間違えたときの影響の大きさに応じて、確認の方法を使い分けます。
| 確認の方法 | やり方 | 向いている業務 |
|---|---|---|
| 全件確認 | AIが作ったものを人がすべて見てから使う・送る | 請求書、見積書、取引先への返信、お金や契約にかかわる書類、導入したばかりの業務 |
| 印付きのみ確認 | AIが「自信がない」「いつもと違う」と印を付けたものだけ人が見る | 受注書の入力、データの転記、問い合わせの仕分けなど、件数が多く形が決まっている業務 |
| 抜き取り確認 | 決まった割合や曜日だけ、人が中身を確かめる | 社内向けの集計、議事録の要約、社内の質問への回答など、間違えても社内で直せる業務 |
新しくAIを入れた業務は、どれだけ影響が小さく見えても、最初の数週間は全件確認から始めるのがおすすめです。どんな間違いが、どのくらいの頻度で起きるのかを知らないまま確認を減らすのは危険だからです。
ポイント
「印付きのみ確認」がうまく働くかどうかは、AIに印を付けさせる条件しだいです。「読み取りに自信がない」「前回と金額が大きく違う」「初めての取引先」など、間違いが起きやすい条件を具体的に決めておきます。
確認の担当・タイミング・見る点を決める
「人が確認する」と決めただけでは、忙しいときに誰も見ない、なんとなく眺めて終わる、ということが起こります。確認を業務として成り立たせるには、次の3つを決めておきます。
- 誰が確認するか：担当者と、その人が休んだときの代わりの人を決める。確認する人は、その業務の内容がわかる人にする
- いつ確認するか：「毎朝10時に前日分を見る」「送る前に必ず見る」など、確認のタイミングを業務の流れの中に決める。確認されていないものは先に進まない仕組みにしておく
- どこを見るか：金額、日付、宛先、数量など、間違えると困る項目を決め、確認する人がそこを重点的に見られるようにする
確認しやすい画面にする
確認の手間は、画面の作り方で大きく変わります。AIが読み取った結果と元の書類を横に並べて表示する、AIが印を付けた箇所を色で目立たせる、承認ボタン1つで次に進めるようにする、といった工夫で、同じ確認でもかかる時間が短くなります。AIを入れるときは、AIの性能だけでなく、確認する人が使う画面まで含めて考えることが大切です。
間違いを記録して、確認の範囲を少しずつ減らす
人の確認は、ずっと同じ量を続けるものではありません。間違いの記録をもとに、確認の範囲を少しずつ減らしていきます。
- 直した箇所を記録する：確認のときに人が直した箇所と、その理由（読み取りの誤り、例外の取引先など）を簡単に残す
- 原因ごとに対策する：同じ取引先の書類で読み取りを誤るなら書式を覚えさせる、特別な取り決めがあるなら例外のルールとして追加する、といった形でAIの仕組み側を直す
- 間違いがほぼなくなった範囲から確認を減らす：一定の期間、直す必要がなかった取引先や書類の種類は、全件確認から印付きのみの確認に移す
- 減らしたあとも抜き取りで見る：確認を減らした範囲でも、ときどき抜き取って中身を見て、間違いが増えていないかを確かめる
この流れを回していくと、確認の手間は少しずつ減り、人は本当に注意が必要なものだけを見ればよくなります。当社のAI社員の月額には保守・相談・メンテナンスが含まれているため、こうした「間違いを見つけて仕組みを直す」作業を、運用を始めたあとも続けられます。
確認の仕組みでよくある失敗
人の確認を組み込むときに、よく見られる失敗があります。
- 確認が形だけになる：AIの精度が高いと、確認する人が中身を見ずに承認ボタンを押すようになる。定期的に間違いを含んだ例を混ぜて気づけるか試す、見る項目を決めておくなどで防ぐ
- 確認の負担が重すぎて使われなくなる：すべての業務で全件確認を続けると、手作業のほうが早いと感じられてしまう。間違いの記録をもとに、確認を減らせる範囲を見直す
- 確認する人が1人しかいない：その人が休むと業務が止まる。代わりの人を決め、確認の手順を簡単なメモにしておく
- 直した内容がAIに反映されない：人が毎回同じ箇所を直しているのに、仕組み側が直らない。直した記録を、定期的に仕組みの改善につなげる
確認の仕組みを始める前のチェックリスト
- 業務ごとに、全件・印付きのみ・抜き取りのどれで確認するか決めている
- 確認する人と、代わりの人が決まっている
- 確認されていないものが先に進まない流れになっている
- 確認で直した箇所を記録する場所がある
- 確認の範囲を見直す時期（例：1か月後）を決めている
よくある質問
AIの精度が高ければ、人の確認はいらなくなりますか？
外に出る書類やお金にかかわる業務では、精度が高くても最終確認は残すことをおすすめします。社内向けで間違えても直せる業務なら、間違いの記録をもとに抜き取り確認まで減らせることがあります。
確認に時間がかかって、かえって手間が増えませんか？
一から作るより、AIが作ったものを確かめるほうが短い時間で済むことが多くあります。それでも負担が重い場合は、印付きのみの確認に移せる範囲がないか、確認の画面が使いにくくないかを見直します。
誰に確認を担当してもらえばよいですか？
その業務の内容がわかり、間違いに気づける人が担当するのが基本です。休んだときに止まらないよう、代わりの人も決めておいてください。
AIが間違えたときは、どう直せばよいですか？
その場で人が直すとともに、直した箇所と理由を記録し、同じ間違いが起きないよう仕組み側を直します。当社のAI社員では、こうした調整を月額の保守・メンテナンスの中で行います。
