AIに仕事を任せて失敗したこと5つ——止める判断と確認は人に残し、作業は機械に任せ続けた記録
結論
AIに仕事を任せると失敗は必ず起きます。
- 当社でも2026年10〜11月の約3週間で、記事の量産しすぎ・予定実行の停止・計測の付け間違い・表示崩れ・報告の鵜呑みの5つが起きました。
- 共通する原因は「AIの作業が終わったこと」と「結果が正しいこと」を同じだと思ったことで、対策は作業を止めることではなく、止める判断と実際の結果を確かめる工程を人に残すことでした。
株式会社MEDISITE 執行役員・AI事業責任者の吉村聡一郎が、当社が自社の業務をAIに任せる中で起きた5つの失敗と、その原因・対策について解説します。AIを業務に入れるとき、「失敗したらどうするのか」を心配される経営者の方は多いです。当社は自社のマーケティングや営業の事務を、毎日AIに任せています。その中で実際に起きた失敗を、原因と対策と一緒にそのまま記録します。導入を考えている会社にとって、どこで失敗が起きやすいか、止めるべきか続けるべきかを判断する材料になるはずです。
記事を1日16本書かせ続けて3週間で199本になり、量産と見られるリスクで2本に減らした
何が起きたか
コラムの記事をAIが毎日書く仕組みにしたところ、多い日は1日20本以上、開設から約3週間で199本になった。
何がまずかったか
似た題材の記事が同じ検索語句を取り合い始め、短期間の大量公開で「量産サイト」と見られる恐れが出てきた。
足した対策
- 1日2本（週3日は1本追加）に減らし、既存記事の手直しを1日最大5本に増やした
- 取り合っていた記事は1本に統合し、古いURLは統合先へ転送した
- 新しく書く前に「同じ語句で既存の記事が出ていないか」を確かめる手順を足した
予定した時刻にAIの作業が動いていなかったので、起動の仕組みを移し、見張りを付けた
何が起きたか
毎朝決まった時刻に動くはずの作業が、気づかないうちに動いていない日があった。
何がまずかったか
「動かなかった」ことを知らせる仕組みがなく、結果を見て初めて気づいた。
足した対策
- パソコンの標準の予定実行（Windowsのタスクスケジューラ）から起動する形に移した
- 作業が始まったら「動いた印」を残し、印が残っていなければ知らせる見張りを付けた
一斉メールの計測用の文字列を、決めた値と違うもので送ってしまった
何が起きたか
メールのリンクに付ける、流入元を見分けるための文字列（UTM）を、事前に決めた値とは別の値で送信した。
何がまずかったか
分析のときに、決めた名前で集計すると数字が出てこない。気づいたのは送信後だった。
足した対策
- 文字列を毎回書かず、送信用のひな形に固定値として埋め込んだ
- 送信前のテスト送信で、リンクの文字列を確かめる項目を足した
ページを直して公開したら、配信の途中に古いデザインの設定が残っていて表示が崩れた
何が起きたか
サービス紹介ページを改善して公開した直後、一部のレイアウトが崩れて表示されていた（約15分）。
何がまずかったか
配信を速くするための中継サーバーに、古いデザインの設定ファイルが保存されていた。公開後の確認を「保存を避ける特別なURL」で行っていたため、実際に訪問者が見る画面とずれていた。
足した対策
- デザインの設定を変えたら、必ず一度も使っていない番号に上げるルールにした
- 公開後の確認は、訪問者と同じ普通のURLで行うようにした
AIの「まだ送っていません」という報告を、送信の記録で確かめずに信じた
何が起きたか
問い合わせが来た会社について、AIが配信システムの予約画面を見て「この会社にはまだメールを送っていない」と報告した。実際にはその日の昼に送信済みだった。
何がまずかったか
予約の状態だけを見て、送信の記録（いつ・何通送ったか）を照らし合わせていなかった。間違った前提で「メール経由ではない」と判断しかけた。
足した対策
- 「送った・送っていない」は、予約の状態ではなく送信の記録で確かめる手順にした
- AIの報告のうち判断に使う事実は、元の記録と照らし合わせてから使うようにした
5つの失敗に共通するのは「作業が終わった」と「結果が正しい」を同じだと思ったこと
| 失敗 | AIの作業 | 抜けていた確認 | 足した確認 |
|---|---|---|---|
| 記事の量産 | 毎日書いて公開 | 全体として多すぎないか | 本数の上限と、書く前の重複確認 |
| 予定実行が動かない | 毎朝の作業 | 本当に動いたか | 「動いた印」と見張り |
| 計測の付け間違い | 一斉メールの送信 | 決めた値になっているか | ひな形への固定とテスト送信 |
| 表示崩れ | ページの公開 | 訪問者と同じ画面で見たか | 普通のURLでの確認 |
| 報告の鵜呑み | 状況の報告 | 元の記録と合っているか | 送信記録との照合 |
ポイント
失敗のたびに作業そのものを止めると、また最初からやり直しになります。当社は5件とも作業はAIに任せたまま、「確かめる工程」を1つずつ足して続けています。止めるかどうかを決めるのは人、作業を続けるのは機械、という分担です。
AIに仕事を任せる前に決めておくこと
- 公開・送信・支払いなど、取り消しにくい操作の前に人の確認を入れるか
- 作業が「動かなかった」ときに、誰がどう気づくか
- 結果を確かめる場所は、お客様や読み手が実際に見る場所と同じか
- AIの報告を判断に使う前に、元の記録と照らし合わせるか
- 失敗したときに、作業を止めずに戻せる形になっているか
よくある質問
AIに仕事を任せると、失敗は避けられないのですか？
避けられません。大切なのは失敗をゼロにすることではなく、小さいうちに気づいて戻せる形にしておくことです。当社の5件も、いずれも数時間〜数日で気づき、仕組みを直して続けています。
AIの導入で失敗したら、任せるのをやめるべきですか？
作業を丸ごとやめると、また最初からになります。止める判断と確認を人に残し、作業はAIに任せ続ける形で直すのがおすすめです。
AIの報告は信用してよいのですか？
作業の速さは信用してよいですが、判断に使う事実は元の記録と照らし合わせてください。当社でも、予約の状態だけを見た報告が実際と違っていたことがありました。
確認を人がするなら、結局手間は減らないのでは？
確認は数分で済み、データの読み取りや作成などの作業時間は大きく減ります。手間をかける場所を、作業から判断に移すイメージです。
