AIに仕事を任せていて一番こわいのは、間違えることではありませんでした。「無くなったように見えること」でした。
何が起きたか
7月のはじめ、会社のメール対応の一部をAIに任せていました。届いたメールを整理して、返信の下書きだけ作っておいてもらう。送信は必ず自分がやる、という運用です。
ところがある日、作ったはずの返信下書きが見当たらなくなりました。AIは「下書きが消えている」と判断して、もう一度同じ下書きを作り直します。しばらくすると、また見当たらなくなる。同じやりとりで2回続けて起きたこともありました。
作り直す→また消える→また作り直す。この繰り返しが数日続き、原因が分かるまで3日ほどかかりました。
調べたら「消えて」いなかった
腰を据えて記録を突き合わせたところ、原因はひとつではありませんでした。「下書きが見当たらない」という同じ見え方の裏に、まったく違う3つの事情が混ざっていたのです。
- 自分が消していた — 対応が済んだ下書きを、自分の手で削除していた。AI側はそれを「勝手に消えた」と受け取っていた。
- メール連携の応答が不安定だった — 下書きの一覧を取りに行く処理が、実際には存在するのに「ありません」と返してくることがあった。
- すでに送っていた — 下書きは送信すると下書きではなくなる。つまり正常に役目を終えていた。
3件のうち、本当に異常だったのは2番目だけ。残り2つは、むしろ正しく仕事が終わったサインでした。AI側は「無い=消えた」という一本の解釈しか持っていなかったので、正常な終わり方まで事故として扱い、律儀に作り直していたわけです。
直したのは2か所だけ
対策として入れたのは、難しい技術ではなく、考え方の整理でした。
ひとつ目は「冪等(べきとう)キー」。同じ作業を何回実行しても、結果が1回分にしかならないようにするための鍵のことです。うちの場合は「どのやりとりか」+「最後に届いたメールはどれか」の組み合わせを鍵にしました。この鍵がすでに記録にあれば、AIは何もしない。二度と同じ下書きを作らない。これだけで、無限に作り直す動きは止まりました。
ふたつ目は「終わりの合図」を変えたこと。それまでは「下書きがあるかどうか」で終わったかを判断していました。これをやめて、対応が済んだものには目印(ラベル)を貼るというルールに変えました。無いことを根拠にせず、有ることを根拠にする、という切り替えです。
ここから持ち帰れること
自分の会社に置き換えるなら、次の3つだと思います。
- 「無い」を「消えた」と早合点しない仕組みを先に作る。 見当たらない理由は、たいてい複数あります。人が消した、まだ作られていない、もう終わった、単に取得に失敗した。どれも見え方は同じです。
- 終わりの合図は、人が目で見える形で明示的に残す。 チェック欄、ラベル、日付の書き込み。何でも構いません。「無いこと」を合図に使わないのがコツです。
- 同じ作業を二度やらせない鍵を決める。 AIに定型作業を任せるなら、「何をもって同じ仕事とみなすか」を先に決めておく。決めていないと、善意で何度でもやり直してくれます。
これはツールを使わなくてもできる話です。たとえばAIに毎朝リストを作ってもらうなら、作った日付を一列書き足しておくだけで、「今日の分はもう作ったか」が判断できるようになります。
失敗から学んだ一番のこと
AIは、指示された仕事はきちんとやります。ただし「終わったかどうかの判定」まで曖昧なまま渡すと、そこで迷子になる。任せるときに決めるべきなのは、やり方より先に「終わりの定義」でした。
※本記事は、筆者が自社の業務で実際に運用している環境での一例です。使っているツールやメールの運用方法によって、同じ現象が起きるとは限りません。仕組みを変える際は、まず小さな範囲で試すことをおすすめします。

コメント