AIエージェントとは、指示を受けて自分で手順を考え、メール送信や在庫の更新まで進めてくれるAIのことです。便利な反面、「どこまで任せてよいのか」で足踏みする会社は少なくありません。結論から言うと、線は「AIの賢さ」ではなく「間違えたときに取り返せるか」で引くのが実務的です。
判断の軸は「取り返しやすさ」と「影響の広さ」
AIの精度は上がり続けていますが、100%にはなりません。だから「ミスしない前提」ではなく「ミスしても被害が小さい範囲」から任せます。見るのは次の2つです。
- 取り返しやすさ：消せる、戻せる、訂正できるか
- 影響の広さ：社内で完結するか、お客様や取引先に届くか
たとえば社内メモの下書きは、間違えても直せば済みます。一方、お客様への一斉メール、価格の変更、発注の確定は、実行した瞬間に外へ届き、戻せません。この差が、自律度を分ける基準になります。
自律度は3段階で考える
実務では「全部任せる／任せない」の二択にせず、3段階で考えると決めやすくなります。
| 段階 | AIにさせること | 人の役割 | 道の駅・観光の例 |
|---|---|---|---|
| レベル1 下書きまで | 文案・集計・要約 | 全て確認して自分で実行 | 直売所のPOP文案、口コミの要約 |
| レベル2 承認後に実行 | 提案を作り、承認で実行 | 内容を見て「OK」を出す | 入荷量に応じた発注案、宿泊問い合わせへの返信案 |
| レベル3 自動実行 | 決めた範囲で自走 | 事後に抜き取り確認 | 営業時間の自動回答、売上の日次集計 |
最初はすべての業務をレベル1から始め、一定期間ミスがなかったものだけ段階を上げます。上げる単位は「AI全体」ではなく「業務ごと」です。
現場でよくある判断ミス
支援の現場で目にする失敗は、おおむね次の4つです。
- 慣れたからと、まとめて自動化する。問い合わせ返信がうまくいったので、同じ流れで返金対応まで自動にしてしまう。金額が絡む業務は別の線で考えます。
- 逆に、集計のような戻せる作業まで毎回人が全件チェックし、時間が一向に減らない。
- 繁忙期を想定しない。新潟の観光地では連休や収穫期に問い合わせや注文が一気に増えます。普段は目で確認できる件数も、繁忙期は承認が追いつかず、中身を見ずに「OK」を押すだけになります。承認の形骸化は、最も危ない状態です。
- 止め方を決めていない。おかしな動きに気づいたとき、誰がどこで止めるかを先に決めておきます。
たとえば道の駅の直売所で、AIが売上を見て「今週は在庫が足りない」と判断し、生産者への追加依頼メッセージを自動送信したとします。数字の読み違いがあれば、複数の生産者に誤った依頼が一斉に届き、お詫びの連絡だけで半日が潰れます。この場合、案の作成まではAI、送信ボタンは担当者、と分けておくだけで被害は防げます。回避のコツは、「作る」と「送る」を別の工程として設計することです。
迷ったときの意思決定フロー
業務ごとに、次の順で自分に問いかけてください。
- 外部の人（お客様・取引先）に届くか → 届くなら、レベル2以下
- お金や個人情報が絡むか → 絡むなら、承認を必須にする
- 実行後に取り消せるか → 取り消せないなら、承認を必須にする
- 3つとも問題なければ、レベル3の候補。ただし最初の1か月は実行記録を残して見直す
このフローの良い点は、AIの性能を評価しなくても使えることです。判断の材料はすべて自社の業務の性質にあるので、ツールが入れ替わっても線は変わりません。AIと設計の型があれば、この線引きを自社で運用できます。
明日やれる一歩
紙を1枚用意し、AIに任せたい業務を5つ書き出してください。それぞれに「外に届くか」「お金・個人情報が絡むか」「戻せるか」の3点を確認し、気になる点が1つでもあればレベル2、すべて問題なければレベル3の候補とします。そのうえで、最も影響の小さい業務を1つ選び、まずレベル1で試す。これだけで、自社なりの線の引き方が見えてきます。