AIが下書きした処理結果を、開発者が一画面で確認して承認するか修正するかを落ち着いて選んでいる場面
業務システムへの組み込み約11分

人の確認を挟むAIワークフロー｜HITLの組み方

「AIを業務に組み込みたい。でも、間違ったまま自動で進んでしまったらと思うと、丸ごと任せるのは怖い」——そう感じて手が止まっている人は多いと思います。

その感覚は、けっして臆病ではありません。むしろ正しい。AIの出力は「だいたい合っている」けれど「たまに自信満々で間違える」という性質を持っています。だからこそ、全自動か全手動かの二択ではなく、その間に「人の確認」を上手に挟むという第三の道があります。これが「ヒューマンインザループ（Human-in-the-Loop、以下HITL）」と呼ばれる考え方です。

とはいえ、ただ「最後に人がチェックする」と決めただけでは、確認作業が重すぎて誰も使わなくなったり、逆に形だけのハンコ押しになって意味をなさなかったりします。大事なのは、確認を「どこに・どう・誰が」挟むかを設計することです。

この記事は、AIを業務システムに載せるときに、人の確認を現実的に組み込むための型を整理したものです。難しい仕組みは要りません。一緒に順番に見ていきましょう。

結論：HITLは「人が全部見る」ことではなく、リスクの高いところにだけ確認を集中させる設計です。①AIに任せる範囲を決め、②確認を挟む位置を「入力前・出力後・例外時・抜き取り」の中から選び、③確認を1〜2クリックで済む見せ方にして、④誰が承認し誰が責任を持つかを決める——この4点を押さえれば、怖さの正体だった「気づかないまま進む」を防げます。最初から完璧を狙わず、まず一番怖い一箇所にだけ人を入れるところから始めるのが現実的です。

なぜ「全自動」でも「全手動」でもないのか

まず、両極端がうまくいかない理由をはっきりさせておきます。ここが腑に落ちると、確認をどこに置くかの判断が楽になります。

HITLは、この間を取ります。「AIに下書きや候補を作らせ、判断のうち重要な部分だけ人が握る」。スピードは活かしつつ、取り返しのつかない失敗の手前に人の目を置く——それが狙いです。

チェックを挟む4つの位置

業務フローの中で人の確認を挟める4つの位置（入力前・出力後・例外時・抜き取り）を示した図
確認は1種類ではない。フローのどこに人を置くかで、負担も効き目も変わる

人の確認は「最後にまとめて」だけではありません。挟める位置はおおむね4つあり、業務のリスクに合わせて選びます。組み合わせても構いません。

  1. 入力前チェック（AIに渡す前に人が確認）：AIに投げる内容を人が見てから送る。機密情報を含んでいないか、前提が正しいかを手前で止められます。情報漏えいの線引きが重要な処理に向きます。
  2. 出力後チェック（AIの結果を人が承認してから次へ）：いちばん基本の形。AIが下書きや候補を作り、人が「承認／修正／却下」を選んでから後段へ流す。外部に出る・お金が動く・取り消せない処理の手前は、ここを必ず置きます。
  3. 例外時チェック（危ういものだけ人へ回す）：ふだんは自動で流し、あらかじめ決めた条件に当たるものだけ人に回す。ここでまず勧めたいのは、AIの確信度ではなくルールベースの単純な条件です。「金額がN円を超える」「社外への送信」「新規の取引先」といった、誰でも同じ判定ができる客観条件で振り分ければ、AI側の確信度が取れない環境でもそのまま回せます。ふだんは自動で流れ、危ういものだけ人の手元に届くので、確認の総量を大きく減らせます。
  4. 抜き取りチェック（全部は見ず、一部を後から監査）：全件は確認しないが、ランダムまたは一定割合を後から人がレビューして品質を測る。止めるためではなく、ズレを早く検知するための確認です。自動化を進めた後の品質監視に向きます。

選び方の目安はシンプルです。「間違えたときの痛みが大きいほど、手前（入力前・出力後）で全件を止める」「痛みが小さく量が多いほど、例外時・抜き取りに寄せる」。一律に全件確認にしないことが、現場に使われ続けるコツです。

確認を「軽く」する——人が見るのは差分と理由

HITLが形骸化する最大の原因は、確認が重すぎることです。AIの出力をゼロから読み直して正しさを判定するなら、人が最初から作るのと変わりません。確認を1〜2クリックで終わる作業に設計し直します。

ここまで軽くして初めて、現場は「これなら回せる」と感じます。確認のUIは、HITLの成否を分ける本体だと思ってください。

誰が承認し、誰が責任を持つか

技術の話と同じくらい大事なのが、「その承認は誰の責任か」をあいまいにしないことです。ここが決まっていないと、問題が起きたとき「AIが出したから」と宙に浮きます。

責任の線引きをはっきりさせることは、誰かを縛るためではありません。「ここまでは自動、ここからは私が見る」と言い切れる状態にしておくことが、導入を進める側の安心にもつながります。

形骸化させない——確認が「ハンコ押し」になる前に

HITLを入れても、しばらくすると確認が形だけになっていく、というのはよく起きます。AIの精度が上がるほど「どうせ合ってる」と流し見になり、たまの間違いを見逃す。これを防ぐ視点も持っておきます。

形骸化のサイン起きていること打ち手
承認がほぼ即決・全件OK中身を見ずに通している抜き取り監査で実際の精度を測る／客観条件で危ういものだけ強調
確認待ちが溜まっている確認が重すぎる・人が足りない確認を差分中心に軽くする／例外時チェックに絞る
却下理由が記録されない改善のループが回っていない却下時に一言残す欄を必須化する
同じ間違いが繰り返し回ってくる指示や条件を直していない却下ログを見返し、プロンプト・ルールを更新

ポイントは、確認を「入れて終わり」にせず、却下ログを定期的に見返して仕組み側を直すことです。ここで放置を防ぐコツは、「誰が・いつやるか」をセットで決めておくこと。月1回15分でも構いません、担当と頻度を先に決めるだけで形骸化しにくくなります。件数が少なければ、集計までせず却下分を眺めるだけでも十分です。確認で拾った間違いが、次のAIの指示の改善につながると、確認の総量は時間とともに減っていきます。逆に放置すると、確認だけが残って効き目が薄れます。AIの出力は必ず人がレビューする前提で扱う——その前提を、運用でも生かし続けるイメージです。

明日からやること（小さく始める3つ）

最初から全工程にHITLを設計しようとすると手が止まります。まずこの3つから。

  1. いちばん怖い一箇所を1つだけ選ぶ：「ここで間違うと取り返しがつかない」という処理を1つ特定する。外部に出る・お金が動く・消せない処理が候補です。そこにだけ「出力後チェック（承認してから次へ）」を置きます。
  2. いまある道具で差分と承認を並べる：専用画面を作る必要はありません。スプレッドシートやチケット、チャットの承認スタンプ、メールでも構わないので、元データ・AIの出力・根拠を並べ、「承認／修正／却下」を選べる形にする。全文を読ませず、見るべき所だけ見せます。
  3. 却下理由を1行残す欄を付ける：人が却下したとき、なぜかを一言残せるようにする。見返す担当と頻度（月1回15分でも可）を決めておき、たまったらAIへの指示か通すルールを1つ直してみます。

この3つが回り始めれば、「丸ごと任せるのは怖い」は「ここだけ私が見れば大丈夫」に変わります。範囲は、慣れてから少しずつ広げれば十分です。

チェックリスト（HITL設計の確認）

コピーして、設計や見直しのときに使ってください。一度に全部でなく、今日わかる所から埋めれば十分です。

まず、これだけ満たせばHITLとして成立する最低ラインは次の4点です。ここから始めて、余裕が出たら下の項目を足していきましょう。

以下は、回り始めてから順に整えていく項目です。

範囲とチェック位置

確認の軽さ

責任と運用

最後に

AIを丸ごと信じきれないのは、慎重さであって弱さではありません。 だからこそ、「全部任せる」でも「全部自分でやる」でもなく、いちばん大事な判断にだけ自分の手を残す——それがHITLという落としどころです。

人の確認を組み込んだAIワークフローが落ち着いて回り、開発者が前を向いて穏やかに見守っている場面
「ここだけ私が見れば大丈夫」と言える状態が、安心して任せる第一歩になる

完璧な自動化を一気に目指す必要はありません。まずは一番怖い一箇所に、承認の一手間を置くところから。そこから、確認で拾った気づきを仕組みに返していけば、任せられる範囲は自然と広がっていきます。

関連して、AI APIの料金とレート制限を見積もるや、「AIで何とかしろ」と言われたとき最初に確認すること、AIに任せてはいけない判断・領域の線引きもあわせてどうぞ。気になった所から、ひとつずつ確かめていきましょう。

関連用語