もう少し詳しく
自動化した処理のすべてをAIに任せず、判断が難しい場面や重要な操作の前に人が関与します。承認、修正、差し戻しなどが具体的な方法です。
人を途中に置く設計は、完全自動化が難しい高リスク判断や例外処理を安全に扱うために必要です。承認の前に根拠・不確実性・変更内容を提示し、誰が何を確認したかを記録して、形式的な承認にならないようにします。
HISTORY
開発された年代と歴史
この用語を大きな流れで見ると、1990年代〜現在に発展してきました。
- 1990年代能動学習や対話的機械学習で、人がラベル付けや修正を行う設計が発展。
- 2014人とAIの協調設計を整理する研究が広がった。
- 2020年代RLHF、承認付き自動化、AIエージェントの停止条件に組み込まれる。
キーマン・関わった研究者
AmershiらHCI研究者、RLHF研究チーム、現場の専門家
技術の変遷
完全自動化 → 人のラベル・承認 → 監督付きエージェント
理解のポイント
- 判断が難しい場面や重要操作の前に、人の承認・修正・差し戻しを組み込みます。
- 確認者には結論だけでなく、根拠や変更内容を示し、実際に判断できる状態を用意します。
- 人が確認する工程を置くことと、適切な確認が行われることは別です。役割と確認範囲を明確にします。
たとえば、こんな場面で
AIが作った請求書を担当者が確認してから、送信処理に進みます。
覚えておきたいこと
形だけの承認にならないよう、人が判断できる根拠や変更内容も提示する必要があります。