AIエージェントの自律性と任せる範囲の決め方

NISTは、人とAIの構成を完全手動から完全自律までの連続体として整理し、人の役割と責任、AIが判断する場面、人へ委ねる場面、助言だけを行う場面を明確にする重要性を示しています。実務では「AIを導入するか」ではなく、「どの工程を、どの条件と権限で任せ、誰が止められるか」を決めます。

本記事の5段階は、この考え方を業務設計へ落とし込むための一般的な活用例です。Luminaまたは特定組織で確認済みの導入実績、法的な分類、効果保証ではありません。実際の権限は、組織の規程、契約、利用サービスの仕様、対象業務の責任に合わせて個別に決めます。

入力情報と出力だけでなく、AIが使える道具と権限も記録します。閲覧権限だけか、更新・削除・送信まで可能か、誰の名義で動くか、回数や金額、時間帯、宛先に上限があるかを確認します。権限が必要以上に広い場合は、AIへの指示を工夫する前に権限を狭めます。

監視と停止は、異常が起きた後に考えません。何を異常とみなすか、誰へ通知するか、自動停止できるか、停止後にどの記録を保全するか、誰が再開を承認するかを開始条件に含めます。根拠、責任者、見直し日を残せない工程は、自動実行へ進めません。

本番では、成功件数だけでなく、人への引継ぎ、承認後の修正、権限外の試行、停止、誤送信・誤更新の未遂、利用されなかった理由を追跡します。NISTは、利用履歴や監査ログ、人の監督の程度、上書きやエラー、開始・停止の判断、委任された権限を記録する観点を示しています。

段階は固定しません。利用範囲を広げる場合は、前段階の実績だけで自動的に引き上げず、新しい対象の影響と条件を再評価します。モデル、参照情報、接続先、権限、担当者、業務手順、法令・契約が変わったときは、いったん維持・引下げ・停止を含めて見直し、変更理由と承認を記録します。