01 / UNDERSTAND
仕組みと使いどころ
自律性のあるAIエージェントは、コード実行、外部APIの呼び出し、情報検索など、許可されたツールを使って複数段階の作業を進めます。ただし、自律性は成功や安全を保証する性質ではありません。AIが利用者の意図や状況を十分に理解できず、望まない操作を行う可能性があるほか、機密情報の不適切な利用や、プロンプトインジェクションによる意図しない動作も課題です。また、自律性に統一された測定方法はなく、無介入で動いた時間も完全な指標ではありません。そのため、権限の制限、動作の可視化、確認要求、途中停止など、人間が監督できる仕組みとの組み合わせが重要です。
02 / IN PRACTICE
AI Autonomyの活用例
たとえば、こんな場面で
例えば、コーディング作業では、AIに修正目標を与え、関連ファイルの調査や変更案の作成を任せる使い方が考えられます。実際の変更や外部システムへの操作は、内容を確認してから承認する運用にできます。
03 / GOOD TO KNOW
使うときのポイント
導入時は、AIが使えるツールと情報、変更可能な範囲、承認が必要な操作を確認します。特に重要な判断や取り消しにくい操作では、人間が途中で確認・停止できる設計が必要です。
参考資料
Measuring AI agent autonomy in practice （新しいタブで開きます）Our framework for safe and trustworthy agents （新しいタブで開きます）用語の説明や活用例に関連する参考資料です。
