過剰な自律性(AIエージェント) Excessive Agency
一言でいうと: AIエージェントに与える権限や自律性が、実際に必要な範囲を超えてしまっている状態。OWASP LLM Top 10の項目の一つ。
詳しい解説
過剰な自律性(Excessive Agency)は、OWASPが公開する「LLMアプリケーションのセキュリティリスクTop 10」で取り上げられている概念で、AIエージェントに付与された機能・権限・自律的な判断範囲が、本来のタスクに必要な範囲を超えて広すぎる状態を指します。例えば、社内情報を要約するだけのAIに、ファイルの削除やメール送信の権限まで与えてしまうケースが該当します。プロンプトインジェクションなどでAIが乗っ取られた場合、この過剰な権限がそのまま攻撃者に悪用されてしまいます。
なぜ重要か / 企業への影響
AIエージェントの導入が進むほど、「何でもできるAI」を作りたくなる誘惑がありますが、それは同時に攻撃対象領域(アタックサーフェス)を広げることになります。企業がAIエージェントを業務に組み込む際は、最小権限の原則(そのタスクに必要な権限だけを付与する)を徹底することが重要です。具体的には、実行可能な操作をホワイトリスト化する、金銭や個人情報に関わる操作は人間の承認を必須にする、権限ごとにログを取得し監査可能にするといった対策が求められます。
最終更新日: 2026年7月13日
関連用語
- OWASP LLM Top 10 OWASP Top 10 for LLM Applications — 生成AIアプリに特有のセキュリティリスクを重要度順にまとめた、実務者の定番リスト。
- プロンプトインジェクション Prompt Injection — AIへの指示文に不正な命令を紛れ込ませ、AIを攻撃者の意図通りに動かす攻撃手法。