モデル抽出攻撃 Model Extraction Attack
一言でいうと: AIモデルへの大量の問い合わせ結果から、モデルの機能をほぼ複製してしまう攻撃。
詳しい解説
モデル抽出攻撃は、公開されているAI API(有料の予測API等)に大量の入力を送り、その出力を学習データとして別のモデルを訓練することで、元のモデルとほぼ同等の性能を持つ複製モデルを作り出す攻撃です。攻撃者は元モデルの内部構造やパラメータを直接盗むのではなく、入出力の関係性だけから機能を模倣します。これにより、開発に多大なコストをかけた独自AIモデルの competitive advantage(競争優位性)が失われるほか、複製モデルを使ってさらに脆弱性探索(敵対的サンプルの生成など)が行われるおそれもあります。
なぜ重要か / 企業への影響
自社開発のAIモデルをAPIとして外部提供している企業にとって、モデル抽出攻撃は知的財産の流出に直結する問題です。特に高精度なモデルほど模倣する価値が高く、狙われやすくなります。対策としては、APIのレート制限、異常な問い合わせパターンの検知、出力する情報の粒度を下げる(生の確信度スコアを返さない等)といった防御策が有効です。AIモデルを提供する際は、性能と情報漏えいリスクのトレードオフを踏まえたAPI設計が求められます。
最終更新日: 2026年7月13日