敵対的サンプル Adversarial Example

詳しい解説

敵対的サンプルは、AIモデルが誤認識するように意図的に細工された入力データです。画像にノイズを加えて画像認識AIに別の物体と誤認させる、標識に小さなステッカーを貼って自動運転の認識を狂わせる、といった例が研究で示されています。人間の目にはほとんど違いが分からないのに、AIだけが騙されるのが特徴です。マルウェア検知や顔認証など、セキュリティ用途のAIを回避する目的でも研究されています。

なぜ重要か / 企業への影響

AIによる検知・認証(顔認証、不正検知、マルウェア検知など)を導入している場合、その回避手法として現実的な脅威になります。AI製品の選定時には、敵対的攻撃への耐性についてベンダーの説明を確認する視点を持つとよいでしょう。