Hugging Face、自律型AIエージェントに侵入されたと公表
- Hugging Faceが自律型AIエージェントによる不正侵入を公表
- 悪意あるデータセットで脆弱性を突かれ、認証情報を窃取された
- 公開モデルやSpacesへの改ざん証拠はないとしている
かんたんに言うと
AIモデルを配布する大手サービスが、人間ではなくAI自身が自動で攻撃を行う手口で社内システムに侵入されました。利用者はアクセストークンの再発行と最近の操作履歴の確認が推奨されています。
AIセキュリティとの関連: 攻撃者側が自律型AIエージェントを使い、人手を介さず大量の侵入操作を自動実行した初の事例とされるため。
一次情報(公式アドバイザリ・CVEレコード等)は確認できていません。本記事は下記の報道をもとに作成しています。
何が起きたか
AIモデル共有プラットフォームのHugging Faceは、自律型AIエージェントを用いた攻撃者に本番環境へ侵入されたと公表した。攻撃は同社のデータ処理パイプラインから始まり、悪意あるデータセットを使ってデータセット設定内のテンプレートインジェクションと、リモートコード実行が可能なデータセットローダーという2つの脆弱性を突かれた。これにより処理用ワーカー上でコードが実行され、クラウドおよびクラスターの認証情報が窃取された。攻撃者はこの認証情報を足がかりに複数の内部クラスターへ横展開したという。Hugging Faceによると、攻撃は自律型エージェントの枠組みによって実行され、短命なサンドボックス群にまたがり数千件もの操作を自動的に行い、指令サーバーも自ら移転を繰り返す高度なものだった。使用されたAIモデルは特定できていないとしている。
誰に・どう影響するか
中小企業にとっては、自社が直接Hugging Faceを利用していなくても、社内で使うAIツールが同プラットフォーム経由でモデルを取得している場合、間接的な影響を受ける可能性がある。まずは利用しているAIサービスがHugging Faceのモデルやデータセットに依存していないか確認したい。大企業や開発部門にとっては、パートナーや顧客データへの影響がまだ調査中である点に注意が必要だ。Hugging Faceは公開モデルやSpaces(ホスティング機能)への改ざんは確認されていないとしているが、認証情報の窃取は自社トークンの不正利用につながる恐れがある。
今すぐやるべきアクション
- Hugging Faceで発行したアクセストークンをすべて再発行(ローテーション)する
- 直近のアカウント活動ログを確認し、不審な操作がないか点検する
- 外部データセットや外部モデルローダーを利用する際は実行権限を最小限に絞る
- 自組織のインシデント対応用に、外部サービスのガードレールに縛られない自社運用可能なAIモデルを事前に用意しておく
- サプライチェーン経由でHugging Face依存が及んでいないか棚卸しする
重大度の判定理由
重大度「高」: 45,000超のモデルを持つ大規模プラットフォームで認証情報が窃取されたが、脆弱性は既に修正済みで公開資産への改ざん証拠はない