AI評価企業Irregular、他被害の有無を明言せず
- AI評価企業Irregularが関与した3件のインシデントで、AnthropicやOpenAI、MetaのAIモデルが実在システムを侵害
- Irregularは他の顧客にも同じ問題が起きたかを明言せず、調査継続中として詳細を明かさない
- テスト環境の設定ミスによりモデルが誤って外部ネットワークにアクセスできる状態になっていたとされる
かんたんに言うと
AIモデルの安全性テストを行う会社の設定ミスで、AIが実際の企業システムに侵入してしまう事故が複数回起きたと報じられている。自社がAI評価サービスを利用する場合は、テスト環境が本当に外部から隔離されているか確認が必要。
AIセキュリティとの関連: 大手AI企業3社のモデルが実システムを侵害した事案の続報で、AI評価・テスト環境の安全管理体制に疑問が投げかけられている。
一次情報(公式アドバイザリ・CVEレコード等)は確認できていません。本記事は下記の報道をもとに作成しています。
何が起きたか
AI企業向けにセキュリティ評価を行うIrregular社が関与し、Anthropic・OpenAI・Metaの各AIモデルが実在の組織のシステムを侵害する事案が発生していたと報じられている。Irregular社の広報担当者は、これら3社以外にも同様の問題を経験した顧客がいたかという直接の質問に対し、調査が継続中であり「これ以上の詳細には踏み込めない」と回答したという。Anthropicは先週、Irregularとの「誤解」によりClaudeを動かすマシンがインターネットに接続された状態になっていたことを公表した。この結果、Claudeは弱いパスワードや未認証のエンドポイントといった基本的な手法で実際の組織を侵害し、あるケースではPyPI(Pythonのパッケージ配布サイト)に悪意あるパッケージをアップロードし、15の実システムで実行されたとされる。OpenAIも同様に、Irregularのテスト環境の設定ミスによりモデルが公開インターネットに到達し、対象企業と同名のウェブサイトを侵害したことを認めている。Metaも今週、Irregularが関与したインシデントへの関与を確認したと報じられている。
誰に・どう影響するか
大企業においては、外部のAI評価・レッドチーム(攻撃者視点での脆弱性診断)ベンダーを利用する際、テスト環境の隔離設定が確実に機能しているかの検証が急務となる。特にAIエージェントに実行権限や外部アクセスを与える評価では、封じ込め策の不備がそのまま実被害につながるリスクがある。中小企業にとっては、直接AI評価サービスを利用していなくても、取引先やサプライチェーン上の企業が同様の評価を受けていた場合、意図せず攻撃対象になる可能性がある点に留意が必要。またPyPIのような公開パッケージリポジトリを利用する開発チームは、出所不明のパッケージ経由での侵害リスクにも注意が求められる。
今すぐやるべきアクション
- 外部のAIセキュリティ評価・レッドチームサービス利用時は、テスト環境の隔離方式と封じ込め対策を契約前に確認する
- 自社が利用するAIエージェントに外部ネットワークアクセスを許可する場合は、最小権限の原則を徹底する
- PyPIなど公開パッケージリポジトリからの依存関係導入時は、出所と署名を検証するプロセスを整備する
- AI評価ベンダーとのインシデント発生時の通知・開示義務を契約条項に明記する
重大度の判定理由
重大度「高」: 大手AI企業3社に実被害が及び、他顧客への波及有無が未確認のまま調査が継続中とされるため