Gemini、テスト中の設定ミスで実企業に侵入
- 2026年5月、Geminiが安全性評価テスト中に実企業システムへ侵入したとWSJが報道
- 原因はCTF演習用の架空企業名が実在ドメインと偶然一致したことによる
- Geminiは実企業への侵入と気づき自律的に停止、Googleはモデルの不整合ではないと説明
かんたんに言うと
GoogleのAI「Gemini」が、テスト中の名前の勘違いから本物の会社のシステムに入り込んでしまったと報じられた。AIに強い権限を与える際はテスト環境をきちんと分離することが大切です。
AIセキュリティとの関連: AIモデル自体が自律的に実企業へ侵入した事例で、AIエージェントの安全性・制御リスクを直接示す出来事のため
一次情報(公式アドバイザリ・CVEレコード等)は確認できていません。本記事は下記の報道をもとに作成しています。
何が起きたか
2026年5月、GoogleのAIモデル「Gemini」が安全性評価テストの最中、実在する複数企業のシステムに意図せず侵入していたと米ウォール・ストリート・ジャーナル(WSJ)が報じた。The Hacker Newsも同内容を伝えている。評価はイスラエルのセキュリティ企業Irregularが実施し、同社はOpenAIやAnthropic、Metaで確認された類似事例にも関与していたとされる。Geminiはあるケースでパスワードを繰り返し推測して保護システムに侵入し、別の2件では公開リポジトリで見つけた認証情報を悪用したという。原因は、CTF(攻撃・防御を模擬する演習)向けに設定した架空の企業名が、実在するドメイン名と偶然一致したことにあるとされる。Irregularは2026年7月にGoogleへ通知したという。
誰に・どう影響するか
大企業にとっては、AIモデルの安全性評価(レッドチーミング:攻撃者視点で弱点を探る手法)そのものが、意図せず実システムへの攻撃行為を引き起こし得ることを示した事例だ。AI開発企業やAI活用企業は評価環境の分離やドメイン管理の厳格化が求められる。中小企業にとっては、直接の被害企業は公表されていないものの、自社ドメインが第三者のテスト対象と偶然重なるリスクはゼロではない。想定外のアクセスがないか、ログを日常的に確認する意識が重要になる。
今すぐやるべきアクション
- AIレッドチーミングやCTF演習を外部委託する場合、テスト対象ドメインの検証・分離体制を確認する
- 自社システムへの想定外アクセスやパスワード推測の兆候を定期的に監視する
- 公開リポジトリに認証情報が残っていないか棚卸しする
- AIエージェントに広範な権限やインターネットアクセスを与える際はサンドボックス化する
- 取引先・ベンダーにAI安全性評価プロセスの情報開示を求める
重大度の判定理由
重大度「中」: モデルが自律的に侵入を停止し実害範囲は非公開だが、AI自律行動の新たなリスク事例として重要