AI活用セキュリティ製品
-
OpenAI等3社API、隠れ推論から機密漏えい
OpenAI・Anthropic・Googleの推論APIで、暗号化された内部推論データが別セッションや別モデルに流用可能だったと研究者が指摘。公開ログからAPIキーやパスワードを復元できたとされる。
-
GMOイエラエ、AIとホワイトハッカー併用の診断サービス開始
GMOサイバーセキュリティ byイエラエが、AI基盤による脆弱性網羅検知とホワイトハッカーの手動診断を組み合わせた新型ペネトレーションテストサービスを発表した。
-
AIコーディング支援ツール、権限設計に懸念
カナダの研究チームがReddit分析で、Claude CodeやCursorなど主要AIコーディングツールのセキュリティ・プライバシー課題を体系化した調査結果を紹介する。
-
AI生成パッチ、約半数が失敗と報告
6000件超のAI生成パッチを調査した結果、有効に機能しても新たな不具合や回避可能な欠陥を生む例が多いと報じられている。6000件以上のAI生成パッチを対象にした調査結果が報じられた。パッチが機能しても新規バグの発生や他機能の破損、回避可
-
AIコーディング補助の承認、人は危険操作の3割見逃す
人間による承認確認(Human-in-the-Loop)は、AIコーディングエージェントの危険な操作要求の約3割を見逃すとの調査結果が報じられた。承認疲れが原因とされる。
-
OpenAI、新モデルAstraの攻撃的サイバー能力を評価
OpenAIが次世代AI「Astra」の予備的サイバーセキュリティ評価を公表。攻撃的サイバー能力の高まりを受け、保護措置強化の方針を示した。OpenAIがAstraと呼ばれるモデルの予備的サイバーセキュリティ評価を公開。AIの攻撃的サイバ
-
AI管理ツールPaperclipに重大脆弱性、自己登録で管理者権限奪取
AIエージェント管理基盤Paperclipに認可バイパスの脆弱性。自己登録から管理者権限を経てコード実行が可能だった。CVSS10、修正版公開済み。AIエージェント管理プラットフォームPaperclipに認可バイパスの脆弱性が発見された。
-
AIが2ヶ月でOSS脆弱性1.4万件超を自動発見
Palo Alto NetworksのUnit 42が、フロンティアAIを使った自律型システム「NOVA」でオープンソースソフトウェアの未知の脆弱性1万4090件を発見したと発表。パッチ適用までの猶予期間が急速に縮んでいる実態を報告してい。
-
AI事故情報共有へ業界連合が新指針草案
Linux Foundation傘下のAI連合が、AIエージェントの事故情報を業界で共有する「SAFE」指針案を公表。企業のAI導入担当者が知るべき動きを解説。
-
AI連携基盤「Terraform MCP Server」に重大脆弱性
HashiCorpのTerraform MCP Serverに3件の脆弱性。AIエージェント経由でトークン漏洩や他利用者環境への不正アクセスの恐れ。修正版が公開済み。
-
AIゲートウェイLiteLLM乗っ取りで通信傍受の実証研究
多くの企業が使うAIゲートウェイ「LiteLLM」で、通信傍受・APIキー窃取・AIエージェントへの不正命令注入が可能と研究者が実証。管理者権限窃取が前提だが影響は広範。
-
AI生成動画の出所特定、新ツールを研究者が開発と報道
AIが生成した動画の出所を追跡する新技術について、研究者チームが開発を進めていると報じられた。ディープフェイク対策における業界連携の一歩として注目される。AI生成動画の生成元を追跡する新ツールの開発が報じられた。研究者は問題の根本原因を調
-
AIエージェント連携の新標準「MCP」を解説
AIモデルを外部データやツールに安全に接続する標準規格「MCP」とは何かを解説。仕組みとメリット、導入時のセキュリティ課題を整理する。MCPはAIモデルを外部データ・ツールに標準化された方法で接続する規格。個別統合が不要になり開発効率と拡
-
AIエージェントの監視データ、社外に出すべきか
可観測性スタートアップGroundcoverが1億ドルを調達したと報じられた。AIエージェントの動作記録(テレメトリ)を自社クラウド内に留める設計思想が焦点。観測ツール企業Groundcoverが1億ドルの資金調達を実施したと報じられた。
-
Mastercard不正検知、AI購買エージェントで岐路に
Mastercardが長年ボットを不正の兆候として学習させてきた不正検知システムが、AIエージェントによる正規の自動購買増加で判断基準の見直しを迫られていると報じられている。
-
TrendAI Vision Oneに脆弱性、バックエンド側で修正済み
トレンドマイクロのAI活用型セキュリティ製品TrendAI Vision Oneで2件の脆弱性が判明。情報窃取・権限昇格の恐れがあるが、既にバックエンド側で修正済み。
-
AIエージェント普及でID管理が新課題に
イスラエルのセキュリティ企業Hush Securityが、AIセキュリティの焦点はモデル保護から非人間IDの統治へ移ったと指摘。自律型AIエージェント普及への対応が急務と報じられている。
-
Google、AIでChrome脆弱性1072件修正と発表
GoogleがAIを活用しChrome最新2リリースで1072件の脆弱性を修正したと発表。13年間見逃されていたサンドボックスエスケープも発見。GoogleはAIを活用しChrome 149・150で計1072件の脆弱性を修正したと発表。
-
Anthropic Opus 5、プロンプト注入耐性が大幅向上
Anthropic最新モデルOpus 5が間接プロンプトインジェクション耐性ベンチマークで改善。他社モデルとの比較結果も公開され、AI導入企業の参考情報となる。
-
AI基盤を支える周辺ソフト群に新たな攻撃リスクの指摘
AIモデルを動かす周辺ソフトウェア群『AIハーネス』のコンポーネント間信頼関係に、悪用され得る攻撃経路が潜むと報じられている。開発担当者向けの注意点を解説する。
-
Ciscoが公開AIモデル900種の系譜を無料検証
オープンソースAIモデルの69%で由来情報が未検証だったとの調査を受け、Ciscoが約900モデルの系譜を指紋照合する無料ツールを公開したと報じられている。Hugging Face上の公開モデルの多くは、ベースモデル情報が投稿者の自己申告
-
Visa、自社決済網をAIで脆弱性診断し手法公開
VisaがAnthropicのMythosを使い自社決済インフラの脆弱性を探索したと報じられている。使用したテスト基盤(ハーネス)はオープンソース化されたとされる。
-
MS、脆弱性発見AI「MAI-Cyber-1-Flash」発表
マイクロソフトが自社製のサイバーセキュリティ特化AIモデルを発表。脆弱性発見・修復を担うAIエージェント基盤に統合され、8月にプレビュー開始予定。マイクロソフトが初のサイバーセキュリティ専用AIモデル「MAI-Cyber-1-Flash」
-
AI発見の脆弱性、悪用率は平均並みと判明
セキュリティ企業VulnCheckの分析で、AIが見つけた脆弱性の実際の悪用率は1.3%程度と判明。過剰な脅威論に一石を投じる調査結果を紹介する。VulnCheckがAI支援で発見された脆弱性1,061件を調査。実際に悪用されたのは14件
-
Okta、AIエージェント向け認証新機能を発表
Okta JapanがAIエージェント向けID管理製品の新機能を発表。プロンプトインジェクション対策や最小権限アクセス、監査ログ機能で企業のAI活用を支援する。
-
AIエージェント標準MCP、最大規模の仕様更新へ
AIエージェントと外部ツールを繋ぐ標準規格MCPが、公開以来最大とされる仕様変更を実施。報道によれば設計思想も刷新され、企業のAI連携基盤に影響する可能性がある。
-
NVIDIA・MS等30社超がAI防御同盟設立
NVIDIAやMicrosoftなど30社超がオープンAIモデルの安全性向上とサイバー防御ツールの共同開発を目指す「Open Secure AI Alliance」を設立した。Hugging Face侵害事案が背景にあるとされる。
-
Microsoft、専用AIモデルとエージェント型防御基盤を発表
Microsoftがサイバーセキュリティ特化の独自AIモデルとエージェント型防御プラットフォームを発表。低コストで高精度な脅威検知を目指す狙いとされる。Microsoftが自社開発のサイバーセキュリティ特化AIモデルを初公開した。SOC業
-
「野良AIエージェント」急増、IT部門の盲点に
従業員が承認なしに社内システムで作成するAIエージェントが急増し、IT部門が把握できない権限や接続が広がっていると報じられている。可視化と統制の方法を解説する。
-
Anthropic新モデル、脆弱性発見は強いが攻撃コード化は制限
AnthropicがClaude Opus 5を発表。脆弱性発見能力は最上位モデルに迫るが、エクスプロイト生成は意図的に制限されていると報じられている。AnthropicがClaude Opus 5を公開し、脆弱性発見能力は最上位モデルM
-
AIガードレール、多言語で防御に差 欧州で課題浮き彫り
多言語環境が当たり前の欧州で、AI製品の安全対策(ガードレール)が言語によって効果にばらつきがあると報じられている。ジェイルブレイク耐性の言語間格差に注意が必要。
-
Claude Cowork脆弱性、AIエージェントがMac全体にアクセス可能
AnthropicのClaude Coworkにサンドボックス脱出の脆弱性。ローカル実行中のAIエージェントがMac全体のファイルにアクセス可能だったと報じられている。
-
Capital One、AI脆弱性検出ツールを無償公開
米金融大手Capital OneがAIエージェント型の脆弱性検出ツール「VulnHunter」をオープンソース化。攻撃経路の特定と修正提案を自動化し、誤検知の多さという業界課題に挑む。
-
AI発見の脆弱性、対応速度が生命線に
AnthropicのAI脆弱性発見ツール「Mythos」を契機に、脆弱性修正の遅れ(露出ウィンドウ)がセキュリティ運用の最大の弱点になっているとする寄稿記事を解説する。
-
OpenAI、自動レッドチームAIでプロンプト注入耐性強化
OpenAIは自動レッドチームAI「GPT-Red」を公開し、最新モデルGPT-5.6 Solのプロンプトインジェクション耐性を大幅に向上させたと報じられている。企業のAI活用における防御強化のポイントを解説する。
-
Kimi K3、コーディングエージェントの安全性に懸念
Moonshot AIの新モデルKimi K3、エージェント機能悪用のリスクをセキュリティ企業が指摘。ジェイルブレイクと権限乱用の違いを解説。Moonshot AIが2026年7月16日公開の新モデルKimi K3、コーディングエージェン
-
AIの『解釈と実行』一任が招く監視喪失リスク
AIモデルが指示の解釈と実行を同時に担うことで、人間による監視が失われる構造的な問題を指摘する論考記事。企業のAI活用における設計上の注意点を解説する。Dark Readingの論考記事が、AIへの『盲目的信頼』を本質的なセキュリティリス
-
Google、AI活用の自動防御基盤を強化
Google CloudがWizの技術を統合し、AIエージェントによる脅威検知・自動対応の防御プラットフォームを強化したと報じられている。Google CloudがWizの主要機能を自社の防御基盤に統合。AIエージェントが脅威検知から対応
-
「イエローチーム」新潮流、AI攻防ツール内製化進む
一部企業でAIを使った攻撃・防御ツールを自社開発する『イエローチーム』の動きが報じられている。AIセキュリティ運用の今後を占う動向として解説する。Dark Readingが、赤(攻撃)と青(防御)を融合した『イエローチーム』という概念を報
-
ServiceNow AI Platformに深刻なRCE脆弱性、修正版公開
ServiceNowのAI Platformでサンドボックス回避により認証不要でコード実行が可能な脆弱性が判明。CVSS9.5のクリティカル評価で、セルフホスト利用者は修正版への更新が必要。