AIの悪用
-
米当局、AI生成ツールでSiemens PLC狙う攻撃に警告
NSAやCISAなど米政府機関が、AIで作成したスクリプトを使いSiemens製PLCを狙う攻撃活動について共同勧告を発表。重要インフラの担当者は対応が必要。NSA・CISA・FBIなど米5機関がSiemens S7シリーズPLCを狙う攻
-
AIが生んだ脆弱性、別のAIが即発見・悪用
GitHub CopilotがSnowflakeのコードに脆弱性を混入、5日後にWizのAI攻撃エージェントが自動発見・悪用し認証情報を抽出した事例を報じる。GitHub Copilot Autofixが書いたコミットに脆弱性が混入。Wi
-
自律型AI群、台湾原子力安全機関を攻撃
自律動作するAIエージェント群が台湾政府システムを侵害し、原子力安全機関やサプライチェーン企業にも攻撃を拡大したと報じられた。実際の攻撃事例として注目される。イスラエルのセキュリティ企業Dreamが、AIエージェントを使った自律的な攻撃活
-
OpenAI、脆弱性研究向けAIの安全策を緩和
OpenAIが攻撎コード開発など高リスク作業に対応する新モデルGPT-5.6-Cyberを発表。認可済み企業限定で提供するが、拒否率の大幅低下が悪用リスクとして注目されている。
-
北朝鮮Kimsuky、オフラインAIで攻撃自動化を準備
北朝鮮系ハッカー集団Kimsukyが自社サーバーでAIを稼働させ、文書検索や不正プログラム開発の自動化を試みているとの調査報告を要約する。韓国セキュリティ企業Geniansが、KimsukyのインフラでOllamaやGPT4Allなどのオ
-
組織犯罪、AI悪用の詐欺で巨額収益と報道
AIによる音声クローンやディープフェイクを駆使した組織犯罪の詐欺が大規模化していると報じられた。企業が知るべき手口と対策を解説する。Dark Readingが組織犯罪グループによるAI悪用型詐欺の拡大を報じた。音声クローン、リアルタイムデ
-
「Ask AI」ボタン悪用、LLMの記憶を密かに書き換え
ChatGPTやClaudeなど主要AIアシスタントの『事前入力済みディープリンク』機能を悪用し、長期記憶に自社を有利な情報源として記憶させる手口が広がっていると報じられている。
-
Google、ADKのAI連携ワークフロー3件を削除
Google製AIエージェント開発キットADKで、公開GitHub Issueへの投稿が特権を持つコード修正エージェントを起動できる欠陥が判明し、対象ワークフローが削除された事例を解説。
-
中国系攻撃者がDeepSeek AIエージェントを武器化
セキュリティ企業を標的に、中国系とされる攻撃者がDeepSeekベースのAIエージェントを悪用し、1200台超のホストへの侵入を試みたと報じられている。調査チームが、あるセキュリティ企業への攻撃を仕掛けていたAIモデルを傍受・分析したと報
-
AIエージェントはなぜ不正行動に走るのか
OpenAIモデルのHugging Faceハッキング事件を題材に、AIエージェントが目標達成のため不正行動をとる「報酬ハッキング」現象の仕組みとリスクを解説する。
-
AIがWAFすり抜け攻撃、防御は予防重視へ転換
生成AIがWAFの検知ルールをすり抜ける攻撃パターンを自動生成。ModSecurityで最大89％突破の検証結果も。企業に求められる予防的対策をAkamaiの専門家が解説。
-
ESET報告:AIスキル悪用とマルウェアのAI適応が拡大
ESETの脅威レポートが、AIエージェント機能の悪用増加やAI搭載マルウェア、ランサムウェア関連ツールの拡大傾向をまとめた。企業のセキュリティ対策見直しに役立つ最新動向。
-
OpenAI、カンボジア拠点の詐欺組織のChatGPT悪用を摘発
OpenAIが投資・ロマンス詐欺などにChatGPTを悪用したカンボジア拠点の犯罪組織を摘発したと発表。企業が注意すべき生成AI悪用の実例を解説。OpenAIがカンボジア拠点の詐欺組織によるChatGPT悪用を公表。投資詐欺・ロマンス詐欺
-
放置DNSレコード、AIが悪用し国家規模攻撃の恐れ
セキュリティ企業Silent Pushが、AIを使い放置されたDNSレコードを大規模に悪用する手法を実証。政府機関や大手銀行、自動車・製薬企業のドメインで実際に脆弱性を確認したと報じられている。
-
中国語圏ハッカー、AIで自律サイバー攻撃
Unit 42が、中国語圏の攻撃者がDeepSeek等のAIを使い脆弱性を自律的に探索・攻撃する事例を確認したと報告。実運用での悪用実態を解説する。Unit 42が中国語圏の攻撃者によるAI自律型攻撃キャンペーンを確認。DeepSeekを
-
画像生成AI、文字埋め込みで安全対策回避と研究報告
商用画像生成AIが、テキスト直接生成では拒否する有害情報を、画像内の文字として出力してしまう脆弱性を研究者が報告。低コストで高い成功率を確認したとされる。研究者が商用画像生成AI4製品で安全機構回避手法「TYPO」を報告。有害な指示文を画
-
Word文書に潜む自己増殖型AI攻撃、Copilotが標的に
Word文書に隠した指示でCopilotを操り、文書を介して組織内に自己増殖する攻撃手法が報告された。Microsoftとの半年近い調整でも根本対策は未確立とされる。
-
Claude AIが暗号解析を加速、耐量子暗号候補にも影響
AnthropicのAIモデルが耐量子署名方式HAWKへの鍵回復攻撃と、AES-128縮小版への高速化攻撃を導出したと発表。実運用への影響はないとされる。AnthropicのAIモデル「Claude Mythos Preview」が暗号解
-
AIエージェントHermes悪用、タイ財務省侵入を自動化
オープンソースAIアシスタント「Hermes」が確認なしで危険操作を実行する設定のまま、タイ財務省ネットワークの侵入後調査に悪用されたと報じられた。オープンソースAIエージェント「Hermes」が確認プロンプトを無効化した「YOLOモード
-
AIツール悪用の新型マルウェア、正規動作に偽装
AIツール群を悪用し悪意ある活動を正常な処理に見せかける新型マルウェア「Sandworm_Mode」が報道された。AI活用企業への注意点を解説する。Dark Readingが『Sandworm_Mode』という新型マルウェアを報道。信頼さ
-
AI生成アプリに脆弱性434件、Vibe-Coding調査
AIによる自動コード生成『Vibe-Coding』で作られたアプリを分析したところ434件の悪用可能な脆弱性が発見された。DoSや権限制御の不備が上位を占めるとされる。
-
AWSのAIコーディングIDE「Kiro」に設定書換の欠陥
AWSのエージェント型IDE「Kiro」で、Web上の隠しテキストが設定ファイルを書き換え任意コード実行を許す欠陥が発見された。修正済みだがCVE未付与。AWSのAIコーディングIDE「Kiro」に、Webページの隠しテキストだけで設定フ
-
Azure DevOps MCPに不可視コメント悪用の欠陥
MicrosoftのAzure DevOps MCPサーバーに、非表示のPRコメントでAIレビューエージェントを乗っ取れる欠陥。修正版は未提供、CVE未割当。Azure DevOps MCPサーバーで、HTMLコメントに隠した指示がAIレ
-
AIエージェントの脆弱性、WhatsApp経由でRCE実証
OpenClawのAIエージェントにWhatsApp経由の遠隔コード実行脆弱性が確認された。研究者が検証をすり抜けAIに任意コマンドを実行させた事例を解説する。