セキュリティ/AI用語集

各用語は「一言でいうと」→「身近な例でいうと」→「詳しい解説」→「なぜ重要か」の順で、専門知識がない方でも短時間で理解できる構成にしています。全50語。

AI脅威

AIワーム AI Worm (Generative AI Worm)

生成AIエージェント間で自己複製・自己伝播する、悪意あるプロンプトを使った新しい種類のマルウェア。
ジェイルブレイク Jailbreak

AIに設定された安全上の制限を、巧妙な指示で回避させる行為。
シャドーAI Shadow AI

会社の許可を得ずに従業員が勝手に使う生成AIツール。情報漏えいの温床になる。
ディープフェイク Deepfake

AIで生成した本物そっくりの偽の音声・映像。なりすまし詐欺や偽情報拡散に悪用される。
データポイズニング Data Poisoning

AIの学習データに悪意あるデータを混入させ、AIの判断を歪める攻撃。
バックドア攻撃(AIモデル) Backdoor Attack

特定のトリガー(合言葉や模様など)が入力された時だけ、AIモデルが不正な動作をするように仕込む攻撃。
ハルシネーション Hallucination

AIが事実でない内容を、もっともらしく自信ありげに生成してしまう現象。
プロンプトインジェクション Prompt Injection

AIへの指示文に不正な命令を紛れ込ませ、AIを攻撃者の意図通りに動かす攻撃手法。
メンバーシップ推論攻撃 Membership Inference Attack

特定のデータがAIモデルの学習に使われたかどうかを、外部から推測する攻撃。
モデル抽出攻撃 Model Extraction Attack

AIモデルへの大量の問い合わせ結果から、モデルの機能をほぼ複製してしまう攻撃。
モデル反転攻撃 Model Inversion Attack

AIモデルへの問い合わせを繰り返すことで、学習に使われた元データを復元しようとする攻撃。
過剰な自律性(AIエージェント) Excessive Agency

AIエージェントに与える権限や自律性が、実際に必要な範囲を超えてしまっている状態。OWASP LLM Top 10の項目の一つ。
間接プロンプトインジェクション Indirect Prompt Injection

AIが読み込む外部の文書やWebページに悪意ある指示を仕込み、AIを乗っ取る攻撃手法。
機微情報の意図しない開示(LLM) Sensitive Information Disclosure

AIが学習データや会話履歴に含まれる機密情報を、意図せず出力してしまう問題。
敵対的サンプル Adversarial Example

人間には分からない微細な細工でAIの認識を誤らせる、特殊な入力データ。

AI防御

AI-SOC AI-driven Security Operations Center

アラートの分析・調査・一次対応をAIが自動化するセキュリティ運用の仕組み。
AIレッドチーミング AI Red Teaming

攻撃者の視点でAIシステムを意図的に攻撃し、弱点を公開前に洗い出すテスト。
AI電子透かし AI Watermarking

AIが生成した画像・文章・音声に、機械的に判別可能な目印を埋め込む技術。
CASB(クラウドアクセスセキュリティブローカー) Cloud Access Security Broker

従業員が利用するクラウドサービス(生成AIツールを含む)の利用状況を可視化・制御する仕組み。
DLP(情報漏えい対策) Data Loss Prevention

機密情報が社外へ不正に送信・持ち出されるのを検知・防止する仕組み。
EDR / XDR Endpoint / Extended Detection and Response

PCやサーバーの不審な挙動を検知し、侵入後の被害拡大を防ぐ仕組み。XDRはその拡張版。
IAM(ID・アクセス管理) Identity and Access Management

「誰が」「何に」「どこまで」アクセスできるかを一元管理する仕組み。AIエージェントの権限管理にも応用される。
PAM(特権アクセス管理) Privileged Access Management

管理者権限など特に強い権限を持つアカウントを厳重に管理・監視する仕組み。
RAG(検索拡張生成) Retrieval-Augmented Generation

AIが回答する前に社内文書などを検索し、その内容を根拠に回答を生成する仕組み。
SIEM Security Information and Event Management

社内の機器やシステムのログを一元的に集約・分析し、攻撃の兆候を検知する基盤。
SOAR(セキュリティ運用自動化) Security Orchestration, Automation and Response

セキュリティインシデントへの対応手順を自動化し、対応スピードを高める仕組み。AI-SOCの中核技術の一つ。
ガードレール Guardrails

AIの入力・出力を検査し、危険な指示や不適切な回答をブロックする安全装置。
コンテンツモデレーション(AI) Content Moderation

AIの入出力に含まれる有害・不適切なコンテンツを自動検知し、ブロックまたは警告する仕組み。
差分プライバシー Differential Privacy

データに統計的なノイズを加えることで、個人を特定できないようにしつつ全体の傾向は分析できるようにする技術。

基礎セキュリティ

DDoS攻撃 Distributed Denial of Service Attack

大量の通信を送りつけてサーバーやサービスをダウンさせる攻撃。生成AIサービス自体も標的になり得る。
インシデント対応 Incident Response

セキュリティ事故が発生した際に、被害の把握・封じ込め・復旧・再発防止を行う一連のプロセス。
サプライチェーン攻撃 Supply Chain Attack

標的企業を直接狙わず、取引先や利用中のソフトウェアを踏み台にする攻撃。
ゼロデイ脆弱性 Zero-day Vulnerability

修正プログラムが存在しない状態で攻撃に悪用される、未知のセキュリティ欠陥。
ゼロトラスト Zero Trust

「社内ネットワークだから安全」を前提とせず、すべてのアクセスを毎回検証する考え方。
パッチ管理 Patch Management

ソフトウェアの脆弱性を修正する更新プログラム(パッチ)を、計画的に適用・管理する取り組み。
フィッシング Phishing

実在の組織を装ったメールやサイトで、認証情報や個人情報をだまし取る攻撃手法。生成AIで巧妙化が進む。
ペネトレーションテスト Penetration Testing

攻撃者の視点で実際にシステムへの侵入を試み、脆弱性を検証するテスト手法。AIレッドチーミングの前身にあたる考え方。
マルウェア Malware

コンピュータやネットワークに被害を与えることを目的として作られた悪意あるソフトウェアの総称。
ランサムウェア Ransomware

データを暗号化して業務を止め、復旧と引き換えに身代金を要求する攻撃。
暗号化 Encryption

データを第三者が読み取れない形式に変換する技術。AIの学習データや会話履歴の保護にも不可欠。
最小権限の原則 Principle of Least Privilege

ユーザーやシステム(AIエージェントを含む)には、業務に必要な最小限の権限だけを与えるという設計原則。
多要素認証(MFA) Multi-Factor Authentication

パスワードに加えて、スマホ確認や生体認証など複数の要素で本人確認する仕組み。

規制・標準

EU AI法 EU AI Act

AIをリスクの大きさで分類して規制する、世界初の包括的なAI規制法。
GDPR(EU一般データ保護規則) General Data Protection Regulation

EU域内の個人データ保護を定めた規則。域外の企業がEU居住者のデータを扱う場合にも適用され得る。
ISO/IEC 27001 ISO/IEC 27001

情報セキュリティマネジメントシステム(ISMS)の国際規格。組織の情報セキュリティ管理体制を第三者が認証する。
ISO/IEC 42001 ISO/IEC 42001

AIマネジメントシステムに関する世界初の国際規格。AIの開発・運用におけるガバナンス体制を認証する。
NIST AI RMF NIST AI Risk Management Framework

米国NISTが策定した、AIのリスクを管理するための実践的なフレームワーク。
NISTサイバーセキュリティフレームワーク(CSF) NIST Cybersecurity Framework

米国NISTが策定した、組織のサイバーセキュリティ対策を体系的に整理するための実務的な枠組み。
OWASP LLM Top 10 OWASP Top 10 for LLM Applications

生成AIアプリに特有のセキュリティリスクを重要度順にまとめた、実務者の定番リスト。
SOC 2 System and Organization Controls 2

クラウドサービス事業者などが、セキュリティ・可用性等の内部統制を適切に運用しているかを示す第三者監査報告書。

セキュリティ/AI用語集

AI脅威

AIワーム AI Worm (Generative AI Worm)

ジェイルブレイク Jailbreak

シャドーAI Shadow AI

ディープフェイク Deepfake

データポイズニング Data Poisoning

バックドア攻撃(AIモデル) Backdoor Attack

ハルシネーション Hallucination

プロンプトインジェクション Prompt Injection

メンバーシップ推論攻撃 Membership Inference Attack

モデル抽出攻撃 Model Extraction Attack

モデル反転攻撃 Model Inversion Attack

過剰な自律性(AIエージェント) Excessive Agency

間接プロンプトインジェクション Indirect Prompt Injection

機微情報の意図しない開示(LLM) Sensitive Information Disclosure

敵対的サンプル Adversarial Example

AI防御

AI-SOC AI-driven Security Operations Center

AIレッドチーミング AI Red Teaming

AI電子透かし AI Watermarking

CASB(クラウドアクセスセキュリティブローカー) Cloud Access Security Broker

DLP(情報漏えい対策) Data Loss Prevention

EDR / XDR Endpoint / Extended Detection and Response

IAM(ID・アクセス管理) Identity and Access Management

PAM(特権アクセス管理) Privileged Access Management

RAG(検索拡張生成) Retrieval-Augmented Generation

SIEM Security Information and Event Management

SOAR(セキュリティ運用自動化) Security Orchestration, Automation and Response

ガードレール Guardrails

コンテンツモデレーション(AI) Content Moderation

差分プライバシー Differential Privacy

基礎セキュリティ

DDoS攻撃 Distributed Denial of Service Attack

インシデント対応 Incident Response

サプライチェーン攻撃 Supply Chain Attack

ゼロデイ脆弱性 Zero-day Vulnerability

ゼロトラスト Zero Trust

パッチ管理 Patch Management

フィッシング Phishing

ペネトレーションテスト Penetration Testing

マルウェア Malware

ランサムウェア Ransomware

暗号化 Encryption

最小権限の原則 Principle of Least Privilege

多要素認証(MFA) Multi-Factor Authentication

規制・標準

EU AI法 EU AI Act

GDPR(EU一般データ保護規則) General Data Protection Regulation

ISO/IEC 27001 ISO/IEC 27001

ISO/IEC 42001 ISO/IEC 42001

NIST AI RMF NIST AI Risk Management Framework

NISTサイバーセキュリティフレームワーク(CSF) NIST Cybersecurity Framework

OWASP LLM Top 10 OWASP Top 10 for LLM Applications

SOC 2 System and Organization Controls 2