セキュリティ/AI用語集
各用語は「一言でいうと」→「詳しい解説」→「なぜ重要か」の順で、忙しい方でも短時間で理解できる構成にしています。
AI脅威
-
ジェイルブレイク Jailbreak
AIに設定された安全上の制限を、巧妙な指示で回避させる行為。
-
シャドーAI Shadow AI
会社の許可を得ずに従業員が勝手に使う生成AIツール。情報漏えいの温床になる。
-
ディープフェイク Deepfake
AIで生成した本物そっくりの偽の音声・映像。なりすまし詐欺や偽情報拡散に悪用される。
-
データポイズニング Data Poisoning
AIの学習データに悪意あるデータを混入させ、AIの判断を歪める攻撃。
-
ハルシネーション Hallucination
AIが事実でない内容を、もっともらしく自信ありげに生成してしまう現象。
-
プロンプトインジェクション Prompt Injection
AIへの指示文に不正な命令を紛れ込ませ、AIを攻撃者の意図通りに動かす攻撃手法。
-
敵対的サンプル Adversarial Example
人間には分からない微細な細工でAIの認識を誤らせる、特殊な入力データ。
AI防御
-
AI-SOC AI-driven Security Operations Center
アラートの分析・調査・一次対応をAIが自動化するセキュリティ運用の仕組み。
-
AIレッドチーミング AI Red Teaming
攻撃者の視点でAIシステムを意図的に攻撃し、弱点を公開前に洗い出すテスト。
-
EDR / XDR Endpoint / Extended Detection and Response
PCやサーバーの不審な挙動を検知し、侵入後の被害拡大を防ぐ仕組み。XDRはその拡張版。
-
RAG(検索拡張生成) Retrieval-Augmented Generation
AIが回答する前に社内文書などを検索し、その内容を根拠に回答を生成する仕組み。
-
SIEM Security Information and Event Management
社内の機器やシステムのログを一元的に集約・分析し、攻撃の兆候を検知する基盤。
-
ガードレール Guardrails
AIの入力・出力を検査し、危険な指示や不適切な回答をブロックする安全装置。
基礎セキュリティ
-
サプライチェーン攻撃 Supply Chain Attack
標的企業を直接狙わず、取引先や利用中のソフトウェアを踏み台にする攻撃。
-
ゼロデイ脆弱性 Zero-day Vulnerability
修正プログラムが存在しない状態で攻撃に悪用される、未知のセキュリティ欠陥。
-
ゼロトラスト Zero Trust
「社内ネットワークだから安全」を前提とせず、すべてのアクセスを毎回検証する考え方。
-
ランサムウェア Ransomware
データを暗号化して業務を止め、復旧と引き換えに身代金を要求する攻撃。
-
多要素認証(MFA) Multi-Factor Authentication
パスワードに加えて、スマホ確認や生体認証など複数の要素で本人確認する仕組み。
規制・標準
-
EU AI法 EU AI Act
AIをリスクの大きさで分類して規制する、世界初の包括的なAI規制法。
-
NIST AI RMF NIST AI Risk Management Framework
米国NISTが策定した、AIのリスクを管理するための実践的なフレームワーク。
-
OWASP LLM Top 10 OWASP Top 10 for LLM Applications
生成AIアプリに特有のセキュリティリスクを重要度順にまとめた、実務者の定番リスト。