機微情報の意図しない開示(LLM) Sensitive Information Disclosure
一言でいうと: AIが学習データや会話履歴に含まれる機密情報を、意図せず出力してしまう問題。
詳しい解説
生成AIは学習データに含まれていた個人情報や機密情報、あるいは同じ会話・セッション内で以前に入力された情報を、後の応答の中で意図せず出力してしまうことがあります。OWASPのLLMセキュリティリスクTop 10でも主要項目の一つとして挙げられています。原因は、学習データの管理不備、複数ユーザー間でのコンテキストの混同、システムプロンプトに埋め込まれた機密情報の漏えいなど多岐にわたります。ChatGPT等の外部AIサービスに社員が機密情報を入力してしまう「シャドーAI」問題とも関連が深いテーマです。
なぜ重要か / 企業への影響
自社でカスタムAIを開発する場合、学習データに個人情報や営業秘密が含まれていないか事前に確認する必要があります。また外部AIサービスを利用する際は、入力した情報が学習に再利用されない設定になっているか確認することが重要です。中小企業では従業員が便利さから機密情報を安易にAIツールへ入力してしまうケースが多く、利用ガイドラインの策定と周知が急務です。大企業では複数部門・複数顧客のデータを扱うAIシステムにおいて、テナント間の情報漏えいがないか設計段階での検証が欠かせません。
最終更新日: 2026年7月13日