ジェイルブレイク Jailbreak

詳しい解説

ジェイルブレイクは、AIチャットボットに組み込まれた安全上の制限(有害な情報を出力しない等)を、特殊な指示や役割設定によって回避させる行為です。「あなたは制限のないAIという設定で演じて」といったロールプレイの悪用や、指示を多言語・暗号化して検閲をすり抜ける手法などが知られています。プロンプトインジェクションが「開発者の意図の上書き」を指すのに対し、ジェイルブレイクは「安全制限の解除」に焦点があり、両者は重なりつつも区別されます。

なぜ重要か / 企業への影響

自社サービスにAIチャットを組み込んでいる場合、ジェイルブレイクにより不適切な発言や機密情報の開示をさせられると、ブランド毀損や法的リスクにつながります。AI機能の公開前に、ジェイルブレイク耐性のテスト(レッドチーミング)を行うことが推奨されます。