Anthropic新モデル、脆弱性発見は強いが攻撃コード化は制限
- AnthropicがClaude Opus 5を公開し、脆弱性発見能力は最上位モデルMythos 5に近い水準とされる
- 一方でエクスプロイト(攻撃コード)生成能力は大きく劣り、意図的な制限によるものと説明
- バイナリ解析やペネトレーションテスト、攻撃コード生成はブロックされ、該当時は旧モデルに自動切替
かんたんに言うと
AIが「バグ探しは得意だが攻撃コード作りは苦手」になるよう意図的に調整された新モデルが登場したとのこと。守りには使えるが悪用のハードルは高いという設計方針です。
AIセキュリティとの関連: AIモデルが脆弱性発見と攻撃コード生成の両面でどこまで能力を持つか、企業の防御・悪用リスク双方に関わるため。
一次情報(公式アドバイザリ・CVEレコード等)は確認できていません。本記事は下記の報道をもとに作成しています。
何が起きたか
SecurityWeekの報道によると、Anthropicは新モデル「Claude Opus 5」を発表した。上位モデル「Fable 5」よりも安価な選択肢と位置づけられている。同社独自のOSS-Fuzz(オープンソースソフトウェアの自動バグ検出基盤)を用いた評価では、Opus 5は脆弱性の発見能力で最上位モデル「Mythos 5」に近い成績を示したとされる。一方でエクスプロイト(脆弱性を悪用する攻撃コード)の生成能力は大きく劣るという。Anthropicはこれを意図的な設計だと説明しており、攻撃的サイバータスクに直接学習させていないためとしている。能力向上分は、モデル全体の性能改善の副産物にすぎないとの見解だ。Opus 5では安全性チェックを行う分類器がFable 5より緩やかに設定され、介入頻度は約85%減る見込みという。ソースコード上の脆弱性探索は許可されるが、バイナリ解析によるスキャン、ペネトレーションテスト、攻撃コード生成は引き続きブロックされる。該当する要求はClaude.aiやClaude Codeなどで自動的に旧モデルOpus 4.8にフォールバックする仕組みとされる。
誰に・どう影響するか
【大企業・セキュリティ部門】AIによる脆弱性発見支援は、大規模なコードベースを持つ企業の脆弱性管理を効率化する可能性がある。ただしエクスプロイト生成が制限されているため、実際の攻撃再現やレッドチーム演習には限界があるとみられる。Anthropicの「Cyber Verification Program」に登録すれば制限を緩めた版を利用できるとされ、正当な検証目的での活用余地はある。【中小企業】自社で高度な脆弱性診断ツールを持たない企業にとって、こうしたAIモデルは将来的にコスト効率の良い診断手段になり得る。ただし現時点では攻撃コード生成の制限により、実践的な侵入テスト代替にはならない点に注意が必要。過度な期待は禁物。
今すぐやるべきアクション
- 自社のセキュリティ診断プロセスにAIモデルを組み込む際は、発見能力とエクスプロイト生成能力の違いを理解する
- AIによる脆弱性スキャン結果は、実際の悪用可能性を人間の専門家が別途検証する
- Cyber Verification Programなど正規の検証プログラムの利用条件を確認し、必要なら申請を検討する
- 既存のペネトレーションテストや脆弱性管理体制をAI任せにせず、継続的に維持する
重大度の判定理由
重大度「中」: 悪用は確認されておらず、新モデルの機能説明にとどまるため情報提供レベルの重要度。