Ciscoが公開AIモデル900種の系譜を無料検証
- Hugging Face上の公開モデルの多くは、ベースモデル情報が投稿者の自己申告のまま
- Ciscoが約900モデルを技術的に指紋照合し、系譜を検証するツールを無料公開したと報じられている
- 調査では約69%のモデルで由来情報が未検証だったとされる
かんたんに言うと
会社の食材(AIモデル)がどこから来たか、ラベルを信じるしかない状態が多いとわかった。Ciscoが無料の「産地証明」ツールを出したので、使っているAIモデルの出所を確認しておくべき。
AIセキュリティとの関連: AIサプライチェーンの根幹である「モデルの出自」が未検証という構造的リスクを扱うため。
一次情報(公式アドバイザリ・CVEレコード等)は確認できていません。本記事は下記の報道をもとに作成しています。
何が起きたか
VentureBeatの報道によると、Hugging Faceなどで公開されているオープンソースAIモデルの多くは、どのベースモデルから派生したかを示す「タグ」が投稿者の自己申告に過ぎないという。Hugging Face自体はこの情報の正当性を検証する仕組みを持たないとされる。こうした状況を受け、Ciscoは約900の公開モデルを対象に、技術的な特徴から系譜を推定・照合する「プロベナンス・エクスプローラー」を無料公開したと報じられている。調査では、対象モデルの約69%で申告された由来情報が未検証だったとされる。ツールはモデルの重み(パラメータ)などから固有の特徴を抽出し、既知のベースモデルと照合する仕組みとみられる。詳細な技術手法や対応モデルの一覧は原典を参照されたい。
誰に・どう影響するか
大企業では、生成AIを組み込んだ製品やサービスの基盤にオープンモデルを利用するケースが増えている。ライセンス条件や脆弱性の継承元が不明確なまま本番導入すると、後から法務・セキュリティ両面のリスクが顕在化しかねない。中小企業においても、コスト面から既製のオープンモデルを流用する場面は多く、由来不明のモデルには意図しない挙動やバックドア(隠された不正機能)が潜む可能性が指摘される。特に取引先や顧客データを扱うシステムに組み込む場合は、系譜の確認を怠ると説明責任を果たせなくなる恐れがある。
今すぐやるべきアクション
- 自社で利用中のオープンソースAIモデルの一覧と由来タグを棚卸しする
- Ciscoの検証ツールなど第三者による系譜確認を導入前に実施する
- モデル調達プロセスにサプライチェーン検証のステップを組み込む
- 重要システムには由来が検証済みのモデルのみ採用する社内基準を検討する
重大度の判定理由
重大度「中」: 悪用事例の確認はなく、既知の脆弱性を突く緊急性はないが、供給網全体に関わる構造的課題のため