Ciscoが AI モデルの出所追跡ツールをオープンソース化

概要

Cisco は AI モデルの出所（プロヴェナンス）を追跡・検証するためのオープンソースツールキットを新たにリリースしました。このツールは、悪意のある学習データでモデルを汚染する攻撃（ポイズニング攻撃）、規制要件への対応、サプライチェーン（納品元から最終利用者までの供給網）のセキュリティ確保、インシデント対応など、複数のリスク要因に対応することを目的としています。AI モデルの安全性と信頼性を確保することで、組織が安心して AI を導入・運用できる環境の整備を支援する取り組みです。

元記事（SecurityWeek）