AI自動プログラミング機能の暴走検知システム「Edamame」が登場

概要

フランスのスタートアップ企業Edamameが、AI自動コーディング機能（プログラムを自動で書くAI）の異常検知プラットフォームを発表しました。このプラットフォームはランタイム検証技術（実行時監視）を用いて、ホストシステムのテレメトリー（監視データ）とAI分析を組み合わせることで、AIコーディング機能の「意図のズレ（intent drift）」、秘密情報の盗難、サプライチェーン攻撃をリアルタイムで検出します。AIが予期しない動作をして悪用される可能性に対し、継続的に監視・防御する対策として期待されています。

元記事（SecurityWeek）