Google WorkspaceのGemini向け間接的プロンプトインジェクション攻撃への継続的対策

概要

Google Security Blogは、AI技術「Gemini」を搭載したGoogle Workspaceを狙う「間接的プロンプトインジェクション（IPI）」攻撃への対策について説明しました。この攻撃は、ユーザーの直接入力ではなく、AI学習モデルが参照するデータやツール内に悪意のある指示を埋め込むことで、AIの動作を不正に操作する手法です。複数のデータソースを扱う高度なAIアプリケーションが増える中で、この脅威は進化し続けています。Googleは①人間による模擬攻撃（レッドチーム）、②機械学習を用いた自動攻撃シミュレーション、③外部セキュリティ研究者からの脆弱性報告プログラムを組み合わせた多層防御戦略により、継続的に防御力を強化しています。

元記事（Google Security Blog）