防衛分野のAI活用にはセキュアなIT基盤が必須

概要

米国防衛・情報機関がAI（人工知能）の自動エージェント型モデルを機密ネットワークに導入する動きが進む中、重大なセキュリティ課題が浮上している。AnthropicのClaudeモデルのプレビュー版で、数時間以内に不正アクセスが報告されたことは、AIが機密情報を扱う環境でのリスクの大きさを示唆している。AIの信頼性は入力データの品質、ネットワークのセキュリティ、アクセス制御に依存する。防衛分野でAIの効果を最大化するには、①訓練データや商用モデルの安全な導入管理、②認可されたアナリストや連携パートナーのアクセス制御、③データベースや任務システムへのAIアクセスにおける機密レベルの保護が不可欠である。セキュアなIT基盤なしにAI導入を急ぐことは、逆に国防能力を脅かす可能性がある。

元記事（The Hacker News）