プロンプトインジェクション、LLM脆弱性、AIを悪用したサイバー攻撃——急速に進化するAIセキュリティの脅威を、日本語でわかりやすく解説します。
「便利だから」という理由でAIツールを使い始めた社員が、知らずに会社の機密情報を外部に送り続けているケースが急増しています。
「議事録を要約して」「この提案書を直して」——その入力の中に、クライアント名・案件金額・個人情報が含まれていませんか？ChatGPTへの入力はOpenAIのサーバーに送信されます。
ディープフェイク技術で上司や経営者の声を模倣し、「今すぐ送金して」と指示する詐欺が急増。AIで生成した音声は本物と区別がつかないレベルに達しています。
以前は不自然な日本語で見抜けたフィッシングメールが、AIにより完璧な文章で届くようになりました。取引先を装った請求書の差し替えや、添付ファイルを使った攻撃が増加中。