谷歌揭示了一種針對間接提示注入攻擊的全面保護技術，這是一種微妙但強大的威脅，標誌著生成式 AI 時代網路安全的重大進步。Google 旨在提高攻擊者的複雜性和成本，迫使他們採用更易檢測或資源更密集的方法。Google 的主動措施凸顯了對 AI 安全的長期承諾，利用廣泛的生成式 AI 漏洞目錄來領先於不斷演變的威脅。

     MCP 體系結構由一個本地運行的 MCP 主機和多個 MCP 伺服器組成。充當代理的主機可以是 AI 驅動的應用程式（例如 Claude Desktop）、您在設備上運行的大型語言模型（例如 Claude Sonnet）或整合開發環境 （IDE）。Cato Networks 建議尋求防止或緩解此類攻擊的使用者創建一個規則，以阻止任何遠端 MCP 工具調用（例如創建、添加或編輯）或發出警報。這樣的措施將允許使用者：

• 對 AI 驅動的作實施最低許可權

• 實時檢測可疑的提示使用方式

      他們使用訓練有素的檢測器來自動識別惡意電子郵件還是未經請求的電子郵件是使用 AI 生成的，這可能是因為這些攻擊的確切性質——冒充組織中的特定高級人員，請求進行電匯或金融交易，隨著 AI 技術的進步，AI 將在越來越多的 BEC 嘗試中使用。與人類編寫的電子郵件相比，分析的 AI 生成的電子郵件通常表現出更高的正式程度、更少的語法錯誤和更高的語言複雜性。攻擊者使用 AI 來測試措辭變化，看看哪些在繞過防禦方面更有效。研究人員表示，這個過程類似於傳統行銷中進行的 A/B 測試。研究發現，LLM 生成的電子郵件與人工生成的電子郵件在傳達的緊迫感方面沒有顯著差異。緊急性是網路釣魚攻擊中常用的一種策略，旨在迫使接收者做出快速而情緒化的回應。這表明 AI 主要用於提高滲透率和合理性，而不是促進策略的改變。

 

參考資料:

https://www.infosecurity-magazine.com/news/atlassian-ai-agent-mcp-attack/

https://www.infosecurity-magazine.com/news/ai-generates-spam-malicious-emails/