商傳媒｜何映辰／台北報導
美國國家安全局（NSA）近期發布一份重要的安全指導方針，針對「模型上下文協議」（Model Context Protocol, MCP）在人工智慧（AI）系統中的應用提出警告，指出該協議在快速發展下潛藏的資安風險。這份指引於今年5月20日發布，旨在協助組織因應AI驅動自動化帶來的挑戰。
模型上下文協議（MCP）是一種標準，用來規範AI系統彼此之間，以及與外部工具和資料來源溝通的方式。簡單來說，它讓AI工具能夠互相連接、分享資訊和執行任務，例如擷取文件、查詢資料庫或觸發其他軟體中的操作。然而，國家安全局警告，MCP的迅速普及，其發展速度已超越了適當安全防護措施的建立，使採用該協議的組織面臨設計者與實施者都未充分預期的風險。
國家安全局在指引中羅列了多項實際資安疑慮，並提供實用建議，特別是針對在敏感或關鍵業務環境中使用MCP的組織。主要風險包括：
- 不受控自動化： AI系統可能獨立決定使用新工具或採取新行動，導致自動化行為失控。
- 惡意內容滲透： 資料在系統間傳遞時，可能缺乏足夠的內容檢查，讓隱藏指令等惡意內容趁隙而入。
- 上下文中毒： AI系統可能產生誤導性輸出，若被其他連接系統盲目接受，恐被誤解為指令而非資訊，進而導致資料被操控或未經授權地竊取。
- 身份與存取控制不足： 許多MCP實作允許系統存取或處理資料，卻未驗證請求者的身份或其權限是否適當。
- 機密資料外洩： MCP環境中共享的資訊可能意外暴露給多個連接服務，增加機密資料外洩的風險。
- 缺乏人工審批： 部分MCP實作在執行操作前不需人工審可，即使有審批流程，系統功能或資料存取的變更也可能未觸發審查步驟。
- 憑證重複使用風險： 系統缺乏適當的驗證憑證過期或撤銷控制，意味著被竊取的憑證可能被未經授權的第三方重複使用來假冒合法用戶。
- 阻斷服務攻擊： MCP系統可能因惡意或過於複雜的大量請求而癱瘓，導致服務中斷。
國家安全局建議組織不應僅依賴MCP文件內建的安全建議，而必須根據自身環境，採取額外的、審慎的防護措施。這包括確保使用信譽良好供應商提供的MCP工具、在部署前進行嚴格的程式碼審計、劃分MCP環境不同組件之間的明確邊界、以及為不同資料來源設置適當的存取層級。此外，處理敏感資料時應將MCP工具在本機環境運行，並對系統中的每個請求進行嚴格驗證與權限隔離，同時詳細記錄所有操作日誌，並整合至現有資安監控系統。
值得注意的是，開發模型上下文協議（MCP）的Anthropic公司，目前正派駐工程師至美國國家安全局，協助部署其旗下的Mythos AI模型。這顯示儘管相關協議的安全疑慮受到關注，AI開發商與政府安全機構之間仍維持緊密合作關係。
這份國際性的AI安全標準制定趨勢，對於全球，包括台灣在內，致力於開發或導入人工智慧技術的企業及資安決策者而言，均提供了重要的參考依據與警示，呼籲各界應正視並強化AI系統的安全防護。
相關新聞推薦
正在載入相關新聞...
