AI Agent不怕被洗腦越獄！TrendAI支援NVIDIA安全平台，軟硬體通吃守護企業AI

TrendAI 宣布支援NVIDIA Agent Safety Platform。該平台是NVIDIA為企業大規模安全運行自主AI Agent所打造的全堆疊基礎架構。隨著企業開始將自主、可自我演進的AI Agent導入正式生產環境，TrendAI 與NVIDIA均秉持明確理念：沒有任何單一控制措施能讓AI Agent完全安全。安全防護必須建構於AI Agent所依賴的每一層之中。

AI Agent由三個核心元件組成：負責推理的模型、負責協調AI Agent及其子Agent的執行框架(harness)，以及AI Agent可以存取的工具與資料。這些元件共同讓AI Agent能夠持有憑證、跨工作階段記憶上下文，並在無需人員逐步核准的情況下操作正式生產系統。當企業從少數試點擴展至跨團隊與事業單位的大規模AI Agent部署時，安全性已成為關鍵控制措施，也往往成為決定Agentic AI能否正式投入生產環境的重要因素。

NVIDIA Agent Safety Platform將權限控制置於AI Agent底層的基礎架構中。根據NVIDIA的資訊，NVIDIA BlueField-4 DPU與NVIDIA DOCA在晶片層提供與主機無關的安全防護，OpenShell則可在AI Agent的執行環境之外執行政策控制，因此無法透過提示詞使其失效或繞過。TrendAI 則進一步提供制定安全政策所需的威脅情報、掌握AI Agent行為的可視性，以及威脅偵測與回應能力，讓這套安全控制機制更完整。

TrendAI 首席平台暨業務長兼TrendAI 負責人金敬秀(Rachel Jin)表示：「Agentic AI是這一世代企業科技最重大的轉變，而安全性必須具備適當的防護機制與安全邊界，確保AI Agent的行為符合企業的預期，安全性不能只存在於單一位置，而必須涵蓋模型、執行框架，以及AI Agent所接觸的每一項工具與資料來源。NVIDIA正在建立界定AI Agent可執行範圍的安全邊界；TrendAI 則提供威脅情報與監督能力，協助資安團隊判斷這道邊界應該如何設定，以及邊界內正在發生什麼，兩者結合將為企業安全擴展Agentic AI提供一條實際可行的道路。」

TrendAI 如何支援NVIDIA Agent Safety Platform

TrendAI Vision One 將NVIDIA的AI Agent安全防護完整延伸至AI工廠，透過單一平台涵蓋AI Agent、模型、容器、儲存與網路：

• 模型防護：透過即時檢查提示詞與回應，阻擋提示詞注入(prompt injection)與越獄攻擊(jailbreaks)，並在敏感資料外洩前進行遮蔽。
• 執行框架與工具治理：資安團隊可控管AI Agent可存取的工具與MCP伺服器、檢視每一次工具呼叫，分析AI Agent所使用的技能與AI資產在實際運作過程中的行為。
• 資料與身分控制：TrendAI Vision One 可找出並分類供AI使用的敏感資料，阻止AI Agent存取不應接觸的資料，將檔案安全與資料外洩防護延伸至AI Agent讀取與寫入的檔案，並移除AI Agent與其他非人類身分(non-human identities)的過度權限。
• 硬體根植式偵測與回應：運用NVIDIA BlueField DPU與DOCA遙測資料，即使主機作業系統遭到入侵，TrendAI Vision One 的偵測能力仍能維持可信度；同時將AI訊號與端點、網路及身分遙測資料相互關聯，避免遭劫持的AI Agent在未被察覺的情況下進行橫向移動。