隨著人工智慧技術快速重塑企業運作與資安格局，一場關於效率與安全的拉鋸戰正在上演。根據 TrendAI 最新發布的調查報告指出，儘管 AI 為防禦者提供了強大的自動化工具，但也同時呈指數級擴大了企業的攻擊表面。這份針對全球 3,700 名決策者的調查顯示，企業在追求 AI 導入速度的同時，治理與監管架構的成熟度卻顯著落後，形成了嚴重的資安隱憂。
可視化缺失，影子 AI 成為管理死角
安全始於可視化，但在目前的企業環境中，掌握 AI 的完整使用情況變得愈發困難。報告顯示，AI 功能已深植於開發環境、SaaS 平台、生產力工具及分析系統中，這為影子使用（Shadow Usage）與未受監測的風險暴露提供了溫床。
有趣的是，調查中出現了認知偏差：高達 77% 的 IT 決策者自信地認為對公司內部的 AI 使用具有全面掌控，但仍有 22% 的人坦承僅有部分可見性。隨著 AI 持續擴散到各類軟體，維持監督將變得更具挑戰性。企業迫切需要更統一的監測方式，來理解模型如何與資料及系統互動，並控管不斷擴大的攻擊表面。
治理架構緩慢，法規遵循仍處於摸索期
在合規與治理方面，許多組織仍處於釐清 AI 相關法律義務的階段。即便是在 AI 監管領先的歐盟，其框架也還在發展中。調查發現，64% 的商業決策者對治理 AI 的法律框架僅有中度了解，甚至有 53% 的組織表示還在起草 AI 相關政策。
更深入的資料顯示，雖然 53% 的決策者已實施資料安全控制，但僅有 41% 針對維持資料完整性的治理控制進行部署。當治理架構還在成形時，AI 導入卻在加速，這無疑為企業引入了全新的風險。
責任歸屬分歧，領導層與技術端的拉鋸
誰該為 AI 風險負責？這在企業內部似乎還沒有共識。44% 的 IT 決策者認為應由資安長（CISO）或資安部門負責；然而，41% 的商業決策者則傾向將責任歸給資料保護、法律或合規團隊。至於若發生 AI 相關資安事故，IT 端傾向認為是開發商或供應商的錯，而商業端則多半認為部署該系統的組織應負全責。
此外，67% 的受訪者感受到來自領導層或市場動力的壓力，要求加速部署 AI，即便資安疑慮已經被提出。這種先求快再求好的心態可能帶來高昂代價，因為在部署後才修補漏洞的成本，通常遠高於開發初期的投入。
從承諾到實踐，對自動化系統仍具戒心
儘管 IT 決策者對 AI 輔助威脅偵測、風險識別及即時行為分析展現濃厚興趣，但對於具備自主執行能力的代理型（Agentic）AI 系統仍持懷疑態度。僅有不到一半（48%）的人相信這類系統能顯著改善防禦。
受訪者的擔憂包含敏感資料外洩、惡意指令、自主程式碼執行以及錯誤輸出等。因此，有 40% 的受訪者支持建立 AI 刪除開關（Kill Switch）協定。雖然超過六成的人認為必須有 AI 資安能力才能對抗 AI 驅動的威脅，但目前許多組織仍在評估技術或依賴傳統工具。
AI 的發展確實降低了網路犯罪的門檻，讓駭客能更輕易地進行偵查、社交工程與漏洞發現。企業若要建立對 AI 系統的信任，強化治理、明確責任歸屬與提升可視化是不可或缺的三大支柱。
對於企業來說，目前的當務之急是關閉商業領導者與技術領袖之間的信心差距。安全團隊、IT 主管與商業利害關係人必須更緊密合作，確保 AI 的採用背後有清晰的風險管理與營運監督。畢竟，在數位轉型的浪潮中，跑得快固然重要，但跑得穩才是長久之計。
- 延伸閱讀：川普《AI政策願景藍圖》對決歐盟《人工智慧法案》：鬆綁與設限，兩套AI治理邏輯的全面對照
- 延伸閱讀：2024智慧城鄉應用：科技賦能，推動智慧治理新格局，打造更安全、便捷、永續的生活環境
- 延伸閱讀：AI 浪潮襲來，資料治理成企業轉型關鍵！攜手微軟，炬識科技宣布升級資料治理服務
- 延伸閱讀：破除資料治理三大迷思，炬識科技賦能公私部門加速資料應用效率
請注意！留言要自負法律責任，相關案例層出不窮，請慎重發文！