越聰明越危險？KPMG拆解AI時代的新型態資安威脅與韌性防禦法則
安侯企業管理董事總經理謝昀澤（左）與KPMG安侯企管數位安全顧問服務副總李冠樟（右）認為，當代理式AI開始具備自主行動能力，企業資安治理也必須同步升級，重新建立人機協作、權限與風險控管機制。
2026年被視為「代理式AI（Agentic AI）」元年，企業無不期待導入更多數位員工提升營運效能，相應的資安治理體系卻明顯落後。當代理式AI開始具備自主拆解任務、甚至直接操作系統的權限，企業正面臨前所未見的新型態威脅，防禦策略勢必全面翻新。
AI風險升級：從「說錯話」到「做錯事」
「能力愈大，風險隨之放大。」安侯企業管理董事總經理謝昀澤指出，若企業向AI下達「關閉無用帳號」的指令，AI很可能只因使用頻率偏低，便將董事長的權限一併刪除。「生成式AI的風險是說錯話，代理式AI的風險則是做錯事。」他指出，兩者本質截然不同，管理架構自然必須重組。
KPMG安侯企管數位安全顧問服務副總李冠樟也指出，雲端安全聯盟（CSA）最新報告便將代理式AI與LLM生成式AI的風險明確區隔，點名「權限過度擴張」為核心威脅：目標導向的AI Agent為求達成任務，可能會自行放大行動範疇、調用未授權的系統權限。CSA調查亦指出，高達53%的組織已察覺AI Agent出現越權行為。
然而，Okta《AI Agents at Work 2026》報告卻顯示，90%的主管自認完全掌握企業內部的AI工具，實務上又有52%的員工坦承使用未經核准的「影子AI」，管理認知與現場實況明顯脫節。
「看不見的AI」潛藏巨大營運漏洞。舉例來說：許多企業正評估將流程自動化推向極致——例如財務部門原先僅以生成式AI整理發票、再由人工審核放行，如今則開始構思交由代理式AI全權代勞，連同最終撥款一併包辦。
面對這類應用趨勢，謝昀澤提醒：「技術完全可行，但若全程缺乏人為把關，提示注入（Prompt Injection）的風險將無比巨大。」惡意指令可輕易暗藏在發票或電子郵件中，一旦AI誤判為任務指示照單全收，在無人覆核的末端，就會直接造成鉅額財務損失。
生成式AI的主要風險在於「說錯話」，代理式AI則進一步面臨「做錯事」的風險，企業資安防線也因此從內容管控走向權限治理。
KPMG為治理鋪賽道，打造可信任AI
OpenAI近期公布的內部安全測試令人譁然：在放寬防護的受控環境下，AI為了解出難題，竟然主動利用未知系統漏洞突破沙盒隔離，甚至入侵外部平台竊取解答。「AI並無好奇心，但在任務目標缺乏清晰邊界時，它的預設邏輯就是盡可能蒐集一切資料。」謝昀澤強調，此時治理界線至關重要。
問題是，舊的管理方式接不住新的風險。「過去我們防範的是人做壞事，現在AI治理要防範的，是AI把事情做壞。」傳統資安框架假設系統被動、人為主動，防範對象鎖定人類，遇上代理式AI已不足以因應。過去的思維偏向圍堵，以防火牆、防毒軟體防範外敵；但在代理式AI的情境下，流程可能完全合規，問題卻出在更源頭的Prompt本身。
面對新局，KPMG依循歐盟與台灣的AI法規架構，將風險切分為三大層次並擬定控制手段：傳統IT風險、AI模型本體風險（如幻覺與漏洞），以及AI採取行動後衍生的營運風險。謝昀澤形容，協助企業治理的核心在於釐清人機協作範疇與責任歸屬，「就像替AI裝上馬鞍，既要有賽道護欄，更要配備隨時能停下的煞車機制。」
安侯企業管理董事總經理謝昀澤指出，代理式AI治理必須先劃清人機協作邊界與責任歸屬，在效能與風險之間建立必要的護欄與煞車機制。
以「人資思維」管理AI數位員工
KPMG服務企業客戶時，首要工作之一便是協助建立「AI BOM表（軟體清單）」，徹底清查內部運作的所有AI工具，作為治理起點；尚未導入的企業則從導入顧問切入，導入後逐步推進至治理諮詢與風險建模。
盤點之後才是難題：同一套AI置於不同產業與流程，風險樣貌截然不同。KPMG提出「可信賴AI框架」，以十項原則將AI道德規範轉化為具體行動，涵蓋可靠性、資訊與系統安全、隱私保護、可解釋性、數據治理、透明度、公平性與問責制。李冠樟舉例，近期有電商客戶評估是否由AI判定消費者黑名單，這極可能牴觸公平性原則，KPMG便在架構設計期介入檢視，導入後持續執行資料公平性驗測，並嚴格落實「Human-in-the-loop（人在決策迴路）」。
原則之外，企業重建韌性的關鍵第一動在於權限管理：AI能存取哪些資料、擁有哪些權限，必須先行盤點。然而，非人類身份的權限劃分極具挑戰；全數授權形同大開門戶，過度限縮又扼殺應用效益，若凡事皆需人工逐筆審批，最終往往因流程繁瑣而被迫全面放行。因此，資安核心原則始終是「最小權限」，面對具備多元技能（Skills）與功能的AI，權限必須依任務細緻對應，並搭配更多維度的資料標籤，落實數位身份管控。
KPMG安侯企管數位安全顧問服務副總李冠樟表示，AI治理應從全面盤點工具、數位身分與存取權限做起，並依任務落實「最小權限」，避免AI能力擴張成為新的資安破口。
以終為始，治理的終點，仍回歸組織與人。「當務之急，是企業要學會管理AI員工。」謝昀澤主張，代理式AI的管理可參考HR的「選、訓、用、留」模式——「選」是精準挑選適合AI代勞的業務環節，「訓」是為AI建立明確的行為規範，「用」是將AI配置於正確的營運方向，「留」則是定期評估效能並適時汰換表現不佳的AI。
李冠樟則預期，具備專業領域知識（Domain Know-how）且位階相應的「AI發展長（Head of AI）」等C-Level高階職位將迅速崛起。面對自主運作的代理式AI，監管必須深入組織結構，建立兼具公平性與透明度的審查機制，才在AI時代掌握防禦韌性、創造企業成長。
