Advertisement

Advertising

Subscriptions

Subscriptions

AI 應用邁向規模化,企業如何建立可信任治理

當 Agentic AI 與員工共同讀取資料、觸發流程並執行任務,企業必須將資料、身分、權限與稽核證據一併納入治理架構

企業導入 AI 的討論,已從採用與否過渡到安全擴展的新階段。當生成式 AI 從個人助理、部門小規模導入,進一步發展成能讀取企業資料、串接工作流程、支援決策,甚至代表使用者執行任務的 Agentic AI,此刻,企業面臨的挑戰已不再只是採用 AI,而是如何在多個國家與地區安全、負責且合規地擴大 AI 與 AI 代理採用。

在企業場景中,Agentic AI 並非脫離人獨立運作,而是與員工、主管、開發者與合作夥伴共同接觸資料、觸發工具與形成決策;治理因此不

當 Agentic AI 與員工共同讀取資料、觸發流程並執行任務,企業必須將資料、身分、權限與稽核證據一併納入治理架構企業導入 AI 的討論,已從採用與否過渡到安全擴展的新階段。當生成式 AI 從個人助理、部門小規模導入,進一步發展成能讀取企業資料、串接工作流程、支援決策,甚至代表使用者執行任務的 Agentic AI,此刻,企業面臨的挑戰已不再只是採用 AI,而是如何在多個國家與地區安全、負責且合規地擴大 AI 與 AI 代理採用。在企業場景中,Agentic AI 並非脫離人獨立運作,而是與員工、主管、開發者與合作夥伴共同接觸資料、觸發工具與形成決策;治理因此不能只關注模型輸出,也必須同時管理人、代理、資料與行為。AI 的價值來自規模化使用,但風險也會在規模化後跟著放大,一旦 AI 進入文件、客服紀錄、財務報表、開發環境與業務流程,過去資料治理中的老問題,例如權限過寬、資料未分類、過度分享與外洩風險,都會因 AI 的摘要、重組與再利用能力而變得更難察覺。雖然這並不表示 AI 製造了所有資料風險,但是其確實大幅提高資料流動與決策輔助的速度,企業要是不知道敏感資料散落在何處、哪些人能存取、AI 會讀到什麼,以及輸出可能流向哪裡,就很難讓 AI 從實驗性專案蛻變成真正的企業級部署。AI 治理走進董事會,成為企業營運責任與此同時,台灣的 AI 治理也正在制度化, 2026 年 1 月公布並施行的《人工智慧基本法》,其定位是框架式立法,揭示以人為本、隱私保護與資料治理、資安、透明與可解釋、公平與不歧視、究責等原則,並要求主管機關依風險分類框架推動產業管理規範。醫療領域也已有具體指引,衛福部於 2026 年 5 月函頒《醫療機構應用生成式人工智慧指引》,提供預備導入或已導入生成式 AI 的醫療機構參考。台灣微軟法務副總經理廖怡苓解釋,框架法不替每一個民間 AI 使用情境訂出操作細則,而是建立後續政策、指引與管理規範的共同基準。對企業來說,在客戶信任、供應鏈審查、標案要求與董事會責任等面向,皆需承擔 AI 治理責任。AI 治理轉譯成 IT 與資安團隊熟悉的語言,其實是在回應三個提問,風險在哪裡、控制在哪裡、證據在哪裡。微軟提醒,客戶、董事會、主管機關與合作夥伴問法不同,但核心都圍繞這三個問題。員工需要知道哪些 AI 工具能進入工作流程、哪些資料不能貼到外部服務,主管不能只在乎部署速度,也要理解風險報告,董事會則要看見 AI 投資背後的控制成熟度、事故應變能力與稽核證據。AI治理因此不只是合規任務,其範疇也擴展到企業營運條件。企業導入 AI 的四大風險:資料外洩、影子 AI、AI 攻擊手法與治理缺口,反映出 AI 應用速度正快速提升,但相應的資安防護與治理機制仍需同步補強。資料、權限與行動彼此串連,AI放大既有治理缺口在企業自身治理層面,微軟將 AI 風險拆解為資料、提示詞、Agent 與行動構成的連續路徑。資料階段要先處理敏感資料分類、權限與過度分享,否則 AI 會把原本的權限問題放大。提示詞階段則要注意使用者是否輸入敏感內容,或是否受到提示注入誘導。至於Agent 階段,企業需要確認 AI 代理讀取資料、摘要資訊與串接工具時有清楚的權限邊界。最後是行動,也就是郵件、上傳、複製、貼上、列印或流程觸發等動作,是否能在發生當下受到控管並留下紀錄。該風險檢視方式,讓治理能回歸企業日常營運中的資料流、身分流與行為流控制。治理第一步:看見 AI 與資料的接觸面Microsoft Purview 在治理工作扮演重要角色,企業需要管理 Microsoft 365 Copilot、Azure AI Foundry、Copilot Studio、第三方 SaaS AI、自建 AI 應用與 Shadow AI 共同形成的 AI 生態系。Purview 的優勢,是讓企業先掌握敏感資料分布、過度分享情況與 AI 可能接觸的資料,再透過資訊保護與 Sensitivity Labels,把分類、加密與權限帶進檔案本身。DLP 與 Endpoint DLP 則在外寄、上傳、貼上、列印等行為發生當下提供提醒、要求理由或阻擋。Insider Risk Management 能將一連串存取、下載、複製、外送與外部 AI 使用行為脈絡串起來,發現其綜合性風險,支援調查與後續處置。治理第二步:把政策轉成控制項與稽核證據即時防護處理的是單次行為,但企業要讓治理長期運作,還必須把這些行為、責任與處置流程轉成可追蹤、分工與稽核的控制項目。NIST AI Risk Management Framework 可作為 IT、資安、法遵、資料治理與業務單位之間的共同語言,將 AI 風險管理拆解為 Govern、Map、Measure 與 Manage 四項功能。Govern 建立治理結構、角色分工、政策要求與監督流程;Map 盤點 AI 系統的使用情境、資料接觸範圍、受影響流程與利害關係人;Measure 評估模型品質、安全性、可靠性與輸出影響,並納入提示注入、有害內容等風險檢測;Manage 則依據風險評估結果推動緩解、監控、改善與回報,使 AI 治理從原則轉化為可執行的管理流程。各地、各產業適用法規不同,企業可以因應營運需求透過 Microsoft Purview Compliance Manager,把框架映射為控制項目、改善行動、負責人、狀態、證據與報告,使 AI 治理能從政策文件落實為管理流程。可信任平台只是起點,企業須將 Trust by design 內建於內控流程隨著 Agentic AI 成為企業下一波生產力平台,治理也會從資料保護延伸到代理身分、行為可觀測性與跨平台安全。在 IDC MarketScape for Worldwide Unified AI Governance Platforms 2025-2026 評估中,Microsoft 被列為 Leader;其平台能力涵蓋 Microsoft Foundry 的模型開發、評估、部署與監控,Agent 365 的代理部署、管理與可觀測性,以及 Purview、Entra、Defender 在資料安全、身分控管與威脅防護上的整合。微軟提供統一控制平面,讓企業能以一套邏輯管理模型、資料、身分、代理與行為。微軟則以其 AI 服務為例,說明可信任解決方案供應商需提供可驗證的安全與合規基礎。Microsoft 365 Copilot、Azure AI Foundry 等服務,建立在既有雲端安全與資料保護承諾之上,並透過 ISO/IEC 42001:2023、Service Trust Portal 稽核報告、OWASP Top 10 for LLM Applications 滲透測試與 AI 紅隊測試等方式,以標準、測試與第三方可檢視資料,驗證解決方案的可信賴度。企業在評估 AI 服務時,可藉由取得產品條款、資料保護承諾、安全控制、認證與稽核報告,作為內部風險管理與供應商審查的依據。然而,AI 治理不只取決於平台是否具備安全與合規基礎,也要求企業建立相應的內部治理機制。台灣微軟資深雲端解決方案架構師李佳芸比喻「平台供應商能建好路基、護欄與監控系統,但企業開上這條高速公路後,車上載什麼資料、由誰操作、哪些路段不能走、事故發生後如何調查,仍然是企業自己的責任。」企業 AI 要規模化,靠的是信任,能否建立足以面對監理、客戶、合作夥伴與內部稽核檢視的信任基礎。微軟提出的核心訊息,是把 AI 治理內建於設計、流程與平台之中,讓創新不必和治理對立。當信任成為架構的一部分,AI 才能走向規模化,並成為企業長期營運與創新的動力。AI Governance 並非一次性的設定,而是從治理框架、風險盤點、驗證檢視持續循環的過程,讓治理真正落地,並具備可驗證、可追蹤與可稽核性。

發達

429 Blog posts

Comments