> 資訊    /    正文

Microsoft 聯同跨行業機構推出 AI 透明度倡議,加強企業對 AI 模型及代理的信任

Microsoft 透過全新的 AI 透明度倡議,與包括 Accenture、Adobe、KPMG、Mastercard 及 Volvo Cars 在內的逾 40 家機構合作,推動在 AI 透明度、安全及管治方面採用適用於不同模型及供應商的共通做法。Microsoft 亦將提升旗下產品及服務的透明度,讓企業更清楚了解 AI 模型及代理如何與企業數據互動

華盛頓州雷德蒙德2026年11月19日 美通社 -- 機構雖然能夠監察與 AI 模型相關的大部分活動,卻往往無法還原由提出請求到產生結果之間的過程,因此難以獨立驗證模型的行為。在週二舉行的 Microsoft Ignite 上,Microsoft 主席兼行政總裁 Satya Nadella 宣佈推出「AI 透明度倡議」,作為 Microsoft 履行提升 AI 安全性承諾的下一階段工作。這項倡議將聯同客戶及合作夥伴,建立適用於不同模型及供應商的共通、開放的安全及管治做法。這項倡議體現一項簡單原則:AI 的自主程度越高,透明度就必須越高。

Microsoft Security 執行副總裁 Hayete Gallot 表示:「要讓安全管控措施發揮效用,每家機構都需要更清楚了解模型本身的運作。透過這項工作,我們將提升所有模型的透明度。這是讓遏制措施更智能、更有力的重要一步,有助我們為問責及追溯提供更充分的依據。」

企業正將 AI 模型連接至數據、工具、憑證及基礎架構,讓代理能夠採取行動,而毋須每一步都經人員批准。現有管控措施雖能監察與 AI 模型相關的大部分活動,卻無法掌握模型內部的運作,亦無法獨立核實模型對自身行為的描述。這限制了機構了解代理採取行動背後背景的能力。這種證據不足的情況,會帶來安全、合規、審計及問責風險。隨著 AI 代理的能力不斷提升,所帶來的內部風險亦日益增加,安全團隊需要全新的信任架構來應對。

Adobe 首席安全官 Aanchal Gupta 表示:「隨著 AI 代理更深入融入企業營運,安全團隊需要清楚掌握這些代理正在存取甚麼、採取哪些行動,以及如何驗證這些行動。在整個行業建立提升 AI 透明度的共通做法,對加強信任至關重要,亦有助機構在維持安全及問責的同時,充滿信心地推動創新。」

從原則走向實踐

這項倡議涵蓋三個部分。首先,Microsoft 將擴大參與美國國家標準與技術研究院(NIST)的「SI 代理標準倡議」,並借鑑相關研究,制定適用於整個行業的 AI 透明度、安全及管治開放標準。其次,Microsoft 正與包括 Accenture、Adobe、KPMG、Mastercard 及 Volvo Cars 在內的逾 40 家機構合作,協助制定開放標準,讓 AI 系統具備問責機制、可接受獨立驗證,並從設計之初便融入安全保障,不受模型或供應商選擇所限。

第三,Microsoft 將把這項工作的成果融入 Microsoft AI、Microsoft Foundry 及 Microsoft Copilot,讓客戶可在自身的安全及合規工具中使用由此取得的證據,不論這些工具來自 Microsoft 還是其他供應商。

KPMG International 全球首席資訊安全官 John Israel 表示:「我們的客戶希望藉助 AI 加快步伐,而他們不應被迫在創新與安全之間作出取捨。對 AI 的信任,需要透明度、可解釋性及負責任的監督。我們很榮幸能與 Microsoft 合作推動 AI 透明度倡議,協助建立適用於整個行業的開放標準,讓機構具備所需的可見性及控制能力,以負責任的方式大規模部署 AI。」

明確責任歸屬

能夠存取數據、工具及憑證的代理,其風險特徵與擁有高權限的內部人員相若,卻以機器的速度及規模運作,因此獨立監督不可或缺。

責任始終由機構承擔。一旦發生重大事件,管理層便須向客戶、員工、董事會、審計人員及監管機構交代。不能以 AI 為由推卸責任,也不能將「相信模型」視為管控措施。

這項倡議旨在適用於不同模型及供應商,包括封閉式模型及開放權重模型。因此,開發團隊可以更換或更新支援代理運作的模型,而不會削弱 IT 及安全團隊對代理實施安全管治的能力,亦不會影響合規團隊審計代理行動的能力。

Accenture 全球網絡安全主管 Harpreet Sidhu 表示:「當機構在利用 AI 重塑業務的過程中邁出下一步時,需要以穩固的信任及信心作為基礎。Microsoft 這類以開放、由行業推動的方式提升 AI 透明度的倡議,有助我們保障 AI 模型安全,並為其建立管控及管治機制。Accenture 很榮幸能與 Microsoft 及這個領域的其他領導企業合作。」

看清、驗證、管控

Microsoft 相信,每家機構都應能看清 AI 系統存取甚麼及執行甚麼工作、獨立驗證其行動,並管控其獲准執行的工作。

  • 看清: 清楚知道 AI 被要求及獲授權執行甚麼工作、使用了哪個模型及執行環境、存取了哪些數據及工具,以及採取了哪些行動。持續依據政策及門檻值,監察代理的活動及風險訊號。
  • 驗證: 代理對自身行為的描述,不能作為判斷事實的唯一依據;亦不能依賴前沿模型進行自我管治。涵蓋代理身份、受託任務目的及行動的證據,應註明其來源,包括模型、模型所在的執行環境,或身份管理及政策管理等獨立系統,以便將模型自行回報的訊號與獨立觀察所得的記錄互相核對。機構應能透過自身的安全及合規系統,獨立驗證 AI 活動,而毋須單憑模型供應商對模型行為的描述。
  • 管控: 始終掌握 AI 的行動權限。清楚反映每項工作流程的目的、負責人、所用數據及獲授予權限的證據,有助機構在可能產生重大影響的行動發生前執行政策,並在調查、遏制、復原及審計過程中還原事件經過。即使更換模型或供應商,機構亦應繼續保有這些證據。不論使用哪個模型或供應商,機構都應保留控制權,決定其代理可以存取哪些數據,以及如何管治這些存取權限。

參與倡議

有意協助制定倡議方向或了解其進展的機構,可瀏覽 aka.mslearnmoreAItransparency 了解詳情及登記。

請關注 Microsoft Ignite 的最新消息,Microsoft 及行業領袖將在活動中分享見解,探討機構如何充滿信心地管理 AI 模型及代理。更多資訊可參閱 Microsoft Security 網誌。

最新文章

Microsoft 聯同跨行業機構推出 AI 透明度倡議,加強企業對 AI 模型及代理的信任 FP Markets 宣佈將 Anthropic 股票差價合約納入交易產品 Atain 委任 Jitendra Sindhwani(Jimpy)為行政總裁 WPP 行政總裁 Cindy Rose 將於 C Space® 主題演講探討 AI 時代數據獨立性及信任的重要性 第 23 屆 Stevie® Award for Women in Business 得獎名單公佈 Booking Holdings 推出 Booking Partner Division,加快 B2B 旅遊創新

Copyright © 2024-2026 All Rights Reserved. 港富通網版權所有