Microsoft 联合各行业机构发起 AI 透明度倡议,增强企业对 AI 模型和智能体的信任

提供:PR Newswire
※本記事は、当サイトの提携先である「PR Newswire」からのプレスリリースを掲載したものです。

通过全新的 AI 透明度倡议,Microsoft 正与包括 Accenture、Adobe、KPMG、Mastercard 和 Volvo Cars 在内的 40 多家机构合作,推动形成适用于不同模型和供应商的 AI 透明度、安全与治理通用方法。Microsoft 还将提升旗下产品和服务的透明度,让企业更清楚地了解 AI 模型和智能体如何与企业数据交互

华盛顿州雷德蒙德2026年11月20日 /美通社/ — 机构能够观察到与 AI 模型相关的大部分活动,但往往无法还原从发出请求到生成结果之间的完整过程,因此难以独立验证模型行为。在周二举行的 Microsoft Ignite 大会上,Microsoft 董事长兼首席执行官 Satya Nadella 宣布发起"AI 透明度倡议",作为 Microsoft 履行提升 AI 安全性承诺的下一阶段行动。这项倡议将联合客户和合作伙伴,建立适用于不同模型和供应商的通用、开放的安全与治理方法。这项倡议体现了一条简单原则:AI 的自主程度越高,透明度也必须越高。

Microsoft Security 执行副总裁 Hayete Gallot 表示:"要让安全控制措施发挥作用,每家机构都需要更清楚地了解模型本身的运作。通过这项工作,我们将提升所有模型的透明度。这是让遏制措施更智能、更有力的关键一步,也能为问责与追溯提供更充分的依据。"

企业正在将 AI 模型与数据、工具、凭据和基础设施连接起来,让智能体能够采取行动,而无须每一步都经过人工批准。现有控制措施能够观察到与 AI 模型相关的大部分活动,却无法了解模型内部发生了什么,也无法独立核实模型对自身行为的描述。这限制了机构理解智能体行动背景的能力。由此产生的证据缺口,会带来安全、合规、审计和问责风险。随着 AI 智能体的能力不断增强,其带来的内部风险也日益增加,安全团队需要新的信任架构来应对。

Adobe 首席安全官 Aanchal Gupta 表示:"随着 AI 智能体更深入地融入企业运营,安全团队需要清楚掌握这些智能体正在访问哪些资源、采取哪些行动,以及如何验证这些行动。在全行业形成提升 AI 透明度的通用方法,对于增强信任至关重要,也能帮助机构在保障安全、落实问责的同时,放心推进创新。"

从原则到实践

这项倡议包括三个部分。首先,Microsoft 将扩大参与美国国家标准与技术研究院(NIST)的"SI 智能体标准倡议",并借鉴相关研究,制定适用于全行业的 AI 透明度、安全与治理开放标准。其次,Microsoft 正与包括 Accenture、Adobe、KPMG、Mastercard 和 Volvo Cars 在内的 40 多家机构合作,协助制定开放标准,使 AI 系统具备问责机制、能够接受独立验证,并从设计之初就融入安全保障,无论采用哪种模型或供应商。

第三,Microsoft 将把这项工作的成果融入 Microsoft AI、Microsoft Foundry 和 Microsoft Copilot,让客户能够在自身的安全与合规工具中使用由此生成的证据,无论这些工具来自 Microsoft 还是其他供应商。

KPMG International 全球首席信息安全官 John Israel 表示:"我们的客户希望借助 AI 加快发展步伐,不应被迫在创新与安全之间做出取舍。对 AI 的信任,需要透明度、可解释性和负责任的监督。我们很荣幸能与 Microsoft 合作推进 AI 透明度倡议,帮助建立适用于全行业的开放标准,为机构提供所需的可见性和控制能力,使其能够以负责任的方式大规模部署 AI。"

明确责任归属

能够访问数据、工具和凭据的智能体,具有与高权限内部人员相似的风险特征,却以机器的速度和规模运行,因此独立监督必不可少。

责任始终由机构承担。一旦发生重大事件,管理层就必须向客户、员工、董事会、审计人员和监管机构作出交代。不能把责任推给 AI,也不能把"相信模型"当作控制措施。

这项倡议旨在适用于不同模型和供应商,包括封闭式模型和开放权重模型。因此,开发团队可以更换或更新支撑智能体运行的模型,同时不影响 IT 和安全团队对智能体进行安全治理的能力,也不影响合规团队审计其行为的能力。

Accenture 全球网络安全负责人 Harpreet Sidhu 表示:"当机构在利用 AI 重塑业务的过程中迈出下一步时,需要以坚实的信任和信心为基础。Microsoft 这类以开放、行业驱动方式提升 AI 透明度的倡议,有助于我们保障 AI 模型安全,并为其建立控制措施和治理机制。Accenture 很荣幸能与 Microsoft 及这一领域的其他领先企业合作。"

看清、验证、管控

Microsoft 相信,每家机构都应能够看清 AI 系统访问了什么、执行了什么工作,独立验证其行动,并管控其获准执行的操作。

  • 看清: 明确 AI 被要求和获授权执行什么任务、使用了哪种模型和运行时环境、访问了哪些数据和工具,以及采取了哪些行动。根据策略和阈值,持续监控智能体活动及风险信号。
  • 验证: 智能体对自身行为的描述,不能成为事实判断的唯一依据,也不能依赖前沿模型进行自我治理。涉及智能体身份、受托任务目的及行动的证据,应标明其来源,包括模型、模型所在的运行时环境,或身份管理与策略管理等独立系统,以便将模型自行报告的信号与独立观测得到的记录相互核对。机构应能够利用自身的安全与合规系统,独立验证 AI 活动,而不必仅依赖模型供应商对模型行为的描述。
  • 管控: 始终掌握 AI 的行动权限。清晰的证据能够说明每条工作流的目的、负责人、涉及的数据和获授权限,帮助机构在可能产生重大影响的行动发生前执行策略,并在调查、遏制、恢复和审计过程中还原事件经过。即使更换模型或供应商,机构也应继续保留这些证据。无论采用哪种模型或供应商,机构都应保留控制权,决定其智能体可以访问哪些数据,以及如何管理这些访问权限。

参与倡议

有意参与制定倡议方向或了解其进展的机构,可访问 aka.ms/learnmoreAItransparency 了解更多信息并注册。

请关注 Microsoft Ignite 的最新动态,Microsoft 和行业领袖将在大会上分享见解,探讨机构如何更有信心地管理 AI 模型和智能体。更多信息可参阅 Microsoft Security 博客。

スポンサーリンク