微软联合逾40家机构发起AI透明度倡议,推动建立行业通用标准

当地时间11月17日,微软董事长兼首席执行官萨提亚·纳德拉在微软Ignite大会上宣布启动“AI透明度倡议”,与埃森哲、Adobe、毕马威、万事达卡和沃尔沃汽车等逾40家机构合作,推动建立跨模型和供应商的AI透明度、安全及治理通用标准。

微软表示,随着企业将AI模型和智能体接入数据、工具、凭证及基础设施,智能体可以在无需每一步都获得人工批准的情况下执行操作,但现有安全机制难以完整还原模型内部决策过程,也难以独立验证其行为,增加了安全、合规和问责风险。

该倡议包括三项内容:扩大微软对美国国家标准与技术研究院(NIST)智能体标准倡议的参与;与合作机构共同制定开放的行业标准;将相关成果整合至Microsoft AI、Microsoft Foundry和Microsoft Copilot产品与服务中,并支持客户使用微软或其他供应商的安全与合规工具进行审查。

微软称,该倡议适用于闭源模型和开放权重模型,重点围绕“可观察、可验证、可控制”三方面建立机制,使企业能够了解AI访问的数据和执行的操作、独立核验其行为,并保留对其权限和行动的控制。

未经正式授权严禁转载本文,侵权必究。

微软

5.8k
  • 微软称监测到一起大规模协同网络钓鱼攻击活动
  • 微软称消费产品服务已完全恢复

评论

暂无评论哦,快来评价一下吧!