英伟达推出AI智能体安全平台,可实时隔离异常智能体

9月28日,英伟达发布“开放智能体安全平台”,通过应用层、运行时和基础设施三层架构,为AI智能体提供持续监控、实时策略执行和安全治理。

其中,开源软件OpenShell可在沙箱环境中运行AI智能体,将用户指令转化为可验证的安全策略,并限制智能体对文件、网络、工具、进程和凭证的访问。Nvidia Sentry则将监控和安全控制延伸至BlueField数据处理单元,通过英伟达DOCA关联智能体交互、策略决策及工具和数据访问记录,用于识别异常行为并在必要时进行干预。

英伟达表示,AI智能体可能因工具、运行时间、指令歧义等因素偏离既定任务,因此需要独立于智能体本身的安全控制。该平台针对英伟达Vera CPU和BlueField DPU系统优化,并兼容其他硬件系统。

未经正式授权严禁转载本文,侵权必究。

英伟达

5.5k
  • AI云基础设施公司Nscale完成33.6亿美元可转债融资,英伟达等参与投资
  • 英伟达黄仁勋:AI“监管豁免”没有道理,外界对AI的担忧已过度

评论

暂无评论哦,快来评价一下吧!