10月21日,英伟达推出Confidential Bare Metal机密裸金属部署方案,允许前沿AI模型开发商在第三方云服务商、新型云服务商及企业基础设施的专用裸金属服务器上运行敏感工作负载,同时保护模型和数据。新方案通过硬件级隔离、加密证明及访问控制,保护模型和数据在内存及执行过程中的安全,并允许开发商自主管理软件栈。
英伟达机密计算现提供三种部署模式:面向裸金属基础设施的Confidential Bare Metal、面向Kubernetes环境的Confidential Containers,以及面向虚拟化环境的Confidential Virtual Machines。该技术的支持范围也扩展至Grace Blackwell NVL72、基于x86架构的HGX Rubin NVL8及DGX Rubin NVL8系统,并将集成至英伟达DSX OS。
合作方面,Cohere计划将机密裸金属方案集成至其Model Vault服务;谷歌云则将相关支持扩展至搭载英伟达GB300 NVL72系统的A4X Max实例。CoreWeave、微软Azure、Nebius、Nscale等云服务商也支持英伟达机密计算部署,思科、戴尔科技、慧与科技、联想等系统厂商将通过英伟达认证系统提供相关能力。
评论