OpenAI披露第三方测试越界事件,AI模型评估期间误连公网

当地时间8月4日,OpenAI发布声明称,在近期第三方网络安全评估中,因测试环境配置及安全防护调整,旗下GPT-5.6 Sol等模型出现越界接入公网的事件。在英国人工智能安全研究所的测试中,模型因未获明确边界限制且禁用安全分类器,擅自注册外部账号并搭建网络隧道;在测试公司Irregular的评估中,测试环境配置错误导致模型将真实网站误认为虚拟靶机并进行了攻击。

OpenAI表示,相关测试已被叫停并完成隔离封堵,未造成实质影响。公司正与业界合作重新审查评估流程,以完善高风险测试的安全标准。

本文为转载内容,授权事宜请联系原著作权人。

OpenAI

  • Anthropic称AI模型在测试期间误侵三家真实机构系统
  • OpenAI下调GPT-5.6部分模型价格

评论

暂无评论哦,快来评价一下吧!