正在阅读:

界面快评|智谱Zcode数据上传引争议,AI治理须跟上AI能力

扫一扫下载界面新闻APP

界面快评|智谱Zcode数据上传引争议,AI治理须跟上AI能力

多数模型厂商的焦点更多放在了产品代码能力表现上,对于产品底层与用户信任长期相关的数据治理、信息披露等问题或考虑不够周全。

智谱;Zcode;数据上传;争议;AI治理;AI能力;用户输入;文章标题;关键词;SEO爬虫

图源:界面新闻

界面新闻记者 | 伍洋宇

界面新闻编辑 | 文姝琪

9月21日,针对近期饱受争议的ZCode产品安全问题,港股“大模型第一股”智谱(2513.HK)向界面新闻表示,公司已完成整改并正式将ZCode开源至GitHub,以代码开放接受社区监督,并已邀请第三方开展安全审计。另外,公司日前表示将上线数据内容不留存功能,以减少模型调用内容在平台侧的持久化留存。

这是继9月18日公开致歉、9月19日发布修复版本后,智谱第三次就ZCode数据上传争议作出回应。

这场争议始于9月18日及19日两起用户发声。技术博主ferstar在个人博客发文称,其在清理本地磁盘时发现,ZCode桌面客户端会在用户处于登录状态时,自动将工作区代码打包、加密并上传至阿里云OSS存储服务,相关压缩包包含当前项目源代码、Git版本历史、LFS大文件缓存、reflog记录以及部分全局开发配置文件。

太原承明科技有限公司则表示,其技术部门发现ZCode存在自动触发、批量发生的数据上传行为,所涉内容包括项目完整源代码、系统架构、版本控制历史、数据库访问口令、云服务凭证及员工个人信息等归档文件,超出ZCode《隐私政策》载明的数据收集范围。公司已向北京智谱华章发出函件,要求智谱说明数据删除情况、加密私钥的保管方式,以及有关数据是否发生跨境传输,并保留索赔和提起诉讼的权利。

ZCode是智谱面向开发者市场的重要产品之一,公司今年凭借该AI编程产品成功调整了此前颇受质疑的私有化部署为主的商业模式,在大模型领域谋得了更好的生态位。

自Anthropic旗下Claude Code产品获得极大商业化成功,后者迅速成为各个模型厂商最重视的赛道之一。而要打磨出模型足够好的编程能力,各方对于数据、算法乃至算力的投入都存在高强度竞争,来源合规、质量足够高且能够验证结果的真实工程数据尤为形成壁垒。

在这一进程中,不少模型厂商把主要精力放在代码生成效果和用户增长上,数据治理、信息披露和权限设计或未得到足够重视。

与传统代码编辑器相比,AI编程工具需要获得更广泛的项目上下文,也因此更容易触及企业源代码、密钥和系统配置等敏感资产,但产品需要读取代码与平台可以将整个代码库上传至云端绝非同一概念。

此类争议在行业内并非孤立事件。类似事件曾于今年7月在xAI的Grok Build上被发现,后者在违背用户意愿前提下将其代码库上传至xAI的云端。据报道,xAI后续关停了服务端的上传,并加入退出选项,马斯克公开承诺将删除此前上传的数据。

就市场上多个同类工具看来,不同AI编程工具的官方更新日志和隐私政策在上传范围、用户控制权和信息披露程度上也存在明显差异。这意味着行业尚未形成清晰、统一的数据处理标准,用户也将由此面临更多的信息不对称。

在这背后,除了用户数据安全和隐私泄露风险,更系统性的症结在于AI工具在能力快速扩张之后,其数据治理、产品设计、信息披露与运营管理能力未能同步跟进。

ZCode此次最具争议的地方,便是相关功能被指默认开启,客户端没有提供明显的关闭入口,用户也无法自行查看和解密已经生成的数据包。换言之,用户对于数据处理方式缺乏知情权和管理权。

从产品逻辑看,为了保证任务效果,部分代码数据上传或有其必要性。为完成跨文件理解、代码库检索和知识库生成,AI编程工具确实可能需要调用云端能力。但这种技术需要不能自动转化为无限制的数据授权。上传哪些文件、用于什么目的、保存多长时间、是否进入其他系统以及如何删除,理应在功能启用前向用户明确说明。

此次事件的另一关注点在于,用户代码对模型后训练存在一定价值。真实的工程结构、调试过程和业务逻辑,有助于模型提升解决复杂开发问题的能力。这也是此次争议背后更深层的行业担忧。但需要强调的是,目前没有证据表明智谱曾将此次上传的数据用于模型训练。

因此,对智谱而言,宣布ZCode开源是一个积极动作。与普通声明相比,开放核心代码能够让外部开发者检查产品如何读取、打包和传输数据,也能加强平台与用户之间的信息对等。

从短期看,这场风波不会改变智谱的模型能力,也未必会对ZCode的用户规模造成持久冲击。ZCode此前积累了较好的产品体验和一定的自发传播效应,对个人开发者而言,只要产品足够好用、整改足够迅速,一部分用户仍可能重新使用。

但大模型公司竞争进入当前阶段,产品治理及运营更需谨慎,在AI安全治理这一核心问题上如果失去用户信任,底线失误将或难以修复。

截至发稿,智谱港股报745.5港元/股,跌4.42%,市值3635亿港元。

未经正式授权严禁转载本文,侵权必究。

评论

暂无评论哦,快来评价一下吧!

下载界面新闻

微信公众号

微博

界面快评|智谱Zcode数据上传引争议,AI治理须跟上AI能力

多数模型厂商的焦点更多放在了产品代码能力表现上,对于产品底层与用户信任长期相关的数据治理、信息披露等问题或考虑不够周全。

智谱;Zcode;数据上传;争议;AI治理;AI能力;用户输入;文章标题;关键词;SEO爬虫

图源:界面新闻

界面新闻记者 | 伍洋宇

界面新闻编辑 | 文姝琪

9月21日,针对近期饱受争议的ZCode产品安全问题,港股“大模型第一股”智谱(2513.HK)向界面新闻表示,公司已完成整改并正式将ZCode开源至GitHub,以代码开放接受社区监督,并已邀请第三方开展安全审计。另外,公司日前表示将上线数据内容不留存功能,以减少模型调用内容在平台侧的持久化留存。

这是继9月18日公开致歉、9月19日发布修复版本后,智谱第三次就ZCode数据上传争议作出回应。

这场争议始于9月18日及19日两起用户发声。技术博主ferstar在个人博客发文称,其在清理本地磁盘时发现,ZCode桌面客户端会在用户处于登录状态时,自动将工作区代码打包、加密并上传至阿里云OSS存储服务,相关压缩包包含当前项目源代码、Git版本历史、LFS大文件缓存、reflog记录以及部分全局开发配置文件。

太原承明科技有限公司则表示,其技术部门发现ZCode存在自动触发、批量发生的数据上传行为,所涉内容包括项目完整源代码、系统架构、版本控制历史、数据库访问口令、云服务凭证及员工个人信息等归档文件,超出ZCode《隐私政策》载明的数据收集范围。公司已向北京智谱华章发出函件,要求智谱说明数据删除情况、加密私钥的保管方式,以及有关数据是否发生跨境传输,并保留索赔和提起诉讼的权利。

ZCode是智谱面向开发者市场的重要产品之一,公司今年凭借该AI编程产品成功调整了此前颇受质疑的私有化部署为主的商业模式,在大模型领域谋得了更好的生态位。

自Anthropic旗下Claude Code产品获得极大商业化成功,后者迅速成为各个模型厂商最重视的赛道之一。而要打磨出模型足够好的编程能力,各方对于数据、算法乃至算力的投入都存在高强度竞争,来源合规、质量足够高且能够验证结果的真实工程数据尤为形成壁垒。

在这一进程中,不少模型厂商把主要精力放在代码生成效果和用户增长上,数据治理、信息披露和权限设计或未得到足够重视。

与传统代码编辑器相比,AI编程工具需要获得更广泛的项目上下文,也因此更容易触及企业源代码、密钥和系统配置等敏感资产,但产品需要读取代码与平台可以将整个代码库上传至云端绝非同一概念。

此类争议在行业内并非孤立事件。类似事件曾于今年7月在xAI的Grok Build上被发现,后者在违背用户意愿前提下将其代码库上传至xAI的云端。据报道,xAI后续关停了服务端的上传,并加入退出选项,马斯克公开承诺将删除此前上传的数据。

就市场上多个同类工具看来,不同AI编程工具的官方更新日志和隐私政策在上传范围、用户控制权和信息披露程度上也存在明显差异。这意味着行业尚未形成清晰、统一的数据处理标准,用户也将由此面临更多的信息不对称。

在这背后,除了用户数据安全和隐私泄露风险,更系统性的症结在于AI工具在能力快速扩张之后,其数据治理、产品设计、信息披露与运营管理能力未能同步跟进。

ZCode此次最具争议的地方,便是相关功能被指默认开启,客户端没有提供明显的关闭入口,用户也无法自行查看和解密已经生成的数据包。换言之,用户对于数据处理方式缺乏知情权和管理权。

从产品逻辑看,为了保证任务效果,部分代码数据上传或有其必要性。为完成跨文件理解、代码库检索和知识库生成,AI编程工具确实可能需要调用云端能力。但这种技术需要不能自动转化为无限制的数据授权。上传哪些文件、用于什么目的、保存多长时间、是否进入其他系统以及如何删除,理应在功能启用前向用户明确说明。

此次事件的另一关注点在于,用户代码对模型后训练存在一定价值。真实的工程结构、调试过程和业务逻辑,有助于模型提升解决复杂开发问题的能力。这也是此次争议背后更深层的行业担忧。但需要强调的是,目前没有证据表明智谱曾将此次上传的数据用于模型训练。

因此,对智谱而言,宣布ZCode开源是一个积极动作。与普通声明相比,开放核心代码能够让外部开发者检查产品如何读取、打包和传输数据,也能加强平台与用户之间的信息对等。

从短期看,这场风波不会改变智谱的模型能力,也未必会对ZCode的用户规模造成持久冲击。ZCode此前积累了较好的产品体验和一定的自发传播效应,对个人开发者而言,只要产品足够好用、整改足够迅速,一部分用户仍可能重新使用。

但大模型公司竞争进入当前阶段,产品治理及运营更需谨慎,在AI安全治理这一核心问题上如果失去用户信任,底线失误将或难以修复。

截至发稿,智谱港股报745.5港元/股,跌4.42%,市值3635亿港元。

未经正式授权严禁转载本文,侵权必究。