记者 | 陆柯言 郑洁瑶

以AI换脸为亮点的ZAO在一夜之间火遍了全网。但在娱乐之余，已经有不少用户发现了这类软件的潜在风险。

先来回顾一下ZAO的玩法：用户可在软件中上传个人照片，通过AI技术，可以将自己的人脸置于平台中用户所选择的影视片段之中，实现用户与“明星”的换脸。由于玩法新奇，ZAO在短时间爬上了苹果应用商店免费榜首位，但争议也同时产生。

最先引起争议的是ZAO用户协议中的一则条款。

ZAO其用户协议中写道：

这则条款可以理解为，由陌陌孵化的ZAO默认自己及其关联公司，拥有了对用户肖像权可转授权和可再许可的权利，可将其授权转让给第三方，并且能利用技术对用户的肖像进行形式改动。

用户担心的是，ZAO采集了用户的面部信息，同时也在注册时获得了自己的手机号，是否会有可能被不法分子用于支付宝、网上银行等APP的实名认证，从而危及自己的金融财产安全。

一位反欺诈领域专家认为，只要不法分子掌握了人脸照片，通过将静态的照片进行动态化处理，在绕过人脸识别环节并不难。

上海大邦律师事务所高级合伙人游云庭则对界面新闻记者表示，不必对这则协议过于恐慌。

他认为，社交平台获取用户的手机号，是其在前台进行实名制的必然措施。另一方面，支付宝、微信支付等平台的识别系统并没有想象中那么“脆弱”。支付宝方面也对界面新闻表示， 自身的风控系统不会导致这类事情的发生。

不过，游云庭认为这则条款是存在争议的：“如果单纯是把用户上传内容同步到关联公司，这是短视频社交平台用户协议中的常见表达。但这段话中提到了可转授权，但并未说清转授权是仅仅转给关联公司，还是除关联公司以外的第三方，这是值得商议的部分。”

截至发稿前，陌陌及ZAO方面并未针对此事回复界面新闻记者。

游云庭还表示，即便是用户协议中提到平台可以利用技术对用户肖像进行改动，但这则条款在法庭上也不是完全有效的。一般情况下，一旦这类平台或第三方将用户肖像改动后制作其它形式的视频就属违法，该协议不起到约束作用，用户可以拿起法律武器保护自己的权益。

不过，知乎反欺诈领域大V半佛仙人认为，最关键的风险在于，APP本身并不滥用用户信息，然而一旦APP被黑客攻破，所有的用户信息就有可能被拖入黑产的地下数据库，被不法分子拿来榨取价值。这对APP背后公司的风控能力是极大的考验。

用户在ZAO平台上传的信息中，最敏感的便是人脸数据。数据评测机构知微科技CEO于霄认为，和密码不同，人脸、声纹等生物特征是无法改变且不可再生的。一旦被盗用，会产生极为可怕的社会后果。

道德伦理上的争议是其中的一个方面。界面新闻早些时候曾报道，AI换脸这一技术并不新鲜，最早是GitHub的一个开源工具DeepFakes人工智能。只要是有一定技术基础的人，租一台GPU服务器，便可以利用这一工具自制换脸视频。

但正是因为工具的开源，也导致许多好事者将这项技术用于色情视频的合成。早在2017年，美国论坛Reddit上就有用户将好莱坞女明星盖尔·加朵的脸用作素材，合成了色情视频。此后这类现象愈演愈烈，由于FakeApp等软件的诞生，进行AI换脸的门槛也越来越低，导致Twitter、Reddit、gif搜索引擎Gfycat等平台都开始封禁这些合成的色情片。

据智东西报道，AI换脸在国内也已经形成了一条完整的黑色产业链。从下游成品情色视频、中游定制视频到上游软件及教程，都可以从淘宝、微信等卖家处买到。

ZAO在其版权声明中写道：“ZAO禁止用户随意上传和使用素材，并通过人工审核环节尽力保证ZAO上的内容不侵犯相关权利人的合法权益，尽力保证内容符合相关法律法规规定。”

这样的说辞似乎并不能安抚用户，不少用户担心，自己在AI换脸上传的面部信息会被这类卖家利用。

此外，在道德伦理之外，金融风险同样值得注意。于霄同时提醒这些平台的用户，视频欺诈很有可能成为一种流行的犯罪手段，不法分子一旦掌握手机号、人脸图片等多个信息，对骗术识别能力差的老人有很大的杀伤力，这在技术层面是可行且会真实发生的。

“不说ZAO平台本身会怎样，但早期APP的数据保护措施肯定是不足的，等于是核弹级数据掌握在普通人手中，所以我建议加快隐私数据法律法规建设，同时提示用户应该注意保护自己的声纹和面部图像，尽量不要给任何APP做此类精细化采集。大家在娱乐的同时，要非常谨慎“，于霄说。