记者 | 姜菁玲

如果可以随意换脸，世界会发生什么？ 

近日，界面新闻从人工智能公司瑞莱智慧处了解到，当下人工智能所支持的深度合成技术门槛以及成本已经“十分低”。瑞莱智慧CEO田天告诉界面新闻记者，普通人可以通过下载带有换脸功能的APP，上传照片后即可生成换脸图像，甚至迁移至虚拟人上。虽然一些爆火的换脸APP很快被下架，但是目前一键换脸的开源APP非常多，公众可以很轻松拿到。

“由于这些工具的使用，现在你在任何社交平台都可以看到大量的虚假视频，有影视娱乐也有带有恶意意图的内容。”田天表示。 

田天指出，换脸由深度合成技术所支持，指的是包含利用人工智能技术所生成的比较逼真，甚至以假乱真的视频、语音、文本以及各类生成内容。 

根据瑞莱智慧发布的《深度合成十大趋势报告》，深度合成技术的影响范围正在不断扩大。相比2017年，2021年国内外十家主流音视频平台中的深度合成内容新增量级超过十倍，涉及到影视、音乐、科技、教育、生活、娱乐、咨询等不同方面。2021年深度合成视频的新增点赞和喜欢达到了3.16亿次，相比2017年增加了100倍以上。虚拟偶像、虚拟手语主播、老照片修复、劣迹艺人替换等新场景需求不断涌现。

同时，深度合成技术滥用所造成的负面风险也在不断加剧，并且产生许多实质性的伤害。田天称，危害可能涉及社会国家安全、公司以及个人名誉造成的损失。比如，犯罪分子利用深度合成技术伪造亲人的换脸视频或者语音去诈骗，骗取他人信息和资产，以及影视艺人被伪造不雅视频在网络中传播等等。

而在社会层面，中国社会科学院科学技术和社会研究中心段伟文教授告诉界面新闻记者，由于人类对视觉更加信任，视觉上的伪造要比其他媒体形式的伪造影响更大。如果视频内容的造假持续，公众会对所有的视觉内容真实性产生怀疑，它会大大削弱公众对于媒体的信任，甚至丧失对揭示真相的信心，最终引发一种虚无主义。 

“目前深度合成的鉴别需求在快速增长，但是鉴别难度也在快速提升。”田天指出，鉴别难度提升的原因主要有两点，一是深度合成的逼真度正在快速提高，已经超越了人眼鉴别的能力范围，人眼鉴别它的难度越来越大，甚至到没有办法分辨的成都。其次，目前新的深度合成技术具有强对抗性，它天然针对一些检测方法进行对抗攻击，使检测方法失效。

具体来看，瑞莱智慧副总裁唐家渝分析称，深度合成鉴别具体的技术难度主要有三点：伪造的规则不断快速迭代、再编辑导致的传播效果折损可能无法保证检测效果、算法判断需要可解释性。

目前，围绕深度合成技术，国家层面已经逐步建立治理和监管的机制。国际方面，2018年美国已经从联邦和州层面进行立法，欧盟方面将其纳入了既定法律框架进行规制。2019年起，我国已开始在相关法律法规中对深度合成技术进行监管规制，网信办等部门推出的《网络音视频网络管理规定》提到不得利用深度合成传播虚假信息；2022年，网信办发布的《互联网信息服务深度合成管理规定（征求意见稿）》里，旨在促进深度合成技术依法合理有效利用，并且规范发展互联网信息服务深度合成活动，对深度合成的应用治理提出了非常明确的要求规范。 

“深度合成技术无论在哲学上还是现实生活中，都涉及到社会认知层面，我们需要提升这方面的安全意识，将它作为集体的责任，从媒体到公众都应该了解它的内涵、恶意使用和滥用的场景，从而加深对它的了解，提高对它的鉴别力。”段伟文教授表示。