记者｜陆柯言

时至今日，很少有互联网企业会否认内容风控的重要性。不少互联网公司频频因为内容安全问题中招，尤其是在网民大量聚集的社交、资讯、娱乐类产品中，内容风控在某种程度上可以称做平台的生命线。

很长一段时间里，互联网公司都通过不断招聘内容审核人员来解决这一问题。2018年，今日头条一度将4000人规模的审核团队扩张至10000人。在海外，Facebook几乎每年都要以外包形式招聘几千名内容审核员，去年这个数字也增长到了1万余名。

但随着内容形式和风险种类的增多，不断扩大审核团队的规模，已经不再是这个问题的最优解。如今，购买内容风控服务成为一种潮流，而以网易、腾讯、阿里等为首的大厂，是这个领域的最热玩家。

网易易盾是网易旗下一站式数字内容风控品牌。在其业务商业化五周年之际，网易易盾总经理朱浩齐接受了界面新闻专访。在采访中，他分享了易盾在内容风控领域的经验，以及对行业趋势的看法。

毫无疑问，现在是内容风控行业高速增长的时代。尤其是在2017年《网络安全法》颁布之后，不少企业对内容风控的重视程度直线上升。朱浩齐透露，近几年来，网易易盾的营收和新客户的年增长率都在40%-50%左右，已经成为细分领域的头部玩家。

易盾主要有两类竞争者。一是国内互联网大厂，也拥有相应的内容风控服务，但鉴于公司的资源主要还是投入在发展更为成熟的业务上，在安全行业的角色更贴近于跟进者，并未将内容风控作为公司的主要战略；第二类则是创业公司，近年来颇为活跃，但在朱浩齐看来，内容风控领域需要大量的应对经验积淀，这可能是创业公司面临的最大挑战。

“如果只把内容风控当成一件纯技术性的事情，只需要准备一些训练数据，再做一些模型拿来用，也可以拿出去做生意。但如果是真正经历过内容安全痛苦的企业就会知道，这种服务很难满足真实场景中的多变需求，这是这个行业最大的门槛。”朱浩齐说。

许多人对网易的B端业务感到陌生。据朱浩齐介绍，网易有包括邮箱、音乐、游戏、轻博客等在内的多款内容产品，过去出于产品自身的发展，为了避免垃圾信息破坏产品氛围，需要在内容运营上引导用户，由此也积淀了完善的内容风控体系，这便是网易易盾的由来。

他认为，易盾的优势在于更丰富的行业经验。以音乐产品为例，音乐软件中涉及到大量的文字歌词，这是比图片更难识别的内容种类。“违规信息的种类是多种多样的，一些音乐人在翻唱歌曲时，会刻意将其中的歌词改成违规内容，通过原有旋律及歌曲名进行传播，另外一些没有歌词的歌曲，需要带旋律去识别，这也需要大量的训练才能准确识别。”

尽管AI识别技术不断成熟，但在下游仍然需要大量的人工辅助。这是因为，虽然每个平台都有一套内容审核标准，但内容的评判很难完全依赖死板的规定，人工审核员都难以给出统一的准确决策，更不用提AI。因此，利用AI将疑似有害内容发送给人工审核进行二次判断，是目前行业的普遍选择。

朱浩齐提到，未来的内容风控形式可能是更结构化的。一些内容适用于A平台，但并不适用B平台，一味封禁可能会不利于用户体验。当现有评判标准无法准确判断内容是否“好”或“坏”时，易盾会给内容信息增加更多标签，最后提供一个结构化的结果给企业自己做判断。企业可以依据这些标签来判断内容是否适合自身。

下一个五年，易盾的目标是是优化技术，让评判标准更加精准，以减少重复地、机械性的人工审核，提高人力效能；另一方面，进一步丰富检测的维度，不仅仅识别内容，也识别发出内容的人本身，用更多维度来提升识别的准确性，避免风险的产生。

从全球互联网发展现状来看，无论是网民数量、上网时长还是互联网内容种类都在飞速增长，互联网公司应对的内容风险也因此变得越来越复杂。朱浩齐认为，内容风控是全球互联网公司的长期挑战，产业链仍然有许多待完善环节，行业的天花板仍然很高。