文/乔柯

随着社交网络、自媒体平台的飞速发展，基于算法的推荐系统在给用户带来海量信息的同时，也产生了诸多社会问题。例如，Facebook深陷干预政治和传播虚假新闻的泥潭，今日头条、短视频平台因推送低俗内容遭主管部门处罚等。人们开始意识到，算法正在影响自己看待世界的方式，无孔不入地渗透于日常生活。更有观点指出算法已经演变为一种权力，它左右了人们的所见、所听、所感。

如何面对技发展带来的问题？如何在算法世界中摆脱“信息茧房”，保护自己免受不良信息的侵蚀？算法公开是否可行，又应该如何操作？

近日，《财经国家周刊》记者采访了中国政法大学传播法研究中心副主任、副教授朱巍。他表示算法必须处在法律、政府、社会的共同监管之下，监管的基础在于算法公开，但具体如何公开还需要细致的探讨。

《财经国家周刊》：算法是一种权力吗？它是否应该受到监管？

朱巍：首先我认为算法本身不是一种权力。算法本质上是一个程序，它不可避免地代表某种价值观，而这种价值观一般来说在平台的程序员进行算法设计时就发挥影响力了，它反映出的一定是互联网企业的商业价值。与其说算法是一种权力，不如说是互联网公司的谋财之路。

其次，算法必须要处于监管之下。

算法的监管内涵是很丰富的。一方面，算法必须要在法律允许的框架内活动，它不能侵害用户的基本权利，不能超出法律关于传播的基本界限，算法分法必须识别出违法信息，这些内容是不能出现、不能传递给用户的；另一方面，算法应该处于社会的监管之下，如果用户在使用过程中发现了问题，应该有途径依法向平台或者向主管部门举报；最后，算法还要在行政主管部门的监管之下。各个领域的行政主管部门各司其职，对管辖领域十分了解，跟行业内的从业人员打交道时间最长，经验也最丰富。对一些内容的管控、尺度的把握，都要比一般的用户更权威、更有效。因此，在监管方面，可能需要多管齐下，共同治理。

《财经国家周刊》：是否可以要求企业公开算法？具体应该如何公开？

朱巍：算法公开从理论上讲是有法律依据的，是完全可行的。

实际上，对于算法的监管，其基础就是算法公开。但如何公开目前并没有定论。可以参考的是默多克的新闻集团也在提算法公开，他们超越了道德范畴，呼吁成立“算法监察委员会”。但这其实存在一个问题：即使要求算法公开，监管人员对此也可能缺乏了解；此外，公开算法有可能遇到知识产权方面的问题。所以公开到什么程度、向谁公开，这些都有待考量。但我认为，在真正成立监管委员会之前，我们可以考虑先成立一个道德委员会，把算法道德、算法自律这些讨论清楚。

目前看来，在算法公开上，我们既要考虑到监管，又要保护企业的知识产权和商业利益。并不是说要政府监管某一段代码或某一个程序，完完全全公开代码对企业影响并不好。我倒是觉得是不是可以从关注算法的逻辑、算法的价值这些方向，利用验证的方式，来进行政府监管。

《财经国家周刊》：您认为目前算法公开的最大障碍是什么？

朱巍：我觉得现在已经不存在什么阻碍了。算法暴露出这么多问题，以前没有人意识到，但现在人们开始关注了，我们对它的态度变得不一样了。以前的阻挠是大家对此不了解，现在既然更多的人越来越了解，政府部门也开始着手加强对这一块的监管，应该说不存在阻碍。

《财经国家周刊》：您所说的“道德委员会”是怎样运作的？

朱巍：刚才说道算法应该向谁公开，目前的情况是政府和监管部门。但实际应当向道德委员会公开。这个委员会的成员不仅有政府机构人员，还应该包括企业从业人员、各行各业的代表、学者等。它应该是一个综合性的组织，通过抽查的方式来进行监管。我认为这个委员会应该反映出多类人群对有关算法问题的基本价值观念，最后共同来判断这个算法是不是符合道德、有没有问题，这一点很重要。

《财经国家周刊》：在算法监管方面，如何平衡政府审查和企业自律？

朱巍：监管首先是必须的，我们虽然鼓励企业自律，但也不能只依靠企业自律，这种自律必须要有监管做强有力的后盾。中国有句古话叫出礼入刑，在礼教的范围内守礼是对的，但如果你超出了礼的范围，就应该直接处以刑法，这才是对的。仅仅说礼不讲刑，或者仅谈刑不讲礼，国家、社会是治理不好的。所以，依法治国和以德治国的平衡反映到算法上就是这样的一个标准。可以说要有政府的监管，但更多的要靠企业的自律，但如果企业做不好，不要以为就没有任何责任了。责任马上就到，立竿见影，这样的话企业才能更好地履行社会责任，加强对自我的约束。

《财经国家周刊》：除了媒体、内容推送平台，算法公开是否应该推广到所有应用算法的领域？比如商品推送、音乐平台的歌曲推荐、滴滴司机匹配、人工智能决策系统等等。

朱巍：当然，算法公开必须要推广。算法并不单纯地局限于某个领域、某个程序、它代表的是整个行业。我认为在现在的大数据时代，或人工智能时代，算法为王，数据次之。数据其实没有算法那么重要。它是一个双刃剑，一方面带给我们很多的便利，另一方面带来了重大的问题。而未来的发展方向一定是人工智能+大数据+算法。政府在对互联网企业进行管理的时候，如果需要一个抓手，我觉得就是算法。所以在这个背景之下，算法的重要性就不能局限于某一个单纯的领域。实际上，在整个行业中，算法推荐的应用会变得越来越多，我们对算法的监管也不能只看到内容、新闻或者打车软件，一定是各行各业都有的。如果有问题就需要解决，没有问题的也要推广。

《财经国家周刊》：目前的平台算法是否会对不同年龄的用户推送符合其年龄的内容？在未成年人保护上，算法平台的责任是什么？

朱巍：算法平台应该审查用户年龄，并对未成年人推送符合其年龄的内容，但现在很多平台并没有这样做。对于保护未成年人权利保护这一方面，前一阵子出台了一个网络条例，叫《未成年人网络保护条例》，它把对未成年人的保护放到了很高的位置。对于算法来说，如何保护未成年人是必须要考虑的问题，也就是说在内容分发的时候，它必须要考虑到受众到底是成年人还是未成年人，虽然我们国家现在还没有，但是可以仿照国外的分级制度来进行算法的管理，有些内容不适合小朋友看就不能发。保护未成年人权利是十分重要的一点。

《财经国家周刊》：对于上述问题，有必要通过法律手段确定具体的规范吗？内容领域有文化、出版方面主管部门的规定，对于像购物推送等其他领域又由谁来规定呢？

朱巍：其实对于这些问题我们国家在立法上并不是空白的。法律是一套逻辑，不是说必须立法十分精确，把算法写到法律里边。法律是抽象的，但是在具体的操作过程中，要根据实践、根据不同的需要作出解释，这是大陆法律体系的一个特点。既是它的优点也是它的缺点，缺点就是由于过于抽象，大家可能不知道说的是什么。不过，在新事物的发展过程中，有必要把算法涵盖到法律里边，发挥立法的持久性作用。

原广电总局等实际上没有法律，它使用的规则叫做文件，连条例都不是，在判决的时候不能引用，级别很低。反倒是购物平台是有法律依据的，比如《消费者权益保护法》、马上出来的《电子商务法》、《网络安全法》、民法总则等其实都有相关规定，所以各个位阶不一样，处理的事情，采用的方法也不一样。