作者：方浩

「作为人工智能的企业，应该永远恪守一条原则：必须对整个人类的未来充满责任感，充满善意。」

——张一鸣（今日头条创始人兼CEO）

「对于AI，我把他看成一个孩子，一个婴儿，你训练越多和他说越是多话，传递更多价值的话，AI可以和人类合作共同繁荣。」

——Nikhil Jain（ObEN联合创始人兼CEO）

「我们应该欢迎创新，同时，应该确保在创新的进程中最大化人类的价值。」

——John C. Havens（IEEE全球人工智能和自控系统的伦理倡议执行主任）

昨天，在今日头条举办的首届「全球思想盛筵：人工智能与人类文明论坛」上。张一鸣在演讲中有句话让我印象深刻，他说：「我五年前创立今日头条时候的初衷，是希望在信息时代加强人和信息的连接，我认为，文明（CIVILIZATION） 的前提和标志，是信息的充分流通。」

说实话，文明这个词很少出现在国内互联网创业者的口中，反倒是「估值、市值、用户数」等中性词汇容易成为口头禅，再多说一句「创新」，简直就是伟光正。

文明其实是一个具有道德内涵的词汇，它不仅指发展程度，还涉及发展质量。简单来说，比尔·盖茨通过微软成为世界首富，体现了一家公司的发展程度；比尔·盖茨通过微软赚来的钱做慈善，这是一个创业者、一家公司在塑造全社会、全人类的发展质量。当然是文明之举。

把人工智能上升到文明的高度，是昨天大会上来自世界各地嘉宾们的热议点。从来没有一个技术趋势，会让上至政府首脑、学者精英、企业高管，下至普通百姓如此惶恐。惶恐来自人工智能的不确定性：它到底是天使，还是魔鬼？

在全球畅销书《未来简史》一书中，作者尤瓦尔·赫拉利说借助人工智能，人类有可能会从智人升级到神人，老祖宗得道成仙的幻想并非不可能，而且会越来越接近于现实。想象一下《复仇者联盟》里的各路豪侠所具备的各种技能有可能在未来的某一天降临到普通人身上，那会是一个什么样的世界？

但硬币的另一面是，作为一项以服务人类为宗旨同时又以替代人类为目标的技术，人工智能不仅可能会导致大规模失业，还可能导致经济发展不平衡、贫富差距加大、以及颠覆教育、金融等等传统行业。

根据最近麦肯锡的报告，到2030年，人工智能有能力替代全球8亿人的工作岗位。是不是有点像欧洲人发现美洲新大陆之后，当地土著人成为边缘人的命运？人工智能会导致人类社会的进化，但不一定保证人类文明的进化。

张一鸣说：「我一直觉得，AI工程和航天工程，基因工程是人类文明发展的三大跨越式机遇。这三大工程，同时也会是冲击人类伦理和人类生存的三大挑战。目前，AI正处在从实验室走向大规模商业化的早期阶段，很多人对它所带来的经济、法律、安全、伦理等问题开始担忧。」

这段话其实也阐述了此次「全球思想盛筵：人工智能与人类文明论坛」背景：到底应该如何定义人工智能的道德边界？到底应该由谁来定义？

应当讲，人工智能与互联网一样，其进入人们视野的逻辑是：在大学等研究机构的实验室萌发、然后被市场化的企业加以商业化应用、进而引起公众的好奇和参与、最后政府予以重视、管理。

但与互联网不一样的是，人工智能是更为彻底的技术革命，它对传统道德规范、伦理制度的重塑和挑战，要远远大过互联网。所以，在人工智能的伦理链条上，谁是游戏规则的制定者，尤其重要。

无论中国还是美国，当下最火的创业风口，毫无疑问就是人工智能，而这其中，已经成为平台的互联网公司又是最主要的参与者。毕竟，人工智能的核心前提是：一是海量数据，二是规模庞大且活跃的用户数。掌握数据和用户的公司更容易跑到人工智能这场革命的前面。

以今日头条为例，每天处理数据量为 7.8 PB、训练样本量 200 亿条。如何保证信息与用户的有效匹配、如何保证健康信息与用户的正确匹配，其实一直是今日头条在人工智能领域做的事情。

正如张一鸣所说：「于今日头条而言，我们希望人工智能能更好地服务于信息的创作与交流，从而促进整个人类文明的交流，希望今日头条成为一家更负责任的高科技公司。于整个人类而言，我们希望和全世界在拥抱人工智能带来的巨大机会的同时，也一起来直面人工智能给人类可能带来的不确定和风险。」

说白了，大公司在人工智能这场竞赛中，有先发优势，同样也负有先发责任。昨天大会上一位与会嘉宾的发言很有代表性，他说：「我对AI的观点是，我把它看成一个孩子，一个婴儿。你教它越多，传递更多正面价值的内容，比如人类的一些基本价值观价值，AI就越可以和人类共同繁荣。」

某种程度上，类似今日头条这种涉足人工智能领域很早、取得成绩较大的公司，真的就像正在教育孩子的「父母」：什么是对、什么是错、什么值得做、什么不值得做……这些人类基本的教义，正在通过海量数据、深度学习的形式来确立人工智能的伦理规范。

在心理学上，有一个假设：当一个人总是担心发声车祸的时候，车祸发生的概率会越来越低。换句话说，很多车祸的发生，源于对车祸本身的毫无预期。其实对于人工智能的利弊，也同样如此：如果从一开始就有防范意识，有企业主动去「文明」高度的思考，可能人类从智人到神人的进化真是一个美好可期的愿景。

「幸运的是，很多的风险才刚刚露出苗头，在这个和技术赛跑的时间窗口，我们应该从最早期开始将技术的研发和社会影响的研究同时推进，至少我认为一家负责任的人工智能科技公司应该这样。」张一鸣说。