文 | AI报道

在人工智能尚处于开始的阶段，人工智能的“超能力”令民众感到恐惧，随着对AI的普及、AI产业的发展，人们对AI的恐惧逐渐消失，但随之而来的隐私、造假、歧视、数据泄露以及伦理道德等问题凸显。

在国际上，越来越多的国家开始设立AI伦理道德相关的研究，如斯坦福成立“以人为本”的人工智能研究所(HAI)、欧盟发布人工智能伦理准则、IEEE发布人工智能伦理标准等，除此之外，如亚马逊、谷歌、微软、Facebook等科技企业也设有关部门以解决AI伦理问题。人们越来越重视AI在人类社会上的伦理作用，而AI产业走在世界前列的中国亦不例外。

6月17日，国家新一代人工智能治理专业委员会发布《新一代人工智能治理原则——发展负责任的人工智能》（以下简称《治理原则》），提出了关于人工智能治理的框架和行动指南，并提出了“和谐友好、公平公正、包容共享、尊重隐私、安全可控、共担责任、开放协作、敏捷治理”八项基本原则。

我国的人工智能治理进程

《中国新一代人工智能发展报告2019》显示，我国人工智能论文发表量全球领先，企业数量等多项指标居全球第二位，而随着人工智能技术的发展和应用，AI对中国政府管理经济模式、社会结构、国家安全甚至国际关系产生深刻的影响，其治理方面的问题不断出现，引起了科技界、产业界和社会的广泛关注。2019年3月26日，中国国家新一代人工智能治理专业委员会成立。

据了解，委员会的工作重点包括：建立组织架构和工作范式，明确工作定位和工作机制；全面开展人工智能治理方面政策体系、法律法规和伦理规范研究；坚持问题导向，突出重点，对标国际关切，特别是在数据垄断、算法歧视、智能滥用、深度造假、数据下毒、隐私保护、伦理道德、不平等智能操作及对社会结构影响等重点领域加强监测与研判等。而起草这份《治理原则》就是委员会今年的重点工作之一。

中国国家新一代人工智能治理专业委员会主任、清华大学苏世民书院院长薛澜表示：“我们在网络上公开动员公众参与，形成了上百条重要建议。委员会还多次召开有关高校科研院所和企业代表参加的座谈会，广泛凝聚了学界、业界和社会的共识。”

据中国科学院自动化研究所研究员、国家新一代人工智能治理专业委员会委员曾毅介绍，目前全球各国政府、非政府组织和产业界机构已发布了超过40份人工智能准则，这些准则往往是在发布征求意见稿之后听取意见。“《治理原则》是在未发布任何内容的情况下，收集从业人员甚至普通用户对人工智能的期待和愿景，这是《治理原则》最主要的一个特点。”

“负责任”应成AI发展的主线

专家们认为，“发展负责任的人工智能”应成为贯穿人工智能发展的一条主线。“发展负责任的人工智能”成为《治理原则》的主题，并涵盖了人工智能的基础研发层到应用层。薛澜表示，如委员会提出的“和谐友好”等原则，强调无论是人工智能提供的产品还是服务，都应该是负责任的、全面的，应以增进人类共同福祉为目标，应该符合人类的价值观和伦理道德，避免误用，禁止滥用、恶用。

曾毅说，八项原则之一的“共担责任”就明确人工智能研发者、使用者及其他相关方应具有高度的社会责任感和自律意识，严格遵守法律法规、伦理道德和标准规范。建立人工智能问责机制，明确研发者、使用者和受用者等的责任，曾毅认为，这就要求人工智能研发、应用、管理等相关方面高度协同，共担人工智稳健发展的大任。

“人工智能的发展仍然存在技术和社会潜在影响的双重‘不确定性’，因此我们要对更高级的人工智能潜在风险持续地开展研究和预判，确保人工智能健康稳健发展。”

曾毅指出，现在一些技术开发者没有经过这方面的专业训练，通过创新为社会带来正面效应的同时，对相关的风险不重视或无意识，给社会带来了较大的隐患，希望《治理原则》的发布，推动“自适应”的治理，确保人工智能朝着对全人类、全社会及自然生态有益的方向发展。“我们现在是把这些原则写在纸上，最终希望能写到每一个人工智能开发人员和使用者的心里。”

确保人工智能安全可控可靠，规避风险隐患，人人有责。从《治理原则》里的“问责制”中明确研发者、使用者和受用者等的责任可以看出，这不仅仅是一份开发者和企业的AI使用手册，也是消费者的AI使用手册。

《治理原则》旨在更好协调人工智能发展与治理的关系，确保人工智能安全可控可靠，推动经济、社会及生态可持续发展，共建人类命运共同体，这也构成了《治理原则》的4个主要亮点。

“多事之夏”的国际交流方式

在这个“多事之夏”的特殊节点上，《治理原则》的推出除了在积极加强AI法律、伦理、社会问题研究之外，还能够借此接连国际上的学术交流，推动国际合作。

据薛澜表示，制定并发布《治理原则》，一是要推动世界各国加强多层次沟通交流；二是在交流沟通的基础上，推进全球开展各种形式的合作研究与对话，以促进加深了解，形成共识；三是在深入研究、对话、寻求共识的基础上，逐渐形成人工智能全球治理的合作框架，积极应对人类共同面临的挑战，“通过国际合作，保证人工智能真正造福人类，增进人类福祉，这是我们的目标”。

“很多国家的发展阶段不同，人工智能可能也面临着不同的应用场景，这就需要在交流沟通的基础上开展合作研究和对话。”薛澜表示，只有在充分尊重各国人工智能治理原则和实践的前提下，推动形成具有广泛共识的国际人工智能治理框架和标准规范，才能增进人类共同福祉。“人工智能走到哪儿，治理原则就应该跟到哪儿。”上海大学教授李仁涵如是说。