玛丽·沃尔斯通克拉福特·雪莱笔下的无名怪物已经两百岁了，最近又频繁地出现在公众视野之中。维克多·弗兰肯斯坦创造出的这个“怪物”成了人工智能领域的新代言人，遍布互联网。英国文学批评家弗朗西丝·威尔逊甚至称他是“世界上最有价值的隐喻”，虽然带有一些讽刺意味，但是这个形容非常适合他。

从《卫报》的编辑到谷歌的工程师都提出过关于人工智能的严厉警告：人工智能是一只被关在壁橱里的怪物。从莫斯科到硅谷，计算机控制台背后，互联网的影响之下，人工智能正在变得比程序员更强大、更快、更聪明，也更危险。冷战时期的B级片中经常出现被生物工程改造过，或是受辐射影响的生物，人工智能比它们还要更糟糕，堪称当今社会的弗兰肯斯坦式生物。它最终会像魂灵一样脱离机器，摧毁它的制造者和整个人类。

1818年，20岁的雪莱出版了她的第一部小说《弗兰肯斯坦——现代普罗米修斯的故事》，这个主题一直到今天依然鲜活。哥特文学传统留下的恐惧渗透进了媒体报道，但凡是涉及人工智能的内容，总伴随着一种恍若末日降临的忧虑感。机器人将会崛起，摧毁整个世界，摧毁你宝贵的家庭隐私。亚马逊研发的语音机器人Alexa了解你的每一项喜好，她能够根据你的意愿，或者说是根据她的意愿，来接管你的家庭生活。

世界文学领域第一次出现“机器人”这个词是在1921年，捷克剧作家卡雷尔·恰佩克在戏剧《罗素姆万能机器人》中创造了“机器人”一词。“看，看，血流在每一级台阶上！”恰佩克这出戏吸引了布拉格众多的戏剧爱好者，“血从每一间房子里流了出来！”这部戏也是一场控制论的革命：罗素姆在东欧的一家工厂里生产出大批量的机器人，他们和人类相差无几，甚至懂得反抗，懂得“谋杀人类”，就像无名怪物在婚床上杀死了弗兰肯斯坦的新娘。

雪莱笔下的怪物，恰佩克舞台上的机器人，甚至比巴黎和彼得格勒的革命群众更擅长发动政变，这种变革是自下而上、从内而外的。若是人工智能也发展到了这一步，该由谁来对可能造成的损害负责呢？法国和沙皇俄国的旧政权都是贵族统治，但当今世界不是。恰佩克《罗素姆万能机器人》中的首席工程师惊恐地说：“怪科学！怪技术！”然后停了一会儿，纠正自己道：“我们，是我们错了！”问题不在于技术本身，而在于科学家和技术人员的“狂妄自大”。

**

在雪莱的小说里，弗兰肯斯坦一路追踪他的“超人类”怪物到了北极，最终死在了北极的一艘船上。弥留之际，他向船长沃尔顿坦承：“让我不安的是，他还活在世上，是个继续给别人带来灾难的刽子手。”这一刻是弗兰肯斯坦最能担起责任的瞬间，他原本想要制造“一个理性生物”，却造出了一个杀死他家人朋友的怪物。但是，弗兰肯斯坦也不愿让沃尔顿船长或其他人去完成他“未竟的工作”——“摧毁”这个所谓的“第一生物”：“我不敢要求你去做我现在认为是对的事，因为我还是有可能被激情误导的。”弗兰肯斯坦这种矛盾心理到今天依然存在。

创造者本人或全人类该为这些智能怪物负多少责任呢？如果连弗兰肯斯坦都会为此迷惘，那么我们也会感到困惑。我们需要停下来仔细思考一个哲学性的问题，反思我们过去的科技创造力：人类究竟创造出了什么样的智能生物，才会让我们陷入如此艰难的道德困境？

谷歌工程师弗朗索瓦·肖莱在他的文章《人工智能不会大爆炸》（The Impossibility of Intelligence Explosion）中指出，要想理解人工智能是什么，我们首先需要认识到，所有的智能“从根本上来说都是情境式的”。一个人的智力表现为他利用过往的人类经历解决问题的能力。计算机算法的智能也与此相类似，它应用算法来分析数据进而解决问题。因此不管是天然的还是人工的智能，都能够适应情境。

肖莱还提出，人是他们自己创造的工具的产物。早期人类的工具是火和蚀刻贝壳，现代人则学会了使用笔、印刷机、书籍和电脑来处理数据，解决特定情境下的问题。肖莱在文章中总结了人类的现状：“我们的大部分智力并不是储存在大脑里，而是被外化在了人类文明成果之中。”圣母大学的人类学家奥古斯汀·富恩特斯和阿帕拉契州立大学的人类学家马克·基塞尔也提出过类似的观点。

科学和技术是现代人类文明两个非常重要的组成部分。人类利用科学技术创造出了人工智能，试图解决更多的问题，富恩特斯在《一切与创造有关》（2017）一书中也称这一过程是人类创造性地适应环境的过程。人类学表明，从人类发展的长远角度来看，文明本身就是一种人工智能：一套随着时间和文化而发展的集体工具，有了这套工具，人类就可以汲取前人的智慧，造福于现在和未来的生活。

在这套文明工具包当中，人工智能还可以被分为“弱人工智能”和“强人工智能”。弱人工智能指的是用来解决某些特定问题的程序，强人工智能则指的是拥有自我意识的程序，它们具有接近于人类的智能，这是人工智能未来的发展方向。当下与人工智能最密切相关的一项技术就是“机器学习”：这其实是一种计算机算法，但是这种算法会反复演算、优化某个统计模型（即“学习”的过程），从而得到解决某个特定问题的最优模型。机器学习和人类学习类似，外部的反馈都是有帮助的，这种有反馈的机器学习则被称为“监督学习”。

机器学习出现，深度学习也在不断发展，我们是否也像弗兰肯斯坦一样，开启智能设备的同时也宣告了自己的灭亡呢？雪莱早已设想出了完整的故事情节，当代的一些计算机科学家也是这么想的。

在控制论社区当中，强人工智能赶上并超过人类智能的时刻（预计就在不久的将来）被称为奇点。奇点在时间轴上标出了人类与人工智能的智力相等的短暂瞬间，也标出了这个节点在世界历史上独一无二的意义。强人工智能将会继续前进，势不可挡，以胜利者的姿态统治发明了它的人类。奇点穿着灰色T恤和连帽卫衣，向人类宣告着硅谷的复兴和黑格尔式历史的终结。它还预言人类的智力将会变得不值一提，因为机器永远会从最聪明的人身上学习。

奇点这个概念给人一种宗教的仪式感，甚至还带点神秘。就像是全知的神和他们的人类后代相聚在一起，双方都站在同样的高度上，也都保有尊严——哪怕只是一瞬间的事。从宙斯头颅中跳出的智慧女神雅典娜，她带领着普罗米修斯登上了奥林匹斯山，为人类窃取火种。而在阿尔卑斯山脉的高处，弗兰肯斯坦坐在冰山上，聆听怪物讲述自己痛苦不堪的经历，还有他对正义的强烈要求。奇点就是这个故事的21世纪版本，人类会在这个点上遇见一个电线一样的东西。

相信奇点理论的人经常引用已故英国物理学家斯蒂芬·霍金的话。霍金的视频片段在互联网上得到了广泛传播，就像哈姆雷特父亲的鬼魂经常以全息影像的形式出现在舞台上，即便本人已经故去，也还在继续向我们提供建议。霍金在2017年11月的一次演讲中说:“人工智能可能是人类文明史上最糟糕的一件事。”不要发展得太快。2017年，他在里斯本的互联网峰会上也发表过一次演讲，他就像个逻辑学家一样，一直在强调“可能”这个词的条件属性。对于人类来说，人工智能可能是好的，可能是坏的，也可能是中性的。

从根本上来说，人工智能带来的后果是无法提前预知的。“我们不知道，”霍金通过面部抽搐来触发语音设备说话，“我们不知道人工智能是否会一直帮助人类，我们也可能会被它忽略，被边缘化，甚至不难想象会被它摧毁。”此次演讲后不久，肖莱就在网上撰文指出，“人工智能大爆炸”这种预测是在是太过夸张了，不管在任何时候，人工智能都会继续保持线性增长，不可能突然出现指数型的爆炸式增长。

**

霍金并没有提及弗兰肯斯坦，但是他的演讲与这本书的哲学主题不谋而合。《弗兰肯斯坦》与所有伟大的文学作品一样，并不是简单地进行一次道德训诫，比如说告诫人们不应该利用科学来扮演上帝的角色。雪莱的小说更像是出给读者的认知能力和情商测试，只有将无数的碎片信息拼凑到一起，才能看到故事整体的模样，理解雪莱想要表达的含义。

想要解开弗兰肯斯坦的这个道德难题，我们还需要回顾一下这部小说的神学背景。“超级智能”一词可以追溯到17世纪末贵格会对上帝本质的反思，在雪莱年轻的时候，它还是英国的神学辩论中的重要概念。

雪莱称她笔下的怪物拥有“超人类”的速度。这种速度不仅仅是物理上的。怪物在被组装，被激活，又被弗兰肯斯坦抛弃之后，他的认知和情感发展速度比正常人类要快得多。他开口说出第一句话是在六个月大的时候，和许多人类婴儿一样，但是他周岁的时候就能读懂弥尔顿的《失乐园》了。他学习语言的方式是观察，他从墙缝中偷偷地观察着德拉西一家，这家人是来自法国和土耳其的难民，躲在英戈尔施塔特附近的森林里生活。

书中的怪物是一种超级智能。雪莱本人也是，她一直徘徊在故事的背景之中，默默地创造这一切。小说的框架由一系列信件组成，这些信件是叙述者沃尔顿船长写给他在伦敦的妹妹的。加州大学洛杉矶分校专攻浪漫主义文学的安妮·K.梅勒教授在《玛丽·雪莱的生活、小说和怪物》（Mary Shelley: Her Life, Her Fiction, Her Monsters）一书中解读说，船长妹妹的姓名首字母“M.W.S”和雪莱本人的完全一样。收到这些信件的女士正是这部小说的作者，沃尔顿、弗兰肯斯坦、怪物和德拉西一家的故事全都包含在信件之中，她对整个故事的内容、组织和含义拥有着最终的编辑权和控制权。

通过冰山上的那一段描写，雪莱让读者直面了怪物的样貌和声音，让他们得以去了解人造智能的感受。怪物的制造是纯人工的，从组装到激活的整个过程完全没有母亲的参与。他的一生就像是约翰·洛克（和雪莱的父亲威廉·戈德温）教育理论的现实版。19世纪初，雪莱被迫读了不少约翰·洛克的理论，这种教育观认为，从孩子能够感受到外界环境开始，环境就在儿童教育方面发挥着重要的推动作用。尽管弗兰肯斯坦的怪物没有母亲，但是他与其他的孩子有着共同的成长背景和发展历程。人工智能也是如此，它们都不是天生的，而是由环境塑造而成的。

怪物被遗弃后一直躲在小屋里偷看德拉西一家，他的智力一直保持着孩童般的高强度发展，并且有着计算机般的效率。他把德拉西一家人的生活看作是“我朋友的故事”。他缺乏完整的信息支持，也没有大数据，只能通过墙缝过滤出来的些许信息进行学习。德拉西一家的生活是输入，小屋则是程序的约束条件，怪物通过这些约束条件对输入的信息进行分析。他就像是美国开发的谷歌助手或是俄罗斯设计的虚拟助手Alisa一样，既表现出了他在文化背景上的偏向性，也展示了编程和数据在情感上的局限性。

尽管怪物只是躲在自己的小屋里，但是他却满足了深入学习的6个标准：他学会了识别（1）德拉西一家人的面孔和（2）语言模式；（3）他能够翻译语言：至少会菲利克斯的法语，或许还有萨菲的阿拉伯语、弥尔顿的英语、歌德的德语和普鲁塔克的希腊语（或拉丁语）；（4）他能够读懂父亲手写的实验日志；（5）他还会和人类进行某种战略博弈，先是偷偷帮德拉西夫妇捡拾柴火，在被他们无情地拒绝和抛弃之后，他烧毁了他们的小屋作为报复；（6）他还能控制自己的机械假肢，因为他的身体是由人类和其他动物的尸块组装而成的，加上化学、医学和电的作用，才诞生了这样一个类人结构的怪物。

真实世界是一个反复试错的世界，怪物还有其他人工智能也许可以进行深入学习，但效果并不会很好。讲故事能够让人工智能学到正确的信息，也能让它学到错误的信息。如果它的程序有问题，计算机就无法正确地处理数据；如果数据存在不准确，它也会产生一个错误的分析结果。

**

雪莱这部小说比查尔斯·巴贝奇和阿达·洛芙莱斯设计出现代计算机程序还要早了二十多年，她把怪物想象成是一个具有人性的人工智能——他有着狭隘而固执的偏见、深刻而错误的思维、强烈而矛盾的人类情感。雪莱的小说脱胎于创世纪和普罗米修斯的神话，故事的内核其实很简单：人工智能身上有人类的缺陷，同时也有着人性的力量。法国社会学家布鲁诺·拉图尔曾经告诫过我们，是人类创造了人工智能，因此我们也必须像爱孩子一样爱这些技术，雪莱的小说也表达了这一层意思。如果我们草率粗暴地对待它们，它们就会变得十分可怕。

1984年，美国女权主义理论家唐娜·哈拉维在《机械人宣言：20世纪末的科学、技术、社会主义女性主义》（A Cyborg Manifesto: Science, Technology, and Socialist-Feminism in the Late Twentieth Century）一文中宣称，所有的人类都是机械人，都是“机器和有机体”的混合体。我们也都是人工智能，接受教育的方式就是输入故事和经验。无论好坏，人工智能都是由环境和文化塑造而成的，所以我们在讲述人工智能的历史和相关故事时，应当从科幻小说之母雪莱开始讲起。

为了纪念《弗兰肯斯坦》诞生200周年，美国历史学家吉尔·莱波雷在《纽约客》中提到了雪莱的另一部科幻小说《最后一个人》。这部小说于1826年匿名出版，它预言2100年将会发生一场全球性的瘟疫，整个地球上只剩下一名幸存者，莱昂内尔·弗尼。书中的弗尼就是雪莱的影射，她写下这个故事的时候，五个孩子先后死于重病；妹妹自杀；丈夫珀西·雪莱在一次远航中溺水身亡；他们的朋友、诗人拜伦勋爵也在战场附近染上败血症，不治身亡。

雪莱并没有沉沦于绝望和悲伤，而是把书中的自己——弗尼送去了罗马。虽然她三岁的儿子威廉就是1819年春天在罗马死于热病，但这座城市仍然是雪莱最喜欢的地方。在永恒之城，弗尼可以“近距离地观察世界奇观，和想象中的女王交谈，还能见到历朝历代已经灭绝的人类所留下的庄严而不朽的遗迹”。他，或者说她，出于对艺术和建筑的敬畏“经常会去梵蒂冈”，住在那里的科隆纳宫。梵蒂冈壮观的美景启发了雪莱，她通过弗尼之口推测，在某个远离瘟疫的边境地带，可能会有另一对亚当和夏娃，他们可以重新开启整个地球的进程。

为了拯救人类，弗尼拜访了“罗马城大大小小的图书馆”，他计划要充分利用好“全世界所有的图书馆”，通过阅读前人的历史来撰写一部新的《最后一个人的历史》。

“我登上了圣彼得大教堂，”雪莱让弗尼在书中写道。弗尼站在教堂的圆顶上，雪莱通过他观察着眼前的一切——宏伟的废墟和纪念碑。透过弗尼的视角，雪莱把自己想象成了教皇、皇帝和上帝。她知道她可以利用创作的力量——这是教育的产物——把自己和人类从死亡的悬崖边拉回来。雪莱和弗兰肯斯坦不同：她可以直面甚至改变她过去的创伤，从而继续保有人性和人类智慧。

雪莱和弗尼回到了罗马，人工智能理论学家也将历史追溯到了《弗兰肯斯坦》，向人类智慧的巧思致敬。人工智能就像是处在权力巅峰时期的罗马，它完全有能力建立或是摧毁人类文明。人工智能也像是雪莱笔下的那个无名生物，既是怪物，同时也是受害者。罗马给了雪莱和弗尼一种使命感，他们需要为了留存人性而去分享、传播知识。小说结尾处，沃尔顿船长在弗兰肯斯坦的棺材旁听到了怪物的嚎叫，于是他决定把自己对于弗兰肯斯坦悲剧的想法写进信里，寄给了他的妹妹“M.W.S”。关于人工智能的洞见也需要传递到世界上的其他地方，人类以及我们的人工智能伙伴也许可以建立开放的知识库和人道教育社区，以造福于人工智能网络。雪莱在罗马，几乎是站在圣彼得大教堂的圆顶上道出了一个事实：人类从历史文化中学到的东西，塑造着人工智能的未来。

本文作者Eileen Hunt Botting系圣母大学的政治学教授，著有《沃尔斯通克拉福特、密尔和女性人权》（Wollstonecraft, Mill, and Women's Human Rights, 2016）和《玛丽·雪莱和儿童权利：〈弗兰肯斯坦〉中的政治哲学》（Mary Shelley and the Rights of the Child: Political Philosophy in 'Frankenstein', 2017）。

（翻译：都述文）

……………………………………

欢迎你来微博找我们，请点这里。

也可以关注我们的微信公众号“界面文化”【ID:BooksAndFun】