正在阅读:

【专访】伊恩·麦克尤恩:当机器人比人类更完美甚至更道德,人类该如何自处?

扫一扫下载界面新闻APP

【专访】伊恩·麦克尤恩:当机器人比人类更完美甚至更道德,人类该如何自处?

这位年过七旬的英国作家的新作探讨了人工智能与人类的关系,在他眼中,人类的个体性已然终结,我们正迈向人工智能的“奇点”。

图片来源:视觉中国

记者 | 王磬

编辑 | 黄月

满头银发的伊恩·麦克尤恩出现在视频另一端的时候,正是伦敦的周末傍晚。这位风靡英文世界的文学巨人,因其文字冷峻幽暗,常被称为“恐怖伊恩”“怪兽作家”——但此刻,屏幕前的他眉眼慈祥,颔首微笑。书房里灯光昏黄,他语调温和:“嗨,好久不见。”

两年多以前,我曾在伦敦的一间书店里跟麦克尤恩有过一场谈话,聊他的小说和当时的全球格局——他关心时事,是作家,也是英国活跃的公共知识分子——但那时还没有全球大流行,世界还是另一番模样。

如今初秋刚至,新冠疫情第二波已经又开始席卷英伦大地。72岁的麦克尤恩显然是高危人群。过去半年的大多数时光,他都与家人共同住在一幢位于伦敦远郊的别墅里。他告诉我,由于有个做病毒学家的儿子,他们比普通英国人更早地进入了防疫状态。与人群的距离保证了安全,但也让他偶尔感到孤单,“辛苦但幸福”——他这样形容与家人的封城生活。

万里之外的中国,被疫情打乱的生活秩序已经逐渐恢复正常。八月,在人头攒动的上海书展上,麦克尤恩的新作《我这样的机器》(Machines Like Me)发布了中文版。

《我这样的机器》
[英]伊恩·麦克尤恩 著  周小进 译
上海译文出版社 2020-7

这是一部关于人工智能的小说,讲述一个发生在“平行世界”的故事:作家想象里的1982年,计算机科学之父艾伦·图灵没有自杀,人工智能高度发达,人们可以购买跟真人极度相似的机器人,并给他们输入价值观。故事的主线是男女邻居和机器人亚当之间的三角恋。男主角查理购买了亚当,亚当却与女主角米兰达发生了亲密关系。然而,在发现了女主角为复仇诬告强奸之后,亚当没有听从人类的指令,而是做出了自己的道德选择。麦克尤恩延续了他一贯擅长的对亲密性的描写,亚当不仅有与人类似的外表、甚至也有极其细腻的心理活动。作家借人工智能的伦理困境探讨了人的困境:人类是否会被自己创造出来的机器人打败?当一个机器人比人类更完美、甚至也更道德的时候,人类该如何自处?

小说的另一重背景设置是,在八十年代初的英国,撒切尔夫人没有当上首相,社会也没有因此走向差距剧增的新自由主义。作为一个对现实有强烈关照的作家,麦克尤恩也在此表达了他对政治和历史的通盘思考:历史进程具有高度的偶然性与意外性,一个微弱的岔路或许就能造成颠覆性的不同结局。

小说英文版在2019年发布时就引起了英文世界的广泛关注。“机器人什么时候最像真人?当它跟你的女朋友上床的时候。”英国文化杂志《新政治家》这样感叹道《纽约时报》评价道,“制造合成的人,是否能够激发启蒙或是减轻痛苦?……麦克尤恩几乎是重写了技术和不计其数的其他事物的历史,以使亚当这样的人工智能杰作能够出现在撒切尔的时代,并显得真实可信。”《卫报》则认为,“在平行世界里的1982年的不列颠,通过反乌托邦式的人形机器人,麦克尤恩回到了他颠覆性的早期写作风格。”

早年的麦克尤恩有着“恐怖伊恩”的昵称——二十几岁的他笔下百无禁忌,从虐恋到死亡,从乱伦到易装,他热爱书写残缺的人和病态的爱,荒诞是始终的底色。但在后来的几十年中,走向大众的麦克尤恩逐渐摈弃了早期那种暗黑的、内卷式的写作风格,而是将视野投射到更广阔的社会议题之中。从战争题材到法律题材再到英国脱欧,他在不断尝试跨越边界。

麦克尤恩(来源:http://www.ianmcewan.com/)

如今,他被认为是英文世界里“最会写作的人之一”。他曾五次入围英国最高文学奖项布克奖名单,并最终凭借长篇小说《阿姆斯特丹》(1998)夺魁。他还是好莱坞的座上宾,创作的小说有近一半被搬上了大荧幕。最为人们熟知的是长篇小说《赎罪》(2001),由它改编的同名电影2007年获得了奥斯卡七项提名。

这一次,他希望跨越的边界似乎比以往都更有野心:不再只是关于人的行为和内心,而是通过“他者”——机器人——来反观和审视人的存在。他尝试带入这样的讨论:文学可以如何去想象人工智能,人类又可以如何想象自身与他者的关系?

以下是界面文化对麦克尤恩的专访全文,刊发时有编辑。

01 我感兴趣政治决策对私人生活的深远影响

界面文化:很高兴再次见到你。在谈论你的新小说之前,我想先问下疫情对你的影响。这几天欧洲疫情的第二波又起来了。你的身体还好吗? 你的家人和朋友是否受到了影响?

麦克尤恩:我们都还好,在乡间隔离,有一间老屋,风景不错。孙辈、儿子和儿媳都在这里,但每次来都要先隔离一阵,因为小孩们都已经回到学校里了。我儿子和儿媳在这里呆的头三个月里怀上了孩子。她不久后就要临盆了,这是个重要的时刻。

封城期间我们一家人度过了辛苦但幸福的时光,每个人都在忙前忙后。我们的空间相对充足,还能享受湖景和大片的空地。我还是很想念朋友们,与家人团聚也并非易事,需要良好的耐心,但比起很多人我们已经算幸运了,比如那些不得不和还在上学的小孩一起挤公寓而没法维持安全距离的人,还有疫情期间不得不仍然为生活奔忙的人。

英国现在的情况正在逐渐变糟,增长曲线很陡峭,可能会再来一波封城,盼望经济复苏的人们将面临不小的压力,这个问题近乎无解。如果你封了城,把人们都关起来,问题之一就是许多患有其它疾病的人因此去不了医院,导致病情加重。

相比之下,中国似乎已经回到了常态,武汉人甚至可以外出聚会和上班,能够正常生活了,但我们不知道情况是否还会恶化。疫情爆发以来我一直保持关注,许多欧洲国家没有在第一时间做好应对,导致事态恶化,这令人遗憾。

我的长子是位病毒学家,他很早就让我们意识到了新冠疫情的严峻性,甚至比英国政府还要早。我们当时就取消了去意大利度假的行程,那是在意大利北部封锁之前。如果我们照常去度假的话,就会因为封城而被困在伦巴底。那样生活又会是另一番光景了。

界面文化:很高兴得知你全家安康。想必你已经听说,你的新小说《我这样的机器》的中文版就是这个月在上海书展上发布的,希望书展上或书店里的热闹情景也能很快在全球各国重现。说到这部小说,我在翻看中文读者评论时发现了一些有趣的讨论。比如大家会好奇,这部小说的背景为什么设在了1982年?八十年代对你有什么特殊意义吗?

麦克尤恩:完全是因为阿兰·图灵(Alan Turing)这位伟大的计算机科学家。他在1954年自杀了,而我想让他活下去。我把他写得老了一点,和我的年龄相近,大概是1982年时70岁的样子。

阿兰·图灵(来源:Wikipedia)

这一年对我们而言十分有趣。福克兰群岛危机(编者注:即英国与阿根廷的“马岛战争”,阿根廷一方称“马尔维纳斯群岛”)让有关二战和大英帝国的深刻记忆又强势地回到了我们的政治生活中。撒切尔夫人的成功也源自于此,她的声望原本就高,再加上在福克兰群岛之战中力排众议、坚持派遣舰队远征八千多英里并取胜,地位得到了进一步巩固。这彻底改变了她的执政风格。

大大小小的政治决策对私人生活的深远影响是我很感兴趣的话题。例如,图灵的自杀是否左右了人工智能的发展前途,或者撒切尔夫人派遣了舰队这件事对于英国政治乃至于阿根廷政治有怎样的影响力。从这些案例中我们可以窥见:人类预见未来的能力谈不上有多强,然而未来又出自我们之手。

譬如,福克兰之战英国落败的几率也是不小的,派遣舰队的行动风险极高,假如阿根廷在法国帮助下成功地修正了导弹的路线,那英国舰队就很可能全军覆没。诸如此类看似微不足道的技术性细节足以改写历史。它导致了阿根廷专制政府的倒台,在英国国内则帮助保守党取得大胜。

我认为如今的科技也与此类似,具有高度的偶然性与意外性。英国17世纪就有了显微镜,已经能观察到细胞层面的变化,但这一进步在当时对医学的影响并不大。科学发现和医学分道扬镳,乃是机缘巧合的结果,经过了很长一段时间二者方才重逢。另一个经常被提起的重大问题是,工业革命何以发生在英格兰北部的一个小地方?乍看之下某个地方只要有煤矿就能发生这样的革命。这是人类历史上的非凡一刻,机器取代了人与动物的肌肉力量。但其发生的时间则可以更早或更迟。

1982年也是这样的关键时刻,不少重大转折就发生于这一年。于是我就想,假如完全没有亚当,也没有能够与之比肩者,那技术的发展将会怎样?但我仍然保留了亚当,以凸显历史中的偶然一面。

界面文化:我的阅读体会之一是,《我这样的机器》虽然属于科幻小说类别,但其实植根于现实。在阅读时能感到它在各个层面上都与我自身息息相关,比如很多生活上的细节。你并没有像许多科幻小说作者那样完全创造出一个架空的世界,而是从现实出发,但修改了一些假设,加入了一些充满偶然性的实验,才成就了这样的故事。这是否是有意为之?在创作一部科幻小说时,何以有这样的抉择?

麦克尤恩:谢谢你的反馈。我的意图是展示一种与我们的记忆略有出入的生活。比如,约翰·列侬(John Lennon)没有被枪击,披头士乐队完好如初,但他们出了一张很烂的专辑。好些政治事件都有向另一面发展的可能。

《我这样的机器》英文版书封

我跟朋友出来吃饭时都会聊很多政治话题。我们会讨论明年的生活将会怎样,既有乐观的说法也有悲观的预期,摆在我们面前的岔路有若干条。赢得美国总统大选的会是特朗普还是拜登?这仍是一个悬而未决的问题,其结果对世界的影响不可估量。我也回想起了当年布什与克里的选战对决,最终一锤定音的是最高法院。如果克里获胜,也许就不会有伊拉克战争,2000万因此失去生命的人就能活到现在,许多事情会是另一番面貌。

这部小说根植于具体可感的现实、但某些事件的细节又有所不同,是因为我的目标始终在于探索个人与人工智能建立紧密联系的可能性。在未来十五年乃至于三十年、一百年的时间里我们会如何设想自身?目前不得而知。

我们已经开始和机器对话,对电脑智能也有了依赖性。我们也已经开始规划内置精巧程序的基础设施,我们会和Siri以及Alexa这些机器人聊天。它们显然还不那么像人类,功能也还比较基础,但过去十年来它们已经在相当程度上深入了我们的生活。借助于这一开端,我们对结局已经能窥见一斑。有人认为与机器的对话预示着文明层级的巨变——我完全同意这种说法,这已箭在弦上。新冠封城一定程度上加速了这一进程,人们面对面打交道的机会不多,只得花更多时间在屏幕上,对其产生了更强的依赖性。新书虽不乏科幻元素,但我其实想写的是一部与现实只是稍有出入的现实主义小说。

02 人工智能的发展将深化我们对“身为人类究竟意味着什么”的认识

界面文化:就我个人的阅读体验而言,你确实现了这个目的。想象力是小说家的必修课,你过往的作品中也呈现了大量关于人的非凡的想象,但要去想象机器人仍然不易。你如何展开关于人工智能的想象?你的灵感与知识从何而来?人们喜欢津津乐道你与顶尖人工智能专家——比如被喻为“AlphaGo之父”的戴密斯·哈萨比斯(Demis Hassabis)——之间的长谈,这是你获得启发的方式之一吗?

麦克尤恩:我对于想象力的理解是,你要从已经发生的事情出发,勾勒出一条通往未来的路线,哪怕你明白自己几乎肯定会犯错误。有鉴于此,我的小说严格来讲不打算预测未来。我把背景设定在过去也是出于这样的考虑,不想和预测扯上什么关系。科幻小说一般会展望未来,会告诉我们事态将会如何发展。但专注于过去使我更加自由,它彷佛暂停在了时间里,这段过往并没有发生,但它是有可能发生的,它清晰可辨但也经历了根本性的变化。

必须承认,我在写这本小说时基本没有专门去做研究,因为我一直就对人工智能很感兴趣。1970年代晚期,我曾写过一部戏剧,其中涉及到电脑在二战时期的初步应用,当时它主要用于破译密码。人们对人工智能的失望也是从那时开始的。当时的人预测十年内电脑将与人脑、人类心智无异,图灵在1948年也有类似的预测,但预言落空了。历经六七十年代一直到八十年代,人工智能依旧是少人问津的小众课题,只拥有一小群狂热爱好者。

人们始终未能充分理解人类心智的复杂性,不明白诸如“端起杯子喝水”或者“找个地方坐下”这样的行为当中有多少运算量。这种层次的生物处理(biological processing)如同奇迹一般,要在这条路上迈出哪怕一小步都得经历千难万险,现况也是如此。

你可能读到过计算机“深蓝”首次战胜国际象棋大师的故事,但那还只是海量数字运算的问题。后来,软件更趋精巧,可以在机器上下围棋了,它可能是地球上最复杂的游戏之一。但我们只教给机器一系列规则,由它自行运作,然后它在五次对决中四次击败了人类围棋高手。这是史无前例的,计算机智能通过深度学习得出了自己的结论。

鉴于此,我认为眼下不妨运用想象力设想一下:假如你交谈的对象并非屏幕,而是某种长得像亚当一样的、外貌与应答方式都与人类高度相似的东西,那么哪怕你一遍又一遍地告诫自己“这不过是一台机器”,哪怕你具备与他人相处的丰富经验,你可能依旧会忍不住和它发展出情感关系。这种亲密关系可能会帮助人们重新发现自己。

图片来源:视觉中国

仅就三十年前的简陋程序而言,都有许多案例可循,譬如你对某个扮成医生的软件程序说:“我今天的感觉真差劲。”

程序回复,“是吗?”

“是啊,我一想起自己的童年就有一股很差劲的感觉。”

程序回复,“展开讲讲?”

“我回想起了小时候每天被妈妈打屁股的经历,”

程序接着说,“你对此感觉如何?”

……

电脑程序当然是对人的感受一无所知的,但人类的设计令该程序能收集许多来自真人的回应。不少人甚至还表示,自己与这个电脑程序的对话达到了终生难忘的水准,可那只不过源于简单的算法。假如你能设想一个像亚当这样可以表达及回应各种情感的存在者,那小孩对玩具熊产生深厚感情也就不是什么难以理解的事情了。我认为自己的小说对这种高度的亲密性处理得还不错,这也是我的一大兴趣点。想一想,假如某个东西长得和你几乎一样,同时你也知道它不过是集成电路或来自硅谷,那你们将会有怎样的互动?你们之间大概很难不发展出情感纽带,这种冲动根植于我们的内心深处。

界面文化:的确,这部小说里许多精彩的桥段都与机器人亚当的情感回应有关。我印象很深的一个情节是,亚当在男主角查理打算拔掉它的电源时捏碎了男主角的手腕;另一个情节是,女主角米兰达的父亲误以为亚当是她的男朋友、查理才是机器人。

这涉及到人工智能领域的一个关键问题:机器人是否将最终拥有自我意识?一些人持否定态度,认为即使算法再精巧、机器人也不过是对既有程序的重复;另一些人持肯定态度,认为技术发展到一定程度后,机器人就将衍生出自我意识。就这部小说而言,一方面,我感觉你似乎更倾向于第二种态度:你赋予了亚当完全的能动性及主体性。但另一方面我又感觉到,你仍然是在写“人”的故事:即使有自我意识的机器人,其作用也是为了帮助人类更好地探索自身,仍是一种工具化的存在。

麦克尤恩:我认为人工智能的发展必将深化我们对“身为人类究竟意味着什么”这一问题的认识。我们会造出各种机器,但永远也不知道它们是否有自我意识,至少从哲学上讲,双方甚至无法就这个问题展开沟通。但我们完全有理由设想每个小孩都经历过类似的思想契机,即他人之于其自身是否是真实的,正如我之于我自己。我们永远无法证明有自我意识这回事,但有一条思考它的捷径。如果你无法说出电脑与真人的区别,或机器人与真人的区别,那你或许就能假定机器人和人类似,也应当得到尊重。

如此一来,我们便碰上一系列有趣的问题:它们是否也有权利,我们是否会像人与人相处一样保障它们的权利?正是基于这个理由,我在小说里让伟大的阿兰·图灵狠狠地斥责了一番主角,对此人说你毁掉的不仅是电脑,一并被毁的还有智能与意识。

我们会造出某种新的意识,虽然我不认为它是人类意识,但我们总归会与之打交道。目前人工智能领域已经浮现出不少问题,国家、民众和大企业都在争夺其控制权,以实现入侵、监控或传播等目的。单是面部识别这项功能就已经有足够的压迫性,各国政府都能轻松取得公民的信息。我们的个体性已然终结。在多大程度上我们愿意让企业、政府和商业利益入侵我们的私人空间?目前最顶尖的人工智能研究多与军方有关,或许不久后就会让机器来决定生死攸关之事。世界上拥有核武器的国家有七八个,暂时还没出大的麻烦。如果我们因为担心对方已经把核武器控制权交给电脑而如法炮制,那事态就可能失控。

回到当下和个人层面,这可能会是一座道德伦理问题的宝藏。我认为我们正迈向人们所谓的“奇点”(singularity),与我们高度相似但又有深刻差异的实体即将诞生。我之所以通过小说、而非时评的方式来讨论这些伦理问题,恰在于小说乃是探索我们与他人关系的最佳途径。它将有助于我们探索与人工智能的相处之道、人工智能的道德伦理可能性,以及我们所担忧的某些局限性。

我自己就有一些个人体会。多年前就已经有海量的研究指出我们将在不久后享受到自动驾驶汽车,但我现在还是不敢让特斯拉代替我自己来做决定。理论上,它会在考察周遭环境后,决定要不要以每小时70英里的速度超过一辆大卡车,但我对此还放不下戒心。目前的自动驾驶很大程度上还只是象征意义。

图片来源:视觉中国

这类汽车的制造商必然会遭逢一些伦理问题。紧急情况下是优先保护司机还是保护行人?车辆能否以司机的生命为代价改变方向救下小孩?有一项颇为重磅的研究比较了美国人、英国人和中国人对这些问题的看法,令我大开眼界:绝大多数欧美人都认为孩子的生命最有价值,而中国人则认为老人的生命最有价值。我现在72岁了,可能对中国人的观点更有亲近感。(笑)

我们也许会让机器来掌握紧急情况下的生杀大权。它会为了避让行人而撞上大卡车让我死掉吗?抑或司机才是优先保护对象?如何设计电脑以及决策时的优先顺位,取决于汽车制造商。有趣的是,汽车厂商和哲学家已经坐到了一起。原本在大学里教书的哲学家们与汽车厂商讨论起了生死决定权,我们似乎正在准备把这一责任交给机器,这非同寻常。

界面文化:这个例子可以衍生出很多值得深思的问题。比如,机器人会有国籍吗?程序的设计是否会体现文化差异?我们会希望自动驾驶系统多一些中国特色还是英国味道?

麦克尤恩:就是这个意思。或许还会有性别偏好。总之是写代码的人所抱有的一切偏见。身为人类,我们知道怎么做一个好人,我们有哲学和宗教,也许还有一种内在的感受力,毕竟我们是社会动物。但随时随地都做一个好人又是很难的,我们经常会为自己找一些特殊的借口,或者对亲友团网开一面。我们对亲友团的评判与对陌生人的评判略有不同。哲学家与关注此类道德问题的热心人士不妨一同坐下来,探讨一下如何才能生产出只做好事的机器人。我们可能会赋予它们强烈的道德感,使它们比我们自己更纯洁。换言之,就是要让人造出来的人比我们自己更好。

为此,我在小说里让米兰达讲述了一个复仇的故事,大部分读者会感到这场复仇是恰当的。一个男人做了很可怕的事,而米兰达运用法律武器,罗织罪名把他送进了监狱。机器人亚当对此有不同意见,他表示,“法治对我们来说很重要,但你在法庭上撒了谎,如果你为了复仇打破了法治,那就走了弯路。”可见亚当的道德责任感比另外两个“真正的人”——米兰达和查理——要纯正得多,这正是小说的主题,即亚当在道德上始终如一。亚当还说,“你们双方彼此爱慕,因而也相互袒护,但事实是米兰达必须坐牢,我会告诉警察,我会举报这件事,因为她把一个无辜的男人送进了监狱,她假称自己被那个男人强奸。”

我们可能会造出一个比我们更好的、有意识的存在者,但这样一来就可能发生冲突,毕竟我们在面对现实时更倾向于灵活变通。如果你赋予机器人某些道德规范,那它们执行起来是不会打任何折扣的。

界面文化:可以看出你希望在这部小说里探讨人工智能道德困境的苦心,但道德可能是最难探讨的问题之一。比如,尽管人们在道德上认为不该撒谎,但我们经常也会为了善意而撒谎。机器是否会具备这样的弹性?如果不能,那这还是我们想要的那种机器人吗?如果可以,它们又是否会由于过分聪明而在某个时候取代人类?这些问题都不容易回答。小说里的亚当也能进行文学创作——说起来,我认为你作为一个文学创作者去进行这样的假设本身就很有意思——假如机器已经可以完成这种高智能工作,那还有什么是它们不能做的吗?道德界线和人机之间的界线究竟应当划在何处?

麦克尤恩:你提到的这些点都很重要。我们经常有很好的理由撒谎。你最好的朋友刚理了一个难看至极的新发型,你会说“还好还好,看着还不错”,去看望一个重病垂危的朋友时不会说“你看起来状态真差,肯定活不长了”。

一个人如果随时随地都在说真话,可能是我们不堪忍受的,这样的人无法在一个人们必须相互保护的社会里生活。善意的谎言在所难免,我们经常会对小孩说谎,以免世上各种可怕的事物伤害到他们。如果我们有了可以说出善意谎言的机器人,那我想我们就成功地造出了人工智能的社会意识。机器人如果能完全理解人类互动中的这些幽微玄妙之处,那将是一大“成功”。

同样的,机器人如果能写出一部优秀的小说,那我们也可以说它完全具有意识。但也有人反对说,机器人也许能写出优秀的小说,但只有别的机器人能理解它好在哪里,人类则会认为它不可理解或者在某些方面引人反感。

图片来源:视觉中国

多年来我一直在著作里主张,最近一万年的历史就是人类逐渐淡出世界中央的历史。我们曾认为自己是各种造物的中心,但后来则得知自己不过是许多动物中的一种。我们当然要聪明许多,但在DNA层面仍有较大共性。我们曾认为地球是宇宙的中心,但后来却发现太阳才是中心,再后来又认识到太阳之于庞大的银河系也不过是沧海一粟,银河系之外还有千千万万的星系,我们的方位是经常变动的。即便如此,我们仍以地球上最聪明的生物自居,但这一点也正在受到挑战:我们造出的机器人记忆力更好,认知和运算能力更强,论亲和力它也不输于我们,甚至道德水平也更高——那我们还有什么用处?很遗憾,我是个老人,没有办法再活个几十年来观察这些变化了。

过去这十年间人工智能进步飞速。我听说,有些父母会讨论要不要让自己的小孩在跟Siri对话时也用上“劳驾”“谢谢”之类的表述,理由是它可以训练小孩学会待人接物。尽管现在当我告诉Siri“把闹钟设在十点”的时候是不会用请托语气的,但我认为人们在第一次对智能手机下命令时很难不说出“请”字。我们有对它好一点的冲动,哪怕它只是个算法。新小说提出的真正问题由此可以表达为:我们要如何与各方面都比我们自己更好的实体共处?我们又将如何看待自己?

我们将不再是森林之王了。但这是我们一手造成的结果。我们为自己造就了这样的未来。这极具悖论色彩。

03 曾是一个“悲观主义专业户”,如今已然不同

界面文化:最后我想回到当下,问一个关于时局的问题。我在访谈开始就问了1982年对于你的意义,现在我想问下2020年的意义。对于国际格局来说,美国大选、英国脱欧都将在今年发生;对于许多普通人来说,席卷全球的新冠疫情对日常生活产生了深远影响。2020年对你来说有什么样的意义?今天的我们还有理由乐观吗?

麦克尤恩:2020年是万分艰难的一年。恶性的民粹主义和民族主义浪潮席卷了欧洲和美国,开放社会的理想在西方正遭逢挑战。新冠疫情令个人与社会都背上了沉重的负担,在某些领域还纵容了政府扩权。气候变迁的威胁也迫在眉睫,比如最近美国西海岸的山火没有多少人在意。核军备竞赛没有得到应有的关注,中美、中印之间呈现出对抗态势,中东持续混乱,俄罗斯只剩下输出负面性了。要保持乐观殊为不易。

但令我稍感宽慰的是,人类历史上从来就没有缺过世界末日想象。自十七世纪至十九世纪,你随处都能听到知识分子,尤其是作家,告诉你情况已经糟糕透顶了。如今我们在饭桌闲聊时,也会大谈各种事态恶化的可能途径。

但有没有一种世界会变好的可能呢?假设疫苗在今年内问世、供给充足且能在全球范围内有效缓和疫情。假设拜登胜选,民粹主义开始退却,反疫苗运动遭逢当头一棒——因为现实就是你不打疫苗就会死去。假设大打军备竞赛的各国政府也坐下来重新开始谈判,放弃军备竞赛,美俄各自削减数千枚导弹。假设美国的山火提高了人们的警惕性,各国采取行动,将全球的温度上升幅度控制在2.5度之内……这些是全球性的问题,也就要求我们发展出一种全球意识,听上去很难,但并非不可能。

我们必须保有希望,因为放弃和滑向悲观主义只会让一切担忧变成现实。我们知道应对这一切问题的办法。我们的技术水平是足够的——我们也许还能创造更多技术奇迹,比如在疫情爆发后的十五个月之内就开发出疫苗。

当我20来岁的时候,我算是个“悲观主义专业户”。这种取向对人很有吸引力,当时我相信世界会因为一点小小的挫折而堕入深渊。但我现在已经72岁了,也有了孙辈。如今我希望人类的计划能取得成功:我们足够聪明,我们有能力创造更美好的未来。

未经正式授权严禁转载本文,侵权必究。

评论

暂无评论哦,快来评价一下吧!

下载界面新闻

微信公众号

微博

【专访】伊恩·麦克尤恩:当机器人比人类更完美甚至更道德,人类该如何自处?

这位年过七旬的英国作家的新作探讨了人工智能与人类的关系,在他眼中,人类的个体性已然终结,我们正迈向人工智能的“奇点”。

图片来源:视觉中国

记者 | 王磬

编辑 | 黄月

满头银发的伊恩·麦克尤恩出现在视频另一端的时候,正是伦敦的周末傍晚。这位风靡英文世界的文学巨人,因其文字冷峻幽暗,常被称为“恐怖伊恩”“怪兽作家”——但此刻,屏幕前的他眉眼慈祥,颔首微笑。书房里灯光昏黄,他语调温和:“嗨,好久不见。”

两年多以前,我曾在伦敦的一间书店里跟麦克尤恩有过一场谈话,聊他的小说和当时的全球格局——他关心时事,是作家,也是英国活跃的公共知识分子——但那时还没有全球大流行,世界还是另一番模样。

如今初秋刚至,新冠疫情第二波已经又开始席卷英伦大地。72岁的麦克尤恩显然是高危人群。过去半年的大多数时光,他都与家人共同住在一幢位于伦敦远郊的别墅里。他告诉我,由于有个做病毒学家的儿子,他们比普通英国人更早地进入了防疫状态。与人群的距离保证了安全,但也让他偶尔感到孤单,“辛苦但幸福”——他这样形容与家人的封城生活。

万里之外的中国,被疫情打乱的生活秩序已经逐渐恢复正常。八月,在人头攒动的上海书展上,麦克尤恩的新作《我这样的机器》(Machines Like Me)发布了中文版。

《我这样的机器》
[英]伊恩·麦克尤恩 著  周小进 译
上海译文出版社 2020-7

这是一部关于人工智能的小说,讲述一个发生在“平行世界”的故事:作家想象里的1982年,计算机科学之父艾伦·图灵没有自杀,人工智能高度发达,人们可以购买跟真人极度相似的机器人,并给他们输入价值观。故事的主线是男女邻居和机器人亚当之间的三角恋。男主角查理购买了亚当,亚当却与女主角米兰达发生了亲密关系。然而,在发现了女主角为复仇诬告强奸之后,亚当没有听从人类的指令,而是做出了自己的道德选择。麦克尤恩延续了他一贯擅长的对亲密性的描写,亚当不仅有与人类似的外表、甚至也有极其细腻的心理活动。作家借人工智能的伦理困境探讨了人的困境:人类是否会被自己创造出来的机器人打败?当一个机器人比人类更完美、甚至也更道德的时候,人类该如何自处?

小说的另一重背景设置是,在八十年代初的英国,撒切尔夫人没有当上首相,社会也没有因此走向差距剧增的新自由主义。作为一个对现实有强烈关照的作家,麦克尤恩也在此表达了他对政治和历史的通盘思考:历史进程具有高度的偶然性与意外性,一个微弱的岔路或许就能造成颠覆性的不同结局。

小说英文版在2019年发布时就引起了英文世界的广泛关注。“机器人什么时候最像真人?当它跟你的女朋友上床的时候。”英国文化杂志《新政治家》这样感叹道《纽约时报》评价道,“制造合成的人,是否能够激发启蒙或是减轻痛苦?……麦克尤恩几乎是重写了技术和不计其数的其他事物的历史,以使亚当这样的人工智能杰作能够出现在撒切尔的时代,并显得真实可信。”《卫报》则认为,“在平行世界里的1982年的不列颠,通过反乌托邦式的人形机器人,麦克尤恩回到了他颠覆性的早期写作风格。”

早年的麦克尤恩有着“恐怖伊恩”的昵称——二十几岁的他笔下百无禁忌,从虐恋到死亡,从乱伦到易装,他热爱书写残缺的人和病态的爱,荒诞是始终的底色。但在后来的几十年中,走向大众的麦克尤恩逐渐摈弃了早期那种暗黑的、内卷式的写作风格,而是将视野投射到更广阔的社会议题之中。从战争题材到法律题材再到英国脱欧,他在不断尝试跨越边界。

麦克尤恩(来源:http://www.ianmcewan.com/)

如今,他被认为是英文世界里“最会写作的人之一”。他曾五次入围英国最高文学奖项布克奖名单,并最终凭借长篇小说《阿姆斯特丹》(1998)夺魁。他还是好莱坞的座上宾,创作的小说有近一半被搬上了大荧幕。最为人们熟知的是长篇小说《赎罪》(2001),由它改编的同名电影2007年获得了奥斯卡七项提名。

这一次,他希望跨越的边界似乎比以往都更有野心:不再只是关于人的行为和内心,而是通过“他者”——机器人——来反观和审视人的存在。他尝试带入这样的讨论:文学可以如何去想象人工智能,人类又可以如何想象自身与他者的关系?

以下是界面文化对麦克尤恩的专访全文,刊发时有编辑。

01 我感兴趣政治决策对私人生活的深远影响

界面文化:很高兴再次见到你。在谈论你的新小说之前,我想先问下疫情对你的影响。这几天欧洲疫情的第二波又起来了。你的身体还好吗? 你的家人和朋友是否受到了影响?

麦克尤恩:我们都还好,在乡间隔离,有一间老屋,风景不错。孙辈、儿子和儿媳都在这里,但每次来都要先隔离一阵,因为小孩们都已经回到学校里了。我儿子和儿媳在这里呆的头三个月里怀上了孩子。她不久后就要临盆了,这是个重要的时刻。

封城期间我们一家人度过了辛苦但幸福的时光,每个人都在忙前忙后。我们的空间相对充足,还能享受湖景和大片的空地。我还是很想念朋友们,与家人团聚也并非易事,需要良好的耐心,但比起很多人我们已经算幸运了,比如那些不得不和还在上学的小孩一起挤公寓而没法维持安全距离的人,还有疫情期间不得不仍然为生活奔忙的人。

英国现在的情况正在逐渐变糟,增长曲线很陡峭,可能会再来一波封城,盼望经济复苏的人们将面临不小的压力,这个问题近乎无解。如果你封了城,把人们都关起来,问题之一就是许多患有其它疾病的人因此去不了医院,导致病情加重。

相比之下,中国似乎已经回到了常态,武汉人甚至可以外出聚会和上班,能够正常生活了,但我们不知道情况是否还会恶化。疫情爆发以来我一直保持关注,许多欧洲国家没有在第一时间做好应对,导致事态恶化,这令人遗憾。

我的长子是位病毒学家,他很早就让我们意识到了新冠疫情的严峻性,甚至比英国政府还要早。我们当时就取消了去意大利度假的行程,那是在意大利北部封锁之前。如果我们照常去度假的话,就会因为封城而被困在伦巴底。那样生活又会是另一番光景了。

界面文化:很高兴得知你全家安康。想必你已经听说,你的新小说《我这样的机器》的中文版就是这个月在上海书展上发布的,希望书展上或书店里的热闹情景也能很快在全球各国重现。说到这部小说,我在翻看中文读者评论时发现了一些有趣的讨论。比如大家会好奇,这部小说的背景为什么设在了1982年?八十年代对你有什么特殊意义吗?

麦克尤恩:完全是因为阿兰·图灵(Alan Turing)这位伟大的计算机科学家。他在1954年自杀了,而我想让他活下去。我把他写得老了一点,和我的年龄相近,大概是1982年时70岁的样子。

阿兰·图灵(来源:Wikipedia)

这一年对我们而言十分有趣。福克兰群岛危机(编者注:即英国与阿根廷的“马岛战争”,阿根廷一方称“马尔维纳斯群岛”)让有关二战和大英帝国的深刻记忆又强势地回到了我们的政治生活中。撒切尔夫人的成功也源自于此,她的声望原本就高,再加上在福克兰群岛之战中力排众议、坚持派遣舰队远征八千多英里并取胜,地位得到了进一步巩固。这彻底改变了她的执政风格。

大大小小的政治决策对私人生活的深远影响是我很感兴趣的话题。例如,图灵的自杀是否左右了人工智能的发展前途,或者撒切尔夫人派遣了舰队这件事对于英国政治乃至于阿根廷政治有怎样的影响力。从这些案例中我们可以窥见:人类预见未来的能力谈不上有多强,然而未来又出自我们之手。

譬如,福克兰之战英国落败的几率也是不小的,派遣舰队的行动风险极高,假如阿根廷在法国帮助下成功地修正了导弹的路线,那英国舰队就很可能全军覆没。诸如此类看似微不足道的技术性细节足以改写历史。它导致了阿根廷专制政府的倒台,在英国国内则帮助保守党取得大胜。

我认为如今的科技也与此类似,具有高度的偶然性与意外性。英国17世纪就有了显微镜,已经能观察到细胞层面的变化,但这一进步在当时对医学的影响并不大。科学发现和医学分道扬镳,乃是机缘巧合的结果,经过了很长一段时间二者方才重逢。另一个经常被提起的重大问题是,工业革命何以发生在英格兰北部的一个小地方?乍看之下某个地方只要有煤矿就能发生这样的革命。这是人类历史上的非凡一刻,机器取代了人与动物的肌肉力量。但其发生的时间则可以更早或更迟。

1982年也是这样的关键时刻,不少重大转折就发生于这一年。于是我就想,假如完全没有亚当,也没有能够与之比肩者,那技术的发展将会怎样?但我仍然保留了亚当,以凸显历史中的偶然一面。

界面文化:我的阅读体会之一是,《我这样的机器》虽然属于科幻小说类别,但其实植根于现实。在阅读时能感到它在各个层面上都与我自身息息相关,比如很多生活上的细节。你并没有像许多科幻小说作者那样完全创造出一个架空的世界,而是从现实出发,但修改了一些假设,加入了一些充满偶然性的实验,才成就了这样的故事。这是否是有意为之?在创作一部科幻小说时,何以有这样的抉择?

麦克尤恩:谢谢你的反馈。我的意图是展示一种与我们的记忆略有出入的生活。比如,约翰·列侬(John Lennon)没有被枪击,披头士乐队完好如初,但他们出了一张很烂的专辑。好些政治事件都有向另一面发展的可能。

《我这样的机器》英文版书封

我跟朋友出来吃饭时都会聊很多政治话题。我们会讨论明年的生活将会怎样,既有乐观的说法也有悲观的预期,摆在我们面前的岔路有若干条。赢得美国总统大选的会是特朗普还是拜登?这仍是一个悬而未决的问题,其结果对世界的影响不可估量。我也回想起了当年布什与克里的选战对决,最终一锤定音的是最高法院。如果克里获胜,也许就不会有伊拉克战争,2000万因此失去生命的人就能活到现在,许多事情会是另一番面貌。

这部小说根植于具体可感的现实、但某些事件的细节又有所不同,是因为我的目标始终在于探索个人与人工智能建立紧密联系的可能性。在未来十五年乃至于三十年、一百年的时间里我们会如何设想自身?目前不得而知。

我们已经开始和机器对话,对电脑智能也有了依赖性。我们也已经开始规划内置精巧程序的基础设施,我们会和Siri以及Alexa这些机器人聊天。它们显然还不那么像人类,功能也还比较基础,但过去十年来它们已经在相当程度上深入了我们的生活。借助于这一开端,我们对结局已经能窥见一斑。有人认为与机器的对话预示着文明层级的巨变——我完全同意这种说法,这已箭在弦上。新冠封城一定程度上加速了这一进程,人们面对面打交道的机会不多,只得花更多时间在屏幕上,对其产生了更强的依赖性。新书虽不乏科幻元素,但我其实想写的是一部与现实只是稍有出入的现实主义小说。

02 人工智能的发展将深化我们对“身为人类究竟意味着什么”的认识

界面文化:就我个人的阅读体验而言,你确实现了这个目的。想象力是小说家的必修课,你过往的作品中也呈现了大量关于人的非凡的想象,但要去想象机器人仍然不易。你如何展开关于人工智能的想象?你的灵感与知识从何而来?人们喜欢津津乐道你与顶尖人工智能专家——比如被喻为“AlphaGo之父”的戴密斯·哈萨比斯(Demis Hassabis)——之间的长谈,这是你获得启发的方式之一吗?

麦克尤恩:我对于想象力的理解是,你要从已经发生的事情出发,勾勒出一条通往未来的路线,哪怕你明白自己几乎肯定会犯错误。有鉴于此,我的小说严格来讲不打算预测未来。我把背景设定在过去也是出于这样的考虑,不想和预测扯上什么关系。科幻小说一般会展望未来,会告诉我们事态将会如何发展。但专注于过去使我更加自由,它彷佛暂停在了时间里,这段过往并没有发生,但它是有可能发生的,它清晰可辨但也经历了根本性的变化。

必须承认,我在写这本小说时基本没有专门去做研究,因为我一直就对人工智能很感兴趣。1970年代晚期,我曾写过一部戏剧,其中涉及到电脑在二战时期的初步应用,当时它主要用于破译密码。人们对人工智能的失望也是从那时开始的。当时的人预测十年内电脑将与人脑、人类心智无异,图灵在1948年也有类似的预测,但预言落空了。历经六七十年代一直到八十年代,人工智能依旧是少人问津的小众课题,只拥有一小群狂热爱好者。

人们始终未能充分理解人类心智的复杂性,不明白诸如“端起杯子喝水”或者“找个地方坐下”这样的行为当中有多少运算量。这种层次的生物处理(biological processing)如同奇迹一般,要在这条路上迈出哪怕一小步都得经历千难万险,现况也是如此。

你可能读到过计算机“深蓝”首次战胜国际象棋大师的故事,但那还只是海量数字运算的问题。后来,软件更趋精巧,可以在机器上下围棋了,它可能是地球上最复杂的游戏之一。但我们只教给机器一系列规则,由它自行运作,然后它在五次对决中四次击败了人类围棋高手。这是史无前例的,计算机智能通过深度学习得出了自己的结论。

鉴于此,我认为眼下不妨运用想象力设想一下:假如你交谈的对象并非屏幕,而是某种长得像亚当一样的、外貌与应答方式都与人类高度相似的东西,那么哪怕你一遍又一遍地告诫自己“这不过是一台机器”,哪怕你具备与他人相处的丰富经验,你可能依旧会忍不住和它发展出情感关系。这种亲密关系可能会帮助人们重新发现自己。

图片来源:视觉中国

仅就三十年前的简陋程序而言,都有许多案例可循,譬如你对某个扮成医生的软件程序说:“我今天的感觉真差劲。”

程序回复,“是吗?”

“是啊,我一想起自己的童年就有一股很差劲的感觉。”

程序回复,“展开讲讲?”

“我回想起了小时候每天被妈妈打屁股的经历,”

程序接着说,“你对此感觉如何?”

……

电脑程序当然是对人的感受一无所知的,但人类的设计令该程序能收集许多来自真人的回应。不少人甚至还表示,自己与这个电脑程序的对话达到了终生难忘的水准,可那只不过源于简单的算法。假如你能设想一个像亚当这样可以表达及回应各种情感的存在者,那小孩对玩具熊产生深厚感情也就不是什么难以理解的事情了。我认为自己的小说对这种高度的亲密性处理得还不错,这也是我的一大兴趣点。想一想,假如某个东西长得和你几乎一样,同时你也知道它不过是集成电路或来自硅谷,那你们将会有怎样的互动?你们之间大概很难不发展出情感纽带,这种冲动根植于我们的内心深处。

界面文化:的确,这部小说里许多精彩的桥段都与机器人亚当的情感回应有关。我印象很深的一个情节是,亚当在男主角查理打算拔掉它的电源时捏碎了男主角的手腕;另一个情节是,女主角米兰达的父亲误以为亚当是她的男朋友、查理才是机器人。

这涉及到人工智能领域的一个关键问题:机器人是否将最终拥有自我意识?一些人持否定态度,认为即使算法再精巧、机器人也不过是对既有程序的重复;另一些人持肯定态度,认为技术发展到一定程度后,机器人就将衍生出自我意识。就这部小说而言,一方面,我感觉你似乎更倾向于第二种态度:你赋予了亚当完全的能动性及主体性。但另一方面我又感觉到,你仍然是在写“人”的故事:即使有自我意识的机器人,其作用也是为了帮助人类更好地探索自身,仍是一种工具化的存在。

麦克尤恩:我认为人工智能的发展必将深化我们对“身为人类究竟意味着什么”这一问题的认识。我们会造出各种机器,但永远也不知道它们是否有自我意识,至少从哲学上讲,双方甚至无法就这个问题展开沟通。但我们完全有理由设想每个小孩都经历过类似的思想契机,即他人之于其自身是否是真实的,正如我之于我自己。我们永远无法证明有自我意识这回事,但有一条思考它的捷径。如果你无法说出电脑与真人的区别,或机器人与真人的区别,那你或许就能假定机器人和人类似,也应当得到尊重。

如此一来,我们便碰上一系列有趣的问题:它们是否也有权利,我们是否会像人与人相处一样保障它们的权利?正是基于这个理由,我在小说里让伟大的阿兰·图灵狠狠地斥责了一番主角,对此人说你毁掉的不仅是电脑,一并被毁的还有智能与意识。

我们会造出某种新的意识,虽然我不认为它是人类意识,但我们总归会与之打交道。目前人工智能领域已经浮现出不少问题,国家、民众和大企业都在争夺其控制权,以实现入侵、监控或传播等目的。单是面部识别这项功能就已经有足够的压迫性,各国政府都能轻松取得公民的信息。我们的个体性已然终结。在多大程度上我们愿意让企业、政府和商业利益入侵我们的私人空间?目前最顶尖的人工智能研究多与军方有关,或许不久后就会让机器来决定生死攸关之事。世界上拥有核武器的国家有七八个,暂时还没出大的麻烦。如果我们因为担心对方已经把核武器控制权交给电脑而如法炮制,那事态就可能失控。

回到当下和个人层面,这可能会是一座道德伦理问题的宝藏。我认为我们正迈向人们所谓的“奇点”(singularity),与我们高度相似但又有深刻差异的实体即将诞生。我之所以通过小说、而非时评的方式来讨论这些伦理问题,恰在于小说乃是探索我们与他人关系的最佳途径。它将有助于我们探索与人工智能的相处之道、人工智能的道德伦理可能性,以及我们所担忧的某些局限性。

我自己就有一些个人体会。多年前就已经有海量的研究指出我们将在不久后享受到自动驾驶汽车,但我现在还是不敢让特斯拉代替我自己来做决定。理论上,它会在考察周遭环境后,决定要不要以每小时70英里的速度超过一辆大卡车,但我对此还放不下戒心。目前的自动驾驶很大程度上还只是象征意义。

图片来源:视觉中国

这类汽车的制造商必然会遭逢一些伦理问题。紧急情况下是优先保护司机还是保护行人?车辆能否以司机的生命为代价改变方向救下小孩?有一项颇为重磅的研究比较了美国人、英国人和中国人对这些问题的看法,令我大开眼界:绝大多数欧美人都认为孩子的生命最有价值,而中国人则认为老人的生命最有价值。我现在72岁了,可能对中国人的观点更有亲近感。(笑)

我们也许会让机器来掌握紧急情况下的生杀大权。它会为了避让行人而撞上大卡车让我死掉吗?抑或司机才是优先保护对象?如何设计电脑以及决策时的优先顺位,取决于汽车制造商。有趣的是,汽车厂商和哲学家已经坐到了一起。原本在大学里教书的哲学家们与汽车厂商讨论起了生死决定权,我们似乎正在准备把这一责任交给机器,这非同寻常。

界面文化:这个例子可以衍生出很多值得深思的问题。比如,机器人会有国籍吗?程序的设计是否会体现文化差异?我们会希望自动驾驶系统多一些中国特色还是英国味道?

麦克尤恩:就是这个意思。或许还会有性别偏好。总之是写代码的人所抱有的一切偏见。身为人类,我们知道怎么做一个好人,我们有哲学和宗教,也许还有一种内在的感受力,毕竟我们是社会动物。但随时随地都做一个好人又是很难的,我们经常会为自己找一些特殊的借口,或者对亲友团网开一面。我们对亲友团的评判与对陌生人的评判略有不同。哲学家与关注此类道德问题的热心人士不妨一同坐下来,探讨一下如何才能生产出只做好事的机器人。我们可能会赋予它们强烈的道德感,使它们比我们自己更纯洁。换言之,就是要让人造出来的人比我们自己更好。

为此,我在小说里让米兰达讲述了一个复仇的故事,大部分读者会感到这场复仇是恰当的。一个男人做了很可怕的事,而米兰达运用法律武器,罗织罪名把他送进了监狱。机器人亚当对此有不同意见,他表示,“法治对我们来说很重要,但你在法庭上撒了谎,如果你为了复仇打破了法治,那就走了弯路。”可见亚当的道德责任感比另外两个“真正的人”——米兰达和查理——要纯正得多,这正是小说的主题,即亚当在道德上始终如一。亚当还说,“你们双方彼此爱慕,因而也相互袒护,但事实是米兰达必须坐牢,我会告诉警察,我会举报这件事,因为她把一个无辜的男人送进了监狱,她假称自己被那个男人强奸。”

我们可能会造出一个比我们更好的、有意识的存在者,但这样一来就可能发生冲突,毕竟我们在面对现实时更倾向于灵活变通。如果你赋予机器人某些道德规范,那它们执行起来是不会打任何折扣的。

界面文化:可以看出你希望在这部小说里探讨人工智能道德困境的苦心,但道德可能是最难探讨的问题之一。比如,尽管人们在道德上认为不该撒谎,但我们经常也会为了善意而撒谎。机器是否会具备这样的弹性?如果不能,那这还是我们想要的那种机器人吗?如果可以,它们又是否会由于过分聪明而在某个时候取代人类?这些问题都不容易回答。小说里的亚当也能进行文学创作——说起来,我认为你作为一个文学创作者去进行这样的假设本身就很有意思——假如机器已经可以完成这种高智能工作,那还有什么是它们不能做的吗?道德界线和人机之间的界线究竟应当划在何处?

麦克尤恩:你提到的这些点都很重要。我们经常有很好的理由撒谎。你最好的朋友刚理了一个难看至极的新发型,你会说“还好还好,看着还不错”,去看望一个重病垂危的朋友时不会说“你看起来状态真差,肯定活不长了”。

一个人如果随时随地都在说真话,可能是我们不堪忍受的,这样的人无法在一个人们必须相互保护的社会里生活。善意的谎言在所难免,我们经常会对小孩说谎,以免世上各种可怕的事物伤害到他们。如果我们有了可以说出善意谎言的机器人,那我想我们就成功地造出了人工智能的社会意识。机器人如果能完全理解人类互动中的这些幽微玄妙之处,那将是一大“成功”。

同样的,机器人如果能写出一部优秀的小说,那我们也可以说它完全具有意识。但也有人反对说,机器人也许能写出优秀的小说,但只有别的机器人能理解它好在哪里,人类则会认为它不可理解或者在某些方面引人反感。

图片来源:视觉中国

多年来我一直在著作里主张,最近一万年的历史就是人类逐渐淡出世界中央的历史。我们曾认为自己是各种造物的中心,但后来则得知自己不过是许多动物中的一种。我们当然要聪明许多,但在DNA层面仍有较大共性。我们曾认为地球是宇宙的中心,但后来却发现太阳才是中心,再后来又认识到太阳之于庞大的银河系也不过是沧海一粟,银河系之外还有千千万万的星系,我们的方位是经常变动的。即便如此,我们仍以地球上最聪明的生物自居,但这一点也正在受到挑战:我们造出的机器人记忆力更好,认知和运算能力更强,论亲和力它也不输于我们,甚至道德水平也更高——那我们还有什么用处?很遗憾,我是个老人,没有办法再活个几十年来观察这些变化了。

过去这十年间人工智能进步飞速。我听说,有些父母会讨论要不要让自己的小孩在跟Siri对话时也用上“劳驾”“谢谢”之类的表述,理由是它可以训练小孩学会待人接物。尽管现在当我告诉Siri“把闹钟设在十点”的时候是不会用请托语气的,但我认为人们在第一次对智能手机下命令时很难不说出“请”字。我们有对它好一点的冲动,哪怕它只是个算法。新小说提出的真正问题由此可以表达为:我们要如何与各方面都比我们自己更好的实体共处?我们又将如何看待自己?

我们将不再是森林之王了。但这是我们一手造成的结果。我们为自己造就了这样的未来。这极具悖论色彩。

03 曾是一个“悲观主义专业户”,如今已然不同

界面文化:最后我想回到当下,问一个关于时局的问题。我在访谈开始就问了1982年对于你的意义,现在我想问下2020年的意义。对于国际格局来说,美国大选、英国脱欧都将在今年发生;对于许多普通人来说,席卷全球的新冠疫情对日常生活产生了深远影响。2020年对你来说有什么样的意义?今天的我们还有理由乐观吗?

麦克尤恩:2020年是万分艰难的一年。恶性的民粹主义和民族主义浪潮席卷了欧洲和美国,开放社会的理想在西方正遭逢挑战。新冠疫情令个人与社会都背上了沉重的负担,在某些领域还纵容了政府扩权。气候变迁的威胁也迫在眉睫,比如最近美国西海岸的山火没有多少人在意。核军备竞赛没有得到应有的关注,中美、中印之间呈现出对抗态势,中东持续混乱,俄罗斯只剩下输出负面性了。要保持乐观殊为不易。

但令我稍感宽慰的是,人类历史上从来就没有缺过世界末日想象。自十七世纪至十九世纪,你随处都能听到知识分子,尤其是作家,告诉你情况已经糟糕透顶了。如今我们在饭桌闲聊时,也会大谈各种事态恶化的可能途径。

但有没有一种世界会变好的可能呢?假设疫苗在今年内问世、供给充足且能在全球范围内有效缓和疫情。假设拜登胜选,民粹主义开始退却,反疫苗运动遭逢当头一棒——因为现实就是你不打疫苗就会死去。假设大打军备竞赛的各国政府也坐下来重新开始谈判,放弃军备竞赛,美俄各自削减数千枚导弹。假设美国的山火提高了人们的警惕性,各国采取行动,将全球的温度上升幅度控制在2.5度之内……这些是全球性的问题,也就要求我们发展出一种全球意识,听上去很难,但并非不可能。

我们必须保有希望,因为放弃和滑向悲观主义只会让一切担忧变成现实。我们知道应对这一切问题的办法。我们的技术水平是足够的——我们也许还能创造更多技术奇迹,比如在疫情爆发后的十五个月之内就开发出疫苗。

当我20来岁的时候,我算是个“悲观主义专业户”。这种取向对人很有吸引力,当时我相信世界会因为一点小小的挫折而堕入深渊。但我现在已经72岁了,也有了孙辈。如今我希望人类的计划能取得成功:我们足够聪明,我们有能力创造更美好的未来。

未经正式授权严禁转载本文,侵权必究。