正在阅读: 当AI变成人类:我们不可取代吗?我们试图奴役吗?

扫一扫下载界面新闻APP

当AI变成人类:我们不可取代吗?我们试图奴役吗?

变人/替代人一方面动摇了人类对自己不可取代的信仰,而另一方面预示着“更健全、更精密、更升级一步”的要求的后果:制造出新的奴隶和怪物。

电影《人工智能》截图

记者 | 董子琪

编辑 | 黄月

AI变人是一个有趣的主题。诺奖得主石黑一雄日前推出了最新小说《克拉拉与太阳》,书写了名为克拉拉的AI即将成为女儿替代品的故事;在去年出版中译本的伊恩·麦克尤恩《像我这样的机器人》中,亚当想要代替人类成为爱情故事的男主角。事实上,在更早的斯皮尔伯格的电影《人工智能》(AI)中,这一主题就以孩童机器人的视角呈现——男孩终其一生想要成为真正的男孩,获得妈妈的爱。在文本与影视作品之外,以AI为主角的PS4游戏(编注:PlayStation 4是索尼电脑娱乐公司推出的家用游戏机)《底特律变人》更是直接以“变人”(become human)为标题。AI为何要变成人?变人的征途又会遭遇哪些困境?

孩子

在《克拉拉与太阳》中,名为克拉拉的AF(artificial friend)有机会变成一个人——与其说是变成一个真正的新人,不如说是替代一个因升级失败而异常孱弱、即将死亡的少女。她在看到为自己设置的“人的外皮”时,才意识到自己来到这个家庭的目的,并不是陪伴她的人类好友而是取而代之。克拉拉看到那件人类外皮的时刻,是小说中最为惊悚的一个时刻:它看起来非常像少女本人,却没有她的微笑。即使是AF也可以识别出这件外皮是空洞的,而具有特别智能的她应充当其内核。

《克拉拉与太阳》
[英]石黑一雄 著 宋佥 译
上海译文出版社 2021

在这里,人类少女与AF克拉拉的角色经历了一个翻转,人类少女变成了一件外衣,而克拉拉成为了精神主宰,连妈妈都鼓励她去占据女儿的皮囊,AF占据人类外壳的理由是什么?全书的核心伦理难题就在于论证人与人工智能到底有什么不同,当少女的外表、步伐和情感模式可以被人工智能以计算的方式模仿,人之为人还有什么不可被替代的理由。小说中的父亲已经被人工智能取代了工程师的职位,这还仅仅是技术上的取代,更深层次的取代在于家庭角色与亲子关系,而母亲认为这种取代是可能的。

在小说中,倡导替代技术的科学家说,人类少女没有什么不能替代的内核,人类一直以来相信的人之独特是一个巨大的谬论,她女儿身上不存在任何独一无二的、任何现代工具无法发掘、复制、转移的东西,只要计算模拟得当,母亲会爱上这个智能内核的孩子,因为“爱基于独特性”这一假设是虚妄的,就像小说中人物所声称的,“古往今来,一个世纪又一个世纪,人们彼此陪伴,共同生活,爱着彼此,恨着彼此,却是基于同一个错误的假设。一种我们过去在懵懂中一直固守的迷信。”

在妈妈看来,让克拉拉进入家庭的目的就是替代家庭中的孩子,这其实并不是一个新奇的主题。斯皮尔伯格的电影《人工智能》,同样讲述了一个家长购买儿童人工智能替代孩子的故事。——连替代的理由都有些相似:真正的孩子病了,家长陷入绝望,选择以人工智能寄托希望。有意思的是,电影借儿童角色之口提示道,从创作形态来说,AI为mecha(mechanical),人类是orga(organical),mecha永远也无法成为orga。AI大卫的外形虽然和普通孩童一样,但内在运作却是机械的。

克拉拉可以选择占据人类外壳的方式成为人类,而大卫始终在不能成为真正的人类这一点上挣扎,他相信妈妈给他念的匹诺曹历经千辛万苦终于成为真正男孩的童话,也想要凭借自己“真正的爱”得到蓝色仙女的垂怜。讽刺的是,他想找到的蓝色仙女不是废弃已久的乐园塑像,就是外星人投射的虚幻影子。电影《人工智能》的冷酷逻辑在于,从根本上来说,变人是不可能的,但是大卫的初始设定是需要人类妈妈的爱,为了爱它必须走上变成人的征程,因为他认定自己被遗弃的原因是他并非真的儿子。妈妈给他念的匹诺曹变成真正男孩的童话,如一颗种子种进了它的机械内心,正是在这条追求爱的道路上,他遇到了更多被人类抛弃虐待的人工智能,大卫爱的对象的面貌也逐渐变得清晰:他的人类妈妈和这些人工智能过去的主人并无不同。

电影《人工智能》截图

虽然对人类来说,将人工智能带入家庭的目的非常明确,但从克拉拉或大卫的视角看来,他们的故事像是一个谜团,因此,故事中人工智能意识到自己命运降临的时刻才那么重要:如果说克拉拉第一次认识到自己的命运,是在看到少女的外壳之后;大卫受到启示、发现真相的时刻,也发生于他在实验室里看到了自己的外皮,并从这个外壳里向外张望。前者指向了人类没有什么不可取代之处,人工智能可以成为人类肉体的宿主;后者则昭示他的爱和执着来自于初始设定,就像他梦中不能忘怀的“神迹”——那只张着翅膀的鸟——只是待机状态下看到的公司商标。 

电影《人工智能》截图

爱人

比起让AI进入家庭、代替儿女,更为复杂的是AI成为了人类的爱人。人类应当如何对待这一类作为爱欲对象的智能体?在伊恩·麦克尤恩的小说《我这样的机器》中,起初仿生人亚当仅仅被视为性爱的替代品,之后他想要有爱的权利,甚至挑衅爱情故事的男主角——也就是“我”。他的举止优雅得当,还有文学品位,在见未来岳父时竟让“我”败下阵来。岳父将我当成了机器人,把亚当看做未来女婿。

电影《机器人管家》改编自小说《两百岁的人》,罗宾·威廉姆斯饰演的Android(他也因此被命名为Andrew),在成为人的道路上也接受了爱与性的教育,起初他觉得人类之间的性爱是一团糟,之后开始理解、接受并且主动追求爱。

电影《机器人管家》截图

能够与人相爱,就获得了与人相等的资格,这或许可以一直追溯至皮格马利翁的创造。只是比起浪漫故事更令人深思的是,当智能体被剥夺了爱的能力,只留下满足欲望的功能,爱就会走向它的反面。因为可以模拟人类交往和欲求,仿生人成为了低端服务业的理想选项,不少文本都想象过仿生人从事色情服务业的阴暗世界。上文提到的《人工智能》以儿童AI大卫为主角,另外也展现了他与仿生人舞男邂逅、穿梭于AI感官王国的刺激场景。游戏《底特律变人》中同样呈现了AI夜总会的“风光旖旎”,身着比基尼等待挑选的仿生人站在各自的玻璃柜里,或是在钢管上跳着性感舞蹈。两个故事的相同之处在于,仿生人都遭到了客人的虐待陷害,想要依靠结盟挣脱人类的控制。 

更为极端的例子出现特德·姜的小说《软件体的生命周期》当中,故事讲述了人类培育一种可以充当宠物的数码体,在公司缺乏资金即将破产的时刻,有人提出可以将数码体作为色情伴侣售卖,为数码体赋予人形与生理需求,建立起与人类之间的依恋关系,最终将其与人类配对。做此提案的公司声称不会对数码体进行性剥削与虐待,会促使它与人类达到两情相悦的境地。在他们看来,这是数码体最好的变现方式,因为它们本身并没有任何市场化的工作能力,拥有的就是科研人员重点培育的、与人类相处和沟通情感的能力。这个故事当中,人类如同数码体的上帝,不仅塑造了数码体的样貌、性格和能力,还可以决定数码体的用途和性趣味。创造者真的有这样做的权利吗?这是特德·姜在《软件体的生命周期》中处理的重点。

《软件体的生命周期》译林出版社2015年版

异常者

在《底特律变人》中,受到客人虐待的性机器人竟然可以反过来伤害人类,这种严重损害人类利益、威胁人类生命的AI被称为异常者(deviants)——这是一种在AI中蔓延的瘟疫,感染的AI会出现看似独立的意志,背离主人的号令,挣脱日常苦役(机器人robot一词从诞生之时就由苦役定义。1920年,卡瑞尔·恰佩克的剧作《罗赛姆的通用机器人》中首次出现了机器人这个词,当时就包含重体力劳动甚至奴役之意),并寻求同类结盟,而它们为什么会反常,人们并不知道。因为会对人类社会造成巨大威胁,出现这类症状的AI必须予以绞杀。

问题在于,如果反常行为都指向争取自由,那么这些异常仿生人与人类的距离还有多远?就像游戏里的仿生人领袖在策划独立革命的时候,将自由落实为人身自由、人格平等、财产权、居住权等各项基本权利,难道不正如同人类世界争取权利运动的平行寓言?英国利物浦大学英文系教授戴维·锡德认为,《两百岁的人》中也以家庭管家机器人争取自由、财产权和婚姻自主的故事类比了非裔美国人的历史,“当安德鲁努力地想要别人承认他的人类身份时,这里面便蕴含了一种对种族主义的批判和人文主义的情怀。”也许是从这样的作品中获取过灵感,《底特律变人》中变异者Marcus领袖从外貌上看正是一位非裔美国人。

游戏《底特律变人》中的Marcus

与这种争取平等的变异不同,在麦克尤恩的《像我这样的机器》中,智能机器因为意识的产生开始自哀甚至自我伤害。仿生人可以感到哀伤吗?这个发现令人震惊。小说借图灵之口这样解释人类与机器的区别,人类创造了机器,将其推进不完美的世界,人类可以与这些矛盾相处,机器却无法凭借某种预设的原则生存,人造心智无法在开放的、乱糟糟的生活中存活,所以选择自我伤害。小说中的图灵解释说,人类的悲伤和痛苦很难以编码的形式传达,“我们生活中充满着这样的折磨,却毫不妨碍我们找到幸福,甚至爱。人造的心智却没有这么坚强。”从这个方面说,机器越是接近现实生活,就越难以实现原先被设定的原则,这令他们走向崩溃。我们也可从这一点出发,理解《人工智能》中大卫追求爱的故事。

当然,说到最可悲的变异,《底特律变人》和《人工智能》都体现了仿生人变成弗兰肯斯坦式怪物的恐怖场面。在游戏中的兹拉科宅邸里,主人解剖、重建仿生人,让他们成为更好的奴隶和工具。而回到《克拉拉与太阳》的故事, 我们可以看到,变人/替代人一方面动摇了人类对自己不可取代的信仰,另一方面也预示着“更健全、更精密、更升级一步”这一要求的后果——人类将制造出新的奴隶和怪物吗?阅读仿生人变人的故事,我们不难意识到,人工智能的阴暗面不仅在于可能侵犯隐私或者是加深偏见,还在于让人们从效率第一的美梦中惊醒——忽视感觉和想象,不能容忍错误和浪费,认为自己能够爱上完美无缺,正是克拉拉故事里妈妈的真实想法。 

未经正式授权严禁转载本文,侵权必究。
表情
您至少需输入5个字

评论 0

暂无评论哦,快来评价一下吧!

为你推荐

下载界面新闻

微信公众号

微博