扫一扫下载界面新闻APP

细思极恐,计算机正在以最想象不到的方式超越人类

真正的威胁不是计算机以其能耐与智能,在未来超越并摧毁人类,而是它们依然如今天这般普通、无力,但终究还是超越了人类。

编译|造就 雁行

仿佛一夜之间,一切都成了计算机。手机、电视机自不必说,烤面包机和门锁,婴儿监控器和榨汁机,门铃和烧烤架,乃至水龙头、浇水的软管和指尖陀螺……所谓的“智能”小玩意儿随处可见,将计算机的福音传播至形形色色的日常器物中。

这样的神奇确实令人惊叹,不过,只是在一段时间之内。很快,人们就会产生疑虑,因为,自行车锁或煤气罐根本没必要用智能手机来操作啊!另外,很多智能设备都有一个通病:不如它们所取代的“笨”装置来得可靠。但这种欲求是存在的,而且日益高涨。如今,联网设备的数量已经有数十亿部。到2020年,这个市场的价值有望达到2500亿美元。

为什么会出现这种局面?答案之一就是,市面上卖什么,消费者就买什么,而生产商则急于将“笨”设备智能化。这样做意味着更多的营收,更大的控制力,以及有更多的机会去淘汰上老旧产品。

这些设备收集起来的数据也催生出了一个二级市场。

例如,Roomba公司就想凭借其扫地机器人的移动轨迹,推断出用户的家居平面图,然后将其作为商业情报出售。

但市场的强制因素还不足以解释这一切。而且,日常物件的计算属性已经成为目的本身,而不是实现目的的手段。随着它们从台式机拓展到后勤办公室,继而进入手机、相机、汽车和门锁,人们的计算机情结不断蔓延,拓展到更为普通的物件中。人们做什么都在用计算机,越是喜欢这样,就越会觉得,一旦离开计算机,生活就变得不完整了。

笔者曾经撰文讨论过一种名为GasWatch的装置。它是一种煤气罐上的余量标尺,与智能手机上的应用程序相连接,旨在避免烹饪过程中气罐耗尽的局面。

看到这样的装置,我曾惊诧于它的荒唐可笑。既然一个便宜的指针盘就能显示煤气的余量,又何必劳驾计算机呢?

但如今,联网设备与服务日益常态化,这样的讥讽便显得有些苍白无力。

这种趋势的传播速度比我预想中更快。若干年前,我入住的一家时尚酒店曾自豪地宣称,他们很快就会淘汰房卡,以智能手机取而代之。

如今,就连在最普通的汉普顿酒店,房客也可以用希尔顿的应用程序来开门了。它还有家庭版,其中一个甚至能记录大门上锁的时间。至于这一数据有什么用处,我至今都不太清楚。

计算机已经占据主导,人类的大部分生活已经在计算机内展开,而对于这样的结果,人们感到很满意。

这些设备问题重重。其中之一就是价格。和便宜的煤气罐指针盘一样,传统的自行车锁也是一种同质化的商品,售价只需10或15美元。而Nokē智能车锁的价格是它的十倍。另外,它们还涉及安全和隐私问题。曾有不法分子入侵儿童监控器,试图跟孩子对话。

联网设备还受到可靠性问题的困扰。一旦网络出现故障,或设备无法连接到相应服务,抑或是其他软件从中作梗,产品往往就无法正常运行。

科技评论家尼古拉斯·卡尔(NicholasCarr)最近指出,这不是我们所期待的机器人。飞行汽车、机器人智能家居和超光速飞行都尚未实现。但与此同时,根据最新的预测,人类也许会与机器融合,要么是通过生物黑客技术,要么是通过意识模拟。

这样的未来也显得非常遥远——也许是不可能实现的。因为遥远,与之相伴的AI末日恐慌也许得以减轻,但它也蒙蔽了机器在人类命运中所扮演的真正角色:计算机已经占据主导,人类的大部分生活已经在计算机内展开,而对于这样的结果,人们感到很满意。

计算机的普通用途和超凡用途之间存在一道鸿沟,这道鸿沟大约出现于70年前。当时,阿兰·图灵(AlanTuring)的一条思路无意中促成了人工智能(AI)领域的诞生。图灵猜测,当机器变成可靠的人类伴侣时——实质上就是今天的智能手机(以及智能面包机之类),它就很有说服力了。但计算机科学家误解了图灵的本意,将图灵的思想实验变成了一场模拟或取代人脑的挑战。

在发表于1950年的论文中,图灵描述了一种游戏,他称之为模仿游戏。一男一女分别站在两扇门后,另一人在外提问,以猜测谁站在哪边。图灵继而构想出另一个版本:一个人和一台机器(比如计算机)分别站在两扇门后。如果对话者无法分辨哪边是人、哪边是机器,计算机就算通过了测试。

在制度化的过程中,图灵测试的重点日益偏向于计算机角色——Twitter和FacebookMessager聊天机器人的前身。如今,依然有人将图灵测试作为验证机器智能的合理方式。

但图灵从没有说过计算机可以思考,更没有说它们会媲美人类大脑。他只是猜测,机器也许能展现出令人信服的行为。对图灵而言,就是机器假装成非机器的能力。随着计算机科学的进步,“通过”图灵测试、而不是“准确地描绘某一角色”成了成功的标志。

这种误解也许抹杀了图灵当初对计算机的构想:一种令人信服的机器。但他也将这种说服力融入到了计算机硬件的设计中。1936年,图灵提出了一种概念机器,它能根据一组有限的规则,对一条纸带上的符号进行操作。

如今的情形不再是人们为了做事而使用计算机;而是人们做事以便能使用计算机。

这种设计名为通用图灵机,它成为了影响深远的计算机处理模型。经过约翰·冯·诺依曼(JohnvonNeumann)等人的一系列调整,它最终演变成存储式编程技术——程序指令和数据均可存储的计算机。

在计算机史上,图灵机这种创新常被认为是独立于图灵测试的。但实际上,两者是相互联系的。一台机器只要能进行一般计算,就有能力模拟任何图灵机。图灵机是一台假装成另一台机器的机器,因此,计算机也是这样一种机器。

试观日常使用的计算机系统——它们全都在模拟别的东西。最初,图灵的那台思考机器试图假装成人。同样地,计算机则试图在某种程度上,假装成另一种东西,或是计算器,或是账本,或是打字机,或是电话,或是相机,或是店铺,或是餐馆。

一段时间之后,成功的模拟机器取代并超越了最初的模拟对象。最终,“模拟机器”中的“模拟”一词就会被略去。

如今的计算界就遵循着这种规律。很少有什么工作和娱乐内容是计算机无法处理的。因此,计算机正在脱离它的初衷——操纵符号的一种手段,以实现效率与创造性——成为这项活动本身。如今的情形不再是人们为了做事而使用计算机;而是人们做事以便能使用计算机。

一旦计算机的使用与目的脱节,计算机本身成为一种生活方式,那么,只有能通过计算系统解决的目标与问题,才会成为有效的目标与问题。对于这种新的理想状态,物联网设备就提供了一个范例。

人们选择计算机作为介质,是为了享受使用计算机带来的感官愉悦。

回到之前提到的GasWatch。在计算机可用的情况下,谁会选择一个不涉及计算机的解决方案?如果说煤气罐和自行车锁仍属于极端案例,那么,普通的数字服务也是类似的道理:人们找寻的服务是允许他们使用计算机的服务——从寻找信息到打车,再到订外卖。这既是商业成就,也是美学成就。人们选择计算机作为介质,是为了享受使用计算机带来的感官愉悦,而不只是将其作为解决问题的高效实用方案。

对于那些看似毫无意义或毫无成功希望的服务、应用程序和物联网设备,它们存在的意义可以这样理解:在原先没有计算机的地方放了一台计算机,于是,将实体世界的体验转变成了计算体验。机器不再试图假装成人类,它们想让人类相信:它们其实就是计算机。图灵测试被逆转了。

图灵测试最好用的情况,就是大家都知道对话者是计算机,但还是乐于跟它对话。

这种现象恰好有个名字:反向图灵测试。网络表格中用于过滤自动机器人的验证码,就是运用了反向图灵测试——由计算机判断用户是否为人类。还有的反向图灵测试则是人们试图在一群计算机中间,猜出哪个行为者是人类。

这些工作将图灵测试作为目的本身,而不是衡量智力的手段。图灵测试最好用的情况,就是大家都知道对话者是计算机,但还是乐于跟它对话。

门铃、汽车和出租车根本没有消失,只是搬进了计算机。

与1950年图灵提出模仿游戏时相比,如今“计算机”的含义已经不太一样。针对人工智能在技术方面的先决条件,“表现得像台计算机”通常只意味着搬运一些数据,或充当控制者、执行者。而在计算机烧烤架、计算机自行车锁、计算机电视中,计算机是一种媒介。

以Uber为例。这家网约车巨头之所以在商业上获得成功,主要在于它绕过了雇佣政策和租车政策。而它在美学上的成功则源于它允许人们用智能手机来打车。其好处之一是不用跟任何人打电话。另外,手握数字地图,看着汽车朝自己驶来,也颇具吸引力。

类似地,对于那些喜欢自动驾驶汽车的人而言,它们的吸引力不仅在于摆脱了驾驶的负担和危险,也在于汽车变得更像计算机了。当然,计算机进驻汽车已经有很多年。但在自动驾驶汽车中,人们才更加真切地体会到,它是由计算机运行的。

再以门铃为例。其实,在智能门铃出现之前,门铃早已被计算机取代了。我孩子的朋友们来访时,就会发一条短信叫门。没有连接任何应用程序,也没有联网,门铃已经被计算机化了。你非要称之为“颠覆”也未尝不可,但在此过程中,门铃、汽车和出租车根本没有消失,只是搬进了计算机,在那里,它们会产生新的吸引力。

智能机器的真实现状比任何机器人末日都来得猛烈。

其中之一就是联网的乐趣。既然你不愿意离线,为何让面包机或门铃遭受这样的命运?如今,被计算机吸收成为了一种理想状态。终极梦想是永远在线,或者,至少能永远连接到某种计算机上。

但在人们的设想中,这并不是计算机的最终结局。早期反乌托邦场景提醒我们,计算机可能变成一个官僚或是法西斯主义者,把人类变成愚笨的机器,只剩下一些预先决定的能力。或者,人类沉迷于计算机,最终陷入麻木不仁的境地。

这些担忧至今挥之不去,一个原因是,其中一些或多或少变成了现实。但也有颠倒过来的,比如,让人感到麻木不仁的不是没完没了地沉浸在计算机中,而是离开计算机。因此,计算机采取的行动带上了自我指涉的性质:将越来越多的事物变成计算机,以延长这种连接。

一切一如往常,只是,人们眼中的现实是在计算机之内的。

从这个角度看,现代科技文化的所有问题——企业层面的数据聚合、隐私、“超就业”(人们免费送给Facebook、谷歌等网站的“无形”劳动力)——这些都不再是剥削,而只是人们的选择,不论是刻意还是无心。

在未来学家眼中,计算机变革带来的期许(或威胁)通常和人工智能的飞跃联系在一起。哲学家尼克·博斯特罗姆(NickBostrom)给超越人类智能的AI取了一个名字:超级智能。超级智能实现后,人类要么将永远摆脱工作的枷锁,要么将被迫从机器人末日中拯救自我。

哲学家大卫·查默斯(DavidChalmers)和计算机科学家雷·库兹维勒(RayKurzweil)提出了“奇点”观念,就是说,只要具备足够的处理能力,计算机就能模拟人脑。若如此,人类就能将意识上传至机器中,从而实现理论上的永生——至少是某种意义上的永生。

尽管智能机器的真实现状单调乏味,但却比任何机器人末日都来得猛烈。图灵通常被称为“AI之父”,但当初他只是说,机器也许能以假乱真,促进人们与之互动。这算不上智能——不论是人工的还是机器的——实现起来也容易得多。人们已将生活搬入计算机内部。

机器无需让人类永生,无需满足人类的每一次心血来潮,也无需随意毁灭人类。它们只需在人类的所有事务中扮演足够重要的角色,以至于我们无法或根本不会去想象,没有计算机会怎样。

这样的未来隐藏着某种悲剧。这种悲剧并不是说,人们未能为机器人末日做好准备,或是无法上传意识,从而要面临死亡。

真正的威胁不是计算机以其能耐与智能,在未来超越并摧毁人类,而是它们依然如今天这般普通、无力,但终究还是超越了人类。

参考来源 |The Atlantic

未经正式授权严禁转载本文,侵权必究。
表情
您至少需输入5个字

评论 0

相关文章