扫一扫下载界面新闻APP

赛博暴力崛起,新兴技术会让国家体系过时吗?

新兴的生物、纳米和赛博技术让犯罪者可以随时锁定任何目标,而民主化的深入也对其有推波助澜之功。

在《暴力的未来》(The Future of Violence)一书里,本杰明·威迪斯(BenjaminWittes)和加布里埃拉·布鲁姆(Gabriella Blum)探讨了一幅令人不安的假想图景。一个孤独的尼日利亚演员,“大量垃圾信息和网络诈骗行为的始作俑者,”诱使女性和年轻女孩下载恶意软件,藉此监视和记录她们的活动,以便为发送敲诈邮件做准备。现实里的作案者是一名加州男子,后来被FBI抓获并坐了六年的牢——他如果住在别处,很可能就逃脱制裁了。威迪斯和布鲁姆称,许多国家“在监管网络犯罪、追捕侵害者或将嫌疑人引渡至原籍等方面既无意愿也无能力”。

换言之,技术让犯罪者可以随时锁定任何目标,而民主化的深入也有推波助澜之功。新兴的生物、纳米和赛博技术愈发普及。政治学者丹尼尔·杜德尼(Daniel Deudney)有一个形容其后果的说法:“避无可避的暴力(omniviolence)。”杀人者与被害者之比正在下降。例如,计算机科学家斯图亚特·罗素(Stuart Russell)对一小撮恶人如何掀起避无可避的暴力有生动的描述:“一英寸见方的超微型无人机可以携带1至2克的聚能炸药,”他说,“你可以从一家中国的无人机厂商那里买到它。编写代码“这里面有本机目标的各类照片”,让其执行轰炸任务,1克的聚能炸药足以把9毫米厚的钢板炸出一个洞,以此观之,你想让别人脑袋开花也并不难。你可以用一台牵引式半拖车装载约300万架无人机,部署3辆这样的车到95号高速公路上,以1000万架无人机攻击纽约市。它们不需要非常高效,只要有5%至10%的无人机能找到目标就行。厂商可以造出千百万架这种无人机,而购买它的难度就和如今买枪差不多。罗素指出,“如果没有100万士兵,100万支枪无非是摆设,但你只需要3个人来写程序以及发射无人机。”在这种情况下,假设无人机的准确率为10%,每架无人机的载弹量为1克,那么杀人者与被害者之比就只有3/1000000。

这种可能性前所未有、可怕之极。今后的恐怖分子和反社会者将不只拥有互联网或无人机——未来生活学会(Future of Life Institute)的视频里称之为“杀人机器(slaughterbots)”——还有合成生物学、纳米技术和先进的AI系统可供支配。这些工具令国境线上的琐碎争执相形见绌,进而引发了一个问题:新兴的技术是否会让国家体系过时?很难坚持否定的答案。英国哲学家托马斯·霍布斯(Thomas Hobbes)曾提出,国家存在的正当性依据乃是“社会契约”。人们放弃一定的自由来换取国家提供的安全,国家就此作为中立的“裁判”,介入人们的争讼,惩罚偷盗和杀人者,并确保有着不同利益的各方所签订的合约能够履行。

在未来生活学会的模拟视频中,一架飞机投放成千上万台无人机 图片来源:YouTube/Future of Life Institute

麻烦在于,如果有人能随时随地对他人发起攻击,那国家将难以兑现其作为裁判的义务,如今的趋势也正在朝这个方向发展。无政府状态很可能会降临,“一切人反对一切人的战争,”如霍布斯所言——换言之是一种人们随时活在担心邻居来犯的恐惧中的境况。近来,《全球政策》(Global Policy)上刊出了牛津大学哲学家尼克·博斯特罗姆(Nick Bostrom)的《脆弱世界假设》(The Vulnerable World Hypothesis)一文,文中提出对抗全球灾难的唯一办法就是建立一套普遍的、侵入性的监控系统,用他的话说就是一种“高科技全景敞视塔(High-tech Panopticon)”。听起来似乎有反面乌托邦的意味?在我看来确实如此。“建立和运作这一高科技全景敞视塔,将需要海量的投资,”博斯特罗姆写道,“但好在相机、数据传输、存储及运算的价格在不断下降,AI的迅猛发展令内容分析得以可能,这一构想或许很快就能具备技术上的可行性和廉价性。”博斯特罗姆当然考虑到了消极的一面——堕落的国家官僚很可能会用它来监控一切,推行极权主义,黑客也可能会借助它来攻击不加防范的受害者。但事实是,它与全球性的灾难相比可能仍不失为一个较佳的选项。

各个社会如何反击避无可避的暴力?策略之一可以是超智能机器——本质上是一种超强的算法——并专门将其设计得可以公正地治理。接着,只要它能实行类似于“哲人王”的统治,我们就可以让该算法负担政治责任,无需担心收集来的数据会被误用或滥用。当然,这是个异想天开的计划。在现实世界里,司法系统在运用AI时就产生了许多问题。然而,在这个节骨眼上,我们还有更好的办法在如此广泛的技术赋权带来的压力面前阻止国家体系的崩溃吗?

也可能会诞生全新的、足以维持现有体系的理念——如果我们还希望维系它的话。新兴的技术也未必会有我和其他一些人所预期的那种赋权作用。进攻性技术的发展可能会落后于防御性技术,令成功实施攻击变得极为困难。还有一种可能是,在避无可避的暴力和民主化将国家撕得粉碎之前,文明就已经葬身于气候变迁带来的一系列压力,如致命的热浪、大旱灾、沿海洪水、海平面上升、冰川和极地冰盖的融化、沙漠化、食品短缺、疾病蔓延、生物多样性的丧失、种群灭绝和大规模移民。如果我们最终重新过上了狩猎-采集式生活,那最需要担心的东西就只有木棍和石头,而非人造病毒和人工智能了。

文明是一种实验。我们可能得不到原本想要的结果。鉴于此,人类最好在抱有美好期望的同时也为最坏的情况做好准备。

本文作者Phil Torres是一位美国科学家、记者、电视节目主持人。

(翻译:林达)

来源:鹦鹉螺杂志

原标题:Omniviolence Is Coming and the World Isn’t Ready

未经正式授权严禁转载本文,侵权必究。
表情
您至少需输入5个字

评论 0

相关文章

推荐阅读