允许自动化武器在真实战斗中发号施令，可以为人类士兵减轻一些负担。但专家也同时警告说，自动化武器也会对人类安全保障构成威胁。

在近期的一些会议中，研究人员指出他们比较关心这些战争武器是否会卷入不道德行为，让战场成为黑客可操控的“游乐场”。

不像今天的无人驾驶飞机实为人工操控，在未来，自主武器将能潜在自行选择并攻击目标。

这些疑虑在1月份瑞士的达沃斯世界经济论坛期间得到了强调。

新南威尔士大学计算机科学与工程学院从事人工智能（AI）的托比·沃尔什（Toby Walsh）教授对福克斯新闻说：“这是我们在清单上列出的诸多顾虑之一，我们大多数人都认为我们还没有制造道德机器人的能力。”

他补充说：“其实大家尤其担心的，是世界各地的军队会在数年内派出机器人，但我们不认为有人可以制造出有伦理道德机器人的能力。”

要制造一台有道德的机器人，研究人员可以为它们编制特定的指令，以防它们变成捣蛋鬼。

打个比方，科幻小说家艾萨克·阿西莫夫（Isaac Asimov）曾写过一则名为《环舞》（unaround）的故事，当中就提及过利用三大准则来监管机器人的行为。

• “机器人不能伤害人类，或允许人类受伤害而机器人却不作为。”
• “除非与第一条准则有冲突，机器人必须遵从人类的指令。”
• “只要与第一条和第二条准则不冲突，机器人就必须保护自身安危。”

虽然专家们普遍同意建立受道德规范约束的机器人，但最终成果还是取决于创造者如何在设计中融入这些准则。

其他人则认为，谈论人工智能叛乱起义实在言之过早。

新美国安全中心伦理自主性计划主任保罗·史卡尔（Paul Scharre）表示，我们心中所想的武器，其实大部分在现有系统里还不存在。

他说：“大多数系统在射击过后便会立即忘记，一些较先进系统也只是要求正确击中目标，而非去选择一个攻击目标。”

史卡尔在世界经济论坛上提到，即使在战场上并未禁止自主武器，但要创造出符合公认交火准则的机器人仍将是个挑战。“就算它们能够合法操作，自主武器也会引起道德和伦理上的争论。到底我们应否赋予一部机器生杀予夺的力量？”

 

史卡尔接着说：“最后，即便自主武器真的被合法化和道德化，也依然是极其危险的。系统故障或者敌人入侵的后果将会非常严重。自主武器目前还没在任何国家中使用，但有些国家已开始在作战地区部署无人驾驶载体。如果保护自主科技的安防系统也被黑客推翻重写，就可能在战场上造成毁灭性的破坏。”

IHS简氏国际防务评论编辑休·威廉姆斯（Huw Williams）表示：“目前（人们）一直在做强化数据链接加密的努力，以达到与操作者进行更安全连接的目的。但现在仍存在一个问题：没有任何加密是完美的，仍然存在数据链被破解的风险。”

因此，无论平台是否仍然以人手操控，在系统变得更自动化的同时，被黑客劫持的风险也将随之上升。

专家们究竟在担心什么？

当今的战争法本身并没有明文禁止使用自动武器，但当今除了在特定情况下，自主武器的使用仍较难以适应战争法。

然而，专家们还是认同这其实最终还是取决于创造者如何设计，但不太相信他们会实施约束机器人的准则。

尽管自主武器在战争里并未被禁用，但制造能在战场上得到公认的作战准则并非易事。

如果安全系统防护被黑客入侵，绝对会在战场上带来毁灭性的破坏。

自主武器可能会带来灾难

人工智能正在推陈出新，拉近我们与全自主版本的无人机和武器系统间的距离。

可是康奈尔大学政府学院副教授、无人机专家莎拉·克雷普斯（Sarah Kreps）认为，继续在全自主的方向发展下去，会导致以下严重问题：

安防专家警告称，机器人缺乏如人类一样分辨敌友的主观决策能力，容易受到黑客入侵。

近期一份报告引发了大众对自主武器（包括无人机）系统决策能力的关注，并严厉警告。

机器人到底能否远离战火中的罪行？

如果机器人在战争中进行非法杀戮，那么谁才应该为死亡负责呢？“人权观察”组织上月发表的报告强调了令人不安的答案：“没有人”。而该组织认为针对这种缺乏责任的问题，人们必须作出行动，并号召禁止“杀手机器人”的使用与研发。

该计划名为“小心缝隙：杀人机器人无需负责”（Mind the Gap: The Lack of Accountability for Killer Robots）。报告还为机器人在不受人为控制情况下进行杀戮的操作障碍提供了详细陈述。

人权观察武器部研究员邦尼·多彻蒂（Bonnie Docherty）说：“不负责意味着没有对未来犯罪的威慑，没有对遇难者的补偿，也没有对应负责团体的社会谴责。”

（翻译：曾詠琳  编辑：曾宇）

- - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - -

军情瞭望，军史回顾，军备盘点。不无度吹嘘我军，不盲目崇拜外军。长按二维码，关注【硝烟】微信公众号：xymilitary ，和我们一起做裤衩不红不白的铁杆军事迷。（如果长按不行，就请军迷扫下呗）