世界大国之间正在启动新时代的军备竞赛,有能力做出生死决定和歼灭敌人的自主机器人可能很快成为战争的常见特征。
《澳洲新闻》报导说,美国、中共、俄罗斯和其他政府都在竭尽全力地发展人工智能,研究如何将之运用到战场,以及如何利用它在网络战当中获得优势。
但是研究者们警告,这可能带来难以置信的危险和“可怕的未来”。
澳大利亚新南威尔士大学电脑科学和工程学院教授华尔士(Toby Walsh)告诉《澳洲新闻》:“军备竞赛已经开始。”
华尔士曾经多次到联合国演讲,努力劝说国际机构阻止杀人机器人的扩散。
“不仅是我,而且我的机器人领域的数千名同事都非常担忧一场军备竞赛的升级。”
美国将人工智能放到保持军事领先努力的核心位置。根据美国国防部十月份发布的报告,机器人攻击小组、自动地雷、具有决策能力的导弹以及隐蔽微型机器人间谍都是美国努力开发的技术。
人工智能如何在战场上发挥作用?举个例子,一批自动无人机将盘旋在战斗区上空,扰乱敌人的通讯,提供实时监控,自主地向敌人开火。这是各国军队设想的战争场面。
中共也在军备。在八月份,官媒报导说,中共已经开始开发高级人工智能的巡航导弹系统。此项宣布被视为回应美国2018年将部署的“半自主”远程反舰导弹。
终结者难题
专家说,军事武器自主化只用了几年的时间。
华尔士教授警告:“如果它们(机器人)落入错误的人手上,它们可以反过来对付我们。它们可以被恐怖组织利用。”
“如果我们允许我们自己沿着这条路走下去,那将是一个可怕的未来。”
“如果它们落入ISIS或朝鲜的手中,那些人不怕将其用来对付平民,这将是一个非常糟糕的后果。”
但是军事界内部的争论已经不再是是否要生产自主武器,而是要给予它们多大的独立性。业界将之戏称为“终结者难题”。
五角大楼将发展人工智能作为维持美国世界头号军事强国地位的核心策略之一。在未来三年,它将拨款180亿美元来开发此项技术。
美国已经测试了能够自主决定攻击目标的导弹,也修建了可以搜寻敌人潜艇的船只。
五角大楼也希望设计人工智能网络安全软件,以便提前探测到网络入侵威胁并作出反应。
尽管华尔士和同事们呼吁停止杀人机器人的研究,但是政府感到,他们不能冒险落在后面。
美国国防部副部长Robert Work去年十月份告诉《纽约时报》:“中共和俄罗斯在像我们一样开发战斗网络;他们可以看到我们看到的;他们可以像我们一样发射制导导弹。”
“我们想做的只是确保我们能像过去一样快速取胜。”