海因斯说:“杀人机器人”的使用可能杀死那些已经准备投降的敌人,从而使人们难保不违反人权和人道主义法律,意味着人类“道义责任的缺失”。
所谓“杀人机器人”,是指在激活后无需人类干预即可自动选择目标和采取行动的一种武器系统,包括无人驾驶的飞机、舰艇、战车和巡航导弹等,当然也包括人形超级智能机器人。它们分别具有不同程度的自动半自动功能,虽然还不是完整意义上的“杀人机器人”,但已是其雏形。
这类机器人过去只能从《变形金刚》《终结者》等科幻作品中见到,现在却在迈向现实。它们将从由人远程遥控,发展到由计算机软件和传感器控制,进而能全自动执行识别敌人、判断敌情和杀死对手等任务。
海恩斯认为,这是极其可怕的。“如果将这些机器人补充到武器库,就是打开了潘多拉魔盒,将会给人类带来难以想象的灾难”。
美国是最早开始研发“杀人机器人”的国家。英、日、德、俄、韩和以色列等国紧随其后,也相继研发了各自的系统。目前有代表性的几种系统是:美国的智能机器人兵种和密集阵近程防御武器系统,英国的“雷神”隐形无人机系列,韩国的“机器人哨兵”和以色列的“哈比”反雷达系统等。
随着这些武器系统的陆续问世,人们普遍担心的“机器人大战”的时代也许会提前到来。国际机器人武装控制委员会主席夏基教授指出,大量无人机参战意味着人类迈出了颠覆现代战争的最后一步,将极大地改变未来战争的形态。他警告说,机器人很难保证不滥杀无辜,它们无法对自己的行为负责;如果恐怖分子利用“杀人机器人”取代自杀式袭击,后果将不堪设想。
尽管人类目前已初步掌握了制造“杀人机器人”的技术,但据专家分析,至少在20年内还不大可能将其大规模部署在战场,因为现实技术尚存在许多重大难题。
他们举例说,一个机器人可以判断对方是人还是机器,但是要识别对方是士兵还是平民,现在几乎不可能;真人士兵可以用常识判断眼前的女子是怀孕还是身藏炸药,机器人恐怕不大可能;而要让机器人具有人类的某些情感(如复仇、惊慌、愤怒、困惑或恐惧),更是难上加难。这些问题的解决,没有20年以上的时间恐怕不行。
尽管如此,人们还是希望从现在起就能对“杀人机器人”的研发、使用给予足够重视,引起高度警觉。正如专家们指出的,“如果对这种态势估计不足,应对乏力,不作未雨绸缪,那么机器人大战的时代不是会不会到来的问题,而是时间问题。” 王瑞良