国际海事安全中心2017年9月13日发表了美国海军分析中心研究分析师马约利·格林妮撰写的文章《人工智能是否将颠覆我们进行战争的方式》。文章编译如下:
在伯克希尔哈撒韦最近的一次股东大会上,沃伦巴·菲特表示人工智能——机器的自主学习,将对人类社会带来“巨大的颠覆”。著名的物理学家斯蒂芬·霍金也预测说 , 人类在地球上的寿命将只剩下一百年。他认为随着人工智能的发展,机器将不再仅仅是辅助人类的工具,而会在认知性任务的指挥和管控上彻底取代人类。
弗吉尼亚州斯普林菲尔德举行的年度人类系统研讨会上,作者也表达了他的担心:由于人类越发依赖人工智能军事应用来提高作战能力,人类的决策影响在致命武器的使用中将逐渐弱化,而致命武器的控制使用权限必须始终掌握在人类手中。如何才能使人类在这个循环中不被淘汰,是人系统研究在未来需要着重研究的领域。
1自组织
在自己的著作《控制论》中,诺伯特·维纳可能是首个阐述“机器学习”概念的人。建立在诸如蚁群和鸟群的动物群体行为模型上,他描述了人类自组织的过程,这一过程也可以用于机器,它们可通过适应环境来学习。自组织是整体所具有的一种高等级的属性 , 这种属性是组成整体的各个个体所不具备的。系统各部分运行是按照逻辑信息和全局的秩序进行的,而非需要外部的控制。群体智能通常用于描述自组织系统的集体行为,是单个个体所不具备的整体性智能。
2集群作战
军事研究人员尤为关注群体智能领域的突破性进展,这类技术突破能够针对美国航母等作战平台发动非对称的集群作战。随着计算机处理速度的提升以及自主增长算法的发展,军队能够更快速地执行更广泛的任务,而不需要每一项任务都由人来控制。可以在不需要人类控制所有单独任务的情况下,更迅速更广泛的行使功能。
像“捕食者”和“死神”依旧是由人遥控操控的无人机,传感器的探测方向、无人机的作战区域、导弹攻击的目标都要由操作人员决定。美国海军分析中心(CNA) 的研究指出,无人机在阿富汗的造成的平民伤亡是有人驾驶飞机的10倍。基于CAN对国家安全、合法性和平民伤亡的研究,作者在与美国海军陆战队大学出版社联合出版的书中建议,由于人工智能持续蓬勃发展,国际人道主义法(IHL)应当重新思考无人机战争。
3中国的发展方向
与此同时,中国的战略学者已经深刻认识到无人和自主化战争的趋势,并且试图有效利用。解放军已经将一系列无人飞行器纳入其各个军种的力量结构。解放军的空军和海军也开始引进更先进的多任务无人机。显而易见,中国正在利用人工智能来加强军事应用。在最近的一次美国参议院听证会上,我们也获悉中国的国防工业已经在一系列尖端的无人系统领域以及集群能力中取得了显著的进展。同时外太空也被中国视为要获得未来战争胜利而必须拿下的领域。
在人工智能的辅助下,中国发展已经不再仅仅局限于为作战、指挥、控制概念的探索奠定技术,而是进入总体应用阶段。这些发展对美国军方产生了重要的影响,这意味着到人工智能在中国着眼“打赢”的军事能力构建中占据主导地位。这种构建遵循的是非对称战略,抓手是关键性作战平台。
4人机合编组
人机编组在国家安全事务上越发得到重视,最近由国防部和国土安全部组织的国防无人系统峰会上,很多演讲者都明确提出,应该开发能够与有人系统更好交互的先进无人系统。迈克尔·诺瓦克——N99无人系统理事会的代理主任,提到需要优化人机编组来扩展能力,加强信任。人系统培训和生物系统理事会的副局长宾度·耐尔以及美国空军研究实验室的代表们,纷纷表示需要进一步开发更完善的无人驾驶系统,以便与载人能力和未来系统相结合。
5DRAPA
最后还应该注意的是,美国国防高级研究计划局(DRAPA)最近发布了题为《集群性进攻战术》的跨部门公告(BAA),这属于国美防部抵消战略的一部分。它着眼于城市环境下有人系统和无人集群系统的协作。这可以确保人的功能不会被未来的研究忽视,即使集群智能已经可以在没有任何外界的控制下达成全局性行动秩序。
6结 论
随着我们对人工智能军事应用的加剧,这样的风险也在不断加剧,即人的决策逐渐被排除在致命武力的使用流程之外。总而言之,人工智能对人类控制功能的取代毋庸置疑将会重塑人类的社会形态,但是在认知性任务的指挥和控制中,特别在军事领域,人绝不能被机器所替代。我们需要弄清楚怎样才能把人保留在这个循环中。
联系客服
