《流浪地球》影片中，刘培强和空间站人工智能——MOSS之间有一番较量。最终，刘培强取得胜利，用自己的生命和空间站燃料点燃了木星。凭借爆炸产生的冲击波，地球再次踏上流浪的漫漫征程。
回头细想不禁心头一惊：如果MOSS中止了刘培强所有行动权限呢？刘培强还能取得胜利，还能有地球的继续流浪吗？确切点说，影片中“有人类的文明”能继续存在，恰恰是因为MOSS没有获得完全控制权限。
由此联想到，对智能化武器系统来说，有“限”倚重，也许是打开它们的正确方式。
当前，世界主要军事大国都在不断研发挖掘智能化武器系统潜力。
一是发展“人机协同”式智能指控系统，即通过智能化武器装备与人的充分配合来完成作战任务。比如俄罗斯陆军在2016年底进行的“排级分队带机器人实弹射击”演练，美军F-35战机飞行员对无人驾驶型F-16战机进行指挥与控制，等等。
二是研发“机器自主”式智能指控系统，即由智能化武器系统自主领会指挥员决策意图，自主完成相关作战任务。如俄军正在研发的无人机群“任务智能分配系统”。它可以根据战场环境来合理分配无人机“角色”，制定并实施最优行动方案，自主完成“行动-评估-再行动”作战闭环。
从实际效果来看，这两种方式都能大幅度提升军队的战斗力。但与此同时，这些举措，也在客观上把武器使用和生杀予夺的权力分发给智能化武器系统，使人类不同程度地处于危险境地。毕竟，由于目前人工智能技术的发展局限，智能化武器系统有可能在执行复杂程序过程中出现失序。比如，美军在伊拉克战场上，就出现过军用机器人失控事件。
再者，即使人工智能发展到更高水平，实际情况同样难以预测。一旦雷·库兹韦尔曾经提出的“技术奇点”理论成为现实，人工智能的复杂度达到和人类一个量级水平，类人智能或超人智能就会从机器中自动涌现出来。那时，就难以断言电影《机械公敌》和《西部世界》中出现的机器人反叛并伤害人类场景不会出现。
从这个角度来讲，无论是“人机协同”式智能化武器系统还是“机器自主”式智能化武器系统，也许“有‘限’倚重”才是其正确打开的方式。这种有“限”不是反对智能化武器的发展，而是在其快速发展的同时，设定安全可控的底线，始终将人置于主体地位，并建立预警机制与意外应急处置机制，保证人类指挥员对系统的控制权。
科幻作家艾萨克·阿西莫夫曾说：“在我们这些真正无所不知的人眼中，那些自以为无所不知的人就是一个巨大的麻烦。”
人工智能向何处去？智能化武器系统往何处去？这考验着人类的智慧。
（作者单位：国防科技大学）
联系客服
