【防务资讯】DARPA局长再谈人工智能：人类对于新技术必须持谨慎态度

　[美国政府科技新闻网站Fedscoop 2016年5月2日报道] 5月2日，DARPA局长表示，美国防部科研机构在人工智能和机器学习领域进行大量投资，但人工智能技术仍存在诸多局限性。

　　DARPA局长阿尔提·普拉巴卡在出席大西洋理事会时表示，统计数字表明，在图像识别方面，目前最好的面部识别系统强于大多数人，但是系统会犯一些人类根本不可能犯的错。

　　普拉巴卡表示，对于何时何地以及如何使用人工智能技术，应该持谨慎态度，这一点很重要。

　　普拉巴卡表示，人们急不可耐地接受人工智能等新技术，但并不完全清楚这些技术的局限性。只有明白这些技术的局限性，人类才不会被误导。

　　人类对于新技术必须持谨慎态度。比如，硅谷人士往往认为,数据越多越好。普拉巴卡表示，更多的数据可能意味着：无论你做出什么假设，都可以找到支持的数据。

　　人工智能仍然处于起步阶段,普拉巴卡称当前的机器学习为“人工智能的第二次浪潮”。

　　普拉巴卡表示，机器学习浪潮的驱动因素包括新的GPU架构、新的算法,尤其是出现了海量可供系统自我训练的数据。当前的面部识别技术、华尔街自主交易系统和无人驾驶汽车等技术都基于DARPA之前的研究。

　　一星期前,DARPA研制的反潜用长航时无人跟踪艇进行海试。

　　2016年3月，DARPA启动了频谱协作挑战赛（SC2），寻求通过将先进的机器学习能力应用至无线电领域，制定优化的无线频谱使用策略，以取代目前低效的预分配特定频段独占应用方式。

　　即将到来的人工智能第三次浪潮涉及将机器学习推进到一个高度，使得软件应用能够从错误中吸取教训。普拉巴卡表示,机器将可以自我解释, 基于因果模型明白自身的局限性，以及学习如何把所学的东西应用到一个或多个领域中。

　　普拉巴卡表示,随着人工智能的发展,机器学习可辅助国防部的战场决策,但人的要素总是不可缺少的。（中国国防科技信息中心吴海）

DARPA局长谈人工智能

　　[据“前沿防务”网站2016年2月11日报道] 国防高级研究计划局（DARPA）正在研发人工智能，使其帮助人类理解50年前就开始泛滥的数据洪流并做出更佳的决策，即使在激烈的战斗中也不例外。这种“人机协作”（非正式名称为“半人马模式”）是美国国防部旨在反制中俄向前发展的第三次抵消战略的高科技“圣杯”。

　　DARPA局长普拉巴卡尔表示，“我们和国防部副部长（沃克是抵消战略的总设计师）有过一些重要谈话，在我们的许多项目中，都可以看到该战略的技术部分”。但它不仅仅是具体的技术，而是关于一种对待技术的新方法。

　　“从根本上说，第三次抵消战略背后的想法，是国防部需要重振我们研发先进技术的能力。如果我们延续旧的方式和旧的节奏，那么有一种很强烈的认识，就是我们将不能到达目的地。”

　　“我们建立了各自独立庞大的系统，各子系统相互使用硬连接方式……这样甚至很难找到问题之所在。这些系统研发周期长、检修耗时多、升级时间久，不能跟上对手迅速前进的步伐。所以DARPA有了一个计划，要从根本上‘反思复杂的军事系统’”。

　　传统武器项目如战斗机或战舰，要将各种定制软硬件整合为一个紧密的、自成一体的系统，需要数年或者数十年的时间。各组件相互依赖，且往往是以不可预知的方式，使得软件调试等工作成为一种梦魇。找出故障犹如捋顺一盘“意大利面”。

　　与这种定制、紧密集成的系统相反，您需要一种模块化、开放的系统结构，从中可以轻松更换它的部分软硬件，而不影响系统的其它组件。

　　相对于数量较少、造价昂贵的有人平台，您希望将所有类型的有人与无人载具进行“异质”混合，包括从130英尺（约40米）长的无人舰，到一次性的手持无人机。您希望系统可以随着军力的调整来扩展或收缩，而不是专为特定类别和规模的军队设计系统结构。您希望的是高度分散、能够抵抗物理攻击、干扰和黑客入侵的网络，而不是脆弱的、依赖有限传输方式和少许中央节点的网络。

　　干扰和黑客很难对付。越是网络化，网络攻击越容易在军队中蔓延。越是使用无线网络，电子战越容易侦测到您的通信，加以利用或将其关闭。DARPA正在应用尖端研究成果应对上述问题。

　　名为“高安全性网络军用系统”（HACMS）的项目就应用了一些所谓“形式化方法”的数学方法来识别并关闭网络漏洞。她表示，在近期的一次试验中，HACMS团队选取特种部队AH-6“小鸟”直升机的任务计算机，重构软件，创建了一个新的“内核”供AH-6现有程序在其上面运行。

　　红方由专家组成的黑客团队试图侵入，却未能成功，即使红方得到一些HACMS源代码，却仍然未能找到漏洞。事实上，在试验中红方曾一度控制AH-6的机载摄像头程序，但当他们试图入侵任务计算机其它程序及飞控时，却无法退出该程序。

　　她表示，“这些系统并非‘牢不可破’，[但是]明显的攻击路径都已关闭，这在数学上是可以证明的”。

　　DARPA还应用新方法来解决电子战的老问题。目前，当一架战机遇到一种新信号，比如敌方雷达或未知无线电讯息，它会记录下来并带回基地。然后，专家们可能需要花费数月或数年来理解敌方系统及应对之策。在雷达和雷达之间使用硬连接且难以修改的时代，这是恰当的。但是现今的发射机是数字的，改变波形只是一个简单的软件问题。跟上这些不断变化的信号，“认知电子战”的目的是使用人工智能来实时检测、分类及反制这些信号。

　　她表示，我们希望做到比人类的时间尺度更快的响应和反应。为此我们的方法是，首先，实时全频谱搜索，然后，应用一些最前沿的人工智能和机器学习技术（如增强学习）。[我们]使用这些来构建系统，机载系统，这些系统可以知道对手在电磁频谱中的当前行为，预测其后续行为，然后调整机载干扰装置严阵以待。”

　　自动防御在防空反导领域是真实存在的：海军的宙斯盾舰可以在来袭威胁太多太快、人脑无法应对的时候自动开火。

　　这样的话，人做什么？没人提议应由机器来决定致命性武器的使用，至少在美国没有，但如果战斗进行的太快太复杂，人的大脑无法处理，指挥官当如何指挥？

　　普拉巴卡尔的副手斯蒂芬·沃克尔（Steven Walker）表示，“您不想提供所有信息，去加重人的负担，而是提供决策所需的信息”。您希望计算机去跟踪所有的复杂行为，包括有人或无人系统，友好和敌对的；进行分析；并提供“2-3个行动方案”供人选择。

　　[本文作者问]“如果在华盛顿附近待久了，就知道“决策者”往往是其职员的‘木偶’，员工首先考虑的是哪个选项最受老板青睐，其次再考虑孰优孰坏。您的意思，计算机扮演精明的员工，人类成为倒霉的主管。如何确保指挥官不成为计算机的木偶？”

　　普拉巴卡尔回答说，“您触及了一个最大的问题。在我们提高这些机器系统的能力的时候，重要的是我们信任并相信它们告诉了什么，它们认为正在发生什么，或它们提出了什么行动方案。”

　　“这股强大的新浪潮正发生在人工智能领域，五角大楼需要善加利用。但我认为，深度学习领域正在发生的很多事情还没有严密的理论基础，将此放在台面上真的很重要……我们都看到这些系统形成了违反常识的解决方案，因为它们缺乏背景。”

　　举一个日常生活中的小例子，就是苹果的Siri语音助手软件。“一开始Siri很神奇。三个问题后就不那样了”。

　　DARPA已经有一些解决该问题的计划，但是当我们开始发展人工智能的新基础后，您会看到更多计划。”

　　人工智能的新基础？这不是一个小目标。但是，这是DARPA。“门槛的确很高。但我们的一位项目经理喜欢说……在这个地方，如果不发明互联网，只能得到一个B”。

（来源：中国国防科技信息中心，作者：李勇）

本站仅提供存储服务，所有内容均由用户发布，如发现有害或侵权内容，请点击举报。