本文面向高级领导人，着重解释了什么是人工智能（AI），什么不是人工智能以及为什么要在军事应用中应用，主要作者目前正在领导国防部CIO努力建立国防部的联合AI中心。
人工智能（AI）越来越流行，但军事领导人对此并未有深刻的了解，其已在许多行业中用于改善流程，服务和产品。高级军事领导人开始认识到利用AI的重要性和潜在价值，但不确定如何进行。美国国会研究服务局（Congressional Research Service）最近发布了一份报告，总结了国防部为AI所做的努力和达成国家的目标。作者强调了军事领导人评估人工智能发展并对新兴方法进行适当监督的重要性。不幸的是，AI宣传人员可以通过过度推销或误导政府决策者而获益匪浅。尽管集中推动AI可能会取得重大胜利，但概念性差的AI应用程序很容易导致重大的失败。先进技术的现实往往无法兑现早期的承诺，但创新者认识到无法预见的应用，从而导致范式改变突破。因此，军事领导人必须了解什么是AI，什么不是AI，以及如何最好地实施AI系统。
什么是AI？
人工智能是一种改善复杂任务的自动化系统性能的概念。今天，这些任务包括感知（声音和图像处理），推理（问题解决），知识表达（建模），计划，沟通（语言处理）和自治系统（机器人）。在学术环境中，AI最常被视为计算机科学的一个子领域，研究重点在于通过搜索，启发式方法和概率来解决计算难题。但是，在实际应用中，人工智能也大量借鉴了数学，哲学，语言学，心理学和神经科学。尽管某些AI系统依赖大量数据，但AI不一定需要通常与“大数据分析”相关联的数量，速度和多样性。同样，大数据分析不一定包含AI方法。同样重要的是要记住，今天被视为人工智能的东西明天可能不会被视为“智能”的东西。在1980年代，语法检查器似乎很聪明，但是这种算法在当今的文字处理软件中是理所当然的。同样，网络搜索和语音识别已集成到许多常用技术中。
人工智能系统通常会在决策的“观察-判断-决定-行动”模型中对人类的感知，认知和运动过程进行建模。例如，亚马逊的AlexaÔ通过机器学习（ML）模型感知口头问题，该模型将口头消息解码为内部编码的知识表示；决定如何通过知识搜索回答该问题；然后编码并传递音频响应。尽管令人印象深刻，但Alexa并不总是能正确回答问题，很容易误导或混淆她。人类必须评估Alexa的答案，并确定是否接受与个人的世界观一致的答案。
AI方法可以分为符号和非符号两类，如图1所示。顾名思义，符号方法使用符号（例如单词）来表示概念，对象以及对象之间的关系。符号方法通常依赖于本体和一组规则或生产来处理信息。象征性AI系统开发人员必须基于问题领域的认知工作来创建本体和规则。这项工作需要大量知识来理解问题领域。但是，它可以产生易于为人类解释的结果，因为它们源自人类知识模型并使用人类可以理解的符号进行编码。
图1 – AI概念图
非符号AI方法是计算密集型的（即线性代数和统计方法），其中输入和知识表示为数字（例如，图像像素，音频频率），并且仅输出（有时）被编码为符号（例如，“这张图片中有90％可能包含一只猫”）。符号系统需要大量的知识获取，而非符号ML系统通常需要大量的数据获取和数据整理，才能进行准确的分类。自AI诞生（约1950年代）以来，符号方法和非符号方法均已问世，其中符号系统（例如专家系统）是首选方法，直到最近（〜2010年）深度学习系统取得了长足进步。关键是AI系统可以采用多种方法，包括混合符号/非符号方法（或共符号方法），每种方法都有其自身的取舍。
正如David Kelnar所说，非符号机器学习（ML）出现了AI的最新进展。ML使计算机能够对信息进行分类，而无需使用问题域的知识进行明确编程。非符号机器学习（ML）减少了与编程人类拥有的大量隐性知识有关的问题。在图像分类，音频识别和击败世界“围棋”冠军方面非符号ML已经取得了成功，可以归因于：（1）互联网创建的数据可用性更高，以及（2）更好的计算能力硬件和可扩展的分布式云存储和计算服务。
机器学习方法不同于传统的算法处理，因为它们允许计算机调整其算法参数（例如可变权重）以改善结果。算法调整或学习可以离线或在线进行。离线学习涉及在将系统部署到生产系统之前在其操作环境之外对其进行培训（例如，在模拟环境中对自动驾驶汽车进行培训，或者对具有许多图像的监视系统进行培训）。或者，在线学习当AI系统使用其操作环境中的连续数据来优化算法参数时。在线学习通常需要将符号和非符号方法混合使用。由于符号系统可以为非符号系统提供上下文，因此将继续探索此类共符号方法。
当今最成功的非符号监督机器学习（ML）技术是深度学习，它使用了多层神经网络（NN）。NN是一种可以对数据进行分类或聚类的算法。它们可用于在数据集中搜索特征，以推断标签，图案或预测。如图2所示，NN接受数据并使用加权系数对数据进行优先排序。将加权输入的总和与正确答案进行比较，以确定是接受还是丢弃该解决方案。AI系统会调整系数的权重，直到得出正确的答案为止。在每个训练示例都具有NN试图匹配的标记输出（例如，杰克的脸/语音/笔迹）的意义上，对这些算法的训练进行监督。因此，NN从这些示例中“学习”。
深度神经网络（即更多的层）需要更多的训练数据，而更多的数据则需要更多的处理能力，存储和带宽。一旦对系统进行了培训，就可以将NN部署在生产环境中。只要该环境中的数据与用于训练的数据一致，NN就会表现良好。其他非符号方法（例如概率方法）已成功应用于符号AI所需的知识工程不可行的问题。但是，使用人工神经网络和概率方法时，都会出现信任问题，因为操作员可能不了解系统如何获得其结果。只要该环境中的数据与用于训练的数据一致，NN就会表现良好。其他非符号方法（例如概率方法）已成功应用于符号AI所需的知识工程不可行的问题。
但是，使用人工神经网络和概率方法时，都会出现信任问题，因为操作员可能不了解系统如何获得其结果。只要该环境中的数据与用于训练的数据一致，NN就会表现良好。其他非符号方法（例如概率方法）已成功应用于符号AI所需的知识工程不可行的问题。但是，使用人工神经网络和概率方法时，都会出现信任问题，因为操作员可能不了解系统如何获得其结果。
图2-单层神经网络图。受大脑神经元的启发，大多数神经网络都是一系列线性代数或偏导数方程，深度学习系统至少使用三层
Brynjolfsson和McAfee为企业领导者总结了AI的优缺点。正如他们所指出的那样，最新的AI成功案例是用于感知和解决问题的机器学习（ML）应用程序。通过使用大型神经网络，语音和图像识别得到了显着改善。在某些游戏和流程优化方面，受监督的学习系统或提供了许多正确答案示例的计算机的性能优于人类。机器学习推动了业务任务（自动识别），业务流程（工作流优化）和业务模型（服务交付类型和方式的变化）的变化。在这些领域，成功取决于拥有有关先前行为或成功成果的大量数据。不幸的是，当前启用AI的工具通常是脆弱的，仅在狭窄定义的问题空间中才能成功。
AI的缺点
在狭窄领域问题解决方案中取得成功并不等于广泛理解，也不能确保在复杂、动态的情况下取得成功。尽管计算机已经针对有监督的学习情况进行了改进，但人类却无人能胜任无监督的学习，并且这种情况将持续很多年。如今，计算机非常擅长回答已经过培训的特定问题，但不擅长摆弄它们。演绎推理（推断出明确的结论）一直占主导地位。人工智能方法极大地改善了归纳推理（推断出可能的结论）和演绎推理（推断出一系列观察的前提条件）。不幸的是，毕加索（Pablo Picasso）在1964年对计算机的看法（“它们只给您答案”）今天仍然准确。
人工智能还有许多其他缺点，应克服和指导其使用。最重要的是可解释性。深奥的数学和笨拙的数据集是最成功的应用程序的基础。因此，诊断错误异常困难。非符号机器学习（ML）方法的可解释性复杂化是训练数据集的不确定性质。这些集合可能包括被AI系统内部化的潜在偏差（例如，采样错误或故意操纵）。选择和定制AI方法需要专门技能的AI科学家，但可能缺乏有效实施所必需的操作视角。AI无法很好地应对新情况，当AI系统呈现无法解释的结果（即使它们是最佳的）时，对自动化的信任也会减弱。
与AI系统的复杂性相关的网络安全漏洞也变得越来越明显。David Atkinson描述了许多漏洞类别，此处总结了其中的一些类别。由于AI的资源密集型性质，错误分配计算资源的恶意软件会限制AI系统，使其提供格式错误的解决方案。换句话说，恶意软件可能使AI系统分散注意力，以至于产生错误的答案。在诸如无人车（UAV）集群的多代理系统中，一辆UAV的变更可能会触发整个集群的级联更改。数学家将其称为“蝴蝶效应”，其中复杂系统中的细微变化会随着时间的流逝而产生巨大的影响。或者，由于大多数AI系统旨在优化多个目标，因此网络攻击者可能会引发目标冲突，从而导致不良行为。一个军事上的例子就是后勤管理系统，该系统可以优化三个目标-最大作战率，最小零件库存和最小补给任务的风险。增加最后两个目标之一的权重可能会导致决定延迟或转移关键部分。
在军事中实施AI
尽管当前的缺点给军事领域采用AI带来了挑战，但仍有许多军事应用可以立即利用当前方法。情报支持工具已经从海量数据集的演绎推理算法中受益。例如，Maven项目（无人机图像识别）已经说明了支持AI的图像识别在空中监视中的优势。这些方法可在火控系统中实施，以减少杀伤力并改善目标识别。路线和物流计划自90年代初以来，工具已成为军事系统的一部分。可以使用贝叶斯方法改进此类工具，该方法将检测偏差并在可变条件下优化路线和过程。规划支持工具可以通过对复杂行动方案进行概率比较来改善战争计划评估。在获取意义的网络空间行动，特别是网络映射和漏洞识别和修补，可以从自动有章可循受益，推理的方法，如那些最近在DARPA的网络大挑战证明。人工智能系统可以改善重大收购决策通过监视和综合有关全球科学技术投资和突破的信息。商业领域的营销成功证明了AI方法在信息运营中的潜力。可以使用深度神经网络来改进通信系统，以对干扰进行分类并优化频谱使用。最后，机器人技术和自动驾驶汽车将依靠AI进行路线规划，感知和战术机动。下表描述了如何使用各种AI方法来改善军事任务。它还强调了每种可能的AI方法的一些重要缺点。
这些应用程序中任何一个的实现都比购买市售软件要多得多。每个AI系统都是独特的，需要大量的研究和开发。AI系统的设计将取决于其最终的操作环境（物理/虚拟，受控/不受控制）和要分析的数据的性质（离散/连续，结构化/非结构化）。非符号ML的一阶问题是获得有用的数据。
解决数据源的收集，管理，存储和保护的数据策略至关重要。定位和建立对有用数据集的访问可能会涉及许多决策者，他们几乎没有动力与AI程序合作。政策，法规和法律限制了谁可以访问某些类型的数据以及如何存储它们。因此，大多数AI应用程序都将涉及培训和运营数据的数据管理。记录培训数据的性质并将其与生产系统数据进行比较，对于确定AI系统的适用性非常重要。
AI应用程序是重要的信息系统，需要开发，测试，维护和特别技能的用户。网络工程师和架构师，安全工程师和数据/计算机科学家必须共同设计这些系统。系统安全计划记录了将保护系统的硬件，软件，连接性和控件，并且是授权官员批准系统运行的基础。云计算解决方案和网络安全服务需要合同和协议备忘录。尽管AI系统的大多数数据都是非保密的，但分析通常可以保密。因此，通常需要跨域解决方案来容纳已保密和非保密基础结构之间的移动数据。不幸的是，当前的测试和评估方法需要大量时间和精力，由于人工智能系统不断发展，因此有必要将持续测试和评估作为常规操作的一部分，以确保系统保持在所需的性能参数范围内。
表2-用于军事任务或应用的可能的AI方法
最后，人工智能系统不仅仅是硬件和软件的集合，而是监督控制系统。这样的系统必须是可观察的，可解释的，可指示的，可预测的，并在情况允许时引导其上级主管的注意。即使是拼写检查器，Internet搜索引擎和语音识别应用程序中相对成熟的技术也会犯下错误，需要人类觉察和干预。所谓的完全自治系统仍将由某些人负责确保系统的正常运行，并在面对意外时最终充当弹性的来源。
由于这些原因，重要的是要认识到人类将与这些AI机器一起工作。这种人机协作方法的优势在于，人可以向AI提供其目的，目标和某些上下文，以集中注意力于机器的推理。但是，要使团队成功，信任必须占上风。信任自动化的一个重要概念是可靠的已知性能包络。用户必须了解系统设计的条件，并有足够的反馈机制来确定系统在性能包络中的位置以及何时会违反性能。为此，DARPA目前正在研究可解释的AI方法，以提高机器学习的可解释性。但是，所有这些都表明需要AI程序中的跨学科翻译人员来解释操作需求和技术可能性。
结 论
在业务环境中，人工智能取得进一步成功的瓶颈是管理，实施和想象力。军事环境增加了危险，不确定的环境，长期存在的敌人为了寻找阿喀琉斯之蹱而争夺环境。人工智能应用程序提供了加速数据解释的潜力，并使人可以解放更高级别的任务。但是，技术人员和军事领导人必须考虑监督控制系统的不变性。尽管流行媒体经常关注AI替代人类，但没有人支持这种替代神话。相反，新技术会改变并为人类实现目标创造新的角色。与其他技术一样，人工智能应用程序必须支持人类固有的目标设定工作。
人工智能正在创造新的，不断变化的商业和战争范例。因为成功或失败对国家来说可能是存在的，所以军事领导人必须精通AI，才能明智地投资和使用这些技术。2017年7月，中国宣布了成为AI全球领导者的计划。2017年9月，弗拉基米尔·普京（Vladimir Putin）告诉学生，人工智能领导者“将成为世界统治者”。其他国家，例如澳大利亚，已经在其军事教育中纳入了先进的技术（包括AI）素养。我们不能容忍对数学和科学的无节制的厌恶，误导了我们自己的投资。
关于作者
斯科特·拉斯罗普（Scott Lathrop），SoarTech的网络和安全自治总监。在此之前，他曾担任美国网络司令部高级能力和技术（J9）总监，领导该司令部的研发工作。斯科特（Scott）是前装甲/骑兵和陆军职业代码53军官，是美国军事学院的杰出毕业生，并拥有博士学位。密歇根大学计算机科学与工程专业的博士学位。他的研究兴趣包括AI / ML，认知体系结构，网络安全和自主无人系统。
斯托尼·特伦特上校，陆军网络战官员，领导国防部CIO联合AI中心的实施。此前，他曾担任美国网络司令部实验主任和网络浸没实验室主任。他在战术，作战和战略梯队的作战和情报任务方面拥有23年的经验。拥有圣母大学的机械工程学士学位以及MS和Ph.D。拥有俄亥俄州立大学认知工程专业的博士学位。他的研究专注于团队认知和对任务指挥，情报和网络空间作战的自动化支持。斯通尼（Stoney）毕业于美国陆军大学，是美国国家安全局（National Security Agency）的网络研究员。
联系客服
