2023年8月，日内瓦安全政策中心（GCSP）发布《21世纪认知战与颠覆性治理》（Cognitive Warfare and the Governance of Subversion in the 21st Century）报告，报告建议对认知战中以颠覆性为最终目标来使用新兴技术的行为进行治理，同时提高“社会复原力”（societal resilience）。此外，报告旨在对认知战概念本身进行更多的研究，这将有助于新兴技术的治理工作。元战略摘编重要内容，探讨认知战和其中的颠覆性治理。
21世纪的特点是前所未有的指数级技术进步。人工智能、认知科学、神经技术和其他相关领域当前和未来的发展，将进一步增加大规模操纵的风险，并可能导致心智军事化（militarisation of the mind）成为未来的战场。认知域作为第六个战争领域的出现将导致更多的认知战，这将提高非动能颠覆性手段相对于动能胁迫手段的地位和效率。同时由于缺乏国际治理，在这些非动能颠覆性手段高速发展的同时，如果国际治理仍一成不变，那么国际治理体系将缺乏对21世纪颠覆性手段所需框架、工具的理解。本报告探讨了认知战的出现以及新兴技术带来的非动能颠覆性手段在国际舞台上的兴起。首先，报告提出建立治理框架，规范认知战中以颠覆性为最终目标来使用新兴技术的行为，并提倡“颠覆性控制（subversion control）”的概念以防止心智军事化；其次，报告建议对神经技术和人工智能等新兴技术进行监管，同时提高“社会复原力”；最后，报告力求促进对认知战概念本身进行更多的研究，这将有助于新兴技术的治理工作。
全球安全的挑战
（一）颠覆性
虽然颠覆性手段并不新鲜，但最近的新兴技术正在以前所未有的规模和更易被获取的方式实现颠覆。认知战旨在控制对手的心理、感知和行动，即认知操作（cognitive operations）的总和，为使用武力或外交手段实现战略目标提供了一个日益可行的替代方案。然而，认知战领域很少或基本不受到国际治理。因此，国际社会有必要深入了解认知域和认知战、它们对颠覆性手段的影响以及相关的治理框架。颠覆性可定义为“非军事秘密行动中使用的影响力工具，它利用漏洞秘密渗透到一个规则和实践系统中，以控制、操纵和利用该系统对对手产生不利影响”。典型的颠覆性机制包括影响公众舆论、瓦解社会凝聚力、扰乱经济、破坏基础设施、影响政府政策等。然而，颠覆性手段的有效性受到各种因素的限制，例如，资源、协调、范围、颗粒度。由于这些限制因素，以往有效的颠覆性行动通常由拥有必要能力的强国实施，但影响有限。然而，如今神经技术、认知科学和人工智能领域的发展以及技术大众化从根本上改变了这些限制因素。通过实现更准确、更大规模和更低成本的认知行动，颠覆性将变得越来越容易以更低的成本实现，其影响和操纵对手的潜力会呈指数级增长。
（二）认知战
人工智能（尤其是生成式人工智能）或神经技术等新兴技术正在认知域内实现高度的便捷性和高效的颠覆性。21世纪混合战争形式在大国之间的盛行，模糊了领域、国内和国外、国家和非政府主体以及和平与战争之间的界限。由此产生的环境是一种“长期潜在的斗争”，而不是一种明确划分的和平与战争状态，这种状态被称为“新世代战争”“不和平”或“角落中的冲突”。最近的学术研究侧重于认知战的概念，虽然对这一术语的定义尚未达成共识，但以下定义突出了认知战的关键特征：认知战旨在影响个人和/或群体的理解和决策机制以实现战略目标的颠覆性行动。认知战“可在动能行动之前、期间和之后使用，同时不属于目前国际上对战争行为的定义范围”。随着人工智能或神经技术等新兴技术的快速发展，以及这些技术与日常生活的日益融合，这些行动也将变得更加普遍和有效。认知战不同于信息战，信息战“侧重于控制信息流”，而认知战“旨在控制目标对所提供信息的反应”。有学者指出，“认知战通过将武器化的神经科学融入各种实践，专门致力于大脑控制”。虽然认知战产生的效果难以量化，但我们对什么是认知攻击、认知攻击的影响以及如何应对认知攻击缺乏清晰的认识。认知战的间接影响及其通过影响个体的信仰来扩大影响力，为实施此类攻击的人员提供了似是而非的责任推诿。因此，目前认知攻击几乎可以在没有国际社会报复风险的情况下实施。除了这些因素之外，高度易用的新兴技术也将继续提高认知战的效率，这些技术包括认知技术的进步，如监测大脑并与大脑连接的技术（如脑机接口）或复制人类认知的技术（如机器学习）。此外，社会和技术系统的快速融合也扩大了认知攻击的目标范围。
因此，新兴技术从两个方面增强了通过认知攻击进行颠覆性的潜在影响：
1. 间接影响：信息技术与日常生活的融合创造了新的、高频率出现的网络空间，可成为攻击目标（社交媒体，如Twitter、TikTok、Instagram、Facebook、metaverses或未来可通过脑机接口访问的空间），并产生越来越多的用户数据以提供操作，这些数据可用于认知攻击的资源。
2. 直接影响：开发可用于认知操作的工具，如协调复杂的广泛操作、分析个人行为和/或生成有针对性内容的工具，甚至直接与人脑交互的工具。这方面的例子包括人工智能协调的机器人网络、人工智能生成的内容、脑机接口引起的错误感知，或根据目标的情绪状态进行调整的“情绪人工智能”。
这些进步绕过了传统颠覆性手段的限制，数据的大量生产和内容的自动创建产生了大量可用于认知操纵的公开数据。随着人们越来越深入地融入数字空间，大模型对个人活动、思想和行为的全面了解也会增加，其影响力也会随之增强。脑电图（EEG）、脑磁图（MEG）或功能性磁共振成像（fMRI）等非侵入式脑监测技术和生物识别（BCI）等侵入式技术的出现进一步加剧了这些脆弱性，这些技术可以记录目标对象的神经过程，甚至直接影响他们的思维模式。因此，认知战将从这些发展中受益，并加速利用颠覆性手段在全球范围内产生影响力。施加影响力的手段将逐渐从纯粹的动能手段转向颠覆性手段，与使用武力相比，通过有针对性的自动化认知行动来实现政治目的更为有效，然而，目前还没有治理框架或工具来应对这种事态的发展。
认知域缺乏治理可能带来的风险
在认知域缺乏治理意味着巨大的风险，它可能导致战争的道德和法律规范受到侵蚀，心智军事化不受限制，精神隐私受到侵犯，以及神经技术和神经武器领域的技术军备竞赛，从而导致国际稳定的整体下降。
（一）无人治理的空间
认知战将提高颠覆性的速度和效率，作为一种影响力工具，颠覆性在很大程度上将是非动能性质的。目前，国际人道主义法中混合战争所利用的非动能行动仍尚未明确。由于认知战和用来发动战争的“武器”不符合我们为治理战争而对战争进行概念化的方式，传统的治理框架将不再适用。随着认知战将颠覆性变成实现这些目标日益有效的工具，缺乏国际治理的影响会变得更加严重。以心智为重点的治理工作已经开始出现，其中最突出的是神经权利（neurorights）概念的出现。在神经权利基金会的倡导下，神经权利寻求加强人权框架，创建一个新的权利类别，以更恰当地保护人类的心理。因此，应努力管理可能威胁这些权利的工具、神经武器及其附属手段和方式。当今的治理制度主要涉及动能武力的使用，需要加以更新，以反映促成认知战的非动能能力。因此，应制定负责任的国家行为规则、限制“武器”的类型和使用方式，以及制定法律、伦理和道德准则。
（二）对国际稳定的影响
如果没有适当的治理制度，开发、军事化和部署相关能力以获取战略优势的动机就会成倍增加。由于人工智能和神经技术等新兴技术是认知战的关键推动因素，各国很可能会认为有必要将这些军民两用技术军事化，这反过来又会加速这些领域的技术军备竞赛。军备竞赛的态势可能导致在开发和使用这些技术的道德、法律和规范限制方面出现竞相逐低的现象，甚至可能会出现放弃严格监管的局面。这可能会使心智军事化成为常态，导致认知域不负责任的行为不受限制。最终，这些动态可能会阻碍有关精神隐私、操纵、影响、自决和完整性的规范。随着这些技术成为颠覆性手段和重要的国家安全工具，大国技术脱钩的明显趋势也会加速。认知战还可能对攻防平衡产生全面的影响。事实上，要察觉认知攻击的发生以及抵御攻击的能力本身就存在困难。在任何特定时刻都有可能受到认知攻击，这可能会增加开展认知战时优先使用认知攻击的动机。就认知战而言，用于发动认知战工具的不确定性和不规范性可能会进一步刺激认知攻击的使用。此外，随着认知战使能技术大众化和扩散，非政府主体、公司甚至个人都有能力影响大量民众，认知战将变得更加不稳定。
政策建议
1
国际社会应努力制定“颠覆性控制”的国际治理框架。国际社会已制定了国际人道主义法和军备控制制度等工具，通过限制各国可使用的武器类型、规定武器使用条件以及普遍限制各国相互胁迫的方式来管理武力的使用。同样，应围绕颠覆性及其使能技术（enabling technologies）制定负责任的行为规则、红线、禁令和软法律，以避免技术军备竞赛、不受限制的技术影响力行动和认知战。管理颠覆性将更有效地控制这些新武器和发动战争的方式。
2
各国应努力建设“社会复原力”。目前，在缺乏对通过认知战实现颠覆性的治理框架的情况下，国家需要通过“全社会方法”建立国内抵御认知操纵的能力。这些新的颠覆性工具和战术并不旨在削弱敌方传统的关键基础设施、有形资产或军事力量本身，而是主要针对民众的思维和行为方式。因此，国家必须有能力抵御针对其民众持续的、同步的和复杂的混合威胁。在这方面，最重要的是让民众认识到数字信息生态系统的脆弱性以及技术在造成这些脆弱性方面所发挥的作用，并应从学校基础教育开始抓起。
3
各国应深化旨在对使能技术，特别是人工智能和神经技术进行国际监管的努力。这方面的努力已在开展，如欧盟的人工智能法案或智利的国家脑数据法规。在制定相关规则以规范国家通过认知战颠覆性地使用此类技术的行为之前，国际技术监管至少可以引导此类技术的开发和部署，最大限度地减少其潜在的负面影响。鉴于这些技术日益趋同，应加强治理工作之间的相互促进，以便更好地应对未来的技术现实。
4
需要对认知战开展更多研究并加以推广。认知战作为一个新的战争领域，与其他传统领域有很大不同，需要做更多的概念定义研究工作。使用与物理战争领域相同的术语已经妨碍了我们对网络领域等非物理领域的理解和后续治理。因此，对认知战的进一步研究应聚焦该领域活动的正确表述，这包括为认知域中的“攻击”“武器”或“伤害”界定阈值。这可能需要改变对战争的理解范式，从单纯以物理和胁迫为基础的理解转变为更好地纳入非物理和颠覆性手段的理解。
5
应促进技术监测、前瞻性方法和多面手思维。数字领域的发展速度是指数级的，政府往往对这些发展措手不及。为了缓解这种情况，应投入资源监测影响认知空间的技术发展，并预测新兴技术的影响。为此，前瞻性方法应该在政策制定中更加普遍的使用。在这方面，识别“弱信号”至关重要，这需要“多面手技能”，而不是对单一性思维的过度专业化。多面手思维者能够理解技术及其发展所处的社会、政治、经济、规范和战略环境，这些都是开发有效治理系统的关键技能。
结论
随着认知战日益成为武力的有效替代手段，国际社会可能会发现自己处于认知战的法律、规范和伦理真空之中。国际人道主义法或各种军备控制协议等管理国际使用武力的既有工具很可能不再是遏制国家行为的有效途径。在使用更传统的武力治理工具的同时，建立以颠覆性和认知战为重点的新国际治理框架，将创建一个全面的治理工具箱，全面涵盖国家和非政府主体在21世纪可用来胁迫和颠覆性的能力。
