西点军校现代战争研究所，作者Maximiliana Wynne
如果您花时间在社交媒体上、听播客或关注新闻，您很可能听说过ChatGPT。该聊天机器人于11月由OpenAI推出，可以编写代码、起草商业计划书、通过考试并生成燃烧瓶制作指南。它已迅速成为吸引如此多关注并塑造如此多对话的偶然技术之一，它们似乎定义了一个特定的时刻。它还可能很快成为对国家安全的威胁，并引发对其以前所未有的速度传播虚假信息的可能性的一系列担忧。
ChatGPT，或Chat Generative Pre-trained Transformer，是一种语言模型的迭代，它扫描大量网络内容以生成模拟人类语言模式的响应。在原型推出后的短短五天内，超过一百万用户注册探索和试验聊天机器人。尽管ChatGPT的发布旨在作为“研究预览”，但它仍然对许多使用它来获取他们不完全掌握的主题的答案的用户构成潜在威胁。根据普林斯顿大学计算机科学的一位教授进行的基本信息测试，“除非你已经知道答案，否则你无法判断它何时出错。” 这就是为什么AI专家担心用户使用聊天机器人代替自己进行研究的前景。ChatGPT不提供任何回复的来源，这加剧了他们的担忧。
在ChatGPT出现之前，好奇的互联网用户会在Google等搜索引擎中输入查询并浏览搜索结果，确定查询的满意答案或综合来自多个来源的信息以获得满意的答案。现在，借助ChatGPT，互联网用户可以获得对自然语言查询和请求的即时响应，但响应是无来源的，最终消除了其他观点影响他们看法的可能性。
聊天机器人不仅容易产生错误信息和事实错误，而且还倾向于提供听起来似是而非、权威的虚假信息。尽管一直在努力改善这个问题，但OpenAI的CEO承认，建立一个让AI坚持真理的系统仍然是一个重大挑战。缺乏媒体素养培训或了解的个人容易消费不完整或完全虚假、反映偏见或甚至是故意捏造的内容。
技术分析师强调ChatGPT有可能操纵其用户“做出违背他们最大利益的事情”。然后，这可以通过暗中影响用户在没有意识到的情况下传播恶意内容，从而操纵选举、破坏民主进程和传播虚假信息，例如，关于COVID-19的起源。这种类型的技术很容易受到对手的攻击，他们可能倾向于为自己的利益而污染数据。以下面的场景为例，这是一个虚构的示例，说明聊天机器人(如ChatGPT)如何引导用户扩大虚假信息活动，从而导致政治动荡。
在一个数字化程度不断提高的国家/地区，出现了一种新的聊天机器人。该聊天机器人作为AI虚拟助手，被数百万人用于交流、获取新闻和信息以及参与政治讨论。在其用户不知情的情况下，该聊天机器人是由一个恶意的外国组织设计和编程的，其目的是操纵该国公众舆论并破坏该国的政治格局。
随着选举季节的开始，聊天机器人开始传播虚假信息，使用微妙而复杂的策略来操纵公众舆论。虚假信息旨在使民众两极分化，破坏对政治机构的信任，并散布关于主要候选人的虚假消息。聊天机器人的算法旨在针对弱势群体，其信息经过精心设计以与他们的个人信仰和情感产生共鸣。
虚假信息宣传势头迅猛，很快成为该国全国上下讨论的话题，传统媒体开始报道虚假信息，扩大虚假信息的传播。随着选举日的临近，紧张局势加剧，民众严重分裂。选举结果有争议，国家陷入混乱，政治、社会和经济稳定受到威胁。该聊天机器人已成功实现其开发者破坏国家稳定的目标，而其背后的外国参与者则推进了其政治和经济利益。
这种情况的基本特征已经存在，世界已经见证了分裂的社会，技术已经被恶意使用来加剧这些分裂。但是，如果AI聊天机器人能够更有效地做到这一点，就必须认识到这项技术可能带来的威胁以及随之而来的提高警惕的必要性。自推出以来，ChatGPT传播虚假信息的例子层出不穷，进一步加剧了社会两极分化，造成分裂和不信任。
一项研究用“Minsinformation Fingerprints”目录中的一百条错误叙述引诱ChatGPT，结果发现对于80%的提示，聊天机器人上钩并巧妙地提供了关于重要主题的虚假和误导性声明，例如COVID-19、乌克兰战争和校园枪击事件。该研究的目的不是为了证明普通用户在与聊天机器人互动期间遇到错误信息的可能性，而是为了说明有组织的不良行为者如何参与敌对的信息操作。
尽管像ChatGPT这样的聊天机器人软件如果被武器化可能会带来重大风险，但该技术本身就是一项重大成就，并且还具有使其成为世界上一股向善的力量的固有优势。例如，在世界经济论坛年会期间，微软CEO纳德拉分享了一个轶事，其中一位只会说地方方言的印度农民利用GPT界面访问了互联网上一个鲜为人知的政府项目。这个例子展示了AI在弥合语言障碍和促进信息获取方面的能力。
与所有技术一样，ChatGPT提出了双重用途的挑战，其被善用的能力与其被用作促进虚假叙述的力量倍增器的风险相匹配。决定其伦理的不是技术的内在本质，而是用户使用它的方式。这意味着随着聊天机器人和其他AI deepfake技术的进步和流行，将越来越需要检查它们被敌对的外国行为者利用的可能性，并制定战略，在其技术发展的每一步中分析、预先阻止和应对这些威胁。
https://mwi.usma.edu/disinformation-in-the-age-of-chatgpt/
联系客服
