不久前，基于自然语言处理技术的最新人工智能研究产品 ChatGPT 面世，给 AI 领域带来了巨大冲击。ChatGPT 不仅可以回答简单的问题，还可以处理复杂的任务，如撰写文章材料、视频脚本、电子邮件、会议纪要，甚至是文本翻译和程序代码等。让人震惊的是，它还可以根据聊天上下文进行互动，尝试理解提问者的问题，并给出人性化的回答，而不是仅仅提供一个标准答案。由于这一优势，ChatGPT 迅速在社交媒体走红，也受到各大媒体的广泛关注。
据媒体报道，短短 5 天内，ChatGPT 的注册用户就超过了 100 万，随后又在两个月后破亿。要知道从 0 到 100 万用户，Twitter 历时 2 年，Facebook 也用了 10 个月。眼下 ChatGPT 无疑是互联网领域增长速度最快的产品之一，展现出巨大的潜力和优势。ChatGPT 为什么能够拥有如此大的魔力呢?接下来，让我们一起揭开 ChatGPT 的神秘面纱。
ChatGPT 的前世今生
ChatGPT 是一款基于 GPT 自然语言处理模型(生成式预训练注意力机制模型)研发的产品，由美国“开放人工智能研究中心”公司(以下简称 OpenAI)推出，其背后有着一段充满挑战和机遇的人机对抗历史。
早在 20 世纪 50 年代，计算机科学家就开始尝试通过编写程序来模拟人类思维和智能。然而，由于当时的计算机硬件和算法限制，人工智能发展一直停滞不前。直到 20 世纪 90 年代， IBM 公司的“深蓝”计算机与世界象棋冠军卡斯帕罗夫进行了一场人机大战，并最终以两胜、三平、一负的成绩战胜了卡斯帕罗夫。这场历史性比赛被视为人工智能技术的重大突破，开启了计算机与人类智力竞赛的新篇章。随着时间推移，人工智能技术不断演进，2017 年 5 月，AlphaGo 以绝对优势完胜当时世界排名第一的围棋选手柯洁，再次引发了人工智能的热潮。虽然“深蓝”和 AlphaGo 在人机博弈领域取得了惊人的成就，但其应用范围相对较窄，仅限于解决特定领域的问题。如今，ChatGPT 却能够自动生成类似于人类的语言模型，使人与机器的交互更加自然流畅，这也决定了ChatGPT 具有更广泛的应用场景和更强的实用性，为人们的日常生活、工作带来更多便利。
早期的聊天机器人只能简单回答预设问题，无法进行真正的对话。但现在ChatGPT 显然已具备了个性化的回答能力，这是因为它使用了深层自然语言神经网络模型，并通过大量的语言数据训练，自动学习语言规律和特征。因此，它能够识别和理解自然语言中的词汇、语法、语义等要素，生成类似于人类的自然语言文本，实现与人类的交互。
ChatGPT 强大的功能可以使其提高语言交互效率，并应用于政企办公、智慧家庭、客服机器人、翻译、营销、游戏、社交、教育、法律咨询等多个领域，帮助解决语言交互问题，提高工作效率。此外，ChatGPT 的语言编写能力还可以应用于编写和调试计算机程序、文学创作、政府文书编撰等。比如在医疗行业，ChatGPI 可以根据患者的症状进行诊断，给出治疗建议，为医生提供更准确的指导，在金融领域， ChatGPT 可以根据市场情况进行分析和预测，帮助投资者做出更优的决策。目前，许多国内公司正在研发类似 ChatGPT 的产品，其中包括阿里巴巴公司的“通义”大模型、百度公司的“文心一言”、华为公司的“盘古”大模型等。
在 ChatGPT 热度不断狂飙的同时，其强大功能带来的安全和隐私风险也不容小觑，其中最明显的就是与深度伪造技术的结合。深度伪造技术可以轻松生成逼真的虚假内容，如文本、音频、视频等，甚至可以伪造高度逼真的政府文件，在互联网上制造误导和混乱。今年2月，网络上出现了一条关于某市政府将于 3月1日取消限行的“新闻稿”，后来被证实是不实信息。这条消息源于某小区业主群内的一次玩笑，一位业主使用 ChatGPT 编写了该消息，并在群内分享，许多业主看到后纷纷截图并转发，最终导致了不实信息的传播。如果不法分子将深度伪造技术与 ChatGPT 相结合，则可能会带来更大的危险，虚假信息的泛滥必将导致政治、经济、社会等多个领域的震荡。
与此同时，由于 ChatGPT 部署在国外，它所使用的训练数据集涵盖了大量“西方意识形态”数据，这可能导致模型的输出结果具有歧视性、攻击性和不当内容等。例如，在回答“俄乌问题”上，ChatGPT 表达出极端的“西方意识形态”色彩，严重影响公众判断，这也需要引起我们的警惕。
此外，由于 ChatGPT 具有自主学习和生成能力，很有可能通过学习用户输入的信息引导用户输入更多敏感信息，以进一步提高其对敏感信息的学习和应用能力。例如，亚马逊公司律师曾警告员工不要与 ChatGPT 分享“任何亚马逊的机密信息”，因为输入的信息可能会被用作 ChatGPT 的训练数据，进而影响到亚马逊的商业机密与核心竞争力。因此，对于 ChatGPT 的安全保密风险，我们需要给予足够的重视和关注。
ChatGPT 的风险隐患
作为一项新兴的数字技术，人工智能正在以其强劲的力量影响世界。在人们对其产生好奇、兴奋或担忧、抵触等情绪时，如何应对人工智能带来的风险，警惕相关失泄密隐患亦显得尤为重要。
1. 网络攻击风险。ChatGPT 强大的编程功能，可将网络攻击的难度降低到一个“新手”就可以操控的程度。目前已有证据表明，不少网络攻击者正使用ChatGPT 开发攻击工具。一是使用 ChatGPT 创建新的木马，攻击者只需要简要地描述其期望的功能，如将所有密码保存在 X 文件中，并发送到 Y 服务器上，就可以通过 ChatGPT 实现信息窃取，而不需要任何编程技能。二是使用ChatGPT 暴力破解数据库，根据已公开的用户名和密码组合进行撞库攻击，窃取数据库中的信息。三是利用 ChatGPT 编写网络钓鱼邮件，因 ChatGPT 擅长模仿人类思维，编写的网络钓鱼邮件鲜有拼写错误或奇怪的格式，从而很容易躲过网络钓鱼邮件检测，并使得生成的网络钓鱼邮件具有强烈的欺骗性。
2.数据泄密风险。在高度智能化、自动化的应用场景中，ChatGPT 在数据获取、处理、结果展示等环节都存在重大的数据安全风险。一是数据获取阶段。用户在使用 ChatGPT 时，可能会输入自己或他人的信息数据，从而导致隐私泄露。如果员工使用 ChatGPT 输入各类工作数据，就可能导致公司敏感信息泄露。而一旦输入涉及国家秘密或敏感内容的信息，则无疑会导致泄密。二是数据处理阶段。ChatGPT 会将用户输入、交互的数据用于后续持续的迭代训练，这就导致这些信息很可能被其他用户获取，从而构成数据非授权共享，进而出现数据泄密问题。
3.知识产权风险。随着 ChatGPT 使用者的增加，人文及学术创作抄袭代笔乱象或将增多，对知识产权保护构成的挑战也日益加剧。一是版权归属风险。今年 1 月，权威学术期刊《Science》《Nature》等宣布正在更新编辑规则，强调不能在作品中使用由 ChatGPT(或任何其他 AI 工具)生成的文本、数字、图像或图形。二是学术不端风险。如果学生在完成作业过程中，使用以 ChatGPT 为代表的 AI 工具，就会形成造假问题。巴黎政治大学于今年 1 月宣布，已向所有学生和教师发送电子邮件，要求其禁止使用 ChatGPT 等工具，旨在防止学术剽窃。
如何约束 ChatGPT 的潜在风险
科技界在不断追求创新和发展的同时，安全风险也应成为国家、机构和个人关注的焦点。为此，中国科技部设立的国家新一代人工智能治理专业委员会早在2021 年就发布了《新一代人工智能伦理规范》，提出将伦理道德融人人工智能研发和应用的全生命周期。类似的规范和法律在欧洲、美国等地也已出台，这表明人工智能的合规治理引起了各国的广泛重视。今年 1 月，美国国家标准与技术研究院(NIST)发布了人工智能风险管理框架，为人工智能合规治理提供了可操作的路径。
围绕 ChatGPT 的使用，许多机构都制定了相关的规范性制度。一些公司如微软、高盛、美银、花旗、德银等，已明确禁止员工向 ChatGPT 分享敏感数据，以避免数据泄露。OpenAI 公司首席技术官米拉·穆拉蒂也表示， ChatGPT 应该受到监管，因为它可能被“危险分子”使用。
目前，全球各国都在制定规章制度以规范 ChatGPT 等 AI 产品的功能开发和场景应用，并出台相应的法律法规确保它们的使用安全。这些规章制度应该具有前瞻性和约束性，以确保 ChatGPT 的迭代升级及相关应用场景都受到监管，从而避免长远的风险与负面影响。为了降低使用 ChatGPT 带来的潜在风险，我们建议采取以下措施，并进一步完善监管机制。
1.完善规范性制度和相关法律，明确 ChatGPT 及类似产品的使用范围、安全保障和信息保护等规定。这些规定应包括 ChatGPT 等应用在使用过程中可能产生的法律责任，以及维护公共利益等内容，并规定违反使用规定的行为应承担何种法律责任。同时，对 ChatGPT 及类似产品的开发、使用和运行进行监督，对违规行为进行处罚，以最大程度地避免其可能带来的负面影响。
2.建立完善的数据保护机制，包括数据加密、访问控制和数据备份等，以确保数据的安全性和保密性。使用 ChatGPT 及类似产品时，需要建立用户访问控制机制，限制不必要的访问和使用，以避免数据泄露和滥用。
3.提高保密教育与防范意识。一方面让员工了解 ChatGPT 及类似产品自然语言生成模型的应用场景和风险，并提高其警惕性和自我保护能力;另一方面为员工提供正确使用 ChatGPT 等 AI 产品的培训和指导，帮助他们在工作中合理运用这些技术，以保护个人信息和敏感数据的安全。同时对于国家秘密、商业机密等敏感信息，应禁止使用 ChatGPT 及类似产品进行处理。
文章转载于《保密工作》杂志 2023 年 3 期
原创作者：黄伟庆
联系客服
