来源：元战略
编译：Zoie Y. Lee
2023年7月7日，美国信息技术产业理事会（ITI）向白宫科技政策办公室（OSTP）提交制定国家人工智能战略的政策建议。建议概述了美国政府如何利用人工智能促进经济增长和推动创新，同时保障公民权利和降低风险。元战略摘编建议核心内容，解读美国人工智能战略未来发展规划。
01 保护公民权利和安全以及国家安全
1.为确保人工智能系统的设计、开发和部署能够保护公民权利和安全，需要采取哪些具体措施?哪些单位应制定和实施这些措施?
推进人工智能应用的一个重要要素是公众信任。为提高公众对人工智能的信任，公共和私营部门均可采取一些措施。例如，ITI近日对美国商务部下属的国家电信和信息管理局（NTIA）关于“人工智能问责制政策”的征求意见稿（RFC）进行了回应，其中讨论了实现问责制的各种方法，包括人工智能风险管理的总体方法。
全面的人工智能风险管理方法将有助于确保人工智能系统的设计、开发和部署保护公民权利和安全。现有的美国国家标准与技术研究院（NIST）发布的人工智能风险管理框架（AI RMF）为人工智能整个生命周期的全面风险管理提供了一种基础方法。AI RMF汇集了现有标准和最佳实践，可以指导相关单位管理人工智能风险。在AI RMF的路线图中，NIST认识到还需要更多的测试、评估、确认和验证（TEVV）方法。
资助TEVV的相关研究和开发对有效实施风险管理方法至关重要，这将有助于指导各单位确定风险阈值并了解其风险承受能力或偏好。TEVV对开发基础模型十分重要，开发者应了解此类基础模型如何产生或加剧可预见风险，并在开发过程中采取措施最大限度地降低此类风险。
需要加大力度投资人工智能风险评估的相关研究。由于目前业界对具有普遍适用性的、可靠且可验证的评估方法缺乏共识，人工智能风险评估具有一定的挑战性。此外，由于人工智能仍在不断发展，我们无法充分了解其风险、发生的可能性、潜在的严重性以及评估方法等。
技术标准机构如国际标准化组织（ISO）、国际电工委员会（IEC），以及工业界和联邦机构的技术专家应处于技术标准和最佳实践的前沿地位。由于人工智能标准领域刚刚起步并将继续发展，美国政府对行业参与国际标准制定工作的持续支持就显得尤为重要。特别是国际标准化组织国际电工委员会第一联合技术委员会人工智能分技术委员会（ISO-IEC/JTC 1/SC 42，以下简称“SC 42”），该组织正在制定人工智能多个方面的标准。ITI强烈建议NIST加强对SC 42的参与，这将确保AI RMF与正在制定中的国际标准保持一致。
此外，应优先考虑通过全面的、先发制人的美国隐私立法，为个体控制权和负责任的数据管理提供统一的国家框架。保障公民权利和安全的一个有效方法是确保用于训练人工智能系统的数据经过匿名化或去标识化处理，从而保护个人信息。
2.如何最有效地利用《人工智能权利法案蓝图》和AI RMF中识别和降低人工智能风险的原则和措施，来应对开发和使用人工智能系统（如大语言模型）所带来的危害?
基于风险的方法：通过考虑人工智能系统的预期用途和具体应用场景，政策制定者能够避免过度拘泥于规定而扼杀创新。政策制定者在对“高风险”人工智能进行定性时，须注意不要将整个行业部门或技术定性为高风险。此外，政策制定者还应与利益相关方合作确定开发者、部署者、用户和其他各方在人工智能价值链中的适当角色，以酌情进行风险判断和降低风险。由于AI RMF具有广泛的适用性，因此也可用于识别和管理与基础模型、大语言模型和其他人工智能系统相关的风险。
可解释性、可理解性和透明度：正如我们在给NTIA的回应中所提到的，ITI支持人工智能系统的透明度措施，包括生成式人工智能系统和大语言模型。一些公司已经在向用户披露人工智能系统是如何工作的，包括系统的预期用途、模型的局限性及其准确性水平等。
安全和隐私：AI RMF中提到，安全和隐私是值得信赖的人工智能的一个组成部分。ITI建议政策制定者采取以下五个关键步骤来确保人工智能系统的安全和隐私。第一，政策制定者必须确保人工智能用于网络安全以适应不断发生变化的威胁形势。第二，ITI建议公共和私营部门的利益相关者将人工智能系统纳入威胁建模和安全风险管理中。第三，由于密码学和其他安全标准也可实现人工智能系统的信任和互操作性，为实现AI RMF的安全目标提供了有效途径，政策制定者应该推进与这些技术相关的政策制定。第四，ITI强调应避免禁止性法规无意中因防御对抗性人工智能而扼杀行业活力。此外，明确用于训练和测试人工智能模型的数据来源也有助于提高安全性。第五，ITI支持开发隐私保护框架和指南，并确保用于支撑人工智能的数据集合乎道德。
安全有效：AI RMF和《人工智能权利法案蓝图》都强调安全是值得信赖的人工智能系统的基本特征。为了确保安全，AI RMF强调了人工智能的相称性和优先性，这是解决开发和使用人工智能系统所带来风险的有效工具。
3.人工智能相关的国家安全利益有哪些?如何才能使这些利益最大化?
人工智能的应用对国家安全有诸多益处，包括维护网络安全，赋能情报收集、分析和传播，帮助灾难或危机应对，以及强化军事安全等。例如，人工智能可用于分析来自传感器网络、社交媒体、通信截获等多种来源的海量数据；人工智能可帮助识别模式或指出异常，从而对潜在威胁做出更积极的反应；人工智能还可用于增强军事能力，包括简化后勤以及完善自动驾驶车辆等现有技术；在危机时刻，人工智能可用于分析各种数据源，提供实时态势感知，并更有效地分配资源；基于人工智能的预测技术还可帮助预测自然灾害或其他类型灾害的影响，从而为备灾工作提供帮助。
4.人工智能如何快速识别现有关键基础设施系统中的网络漏洞并加速解决这些问题?
人工智能可以通过多种方式加强联邦机构和关键基础设施的网络安全，包括实时识别和应对威胁和漏洞。第一，人工智能可以加速检测异常和恶意行为，缩短恶意行为者在网络或设备中未被发现的时间。第二，人工智能还可用于快速检测不安全的系统配置错误或政策变更，这对保护支撑全国关键进程和云基础设施至关重要。第三，利用人工智能的网络安全系统能够更好地提供实时分析、态势感知以及预防措施，并有助于防止对系统及其存储的敏感数据进行未经授权的访问。第四，人工智能有助于高级威胁响应，实现安全建议自动化，更有效地应对自动化和不断演变的网络攻击。第五，人工智能可以提高安全专家的工作效率，这意味着分析师可以优先处理最紧急和最重要的安全事件，他们可以扩大操作规模，更快地阻止漏洞，保护网络和存储在网络中的个人数据，并允许有限的人员来优化决策和事件响应进程。
5.人工智能相关的国家安全风险有哪些?如何降低这些风险?
过于规范、繁琐的法规有可能对创新产生负面影响，这可能降低人工智能的安全性、透明度、问责制和安全性。在没有适当考虑风险、验证、核查、可追溯性和测试的情况下开发的人工智能系统可能会给美国政府留下许多隐患，使对手有机可乘。
02 促进公平和改善公民权利
6.人工智能可以在哪些方面促进公平?为实现经济繁荣、增加教育机会、以及改善公民权利，人工智能可以带来哪些益处?
第一，人工智能可以推动经济增长和创新。通过协助人们完成更多常规任务，使人们能够更专注于高价值任务，从而提高生产率和工作满意度。第二，人工智能可以增加教育机会。人工智能可以根据个人的需求提供更加个性化的课程和自适应学习体验，这将有助于缩小教育差距，提供平等接受优质教育的机会。第三，人工智能可以增加获得服务的机会。未来，人工智能解决方案将通过远程监控、人工智能驱动的警报系统或虚拟助手等方式帮助提供居家服务等。
7.为确保人工智能减少算法歧视需要考虑哪些因素或措施？
在考虑如何保护人们免受歧视时，需要考虑如何在保护隐私等其他原则之间取得平衡。例如，在减少有偏见的输出和保护隐私之间就存在矛盾。事实上，隐私依赖于数据最小化的概念，但在许多情况下，减少偏见需要收集更多的数据，特别是为了评估算法公平性的数据。在寻求减少算法歧视的过程中，考虑现有法律如何在人工智能背景下提供免受歧视的保护也十分重要。
03 促进经济增长和良好的就业机会
8.人工智能将为民众带来哪些好处?如何在环境、医疗和金融等领域最大程度地利用人工智能带来的益处?
环境/气候：人工智能可以帮助解决环境和气候问题。例如，在水下环境中使用计算机视觉，人工智能可以通过实时分析鱼类数量和海洋生物来帮助评估珊瑚礁的健康状况。
医疗保健：人工智能正被用于患者群体，以帮助预测、预防疾病；更好地了解人类基因组，以更精确地为患者提供医疗服务；更快、更准确地分析医疗图像，以实现个性化治疗，加快医疗保健系统的发展。
金融服务：人工智能可用于实现税法个性化的决策系统，使个人能够快速准确地报税。人工智能还可用于创建承保模型，该模型依赖于信用评分以外的数据，使小企业能够获得银行贷款。此外，人工智能也可用于财务预测，利用外部和个性化因素预测现金流或规划某些财务情景，帮助企业在招聘和其他运营方面做出更加明智的决策。
9.需要采取哪些具体措施来促进创新、经济增长、创造就业，并使先进的人工智能系统更好地融入人们的日常生活？
需要采取措施来培养足够的科学、技术、工程、数学（STEM）和人工智能人才，以供应市场。努力改善各级STEM教育并继续吸引和留住国际人才十分重要。目前，美国顶尖的研究型大学正在加快人才培养的步伐。在大学扩招的同时，当前公共和私营部门对人工智能相关人才的需求也在进一步增长。人工智能人才供需失衡加速了人工智能人才从高校流向产业界。同样值得注意的是，移民改革对保持人工智能劳动力的竞争力至关重要。ITI建议美国政府支持改革H1B签证计划，以确保签证数量可以满足市场需求。此外，ITI还建议美国政府推进改革就业签证计划的立法提案，包括增加申请人及其配偶和子女可获得就业移民的签证总数等。海外人才对美国人工智能行业的竞争力同样至关重要。应对这些挑战将是确保未来美国在人工智能领域保持全球竞争力的关键。此外，ITI强调推进创建国家人工智能研究资源（NAIRR）的重要性。国家人工智能研究资源工作组于2023年1月发布了一项实施计划，美国政府应努力执行该计划。NAIRR将为美国提供所需的基础设施和资源，使其在人工智能研发领域继续保持领先地位。NAIRR将为研究人员提供共享的计算和数据基础设施，以开展前沿研究，提供教育工具和用户支持，并确保研究人员能够从人工智能研究中获益。
10.智能将创造哪些新的就业机会?需要采取哪些措施以增加人工智能劳动力?
美国政府必须出台有助于培养一支技术熟练、多样化的人工智能劳动力队伍的政策。事实上，确保获得人工智能劳动力的最佳方式是广泛投资所有相关学科，并从儿童早期教育开始教授灵活的技能和解决问题的方法。在大学层面，应将人工智能、数据科学课程纳入社会科学、人文学科，将人文方法融入课程，而不是讲授单一的“人工智能伦理”课程。
04 公共服务创新
11.美国政府如何有效、负责任地利用人工智能改善政府服务和任务?
ITI强烈支持利用技术现代化基金（TMF）和其他资金工具采购基于人工智能的技术，并将其作为美国政府互联网技术现代化的一部分。利用人工智能工具升级过时的遗留系统将极大地提高美国政府利用公共部门生成强大数据集作为战略资产的能力，这将有助于美国政府做出更加明智的决策。
12.联邦机构如何利用共享的资源库、专业知识和经验教训以便更好地使用人工智能?
美国政府在联邦机构中使用人工智能改善政府服务时，应将透明度视为核心原则。此外，创新离不开现有的、高质量的和可信的数据集的支持。在适当的情况下增加对政府公开数据来源的访问，对提高人工智能利益相关者找到解决方案的能力至关重要。美国国防部总统行政办公室（EOP）推出的国家网络劳动力和教育战略等都是值得考虑的相关举措。
13.美国政府如何与私营部门合作，确保人工智能系统保障民众权利和安全?
ITI建议在管理人工智能时，应采用针对具体情况、基于风险的方法。使用人工智能持续监控美国政府内部的供应链不会给个人权利或安全带来太大风险，但采用人工智能技术改善客户体验，同时与客户进行互动，则会给个人权利或安全带来更大的风险。此外，ITI建议政府和NIST新成立的生成式人工智能公共小组考虑如何将NIST的AI RMF纳入采购流程，以推动政府供应商发展负责任的人工智能。
14.通过哪些措施可以发展有效、负责任的人工智能以改善公共服务？
简化运营：人工智能可实现行政流程和重复性任务的自动化，使政府能够简化运营。通过在文件处理、数据录入和记录管理方面实施人工智能驱动的系统，政府可以减少人工操作，最大限度地减少错误，并优化资源利用。
个性化服务：人工智能应用可以根据个人喜好和需求提供个性化的公共服务。公民可以与这些人工智能系统互动，获取有关政府项目和服务的信息。
欺诈检测和降低风险：人工智能可以帮助检测和减少税务合规和福利计划等领域的欺诈行为。通过利用人工智能算法分析大数据集，政府可利用人工智能帮助识别存在欺诈活动的异常情况和模式，这将有助于保护公共资金，防止经济损失，维护政府项目的完整性。
促进数据共享与协作：人工智能有助于促进联邦机构与外部伙伴之间的数据共享与合作，包括确保隐私和安全，同时促进数据互操作性。
15.美国政府如何充分利用人工智能来改善公共服务？
发展人工智能专业知识：美国政府应支持人工智能劳动力的相关政策，同时与外部实体合作，包括对员工进行人工智能概念、工具和道德方面的培训，以及推进和激励专业技术学徒制、教育和培训计划等，建立一支技术熟练的员工队伍将确保人工智能技术的有效部署和应用。
制定人工智能指导方针：美国政府应为负责任的人工智能和高风险应用制定明确的指导方针和框架，包括解决偏见、隐私、透明度和问责制的相关问题。
投资人工智能研发：美国政府应支持人工智能在医疗保健、交通或公共安全等领域的应用。对试点项目、研发工作和基础设施现代化等方面的投资将对人工智能在政府服务中的应用产生重大影响。
ITI认为，美国政府应优先考虑使用负责任的人工智能，其中包括解决偏见、隐私和透明度等问题。政府还应促进与行业利益相关者的合作，以确保人工智能系统的道德性和包容性。建立持续的评估、监督和反馈机制，对不断优化人工智能应用以及确保其对公共服务产生积极影响至关重要。
联系客服
