SYDNEY J. FREEDBERG JR 2020年2月24日下午4点14分
中将杰克·沙纳罕（Jack Shanahan）（左）和五角大楼CIO Dana Deasy（右）正在向媒体介绍采用AI的道德原则。
美国国防部消息：美国国防创新委员会花了15个月的时间来解决国防部长马克·埃斯珀（Mark Esper）正式认可的五项广泛的人工智能道德使用原则，今天修改后得到了批准。弄清楚它们的含义将花费比这更长的时间。
“对于国防工业基础（DIB）来说，进行为期15个月的研究既困难又具挑战性。我们将着手真正具有挑战性的部分，”联合人工智能（AI）中心主任杰克·沙纳罕中将今天下午对记者说。“其中最困难的部分是采用AI交付流程” –从初始算法和数据集、现场测试和培训人类用户，到让指挥官应对致命错误负责–“并理解和采用哪些道德原则。”
他指出：“出于某种原因，它们是广泛的原则。” “技术不断适应，技术不断发展。我们想做的最后一件事是在一些方面施加限制，说我们可以做和不能做的事情。因此，现在必须将这些原则转化为实施指南。”
为什么这么难？好吧，请看一下今天新闻稿中提到的五项原则：
负责任。国防部人员将进行适当的判断和保持谨慎，同时还要负责AI功能的开发、部署和使用。
公平。国防部将采取有步骤的措施，最大程度地减少人工智能功能中的意外偏见。
可追溯。该部门的AI能力将得到开发和部署，以使相关人员对适用于AI能力的技术、开发过程和操作方法有适当的了解，包括透明且可审核的方法、数据源以及设计程序和文档。
可靠。美国商务部的AI功能将具有明确定义的用途，并且这些功能的安全性、有效性在其整个生命周期内受这些定义用途的测试和保证。
可治理。该部门将设计和设计AI功能，以实现其预期的功能，同时具有检测和避免意外后果的能力，以及使表现出意外行为的已部署系统脱离或停用的能力。
目前，五角大楼首席信息官德纳迪希回答说：“我们实际上是在开展第2步工作：第1步是备忘录的签署[由艾斯波。步骤2现在开始沟通交流。非常重要的是，我们要出去并积极地传达我们的意思，这正是您提出的问题。”
五角大楼已经为此对话建立了一个高级AI指导委员会的道德小组委员会。Shanahan确定了该小组的负责人-他今天没有透露她的名字，而只是透露她的性别。反过来，她将从美国国防部长办公室、武装部队、全球作战作战司令部以及其他联邦机构（例如情报界）获得专业知识。
Shanahan表示，国防创新委员会这份长达66页的的研究“是一个巨大的起点”，但五角大楼和业界需要将其完善为针对开发、测试、部署和使用AI的每个步骤的详细指南。他说，这一过程可能需要重写现有的关于“武器系统中的自主和半自主功能”的DoD指令3000.09，该指令于2012年在当前AI发展迅猛之前编写（其中包含一些巨大的漏洞）。
美国国防部还将深入到行业，从本质上讲，就是鼓励企业通过不具约束力的、非强制执行的合同条款，将需要实现一个或他们工作中的更多原则。
当然，工业界和学术界有许多人对AI的任何军事使用都深表怀疑。Shanahan亲自领导了Project Maven人工智能情报收集项目：Google负责开发Maven项目，最初对外保密，但在员工抗议后退出该项目。
Shanahan表示：“如果三年前（启动Maven时）就制定好AI道德原则，并且我们对自己想做的事情以及为什么要这样做的态度保持透明，也许我们会有不同的结果，”
那么现有拥有的新的原则（以及遵循的任何法规、政策和合同实施）是否可以缓解AI工程师对与五角大楼合作的焦虑？
Shanahan认为：“无论技术行业的焦虑如何，我们都会遵循这些AI道德原则-有时我认为这种焦虑有点过分炒作-但确实有人对与国防部合作感到严重担忧。” “我们认为这是与学术界和科技行业就一系列原则进行合作的独特机会。我认为我们会发现我们有很多共同点。”
Shanahan和Deasy表示，随着技术的不断发展，美国国防部将与行业合作，在未来几年内不断完善指导方针。这并不是一成不变地颁布一些指令，而是与工业界、学术界和公众进行持续的对话。
Shanahan说，希望所有这些透明性可以为AI领域的军民合作铺平道路-但如果有时放慢脚步，那就这样吧。他说：“有时候，技术行业的发展速度比什么都重要。” “对于美国国防部而言，情况并非如此。我们将竭尽所能，但要遵守这五个原则。”
联系客服
