人工智能学家
原文链接：http://spectrum.ieee.org/automaton/robotics/artificial-intelligence/united-nations-killer-robots-ban
上图：Uran-9是俄罗斯推出的一款可远程操控的无人驾驶坦克，它可“循环”拉动扳机。许多观察员担心未来的人工智能武器将完全自主化，无需人工干预自主选择攻击目标。
本文摘自访客的帖子。本文所述仅代表作者本人观点，与IEEE Spectrum或IEEE无关。
杀手机器人（Killer Robots）是本周在日内瓦举行的联合国会议的主要议题。
作为联合国裁军会议的一部分，参会国将于周五决定是否就禁止“自主杀伤性武器”展开正式讨论（已在三年前展开过非正式讨论）。
去年七月，成千上万的人工智能和机器人研究人员聚集在一起，共同发表了一封公开信，呼吁先行禁止这类武器。
我是那封公开信的组织者之一，今天，我在联合国会议上第三次呼吁禁止这类武器。
我的理由很简单：如果不适时禁止这类武器，各国将展开军备竞赛。如果展开军备竞赛，人类最终将面临的是类似好莱坞电影《终结者》中描绘的反乌托邦式未来。
而进入反乌托邦式未来之前，这种自主杀伤性武器很可能落入恐怖分子和流氓国家的手中。这些人丝毫不会顾忌到人类的安全，甚至会用这些武器攻击人类。
这将不仅仅是机器人之间的对抗。当今的冲突是不对称的。
最有可能的是机器人与人类对战。因此，与一些机器人专家的观点不同——大多数人将不再是无辜平民。
这是个多么可怕而糟糕的未来。但我们不需要面对这样的未来。
全世界已决定不将科技武器化。我们已经禁止生物和化学武器。近期，又禁用了盲激光和杀伤性地雷等科技化武器。
虽然这些禁令不是百分之百有效，但有总比没有好。
当然，这些禁令并不是阻止相关科技的发展。现在医院里，“盲”激光已用于修复患者眼睛。但军火公司不会卖给私人盲激光，你也不会在任何战争中见到。
这同样适用于自主式武器。我们不会阻止在其他方面有积极用途（如无人驾驶汽车）的科技的发展。
但如果联合国颁布相关禁令，自主式武器将不会被用于战争中。这是件好事。
与盲激光一样，全球不太可能设置针对自主式武器的监管机构或检查制度。相反，如负面宣传、道德耻辱等微妙措施会更好地实施禁令。
诸如IEEE这类专业组织正着手规范这一领域。
本周早些时候，IEEE宣布了为自主系统开发人员制定道德标准的计划。计划中表示，自主式武器将破坏国际安全、导致意外的军事升级甚至战争、破坏战略平衡、甚至促使发动战争。
IEEE的报告给出了一些建议，比如这类武器的使用需在人类控制下。报告还表示，脱离人类控制以进行攻击或杀人的自主式武器的设计、开发或构建都是不道德的。
我曾经在公开场合谈论过这个问题，从公众的反应来看，世界上很多人都支持颁布这样的禁令。
上周，九个美国国会议员都给国防部长以及国防部写信，呼吁先行禁止这类武器。
任何的科技都具有两面性。我们需要尽快做出理智而有效的决定，让世界更美好。我祈祷联合国将在本周五迈出第一步。
Toby Walsh是澳大利亚新南威尔士大学的人工智能教授。
2016年7月，人工智能学家AIE实验室基于自身的研究成果和所拥有的顶级科学家资源，筹备建立未来科技学院 （Futurology University）。
未来科技学院的使命和目标：将邀请国内和国际著名科学家、科技企业家讲授人工智能、互联网、脑科学、虚拟现实、机器人等领域的基本原理和未来发展趋势。未来科技学院的目标是研究前沿科技未来发展趋势，培养掌握未来科技动向的企业家和具有独立创新精神的未来科学家。
开始激动人心的学习之旅：无论您是企业家，投资人，还是青年学子，科技爱好者，如果您希望把握科技未来发展趋势，与世界著名科学家，科技企业家，风险投资家进行直接交流。欢迎您加入未来科技学院大家庭。
您可以扫描二维码，进入未来科技学院临时群，然后工作人员邀请您加入未来科技学院的免费学习群，开启前沿科技未来趋势的学习之旅。
人工智能学家 Aitists
人工智能学家是权威的前沿科技媒体和研究机构，2016年2月成立人工智能与互联网进化实验室（AIE Lab)，重点研究互联网，人工智能，脑科学，虚拟现实，机器人，移动互联网等领域的未来发展趋势和重大科学问题。
联系客服
