◆ 应通过对人工智能相关法律、伦理和社会问题的深入探讨，为智能社会划出法律和伦理道德的边界
文/伍敏敏（作者为中国电子技术标准化研究院与北京航空航天大学联合培养博士后）
近年来，我国人工智能产业呈现加速发展的良好势头，产业规模不断壮大。预计到2020年，中国人工智能核心产业规模将超过1600亿元，增长率有望达到26.2%。
放眼世界，以人工智能为引领的新工业革命正在全球范围展开，这为各个地区、行业弯道超车、提质增速提供了机遇。可以说，人工智能正深刻地影响着人类生活的方方面面，既发挥着积极的正向作用，也为人类社会的发展带来了不确定性，延伸出复杂的伦理、法律和安全问题。
5月中旬，在天津举行的第二届世界智能大会上，智能机器人、医疗影像、自动驾驶、城市大脑、智能互动体验等“黑科技”令人眼花缭乱，智能科技在诸多领域的应用，引发人们对人工智能未来的无限遐想。（李然摄/本刊）
警惕人工智能“双刃剑”效应
从娱乐、出行到支付手段，人工智能改变着我们的生活。越来越多的人把下一次生产力飞跃的突破口寄希望于人工智能。人工智能不仅能极大地提高生产力，节省人力资源成本，而且能提高能源利用率，节省自然资源成本，促进社会的不断进步，实现人类的进一步解放。
然而，在看到人工智能所带来的极大便利的同时，还要认真探究其可能产生的问题。2017年7月，国务院印发了《新一代人工智能发展规划》，指出人工智能成为国际竞争的新焦点、经济发展的新引擎，带来社会建设的新机遇，同时人工智能发展的不确定性也带来新挑战。
在这些新挑战中，最令普通人关注的，是人工智能时代的“人机关系”，以及由此带来的人工智能伦理问题。这其中既包括人类在研发人工智能技术活动过程中所产生的伦理问题，例如，研发人员的道德责任、计算代码的伦理制约等，也包括人工智能技术衍生出来的人工智能体的伦理问题，可能带来的失业率增加、人才争夺、人类精神文化生活退化等问题。对此，必须提早关注，抢抓时间构建完善人工智能大发展背景下的社会伦理体系。
人工智能的法律和伦理边界
人工智能伦理问题，其特点主要表现为客观性、普遍性、差异性、复杂性和破坏性等。
一是人工智能伦理问题的客观性。
2018年3月，在美国亚利桑那州发生的全球首例无人驾驶车撞人致死事故引发关注。对该事故的责任认定一度成为难题，也表明了人工智能伦理问题的客观存在性。
二是人工智能伦理问题的普遍性。
人工智能技术有效提升了人类的社会生产力，对人类产生了多方面的影响。人们既要“用”它，又要“防”它，是典型的矛盾结合体。自人工智能技术诞生起，其伦理问题就相伴而生，并贯穿于每一项人工智能技术活动的始终。
三是人工智能伦理问题的差异性。
客观来看，受不同国家地域、不同产业行业、不同时间阶段的制约，人工智能伦理问题呈现的方式和程度有所不同。客观来看，对于重视人工智能技术的合理应用，那些注意规避人工智能伦理问题的国家和地区，能够较好地控制因人工智能伦理问题引起的负面影响。相反，那些忽视人工智能技术伦理取向的国家和地区，这种负面影响则较为突出。
四是人工智能伦理问题的复杂性。
人工智能伦理问题由多种因素相互作用形成，在发生原因、外在表现和社会影响等方面呈现出复杂性。一般而言，人工智能技术在萌芽期，由于与人类社会的相互作用不深，所造成的影响有限。而当人工智能技术飞跃发展，不断渗透到人类社会生产和社会生活方面，并成为人类社会重要的生产力要素，甚至在未来与人类共同成为社会生产生活主体时，人工智能伦理问题的影响则有可能逐步扩大。
五是人工智能伦理问题的破坏性。
随着人工智能技术的发展，其可能产生的破坏性值得高度警惕。当前，越来越多的机器人专家呼吁，要在机器人和自动化系统上安装“道德黑匣子”，以记录机器的决定与行为。如何使人工智能技术与伦理并行不悖，顺利走出人工智能伦理困境，成为摆在人类面前的共同课题。
即将迈入人工智能时代，人工智能的发展应以人类社会的稳定与安全为前提，应通过对人工智能相关法律、伦理和社会问题的深入探讨，为智能社会划出法律和伦理道德的边界，让人工智能服务人类社会。这也是世界范围内的一项共识。
《新一代人工智能发展规划》提出，“建立人工智能法律法规、伦理规范和政策体系，形成人工智能安全评估和管控能力”。中国人工智能技术发展迅猛，未来在应对人工智能伦理问题上，既要通过法律和政策予以规范，也应发挥中国传统文化优势，用文明和伦理创造出兼顾科技与人文的“中国智造”。LW
刊于《瞭望》2018年第22期
文章有改动，原题为《人工智能的伦理新课题》
联系客服
