人工智能可谓是21世纪最有前景的新兴技术之一,其在自动驾驶、语音识别等方面已经取得了诸多重大突破,但在其商业化应用过程中也出现了不少意外的负面后果,其中浮现出的人工智能伦理风险,为技术健康持续发展和商业化落地带来了新的挑战。
路易斯维尔大学罗曼(Roman Yampolskiy)教授发表的《人工智能和网络安全:人工智能的失败》中列举的人工智能失败案例中,除了我们熟知的特斯拉自动驾驶事故,还有一类特别的“道德”事故,像谷歌搜索中出现的黑人与色情、暴力信息相关联、保险公司利用脸书数据预测交通事故率等失败案例,让人工智能引发的道德风险开始引起越来越多人关注。