上周，在日内瓦举办的联合国特定常规武器公约会议上，伯克利大学教授、资深AI研究者斯图尔特·罗素尔公布了一段十分骇人的视频：一群形似“杀人蜂”的小型机器人，冲进课堂，通过人脸定位瞬间杀死了一群正在上课的学生。
蜜蜂
视频中，这种形体类似杀人蜂的机器人，其内置了各种传感器、广角摄像头、支持面部识别，同时装载3克炸药。此外，它还具有anti-sniper(反狙击)技术，完全基于AI，可轻易躲避人的抓捕。
罗素尔警告，尽管这种杀人机器人并非真实，但其所需科技目前已经存在。试想一下，如果一旦这种武器出现，落到坏人手里，后果不堪设想。
小蜜蜂机器人
随着国际上机器人应用技术的愈发成熟，各种无人操控武器在战场上大方异彩。据美国媒体披露，美军在近10年使用武装无人机在战场上已致死至少1万人，是美军中杀人最多的武器，如果这些无人机拥有人工智能，并被授权能够直接开火，将会非常恐怖。
英国谢菲尔德大学的人工智能与机器人学荣誉教授诺埃尔·沙尔基教授担心，未来可能出现的杀人机器人也许会给世界带来灾难——导致对平民的大屠杀。
沙尔基教授说：“杀人机器人能区分某个目标是军事目标还是民用目标吗?“杀死试图投降的人也是不允许的。我知道很多人以为投降就是举白旗，其实投降是指任何表明不再战斗的姿态，比如手无寸铁地躺在地上……但机器人无法对此加以区分。这会对全球安全造成怎样的破坏。
以罗素尔为代表的科学家指出，人工智能技术一旦用于制造不需要人类监管就能自动运行的武器，将打开智能化机器人全自动“杀人”的潘多拉魔盒，将会对人类安全和自由造成毁灭性打击。像“终结者”一样导致人类的灭亡。
“杀人机器人禁令”运动并不是想限制人工智能和机器人的相关创新，也不是要禁止研发军用或民用人工智能系统，而是希望确保每次攻击的控制权都牢牢掌握在人类手中。
觉得不错，请关注【一号哨所】将他分享给您的亲友。
联系客服
