【三体网宇宙印象 深度科普栏目第10期】霍金除了对外星人入侵地球十分关注外，也对人工智能技术的发展感到担忧。霍金不止一次在公开场合对人工智能技术爆炸后出现的杀手级机器人行为进行预测，认为全自动武器站的普及使得机器人能够获得一定程度的开火权，甚至在智能决策系统发展后超越人类的指令，直接开火。这种杀手智能机器是极度危险的，国际天主教爱尔兰分部秘书长也指出，杀手机器人的使用就会把我们人类推离伦理和文明的社会。
越来越多的人开始关注全自武器自行选择和攻击目标的行为，即使人类的某些行为存在局限，但是我们的基本道德准则是与人性站在一起的。
目前半自主的无人机已经在美国、俄罗斯、韩国和英国等国家的军队中部署，韩国的哨兵机器人SGR-1和英国的防空武器都能够自行寻找攻击目标。最近的联合国会谈目的是限制或禁止可能导致士兵与平民误伤的全自主武器的使用，但多数国家不同意协议中的条款，其中包括是否应该限制现有技术和未来的发展。
停止杀手机器人小组成员Mary Wareham指出，战斗中攻击目标的决定应该由人类执行，从基督教的观点来看，战争已经发展成为解决世界冲突和支配人类的一种手段，它是完全错误的。如果没有对高级智能机器人进行相关限制，那么一旦恶魔被从瓶子里放出来，将很难对其进行控制。霍金认为宇宙中也有类似的文明存在，它们会自己发展的机器人技术所取代，因此我们以后遇到的外星人可能是机器人的概率并非不可能。
事实上变形金刚这样从碳基演变成硅基的超强生命体，在宇宙中也应该存在，两种生命区别很大。霍金认为人类如果无法控制人工智能的泛滥，只有数百年的时间就会完成演替，想想一百年前世界是什么样子，当时飞机才被刚刚发明不久！100年后的今天近地轨道已经遍布航天垃圾，在计算机技术爆炸后，机器人会更加聪明。
去年英国第一台计算机首次通过图灵测试，这意味着我们已经分不出人和电脑的区别，下一步电脑将学会思考。
谢顿，科普作家，毕业于南京大学天文与空间科学院，三体网主笔，果壳作者
更多资讯欢迎关注微信号：santi2208 与 santi9527（科幻专属）
联系客服
