最近，牛津大学人类未来研究所教授、哲学家Nick Bostrom成了科技界熟知的人物。他撰写的书籍《超级智能：路线图、危险性与应对策略》在2015年成为《纽约时报》畅销书，而且还得到比尔·盖茨 和伊隆·马斯克的推荐。在书中，他指出，人类面临的最大生存威胁不是气候变化、传染病或者核武器，而是超越人类的机器智能即将出现。最近，Nick Bostrom接受卫报采访，谈到自己对人工智能的一些看法。
(图片来自exponentialtrends)
《超级智能》这本书的开头是一则寓言。一群麻雀正在建巢，这时候，一只麻雀弱弱地说，“我们太小，太软弱了。如果有一只猫头鹰帮我们建巢，生活会多么轻松啊！” 这个想法得到了所有麻雀的赞同。它们开始寻找改变自身生存状况的救世主。
一只独眼老麻雀发出了不同的声音。“这肯定会导致我们的毁灭埃在猫头鹰来到我们中间之前，难道我们不该先学习驯养猫头鹰的技术吗？” 但是，他的警告无人在意。驯养猫头鹰太复杂了，为什么不先找来猫头鹰，然后再考虑以后的事情呢？
这则寓言是对人类追求人工智能的一种警告。在书中，Bostrom 提到，当智力超越人类的机器开始自己设计机器后，人类就会面对“智力大爆炸”。“在智力大爆炸之前，人类就像是玩炸弹的小孩，” 他写到，“我们根本不知道爆炸何时发生，但是，如果我们把炸弹放到耳边，就能够听到微弱的滴答声。”
Bostrom 认为，如果我们创造出强于自身的机器智能，并且给予其成长的自由，那么，它肯定会设法维护自己的主导地位。这与生物界的情况是一样的。因此，人工智能系统可能会派出大量的小型机器人，消灭干扰其运行或者无关紧要的人类；或者，它可能“挟持政治进程、暗地操控金融市场，改变信息流动方向，或者黑掉人类制造的武器系统。”
这听起来就像是科幻小说。不过，Bostrom 说自己并非预言家，相反，他对这些事情“非常无知和困惑”，但是，经过多年的研究，他得到了一些“不完整的先见”，有了一些更深层的理解。
联系客服
