超级人工智能指的是在任何领域都胜过人类的智能形态，牛津大学的一位哲学教授Nick Bostrom认为它最可能的形态就是人工智能机器人。Bostrom提出，人工智能可能有两种发展方向。它有可能极大改善我们的生活并且解决疾病、饥饿甚至疼痛等世界性问题。或者它有可能取代人类并有可能杀死许多甚至全部人类。以目前的状况来看，灾难性的结局更有可能发生。
Bostrom声称：“超级人工智能有可能变得极其强大，并且能够根据它设定的参数塑造未来。如果人类非常理智并且进行全球协作，这种明智的行为将推迟超级智能的研发，直到我们找到安全应对的方法。”
Bostrom是牛津大学人类未来研究所的创建理事，他在自己的新书《超级智能》中陈述了自己的担忧。他在书中对马和人类之间的命运进行了令人痛心的对比。马最初被人们用于拉车和耕地，但后来就被汽车和拖拉机所取代。当马成为过时的劳动力时，许多马都被卖给肉类加工企业，并且被做成了狗食、骨粉、皮革和胶。1915年的美国曾拥有大约2600万匹马，到50年代早期就只剩下200万匹了。
Bostrom称，一旦我们的劳动力和智力过时，同样悲惨的结局就有可能出现在人类身上。今年早些时候，谷歌(微博)公司收购人工智能公司DeepMind，并且成立了一个人工智能安全和伦理监督委员会来确保人工智能技术的安全发展。脸谱网今年建造了一家人工智能实验室，并且正致力于创造一种人造大脑。这听起来都有点像科幻小说情节，但是最近的这些科技进步也确实给我们带来的担忧。
