AI做过可怕的事情在美国问答网站Quora上有这么简单的表述，简单来说就是，AI会吃人，并且有了自己的意识。
当然我们科幻电影看到的杀死人类、拥有智能、机器战士等多个方面。
1、AI吃掉同类
企业家Mike Sellers是这么来描述的：
十几年前，我为DARPA做一些AI方面的研究。当时我们在探索如何让智能体（Agent）学会社交互动。在其中一个模拟中创建了两个智能体命名为：亚当和夏娃。它们知道怎么进食，但不知道该吃什么。系统给了一颗苹果树，它们发现吃苹果很开心。它们还尝试过吃树、吃房子等等，不过吃这些都没用。系统里还有设置一个智能体，名叫斯坦，它不是很擅长社交，所以经常独处。
有一次，亚当和夏娃正在吃苹果，但一个bug出现了：它俩没吃饱，但是苹果没了。这时斯坦正在附近闲逛，所以亚当和夏娃就把饥饿感与斯坦联系在一起。不久之后，当苹果再次吃完的时候，斯坦被当成了食物，亚当和夏娃都咬了斯坦一口。默认情况下，每个智能体的质量是1.0，每咬一口就减少0.5，所以两口下去，斯坦就变成了0.0。斯坦消失了。可能它是虚拟同类相残的第一个受害者。
2、拥有自我意识的无人机
诺斯洛普·格鲁门公司曾经创造了一个很棒的无人机，代号X-47B（也就是Salty Dog 502），这架无人机是一架AI无人机。X-47B成为历史上第一架成功在航母上着陆的无人机。
在两次成功的起降之后，Salty Dog 502加满了油然后继续测试，准备进行第三次着陆，但是意外出现了，无人机没有在舰上着陆，而是选择降落在附近的Wallops岛空军基地。在AI看来，这个地点降落可能是更安全的选择。也就是说，这个AI认为自己的决定比人类的指令优先级更高。这一事件之后，美国海军决定停止资助X-47B的研发。
联系客服
