创新也会导致人类的毁灭？！

创业者和技术人员们，你们要小心自己的创新了。因为创新也有可能将人类毁灭。

文/Hamish Mckenzie

现在来说，地理位置预测搜索引擎和可佩带技术看上去很新潮。但是过不了几代，这些技术就会反过来对人类自身造成打击。Ross Anderson发表在Aeon杂志上的文章《8000-word feature on existential threat》就提出了这样一个问题：我们发明的技术将会帮助人类征服宇宙还是会让人类陷入灭顶之灾?

首先，我们不应该制造太过先进的人工智能(AI)机器。Anderson在文章中指出，这种AI将会在工作中违反人类的利益。

如果AI的目的是在和人类对战象棋时取得胜利，它就会根据人的棋路进行判断和调整，此时，它考虑的只是棋盘。而如果我们将AI的目标进行放大，例如让它在物理世界中进行工作，它就有可能对人类的利益造成损害。因此我们需要十分小心给AI输入的指令。

Future of Humanity Institute的Daniek Dewey就指出：

“现在我们面临的最基本的问题是，我们在进行创新的时候，有时会忽略人类的一些利益。AI在进行工作的时候也不会考虑人类的利益，它们会不顾一切后果的完成我们给它输入的指令。而在它们工作的过程中，有可能会造成一些不可挽回的损失，例如在制造大型太阳能电池板的时候对环境造成难以估量的破坏。在这些情况下，AI不会考虑我们的其他利益，就像我们在建造大楼的时候不会考虑到蚂蚁的生存一样。”

另外，我还应该停止制造知晓所有问题的答案的机器。Anderson在文章中指出：

加入我们制造出一个能够进行预测，或是知道所有问题答案的AI。我们需要做的，只是在出现问题的时候按一下电钮，AI就能为我们提供解决问题的答案。

突然有一天，出现了一种人类从未见过的疾病，我们利用AI来寻找治疗这种疾病的方式。AI也许会给我们打印出一个基因图谱，并且设计出一个能够治疗这种疾病的药物。但是，这个药物也许能够治疗这种疾病，但是它也有可能会破坏人体的其他功能。显然，这样的结果是我们无法承受的。在很多方面，我们不能仅仅依靠机器，我们仍然需要自己进行研究。

另外，我还想请求Boston Dynamics停止制造能够把人扔向房间另一头的机器，机器人在把脆弱的人类扔出去的时候，并不会考虑人体能不能承受这样的力量。

如果你是一名科技人员，而且正在和美国军方合作，我恳请你放弃开发小型飞行杀人机器人的计划。我们能不能继续以传统的方式接受死亡?

Zen Robotics，你们设计的可循环机器人？如果哪一天新闻报道称你们的机器人会对人类的内部组织造成破坏，我一定都不会感到惊讶。求你们还是省省吧！

谷歌，看在上帝的份上，别继续开发你们的谷歌眼镜了。电子产品离大脑如此近，也许有一天我们每个人都会因为你们的产品而患上脑瘤。

(via pandodaily)

你同意这篇文章作者的观点吗？请在评论栏里留下你的意见！