现在我们来说说人工智能威胁论。（关于人工智能威胁论）大家知道的第一个就是库兹韦尔的奇点理论。我做HPE智能系统杂志主编的时候，收到二十多篇论文都是反驳它的，我问同事们我们该不该审（这些文章），大家几乎异口同声地说这种论文不管是反驳还是支持，根本不值得审。（因为）这既不是科学，也不是哲学，我说这就是文学。我还是那句话，林子大了什么鸟都有，有些鸟今天是益虫，过两天它吃粮食就变成了害虫，所以大家平常心去对待（威胁论）。（接下来这个例子）就更有名了——霍金，很多地方说他是当代最伟大的物理学家，我虽然不是学物理学的，但我觉得他和“最伟大的”还差不少。但是这个人非常传奇，为此我看了关于他年轻时代的电影《The Theory of Everything》，电影里说的非常有道理，它说 “人类的追求是无限的”，“Where there are human, there are hope.”（有人类就有希望）。霍金给爱因斯坦的相对论重版时写过一个序言，在序言里说，你把原子弹归罪于爱因斯坦，就好像是把飞机失事归罪于引力一样，这完全是乱扯的。所以我说把人类的威胁归罪于智能也是一样的事情，我并不觉得它是一个威胁。所以我的想法非常简单，我把HPE的一位作者写的文章挂在了我的博客上，上面罗列了所谓的未来学家对未来的预测，都是蒙人的，分成几种情况： （第一种）预测根本不成立，（比如）库兹韦尔预测2010年计算机没有了，现实大家都是知道的我们每天都在用计算机；第二种是搭便车似的，根据已有的技术发展将未来推测的夸张一点，博人眼球；第三种就是默顿式的，“默顿定律”(许多情况下，我们要证实的命题，其实最后是我们影响甚至改变、构成、实现的命题，非自然科学或物理数学里的因果关系，而是心理学上的因果驱动关系。)，
我觉得第一个西方哲学家苏格拉底，他对智能的看法是最极端的，无知才使大家进步（“我知道我是智能的，因为我什么都不知道”）。人类存在的理由就是无知，如果人类什么都知道了，我们也该灭亡了。当然还有另外一个极端就是爱因斯坦，（他认为）智能不是简单的知识，关键要有想象力。个人认为最靠谱的是波恩，今天的时代也正好印证了波恩的想法。波恩认为，知识的积累和应用就是一个过程，随着人口的增加、积累的知识的增加，它会有一个爆炸式的增长、跳跃式的增长。现在的社会并非智能奇点，而是智能爆炸。 我以前读书的时候要到图书馆查一本书，你们不知道有多难。我要到一个个架子里面找到厚厚的盒子搬下来，然后在里面一篇篇杂志找，看看是不是自己需要的，找到之后，还要再搬到复印室里面，一页页自己复印，那时候得到一篇复印的论文是非常非常珍贵的，我是（大学）77届的。现在的条件非常好，这个过程给大家省了多少时间啊，我以前一天能找到一篇论文，都是蛮lucky的，现在我一天能找多少，所以现在就是一个（信息）爆炸，爆炸必然产生这种相应的后果。这就是为什么我相信这个时代是一个智能的时代，因为知识的积累已经到了一定的程度。我觉得，Minsky是人工智能里面他是真真正正的思想家。他不相信智能有唯一的原理，他认为“是什么不可思议的诀窍让我们变得智能？诀窍就是没有诀窍。智能的力量来源于我们自身巨大的多样性，而非任一单个的、完美的原理。”。大家说的符号学派、联结学派、行为学派，都是盲人摸象，摸着腿也好、摸着肚子也好、摸着尾巴也好，只摸到了一部分。我为什么相信哥德尔的不完备原理、图灵的不可决策原理，这种东西永远存在，矛盾永远解决不了。这个本质矛盾在哪儿，这个矛盾就是有限跟无限的矛盾。人类有限的生命要了解无限的宇宙，它自然而然有这个矛盾，所以什么（人工智能）“取代人”，我是坚决不相信的。这是John Corcoran写的，他是我导师的第一个博士生，学哲学的，以前做过纽约布法罗州立大学哲学系系主任，现在退休了。他写过一本专门的论文，描述形式逻辑是怎么起来的，亚里士多德开了个头，到布尔，到刚才我说的Laws of Thought，有兴趣的大家可以去看一下，（一共）二十多页，这是关于人工智能渊源的一篇我认为（比较好的）。从亚里士多德一直到布尔的思维定理，这个中间理得蛮清楚的，所以我说追根溯源可以到亚里士多德这里的“三段论”。在莱布尼茨之前，罗门和卢乐最早提出了制造逻辑通用机的建议，莱布尼茨还自己弄过一个机械计算机，当然只是一种想法，做没做就不知道了。到了布尔，大家知道他创立了逻辑代数、也就是布尔代数，现在的计算机、逻辑电路、电路设计都靠布尔代数做基础。然后就是巴贝奇设计并制作了第一台差分机和分析机，后来就是维纳创立了控制论。把Cybernetics翻译成控制论是比较荒唐的，大家看一下我们今天学的控制，自动化控制里面的控制，没有一个方程是Cybernetics中数学方程里面的。
这就是Herbert的定义，符号学派里面功劳最大的，他还得过经济学诺贝尔奖。不同的人有不同的定义，Herbert Simon的定义，Minsky的定义，这是温斯顿的定义，他写过《人工智能》这本书，蛮有名的一本教科书，还有其他人各种各样的定义，我就不展开了，这就是早期的发展。先是Newell这个学派，他们做的就是Logic Theorist，完全受《数学原理》（罗素和怀德海著）影响。最初我们叫它GPS，跟我们导航没有任何关系，通用问题求解器(General Problem Solver)。那么当年西蒙预测十年内（68年以前）（数字式电脑）将获得棋王的桂冠；十年之后再次预言，85年之前，男人能做的电脑都能做，有一点还是有自知之明的，计算机不能生孩子，所以有时候女人能做的事情机器还是做不了。所以吹大了不好，一个冬天连着一个冬天。对图灵测试其实大家很早就有意见，一个叫Winograd（的人），他提出自己的一个测试。当年的专家系统热起来了，我相信过段时间专家系统还要热起来。2006年，人工智能50周年的时候，我自己任主编的杂志评选出了人工智能10佳，第一次名人堂（Hall of Fame）就评了这10个人。其中只有2个人当时没得过图灵奖，后来一个也得了，现在只有Nilsson没得。但是这十人中我觉得Nilsson的贡献最大，他是把人工智能从文学变成科学功劳最大的一个人。这个领域的人大家都知道，几本关于人工智能的书都是他写的。这个机器学习的第一本书也是他写的，不过不叫机器学习，而是叫学习机器（Learning Machine）。神经元方法在他的书里面都有提及。
第一个人是Feigenbaum,他在专家系统做的事最多。第二个人是McCarthy，我说他是功劳最大的，“人工智能”是他提的，人工智能里面最有名的LISP语言也是他发明的。第三个是今年刚去世的Marvin Minsky，他认为自己是认知科学家，他是最早提出神经元网络的人之一，却也是他一手把神经元网络推向冬天的人，用XOR判定一句话扼杀了神经元网络的发展。这个人（道格·恩格勒巴特）我其实很佩服他，当时很多人反对将他作为人工智能专家，我是几乎跟别人撕破脸也要把他放上去的，他是Internet的实际创始人。大家现在整天用的鼠标是他发明的，超链接也是他发明的，他女儿说这个人的思维总是超过别人至少二十年，我觉得说得太对了。他当时为什么发明了Internet呢？二战的时候他是当兵的，驻扎在菲律宾，当时美国怕当兵的没事干，就给他们发文学杂志，有本杂志叫《Atlantic》。其中Bush（不是那个总统Bush）写了一篇散文《As We May Think》，提出一个想法，将来你发明一个东西，把你和图书馆什么的都联系在一起。现代的个人计算机就是它的雏形，它的功能还远远没实现，所以这个想法就激发了Douglas，然后他决定博士论文就做这个了，于是去到了伯克利。毕业之后，没法继续做，于是跑到了斯坦福继续研究。申请经费时，把一个房间我们开会的图像传到另一个房间，两个房间连起来，这就是Internet的开始。他写过一个报告，叫《Augmented Human Intellectual》，就是现在我们说的AR，意思是人类智能扩展。Tim Berners-Lee大家都知道，发明了万维网。Lotfi Zadeh上榜一开始大家也是反对的，他的研究跟控制不太相关，他是模糊逻辑的创始人。Noam Chomsky也是比较有争议的。我对Raj Reddy持保留意见，但是他运气不错，他的学生和位置都很好。是机器人研究院的第一任主任。现在我们用的好多是Judea的技术，他是加州大学的一名教授。我们现在的概率图等等都是基于他的想法。最后就是Nilsson，第一个移动机器人是他们做的，很多搜索方法也是他发明的。他写过《人工智能的数学基础》等书，都是我们领域里面最经典的著作。他把人工智能从文学变成了科学，功劳最大。这张照片是上个月我和Nilsson在他退休后的养老院里拍的。
但是深度学习也有自己的局限性，“If you just have a single problem to solve, then fine, go ahead and use a neural network. But if you want to do science and understand how to choose architectures, or how to go to a new problem, you have to understand what different architectures can and can not do.”。所以我对强人工智能至今看不到希望，将来能不能做到我不知道，就是它可以了，我也不认为它会对人类形成威胁。能不能对人造成伤害？当然了，双刃剑。但是本质上只有人类才能消灭人类，才能威胁人类。所以Minsky有些话在我看来说得非常到位。计算智能还有一大块是模糊系统、神经元和遗传，当年是三大核心。现在又加入了其它的算法，它有广泛的应用，因为它简单，我们用它来做过很多事情，包括无人车的驾驶、无人矿山机器人等等。当年日本用得最多，他们主要用在电器上。其实需要那么复杂吗？我不觉得。以前都用PID，但是好多西方公司早已把它专利化了，所以人们想出个新名词：计算智能。这个名词让它躲过很多专利的问题。还有语言识别，比如中科大的公司讯飞，做的非常好，他们也要变成这个人工智能公司。还有各种各样的仿生机器人，我们实验室机器鱼，还有智能车。其实智能车技术早就不是问题，最大的问题就是法律问题、社会问题。还有无人机，我们中国就有大疆公司（在做）。但我觉得（人工智能）最大一块就应该是知识机器人、软件机器人。然后物理机器人、知识机器人和软件机器人合起来形成所谓的平行机器人，我觉得这才是（人工智能）的未来。但是这个离我们还很远，现在让机器人开门都很费劲儿，更别说机器人成为人类的伴侣。如果（有人提出）20年之内能实现这些，只有三种情况——要不你是傻子，要不那个人是骗子，要不就是大家演电影。
我觉得人工智能（行业）最悲哀的是，要不是冬天，就是夏天，没有春天和秋天。秋天是收获的季节，人工智能只有小秋天，这是一件蛮悲哀的事情。人工智能大大小小至少有九次冬天。如：87年LISP市场奔溃，那时各种各样专家系统、专家医生。现在智慧健康又重新做起来了。（人工智能）第一个冬天是翻译。有一个很简单例子，“The spirit is willing but the flesh is weak”的英文意思是心有余而力不足。其中，flesh是人体、精神的意思。结果被翻译成：伏特加酒是好的，可惜肉是烂了，即酒香而肉臭。这么一个典型的例子，一下子就变成（人工智能）的第一个冬天。后来Logical符号救了它。 《Logical Foundations of Artificial Intelligence》是Nilsson的一本书。我记得是86年读的这本书，后来国内一个杂志约稿，我就写了一篇文章介绍这本书。第二个冬天，Minskey和Papert两个人用了一层神经元，在一个很简单的逻辑上叫XOR的问题，没通过。他们就把结论扩展，给美国军方写的那个报告里面，说了很多不负责任的话，整个研究领域就停滞了。由于没有研究经费，十年没有人再敢碰这个课题。后来，这两个人说自己没有说Perceptron毫无科学价值，但是当时却是白纸黑字这么写的。我在Minskey去世的时候写过一篇纪念的文章，好事坏事我都列出来了，大家有兴趣可以去看。Perceptron只是一层的神经元网络，发明这个Perceptron网的Rosenblatt也是犹太人，跟他俩人是一个中学的（校友）。我觉得这里面有科学之外的原因，导致他们把话说的这么绝。很可惜，十年之内就没有人再碰这个，一直到86年PDP出来，BP算法出来，神经元网络又回来了，才有我们今天的深度网络。第三个冬天是英国一个报告。后面出现Lisp Machines和日本的五代机。这个浪头我赶上了，当时我对这个算法还是蛮感兴趣，我花了很多功夫在Logic Programming上。那时候日本人说要他要拿出多少钱来做这个基于模式识别的计算机，最后也不了了之。这是（人工智能）很大的一个冬天。我自己是看了很多Logic Programming的书，我觉得Kowalski的书是最好的。我当时还写了一本书还专门介绍这本书。最后，Hinton参加了第一次“复活”。现在的深度学习领域主要的领军人物还是Hinton。另外一拨人写了一本书叫《On Intelligence》，咱们中国人翻译成人工智能的未来，我认为人家只是论人工智能。现在大脑的这块东西都基于（霍金斯）这本书，他后来去办企业了。我写过一个评论，这些东西都在我科学网的博客上，大家有兴趣可以去看。
