谨防AI诈骗

随便侃侃

首先解释一下题目。这里的AI诈骗不是指电话诈骗、网页诈骗之类的，不是说骗子利用AI来诈骗你，而是说不要上了AI营销的当，听任相关人员的吹牛而去笃信人工智能的各种应用和产品。

昨天读了梅拉妮·米歇尔写的《AI3.0》一书，书本400页，挺厚，只不过里面不少例子和知识我在别的AI图书里读过多次了，所以碰到这样的内容我一般扫两眼就可以了。

梅拉妮·米歇尔是大牛侯世达的学生，如果不知道侯世达，可以去搜搜看。这本书平铺直叙，不吹不贬，把人工智能发展中涉及到的概念一一道来，真是给AI祛魅的不错的书。作者通过翔实有趣的若干例子，揭示了因为“无法真正像人一样理解世界”，现在繁花似锦的AI研究和产业化潜藏着巨大的脆弱性。

我们看到人工智能可以下棋、可以回答问题、可以识别图片、可以玩游戏……我们就认为人工智能距离人的智能很近了。我们看到深度学习在上面这些能力形成的过程中发挥作用，我们就认为深度学习是通往通用智能的康庄大道。这种认识是幼稚且危险的——我们是因为能够学习思考所以可以下棋说话，而不是因为能够下棋说话而变得可以思考。

依我看来，“奇点”论只是一个胆子大的说法而已；至于那些鼓吹AI达到什么程度、AI繁荣昌盛，都是利益各方的摇旗呐喊。要我看来，AI只是在有限的几个部分有所发展；至于通用人工智能、强人工智能的，AI还很弱很傻。

将“不知何时才能实现的某种可能性包装成眼下马上要实现的样子”，这种做法可以称为“AI诈骗”。

当前的 AI 技术主要指机器学习和深度学习，二者间的区别可大致说成：机器学习是“人类事先制定评价标准，然后机器自行反复尝试，找到更符合评价标准的做法后自动更新之前的做法”的技术；而深度学习是“机器大量读取数据后，自己思考评价标准”的技术。以前的 AI是“人类设定判断所需的必要模式，事先告诉机器怎么做”，与此相对，现在的 AI是机器自动学习，找到做法和评价标准。这是二者的本质区别。

“自动”二字意味AI自行决定做法和评价标准，企业不可能只因为 “统计上没问题”便将身家性命交给AI，这成了阻碍AI发展的一项难题。训练机器、让机器学习时，需要大量质量合格的数据，这会耗费巨额资金。企业不会因为 “统计上没问题”就将自身命运交给AI。

比如自动驾驶，这个说得够多的了。

引入AI 时应该考虑到的四要素：

AI 是一项非常有潜力的技术，但如果人们什么都不做，光明前景并不会自己到来，现实情况是AI技术要实现，要实际落地，还面临很多难题。

一，越是管理层越应该加深对AI的理解，不要只停留在抽象层面，应该深入了解每个术语、每项技术的深层含义。技术人员就算不具体负责AI相关的工作可能也会自发地收集相关信息，细致学习。但是经营管理者甚至对机器学习、深度学习这类最基本的概念的理解也只停留在抽象层次，当前现状如此。

二，就算管理层对AI有所了解，也限于抽象层次的了解。以技术角度讲，AI可分为语音识别、图像识别、自然语言处理等；从学习方法角度讲，又可分为神经网络、强化学习等。每个分支都可以发展成一个业务领域。此外，AI 的分析方法等统计学知识多种多样，考虑引入AI时需要了解各种知识。当然并不是苛求管理者要像技术人员那般精通技术，但是至少应该知道“使用的是什么技术”“是什么运行机制”“是怎样分析的”“能做到什么，不能做到什么”，否则很难保证他做出的次策科学合理。

三，引入前应考虑AI是否有效。虽说只有实际使用AI后才能知道其效果如何，但并不意味着不用提前“做功课”。除非要使用的技术、使用方法与标准案例一模一样，否则应该尽量预判AI的效果。

四，充分认识数据的重要性和相关成本。AI的生死掌握在数据手上。AI不仅要求数据的数量足够多，还要求数据种类和质量必须达标。以旧有数据为例，数据的量可能非常可观，但是仔细分析会发现很多信息缺失，使用方法也不理想。引入AI前应该充分意识到：旧有数据并非直接拿来就能用。

人之所以判断失误，很大一部分原因是“只看自己想看到的部分”“凭主观好恶做判断”，用专业术语来讲就是，“信念偏见 ”“情绪启发式 )”。没有谁能完全避免此类个人倾向性，因此这构成了干扰人们判断的一项重要因素。批判性思维就是这一过程中非常重要的思考方法。

对应AI来讲就是，面对“机器学习和深度学习技术前景一片光明”“AI将极大地改变世界”“AI的应用马上就要实现”等正面、肯定的观点时，从反面思考是否存在相反的可能性，进而验证正面观点是否成立，而且，很多技术实现方面的问题也将浮出水面。想创建更正确、更合理的新业务和新服务，正需要这样的思考过程。