面对人工智能，一万句“我爱你”，不如一句“我懂你”
文 | 史中
允许中哥先啰嗦几句，这事儿挺重要。
小时候，我听爸爸妈妈说最多的一句话就是：“你不懂！长大之后你就明白了。”
以我五岁的智商，我把这句话翻译为：滚蛋。
我内心是不服的，大人判断一件事情的逻辑，难道就真的没办法给小孩子解释明白？一种被当成智障的屈辱感油然而生。。。
这种事情在人生中反复发生，例如多年后，一个妹子泪眼婆娑地望着我说：你不懂！然后转身消失在夕阳的余晖下，那辆玛莎拉蒂里。留下我默默地推着自行车百思不得姐。
多年后我才发现这个事实：你的朋友、亲人、爱人、你所珍惜和依赖的人，当他说出“为你好！”“你不懂！”“听我的！”的时候，多半是因为没办法给出让你理解和信服的解释。
你看过《ET》吗？两个人之间的交流，并不比人和一个外星人交流更简单。你可以细品品。。。
然而我终究想说：
一万句“我爱你”，不如一句“我懂你”。
试图理解，是我们的本能。事实上，理解一个人很难；理解一个人工智能也很难。
接下来的五分钟，我们就来讨论两个科幻问题：
1、我们有没有可能理解人工智能的每一个决定？
2、如果有，我们用什么方法来理解人工智能？
邢新宇
邢新宇，就是今天的主咖了。这位宾州州立大学的教授，在和京东安全合作，试着用算法来解释人工智能的每一个决策。（至于为什么是和京东安全合作，看到后面你就明白了。）
1、我们真的可以“懂”人工智能吗？
先纠正一下绝大部分人的误区：
如果你觉得，人们可以像理解“1+1=2”那样理解人工智能所做的每一个决策。那么恭喜你，请关注浅黑科技，明天继续来打卡学习。
事实上，人工智能的绝大部分决策，人是不能理解的。哪怕是制造他们的科学家——这些人工智能的“爸爸妈妈”也不能理解。
你可能会说，纳尼？人造出来的东西，自己怎么会不理解？
举个例子，当年我们的祖先发明钻木取火的时候，他们其实并不懂燃烧的原理。先使用，后理解，这本就是我们认识世界的规律。
举一个大多数人都知道的例子：
阿法狗，这个最著名的人工智能围棋大师。
在具体的对弈中，科学家爸爸只为它设定了目标——赢得比赛，却根本没有规定阿法狗必须按照人类的套路来落子。当然也正是因为如此，它才有可能“青出于蓝胜于蓝”，完虐柯洁大棋渣。
人工智能的决策过程，就像这个汉子画画一样，全程旁观者都会感到“莫名其妙”，直到最后一秒绝杀，你才会恍然大悟。
OK，误区纠正完毕，结论是：
从某个角度看，人工智能的水平已经超过人脑太多，如何理解人工智能（AI），其实是个国际难题。
如果只是用 AI 下个棋，不理解也就不理解了。但是，AI 可是越来越普及，这个我们无法理解的东西开始围绕在生活中，就像一个朋友，他永远戴着面具和你说话，想想就让人头皮发麻。
邢教授举了几个栗子：
在美国军队，现在已经在无人机上安装了 AI，可以自主执行攻击任务。但是，这个 AI 肩负了一个重要职责，那就是只能攻击军事目标，不能误伤平民目标。这时，如果 AI 失手，分分钟就是几十条人命。
在华尔街，金融大鳄们已经开始用人工智能来编写量化交易程序，人工智能会根据自己的判断，选择买入和卖出股票。这时，如果 AI 失手，分分钟就是几十亿上下。
在京东，安全研究员已经开始用人工智能来识别恶意账号。人工智能会自动判断哪一个账号有刷单嫌疑，然后进行封号。这时，如果 AI 失手封杀错误，分分钟投诉电话就会挤爆客服。
你可能知道著名的阿西莫夫机器人三大定律：
第一定律：机器人不得伤害人类个体，或者目睹人类个体将遭受危险而袖手不管；
第二定律：机器人必须服从人给予它的命令，当该命令与第一定律冲突时例外；
第三定律：机器人在不违反第一、第二定律的情况下要尽可能保护自己的生存。
阿西莫夫“机器人三大定律”
好，现在机器人把你逼到墙角，然后告诉你：为了您丫的利益，请干了这碗翔。（这条要求完美符合第一第二第三定律，想不明白的加我微信讨论。）
你内牛满面：吃翔可以，但老板您是不是需要给我个解释先。
这下你明白了吧。我们想解释 AI，不仅是因为好奇，更是因为某些时候 AI 一旦犯错，会让我们付出很大的代价。
啰嗦了这么多背景知识，我们到底有没有可能对人工智能进行解释呢？接下来上干货。
2、你想看到人工智能的思想内部吗？我们做到了！
如果你想研究人的生命特征，显然并不能解剖一个活人。那么，你有什么好方法？
你可以去解剖一只猴子。理解了猴子的生理机制以后，就可以类推到人类。
邢教授说。
实际上，他和京东安全合作研究的“人工智能解析技术”，就是类比了猴子和人的关系。
这个被用来解释人工智能的“猴子”就是：
高斯混合模型
我知道，我的文章里每出现一个“生词”，读者就会跑掉一半儿。向毛主席保证，这是本篇文章唯一的生词。爱我别走。
啥是高斯混合模型呢？
举个例子吧：
如果说人工智能的核心技术“深度学习”是一个计算器，那么高斯混合模型就是一个算盘。
为什么这么说呢？给你解释一下：
1、计算器和算盘的原理完全不同，但是他们的作用类似。
2、计算器的效率高，但是难理解。
3、算盘的效率低，但是每一步的“三下五除二”的原理都能给别人讲清楚。（这就叫可解释）
你想想看，如果一家几万人公司（例如京东）的财务用算盘来算账，只要有足够多的时间和人力，是能算明白的。
当然在现实中，不会有人傻到用算盘而不用计算器（或者 Excel）。
这个比喻是为了说明：
算盘可以用来解释计算器的原理；同样，高斯混合模型也可以解释人工智能：
1、理论上，高斯混合模型（算盘）可以代替深度学习（计算器），但是，会耗费多几个数量级的存储和算力。
2、也正是因为效率的问题，在实际中，高斯混合模型只可以用来“解释”人工智能，而不能代替它。
还记得在三体里，大刘写到了“人肉计算机”这种东西吗？其实，这就是一种对计算机原理的“解释”。用人肉来模拟计算机理论上是行得通的，只是，恐怕秦始皇也难以征发这么多人来做这件事。
不过，仅仅是“解释”这一个作用，对于邢教授来说就足够了。
注意，邢教授告诉我：这个神奇的数学模型，可以模拟一切智能决策，包括人的决策。
那么，我们打开人工智能的脑壳，究竟看到了什么呢？
3、我们看到了怎样的世界？
我又想起我妈经常说一句话： 真不知道你那小脑袋里整天想的是什么。（幸好当时我妈不知道我想的是什么，否则她会大吃一惊。）
同样，当我们真正看清人工智能的“小脑袋”里想的是什么的时候，还真是会大吃一惊。
举个例子吧。
人工智能一个日常操作，就是判断一张图片里的人究竟是男人还是女人。
判断男女，统共分三步：
1、给人工智能看一堆男人的照片
2、给人工智能看一堆女人的照片
3、它根据这些资料自学成才。
机器用来学习的资料就像这样
科学家用这种方法训练人工智能之后，会发现在某些时候，人工智能的判断还是会存在错误。也就是把男人认成了女人，把女人认成了男人。
这是为什么呢？
如果在原来，由于人工智能不可解释，人们也就不知道它犯错的原因。但是，邢教授用“分析模型”分析之后发现：
原来用于学习的照片里，所有男人的背景都有不同程度的蓝色，而女人的背景里，都有不同程度的红色。而人工智能傻傻地认为，背景里有蓝色，这个人是男人的概率就更大；有红色，是女人的概率就更大。
你可能觉得，用背景的颜色判断男女，这不是有点智障么？
没错，当你看懂之后，会发现自己赖以依靠的人工智能，就是这么智障。
这是一种顿悟。
我们睁开了看世界的另一双眼睛。
邢教授把这种技术用于真正的商业场景中，还发现了很多有趣的功能。
举几个栗子：
1）漏洞研究
几乎所有的程序都存在漏洞。所以，我们要把漏洞找出来。
现在的“漏洞挖掘事业”中，主要是黑客的智慧在起作用。当“解释程序”上线之后，人类就可以理解机器是怎么想的。这个时候，人工智能就像一个黑客志同道合的朋友，可以给他不小的启发。
这个方法我们已经给很多安全研究员使用了，看到人工智能的分析，很多研究员都觉得有所启发，帮助他们拓宽了思路。
邢教授说。
2）黑产标记
记得前面我们说过吗，京东安全正在用人工智能技术来判断哪个账号属于“恶意账号”，而且已经卓有成效了。但是苦于人工智能的准确性没有到达100%，所以还没有大规模应用到实战中。
他们其实在等待这个“人工智能审核技术”的进展。当机器可以对人解释“为什么把这个账号归类为恶意”的时候，京东客服妹妹也能对打来电话的用户解释“为什么你的账户被封禁了”。
3）图形验证码
虽然用人工智能判断黑产账户还有几个月的路要走。但是就在此时此刻，京东安全把人工智能和监督程序用到场景比较简单的实践中了。
你来看这张图：
有时候，你登录京东的时候，需要输入验证码。
然而，人可以输入验证码，坏人同样可以用人工智能来模拟输入验证码。京东安全和邢教授合作，用解释程序研究了一下黑产用于判断验证码的原理。
最后他们发现，只要有针对性地对验证码图片做一些改动，黑产的人工智能立马歇菜，判断出来的数字全是错的。
例如上图，虽然人类看来是“ASM5”，但是 AI 判断出来，就可能把“A”认成“C”，把“5”认成“K”，等等等等，完全错误。
上面的几个例子，其实都可以为我们带来很多商业价值。
4、AI 的温情
正如我之前所说，“理解”是每个生命的本能。
AI+解释程序，在未来很可能合并为“可解释的 AI”
邢教授说。
很多人都熟悉的人工智能专家吴恩达，也在做这样的尝试。他参与的自动驾驶公司“Drive.ai”，在人工智能汽车上装载了一个屏幕：
一辆汽车看到行人，就会停下来，与此同时，它会通过显示屏告诉行人：“我在礼让您过马路”。同样，在它并道超车或者转弯的时候，也会给身边的人车相应的提示。
这种“自我解释”，会让冰冷的技术变得有温度。
同样，“可解释的 AI” 还能做更多的事情。
在未来，人们会把“AI+解释程序”用于 DNA 研究，AI 很可能会告诉人类，哪一个基因对应着哪一个疾病，如何调整可以让人获得健康的同时，又付出最小的代价。而这一切，都是有理有据的。
在此基础之上，也许我们可以把人类攻克癌症的时间点大大提前。果真如此的话，很多原本会目睹亲人因为癌症离世的人，命运里就少了一场遗憾的生离死别。
如果你觉得这样的日子太过遥远，那么我会给你一个非常近的目标。
刚才提到的京东安全利用解释程序来辅助人工智能判断“黑产账户”的技术，很快就会上线。很多人会因为科技的力量而免受侵害或欺骗。而这些人中，也许就有你的亲人、朋友，你所爱的人。
人工智能之父 阿兰·图灵
你还记得吗？
邢教授提到了一个巨大的脑洞，那就是——人类的情感同样可以被解释。
多年以后，
我们可能终于明白，
父母当年的“为你好”和“听我的”，
究竟是出于怎样深沉的爱。
当我们拥抱着亲人的时候，也许 AI 就在一个角落里，闪烁着温情的光芒。
再自我介绍一下吧。我叫史中，是一个倾心故事的科技记者。我的日常是和各路大神聊天。如果想和我做朋友，可以关注微博：@史中方枪枪，或者搜索微信：shizhongst。
不想走丢的话，你也可以关注我的自媒体公众号“浅黑科技”。
联系客服
