图片来自百度
近来听到吴军讲到《假如人工智能出错了会怎么样?》,文中提到人工智能属于网状结构,一个BUG的波及面会很广(大部分情况下都不会出错,但一旦出错,影响范围很大),比如一个程序下的所有的摄像头的识别算法是相同的,在A地区识别出错,那么在B,C。。。等地区也都会出错。我们可以理解为这些摄像头也有个统一的大脑,而所有的摄像头就像手脚一样,都受同个大脑的控制。
而人相对来说具有独立思考能力,虽然小错不断,但不会犯类似的波及面很广的错误。比如说无人驾驶,计算机接收的指令是遇到障碍物要躲闪,但是如果这个时候躲闪会造成其他伤害(比如会撞上人群),那么计算机在不具有更高的价值判断下,可能采取就是机械式的撞向人群。而人反而在这种情况下更善于做出伤害更小的判断。
从上面引出今天要聊的人与软件的区别。首先让我想起以前在做ERP项目时,常常给用户灌输ERP的一个显性价值:人的手工操作很难避免出错,而通过软件则可以避免人为出错。当然,这里是先有个假设:软件必须是涵盖了要解决的某项任务的所有可能性。
然而,ERP因为历史悠久,对企业的可标准化的实务已有充分的解决方案,所以可以代替人的手工操作。而在一些新兴领域,其实写出软件的人也是基于已知的场景、经验而做出的程序设计。因此当存在未知的场景、可能性等,这时就会出现上面说的无人驾驶抓瞎的情况。
现在我们听到的一些很火热的概念,在行内人眼里,其实都有一大堆的假设、前提条件。人仍然是创造机器的主人,在未知的场景、可能性上,人类的智慧仍然远远大于机器,不要麻木迷信人工智能,任何机器。
联系客服