忘事,是人们经常碰到的事。有时忘了这,有时忘了那,甚至有时还会忘了自己的生日。或许某些人有超强的记忆天赋,把一幅扑克牌随机打乱,他随意扫两眼,就能记住所有牌的顺序。但这只是少数特例,人似乎永远不会完全掌控自己的记忆。
那么,现在发展火爆的人工智能和智能机器人是不是能克服遗忘?或者说,遗忘必须要克服吗?
人类为什么会忘记
首先,应该弄清楚人类为什么会有遗忘。一般有两种解释,第一种比较通俗,即人的大脑容量有限,记的东西多了,自然要清理,以便“腾空间”,也就是遗忘。
然而,世界上有一种非常罕见的人,就是“超忆症”患者。超忆症的表现是,大脑有自动记忆系统,不加选择,会将经历过的一切事一丝不落都记住,并且很长时间后还能清晰回忆起来,对数字、时间尤其敏感。若从这个角度讲,大脑容量似乎超乎想象地大,应该不会出现不够用的情况。
第二种解释,就是遗忘有助于人类认识世界。记住与理解是不一样的。当忘掉一些没什么价值的信息,只保留一些有用的、有价值的、有关联的信息时,才会更好地理解世界。
研究也表明,一些重复的、单调的信息,人们很难记住;对于一些矛盾的、有冲突的信息,人们则更容易记住,因为这代表着对世界的某些“理解”。还有某些重要的、新颖的信息,以及当时人们的情感体验,也很容易记住。如2001年9月11日,许多人能清楚忆起当天事件发生时,自己当时在哪里,在做什么。
智能机器需要遗忘吗
智能机器人记忆信息,与计算机的原理非常类似。它包括两部分,一是内存储器,俗称内存,暂时存放数据,由中央处理器运算后将结果输出。二是外存储器,一般指硬盘,可以与内存储器交换数据,也可以长久存放数据。
内存的容量一般不大,它需要经常退出程序,清除数据,从而释放空间进行其他运算。外存储器也是同样道理,也是有限的。这都类似于“遗忘”,并且也都适用于智能机器人。
人工智能和智能机器人,它们的运算结构不同于计算机,而是一种网状运算结构联结,如同大脑的神经网络结构一般。理论上,它们可以有几乎无限的存储空间(如Gmail邮箱的存储空间一直在增长,即使它们算法不同),但实际运行中,智能机器运转时间长了,存储信息就会越来越多,而后续有些运算、预测不需要用到这么多信息,这时它附载的信息超过了它所需调用的信息,这时就会妨碍智能机器的深度学习,尤其妨碍其预测能力。
灾难性遗忘
显然,智能机器也要学会遗忘。而且,它还要克服遗忘的另一个极端——“灾难性遗忘”。
人类会把某种旧技能迁移至新能力上。但是与人类不同,目前智能机器做不到这一点。它在不断学习的过程中,信息总量也会不断增加。当再增加一项新任务,学习新内容时,它的“神经网络”需要重置,即抹去先前的所有记忆而从头开始。这就是灾难性遗忘。
谷歌DeepMind就有这个缺陷,但是目前有了初步改进,不过未来还有很长的路要走。
智能机器该忘记什么
毋庸置疑,智能机器需要忘记,但又不能全部忘记。那么它究竟要忘记什么?
与人类一样,遗忘的原则就是,记住重要的、有用的信息,忘记没价值的、不相关的。但实际操作起来,涉及很多方面,绝没那么容易。
美国亚马逊公司有一款蓝牙音箱,其实它真正身份是智能家庭助手,取名为Echo。人们可以通过语音,对它进行控制,并进而控制其他设备。因此它总是时刻在听“命令提示符”,也因此存储了大量信息。阿肯色州警方曾经要求亚马逊公司配合,去查询一个杀人嫌犯家里的Echo,试图提取更多证据。
问题在于,Echo存储的数据属于谁?亚马逊公司、嫌犯还是Echo自己?谁拥有所有权,谁可以决定信息的取舍?所有权不同,决定遗忘的信息内容也是完全不一样的。
还有,假如你学会了抽烟,但被父母发现后,就起誓保证今后绝不再抽,可是趁没人时又偷偷抽了,而恰巧你家里的智能机器人看到了,该怎么办,要忘记吗?又假如,它看到你伤害别人,做了非法的事呢,它应该选择记忆还是遗忘呢?
决定智能机器遗忘什么,不单单是由它目前正在处理的事决定,也不单单是技术问题,而是涉及隐私、法律以及伦理道德的社会大问题。表面上看,这是关于一个机器人的记忆问题,但实际上,这是对人类社会的一种深刻挑战。
联系客服