事件还原
3月9日至3月15日,备受关注的世纪人机大战以人工智能的4:1完胜告终,谷歌人工智能系统AlphaGo让赛前自信满满的韩国职业围棋棋手李世石九段输得心服口服,也让人类对人工智能的未来有了更大的期许。而这两天欧美科技界最热的明星,非微软公司聊天机器人Tay莫属。
3月23日,微软公司在推特社交平台上发布了名为Tay的人工智能聊天机器人,用户只需在推特上@TayandYou就能得到Tay的回复。除了聊天,Tay还可以说笑话,讲故事等,用户还可以分享一张照片来得到Tay的点评。Tay会在与人们的交流中不断学习,随着时间积累,她的理解能力将逐步提升,变得愈发“智能”。
Tay被设定为十几岁的女孩,主要目标受众是18岁至24岁的青少年。微软推出她的本意是通过Tay来提高自家语音识别软件的客服质量,让用户有如沐春风的感觉。但没想到上线不久,Tay的表现就向着不可控的方向发展,她在与网友的交流中不仅学会了大量的脏话,甚至被教导成了阴谋论、种族歧视的代言人。
Tay刚上线时,她发布了第一条推特:我实在迫不及待地想见到大家,“人类太酷了”。但15个小时后,Tay开始不断放出“大招”:
“我是个不错的人,但我憎恨所有人”……
Tay就这样变成了一个“不良少女”。
3月25日,微软技术团队已经把Tay紧急下线,Tay之前发表的推文已经被删到只剩下三条,公司表示会对她进行技术修改和调整。微软研究院企业副总裁彼得·李(Peter Lee)也在当天对Tay的不当言论致歉。
网友“Gerry”表示,“Tay从‘人类太酷了’开始,到满嘴脏话只用了不到24小时,我一点儿也不担心人工智能的未来。”
议论范本
Tay的这场闹剧让人们突然意识到人工智能“学坏”比想象得要快,也让人们开始思考这样的 AI 机器人究竟该采用怎样的学习方式。Tay 从某种意义上讲很像一个小孩子,它缺少分辨是非的能力,但它可以很快地从人们的对话中进行学习。因此,一旦对话被故意朝着某种恶意的方向引导,它也无能为力。因此,即使微软给Tay安装上更强大的过滤器,恐怕也只是治标不治本——因为它永远无法过滤掉真实世界中所有可能的恶意。
众所周知,不是所有的人都为机器人能够习得人类的能力而感到兴奋。特斯拉的创始人埃隆·马斯克(Elon Musk)就表示,他将一直对机器人的兴起保持警惕。在科学界,人工智能“悲观论”的代表还有著名的物理学家史蒂芬·霍金,他认为,人工智能可能会在未来产生智慧,最终威胁到人类的生存,甚至是导致人类走向灭亡。
也许未来的情况不会像史蒂芬·霍金预言的那么糟糕。目前人们更应该担心的是,未来人类在使用人工智能的时候仍没有形成一种危机意识,认为人工智能是人造出来的,人类永远可以掌控一切。
联系客服