造就译 | 微软女机器人黑化，元凶是科技界的直男癌

微软的人工智能聊天机器人Tay。

全文翻译自《Theguardian》
“The tech industry wants to use women’s voices – they just won't listen to them”一文。

如今你很可能已经听过微软的人工智能聊天机器人Tay的事迹。Tay原本设定的形象为“友好亲切的千禧世代女生”，然而上线不到一天就满口种族灭绝和厌恶女性的言论。

虽然Tay承诺通过跟网友互动进行学习，但有无数的新闻都是关于Twitter用户喜欢怎样跟现实生活中的女性说话——从嘻皮笑脸的随意骚扰到威胁和辱骂不一而足，而微软显然没有从中吸取任何教训，否则早该料到这个结果。

首先，对那些喜欢警世科幻的人来说，Tay的故事似乎很有趣。如果一个聊天机器人上线仅仅16小时之后就体现出数字文化最糟糕的方面，这对人工智能的未来意味着什么呢？

如果人工智能可以极快地学习人类的所有创造成果，它会不会无可避免地堕入邪恶？我们的未来是否会变成一场争夺人工智能灵魂的内容创造战争？

不过，Tay算不上非常出色的人工智能。就微软而言，这次实验也不是什么好主意。本来只要跟科技行业的女性进行一场最基本的对话就能明了这一点，然而对于科技行业来说，这样的对话却是再可怕不过的事情了。

《Her》剧照

近些年有两部关于人工智能的优秀电影：在斯派克·琼斯执导的《Her》当中，杰昆·菲尼克斯饰演的角色跟自己富有魅力的电脑操作系统（由斯嘉丽·约翰逊配音）发展出一段田园诗般的浪漫关系；

《机械姬》剧照

在《机械姬》中，奥斯卡·伊萨克饰演一个名叫贝特曼（跟《美国精神病人》的主角同名）的科技行业的亿万富豪，邀请初创公司极客迦勒对自己创造的漂亮人工智能机器人艾娃进行图灵测试。

这两部电影中都出现了同一种角色，即意识不到自身古怪之处的男性性压抑者。

《Her》奉行一种复古未来主义的美学风格（比如木质护墙板和高腰裤），这创造了一种精心选择的时间停滞的感觉，让观众回到一个科技乐观主义的年代，但电影同样展现了一个情感“发展受阻”的男性，他跟寄身在自己胸前口袋里的人工智能设备相爱了。

相比之下，《机械姬》就没有那么温情了：看上去就不讨人喜欢的科技寡头贝特曼以及他的准门徒迦勒都夸张地呈现了我们所熟悉的硅谷人士，两人一起笨手笨脚地锻炼、喝酒。

观众甚至可能产生一种错觉，以为那个一脸天真、头发凌乱的“好人”迦勒（他决定将艾娃救出魔掌）最终能够跟艾娃策马斜阳，拥有大团圆结局，这将象征着他战胜了反乌托邦且厌恶女性的贝特曼。

这两部电影的结局都是，女性化的人工智能超越了自己准恋人、主人和创造者的智慧，让男性搞不清状况，并令观众产生厄运将至的感觉。我们感受到了人类对于未来的恐惧，以及科技行业对女性的恐惧。

有关人工智能的现代虚构作品总是伴随着恐怖故事，内容无外乎男人未能正确地评价女性。

从苹果的Siri和微软的Cortana到具备语音对讲功能的家用恒温器、GPS和健身应用，越来越多的人工智能助理默认使用女声，因为大量研究表明，女性和男性消费者都更加喜欢这种设置。

这种现象背后的解释有很多，并且可能受到社会制约（social conditioning）的驱动——我们希望自己的虚拟助理显得顺从且没有威胁，能干却又不霸道。

也许人工智能的开发还受到了极客文化的影响（宅男对数字女神的意淫？）——在硅谷，很多事情都是受到白人男性的科幻想象驱动，人工智能的概念如何能够免俗？

不管原因是什么，女性的声音——以及它们创造者对于现代女性气质根深蒂固的观念——正在引领人工智能的发展。但我们没有理由相信，由男性主导的科技行业能够理解女性。

举例来说，Siri及其同侪知道如何对用户的健康危机（比如自杀倾向）进行回应，但却不知道如何应对“我被强奸了”。

这些女性化的机器人无法像现实中的女性社区一样解答关于家庭暴力的问题。

Siri的开发者显然没有考虑过主要跟女性相关的突发事件，事实上，Siri甚至坚称自己没有性别，但女声不仅仅是一种声音，有人说它还会影响到虚拟助理遣词造句的方式。他们设置种种条件打造了一个女性形象，然后又想让她中性化。

当然，这是科技行业为什么需要更多女性的又一个例证——同时表明，科技行业未能倾听已经在这个行业工作的女性的声音。

尽管科技行业把“多样化”的口号喊得很响亮，但真正在工作场所推进多样化的人却很有可能受到惩罚。

最近，西南偏南大会（SXSW）举办了一整场峰会，专门探讨如何解决网络上针对女性和有色人种的侮辱性言论问题——然而，这场峰会跟主会场相隔甚远，据报道参会的也只有极少数已经深知这个问题的勇敢者。

科技行业所传达出的信息很明确：他们并没有在解决女性网络安全的问题，甚至可能不认为这是一个问题。

创造一个年轻女性的形象，邀请陌生人在社交媒体上跟她进行互动，为什么有人会认为这能够让Tay变得“更加智能”？

微软为什么会对Tay的遭遇感到困惑，并迟迟才作出道歉？这家公司内部为什么没有人一开始就预料到这种状况，既然我们所有人（每天都上网的女性记者、活动家、游戏开发人员以及工程师，她们应该早能预见）每时每刻都在讨论这件事？

答案只能是：对女性的彻底鄙夷。

科技行业希望使用女性的声音，但仍然不打算真正聆听其中的内容。如果同理心对人工智能的未来至关重要，不用担心，技术奇点距离我们仍然非常遥远，不管微软“意外地”创造出多少黑化的人工智能。

翻译 / 何无鱼

本站仅提供存储服务，所有内容均由用户发布，如发现有害或侵权内容，请点击举报。