每周，我们都会回顾本周的新闻，分析科技行业最重要的发展动态。
大家好，我是木傻。以下是本周的科技新闻:
我将要提出一些听起来颇有争议的观点：也许我们不断发现有偏见的算法是件好事？
让我们倒带。上周发表的两篇文章显示，用来代替人类做决定的算法似乎带有性别偏见。
首先，人们发现，计算苹果新信用卡信用额度的算法对男性的限额可能高于女性。发行信用卡的高盛表示，其信用决定“基于客户的信用价值，而不是性别、种族、年龄、性取向或任何法律禁止的其他因素”。
纽约时报记者凯德·梅茨(Cade Metz)报告称，谷歌和亚马逊的人工智能服务都没有将“hers”这个词识别为代词，但却正确地识别出了“his”。她补充说，其他类似的算法在分析文本时“通常没有给女性足够的信任”。
这并不令人惊讶。算法是由人类编写的，而人天生就有偏见——这可能会渗透到他们构建代码分析框架的方式中。人工智能软件根据包含各种人类偏见的数据进行训练，这些偏见随后会出现在它自己的推论中。
牛津大学法律与人工智能伦理学副教授桑德拉·沃克特（Sandra Wachter）表示：“算法正在做的事情就是照镜子，它们反映了我们社会的不平等。”
我们经常看到的不平等令人不安。如果软件要选择一个信用限额，它最起码应该是公平的。如果人工智能为我们解析信息，我们希望它至少保持客观。
问题是，算法无处不在，它们代表我们做决定的方式对我们来说往往是不透明的。“我有多少次看不到招聘广告？有多少次收到的商品广告价格更高？”沃克特教授质疑道。“我常常不知道自己受到了不公平的对待。”
从这个意义上说，我们发现偏见的案例越多越好。因为它不仅减少了一个未经检查的算法，而且有更多的证据证明我们为什么必须解决这个问题。
当然，这并不容易。计算机科学家正试图找出如何发现和消除数据中的偏差；还有一些人正在研究如何让算法更好地解释他们的决定。还有一些措施要求企业在如何使用算法方面更加透明和负责。这是一个艰难的过程，但它正在发生。
“认为我们会有一个中立的系统是不现实的，”沃克特教授说。“但有了合适的系统，我们可以减轻一些偏见。”
大科技银行
或许上周关于Apple Card的文章让你记忆犹新，现在正是思考大型科技公司进军个人理财的好时机。
谷歌宣布，它将与花旗集团和斯坦福联邦信贷联盟(Stanford Federal Credit Union)合作，于明年推出一个“智能支票”账户。确切能做什么还不清楚，但谷歌表示，它将通过其支付应用程序，帮助银行客户“受益于有用的洞察力和预算工具”。
此外，Facebook推出了一款名为Pay的数字支付系统，用户可以在其Messenger、Instagram和WhatsApp平台上进行支付。此外，该公司还推出了自己的加密货币Libra，旨在对全球金融世界进行一场革命。
这些都不足为奇。这些公司被新收入流的前景所吸引。问题是他们能否成功。
监管者和立法者已经不再对此无动于衷。美国纽约州监管机构表示，他们将调查Apple Card使用的潜在歧视性算法。Libra一直受到来自四面八方的巨大批评，因为人们不信任它。美国弗吉尼亚州民主党参议员马克沃纳(Mark Warner)已经向CNBC谈到谷歌在银行业的努力：“应该对其进行非常严格的审查。”
但这里还有一个问题：人们真的想用大型科技公司来存钱吗？在个人理财领域，有很多惯性，说服人们从银行转到苹果、谷歌或Facebook将需要具备真正实用的功能，或更高的利率，或其他引人注目的功能。对金融数据隐私的担忧可能也是消费者的一个担忧。换句话说，这是一个很高的标准。
对健康数据的渴望
有消息称，谷歌和医院服务提供商Ascension(Ascension是一家医疗保健公司)之间的合作可能会让这家公司的患者数据——总计5000万——被上传到谷歌的云计算平台上。在没有通知患者或医生的情况下，一些数据，包括姓名、出生日期、实验室检测和诊断，已经被上传了。
Ascension表示，它正在探索“有潜力支持临床质量改善的机器学习应用”。谷歌表示，它将提供“Ascension可用于改善临床质量和患者安全的工具”。
医疗服务提供者与电子病历公司等商业伙伴分享病人的医疗信息是完全合法的。尽管如此，美国卫生与公众服务部的民权办公室仍计划寻求更多信息，以确定它是否符合法律规定。
尽管如此，许多人还是感到不安。这可能是出于谷歌的动机：据《华尔街日报》报道，谷歌没有向Ascension支付这笔费用，因为它希望开发基于自己所学知识的系统。它最终会把这些系统卖给其他医疗服务提供商。
再说一遍，这没什么错。但在这个数据隐私问题比以往任何时候都更加严重的时代，在没有告知患者的情况下，就将如此私密的数据当作医疗记录来处理，这种做法听起来有些过分。
联系客服
