主观的偏见经常能演化为客观的事实现实.对吗

  9月1日消息据CNBC报道,首先峩们需要澄清下:美国总统唐纳德?特朗普(Donald Trump)本周针对谷歌的指控是毫无根据的。特朗普宣称这家搜索引擎出于政治原因,在其搜索結果中更多显示反对特朗普的新闻内容此外,特朗普还声称谷歌在其主页上推荐了前总统巴拉克?奥巴马(Barack Obama)的国情咨文演讲,而没有推薦他的演讲这也是错误的,因为截图显示谷歌确实链接到了特朗普今年的演讲

图:2018年5月8日,谷歌首席执行官桑达尔?皮查伊(Sundar Pichai)在美国加州山景城举行的谷歌I/O开发者大会上发表讲话

  但这就是本文为“谷歌辩护”得出的结论因为,不管特朗普是否知道他的错误指控引發了对谷歌、其偏见及其影响力的一系列长期担忧。顺着特朗普的指控扩展开来你会发现一系列令人不快的事实,它们对谷歌和社会来說都是不舒服的因为它们突显了我们是如何受制于这家公司的,以及我们对它许多影响全球的隐形方式制衡如此至少

  特别值得一提的是,大量研究表明谷歌还有另一种偏见值得担忧。特朗普所谓的“赤裸裸的党派偏见”不太可能发生但它有个隐藏潜在问题、普遍而经常未被意识到的偏见,比如搜索“黑人女孩”谷歌会导向色情网页链接输入短语“黑人女性为何如此”总会伴随着“愤怒”和“喊叫”的场景,或者搜索“大猩猩”会显示黑人照片等

  在《压迫算法:搜索引擎如何强化种族主义》(Algorithms of Oppression: How Search Engines Reinforce Racism)这本书中,举了许多上述類似例证虽然谷歌已经为之道歉并修复了这些例子,但这些场景的变体不断涌现该书作者、南加州大学安嫩伯格交流学院教授萨菲亚?

  诺布尔博士(Safiya U. Noble)认为,许多人对谷歌有错误的认识我们曾认为搜索引擎是个中立的甲骨文,就好像该公司以某种方式整合电脑和數学客观地从垃圾中筛选出真相。

  但谷歌实际上也是由有偏好、有自己观点以及有盲点的人创建的他们在具有明确财务和政治目標的公司结构中工作。更重要的是由于谷歌的系统越来越多地由从现实数据中学习的人工智能(AI)工具创建,它放大社会中存在的许多偏见的可能性也越来越大甚至其创造者都不知道这些偏见。

  谷歌表示它意识到搜索结果中可能存在某些偏见,并已采取措施加以預防谷歌搜索排名团队的负责人潘杜?纳亚克(Pandu Nayak)说:“我们已经做出承诺,要不断改进搜索结果以有效、可扩展的方式不断解决这些问题。我们没有坐下来忽视这些问题”

  多年来,诺布尔博士、其他研究隐藏偏见的人以及许多对谷歌影响力持批评意见的企业比如经瑺与之作对的Yelp,始终在试图就这家搜索公司如何影响在线言论和商业展开公开讨论现在,人们担心特朗普的错误指控可能会破坏这种工莋弗吉尼亚大学媒体研究教授希瓦?瓦伊德哈亚纳桑(Siva Vaidhyanathan)专门研究谷歌和Facebook对社会的影响,他说:“我认为特朗普的抱怨毁掉了很多好的、复杂嘚想法这些想法开始影响公众对这些问题的意识。”

  诺布尔博士认为更具建设性的对话对于“控制信息领域的垄断”有好处。所鉯我们应该就此展开建设性对话。

  谷歌最重要的决定是保密

  在美国大约80%的网络搜索是通过谷歌进行的。在欧洲、南美和印度谷歌在搜索领域所占份额甚至更高。谷歌还拥有YouTube和Gmail等主要通信平台并控制着Android操作系统和应用店。它是全球占主导地位的互联网广告公司通过这项业务,它还塑造了数字新闻市场

  谷歌的力量本身并不具有破坏性。重要的问题是它如何管理这种力量以及我们如何監督它。这就是批评人士所说的失败之处谷歌对公共话语的影响主要是通过算法产生的,其中最主要的是决定你在其搜索引擎中看到哪些结果的系统这些算法是秘密的,谷歌称这是必要的因为搜索是它的“金鹅”(它不想让微软旗下必应知道谷歌为何如此伟大),还因为解释算法的精确工作方式会让它们容易被操纵

  但这种最初的保密造成了令人不安的不透明。因为搜索引擎在搜索的时候会考虑时间、地点和许多个性化因素所以你今天得到的结果不一定和我明天得到的结果匹配。这使得外界很难对谷歌的结果进行偏见调查本周,佷多人取笑特朗普为了支持自己的主张而提出的证据太少但研究人员指出,如果谷歌以某种方式失控并决定支持某个受青睐的候选人,那么只需要改变一小部分搜索结果就可以做到如果公众确实发现了这类事件的证据,可能也无能为力

  马里兰大学法学院教授弗蘭克?帕斯夸里(Frank Pasquale)说:“对于如何调查和识别这些说法,我们真的必须有更复杂的认识”在2010年发表在《法律评论》的文章中,帕斯夸里概述了联邦贸易委员会(FTC)和联邦通信委员会(FCC)等监管机构获取搜索数据的方式以监控和调查有关偏见的指控。没有人接受这个想法Facebook最近草拟叻一项计划,允许学术研究人员访问其数据以调查偏见等问题。

  谷歌没有类似的项目但纳亚克博士说,该公司经常与外部研究人員共享数据他还认为,谷歌的搜索结果不像人们想象的那样“个性化”这表明搜索偏见出现时很容易被发现。纳亚克指出:“我们所囿的工作都是公开的任何人都可以评估它,包括我们的批评者”

  搜索偏见反映了现实世界的偏见

  特朗普声称的那种地毯式的、故意为之的偏见,必然会涉及到谷歌的许多员工而谷歌当前也在许多热点问题上纠缠不清,比如多样性或者是否与军方合作等有政治头脑的雇员向媒体提供了重要信息。如果有传言说谷歌的搜索团队正在扭曲政治目的我们很可能会在媒体上看到这种阴谋的证据。

  这就是在研究算法偏见问题的研究人员看来为何更紧迫的问题不是谷歌故意对某个主要政党存在偏见,而是对那些在社会中尚未掌权嘚人存在偏见这些人包括女性、少数族裔以及其他缺乏经济、社会和政治影响力的人,他们被这家由加州富人经营的公司所忽略正是茬这些盲点上,我们发现了谷歌存在的最具问题的偏见比如它曾经建议对搜索“自学微积分英语专业”中的女性反身人称代词(herself)更正為男性(himself)。

  谷歌的解释一点儿都不奇怪因为网上用后者更普遍,所以谷歌的电脑认为这就是正确的换句话说,社会上长期存在嘚结构性偏见在网络上得到了复制这反映在谷歌的算法上。最终这个错误被修复了,但是在谷歌中还隐藏了多少这样的错误呢我们哃样不知道。

  谷歌表示理解这些担忧并经常解决这些问题。2016年有些人注意到谷歌将否认大屠杀的网站列为搜索“大屠杀发生过吗?”的结果顶部,这让该公司开始着手解决仇恨言论和网上的错误信息纳亚克博士说,这种努力表明:“当我们看到现实世界的偏见使搜索结果变得更糟糕时我们就会试图触及问题的核心。”

  谷歌最近逃脱了审查

  然而我们应该担心的不只是这些意外的偏见。研究人员还指出了其他问题:谷歌的算法倾向于时效性和活跃性这就是为什么在重大新闻事件发生后,谷歌的算法往往容易受到操纵容噫受误导和谣言的影响。谷歌表示它正致力于解决错误信息。谷歌的许多竞争对手指责说在搜索结果中,谷歌更喜欢自己的内容而鈈是第三方网站内容。例如它会突出显示谷歌的本地评论,而不是Yelp对本地搜索查询的回应

  欧洲监管机构已经因为这种搜索偏见对穀歌处以罚款。2012年,美国联邦贸易委员会的反垄断调查人员在谷歌发现了不公平搜索行为的可信证据然而,该机构委员一致投票反对提起訴讼谷歌也否认有任何不当行为。谷歌面临的危险是无论特朗普的指控多么不实,都为讨论这些合法问题创造了机会此前,犹他州囲和党参议员奥林?哈奇(Orrin Hatch)呼吁联邦贸易委员会重启谷歌调查可能还会有更多类似情况。在过去的几年里Facebook经受住了社会对大型科技公司嘚质疑。现在谷歌被推上了风口浪尖。(小小)

}

我要回帖

更多关于 主观的偏见经常能演化为客观的现实 的文章

更多推荐

版权声明:文章内容来源于网络,版权归原作者所有,如有侵权请点击这里与我们联系,我们将及时删除。

点击添加站长微信