全球宕机外的另一大烦心事,脸书前员工爆料其为了利润而纵容极端内容

7ffccc82aee88b6b55e487adeaaa06e 1

作者:Moreless

字数:5100

预计阅读时间:12 分钟

 

前言:今早,全球的 Facebook,Instagram 和 WhatsApp 的用户发现这些平台集体 “宕机”,连不上了。祸不单行,Facebook 在对其平台内容的管理方面正在面临着更大的舆论压力和批评。前 Facebook 员工变为“吹哨人” 在 CBS《60 分钟》节目爆料,而社交媒体平台到底应该为当今的假新闻及仇恨内容传播承担多少责任,也是舆论和立法者关注的焦点。

 

封面图源:thedailybeast.com

 

美国时间周一 (10 月 4 日) 早上开始,Facebook 公司旗下的三大应用,Facebook,Instagram 和 WhatsApp,在全球都遭遇到了服务中断。据说是域名服务 DNS 出了问题。截至发稿时间为止,各项服务已经基本恢复。

 

052ecde31d91dddb305030bd811e9e2

图源:CNN

然而,也许比全球宕机更让 Facebook 高管烦心的,是在星期日(10 月 3 日)晚 CBS 的王牌节目《60 分钟》上,一名曾匿名向联邦政府举报 Facebook 的该公司前员工接受了采访。

 

该名员工向联邦政府举报 Facebook 为了商业利益,故意鼓励或者纵容虚假信息以牟利的做法,她同时指控 Facebook 的做法促成了今年 1 月 6 号的国会暴动。

 

在今年 1 月 6 日发生了围攻国会的暴力事件以后,社交媒体平台在限制网络言论自由和传播虚假信息方面都饱受批评。相信这次的采访,势必又会再次引发关于立法机构是否应该立法解决社交媒体上仇恨言论和虚假信息的讨论。

 

8812b3bc691758474e946ba574e8a8d

MIT 的研究结果 来源:science 网站

根据 MIT 三位研究者 2018 年发表在《科学》上的研究结果,他们参考了 6 家事实核查网站提供的数据,对 2006–2017 年间 12.6 万条 Twitter 的真 / 假新闻传播力进行了评估,发现假新闻在转发层级、传播人数、扩散范围等多个指标上碾压真新闻,且传播速度至少快 6 倍

 

Facebook 是一家市值超过一万亿美元的公司,成立到现在不过 17 年。它拥有 28 亿用户,占地球上所有互联网使用者的 60%。

 

e5a4396965d4cbd093c338cb42d3a22

《60 分钟》节目采访的内容,来源:CBS

她的名字叫弗朗西斯 · 豪根 (Frances Haugen),这个名字是自上个月这名前雇员匿名向联邦执法部门提出投诉以来,Facebook 公司一直急于想知道的。这些投诉说,Facebook 自己的研究表明,其在自己平台上使用的信息投放方式放大了仇恨,虚假信息以及造成了政治动荡。但是该公司隐瞒了它所知道的情况。另外一条投诉则指控,Facebook 旗下的 Instagram 伤害了青少年女孩。

 

但豪根的投诉之所以如此轰动,是因为她在 5 月辞职时带走了大量的 Facebook 内部研究报告。这些文件最早由《华尔街日报》在上个月匿名公开。但在《60 分钟》节目上,弗朗西斯 · 豪根首次透露了她的身份,来解释她为什么会成为 Facebook 公司的 “吹哨人”。

 

豪根说,她在 Facebook 一再看到的情况是,Facebook 在对公众利益有益和对自己有利的两件事情之间存在着利益冲突。而 Facebook 一而再再而三地选择让自己的利益最大化,例如赚更多的钱,从而忽视了前者。

 

弗朗西斯 · 豪根现年 37 岁,是一位来自爱荷华州的数据科学家,拥有计算机工程学位和哈佛大学商业硕士学位。15 年来,她为包括谷歌和 Pinterest 在内的公司工作。

 

主持人问,以你的情况,其他人可能就是辞职了去干别的,你为什么要采取这种立场呢?

 

豪根曾供职过多家社交媒体公司, 她说,她见过很多家社交媒体公司,但是在 Facebook 见到的情况是最糟糕的。她知道 Facebook 内部发生了什么,同时也知道外面的人并不了解。她很清楚如果继续留在 Facebook 里面,将来会是什么样子。许多留在 Facebook 里面的人都面临同样的问题,就是不停地被虐。

 

当主持人问到你是在什么时候以及如何想到要把所有这些文件带出公司时,豪根回答道:2021 年的某个时候,我意识到,我必须以系统性的方式来做这件事。就是必须拿出足够多的东西,这样人们才无法质疑它的真实性。

 

豪根秘密复制了数以万计的 Facebook 内部研究报告。她说,有证据表明,Facebook 正在对公众撒谎,说自己的内容审查在反对仇恨言论,宣扬暴力和虚假信息方面取得了重大进展

 

一条她在今年发现的研究显示,Facebook 估计,“尽管我们的算法在这方面是世界上最好的,但我们在 Facebook 上可能只对 3–5% 的仇恨和大约千分之六的暴力和煽动行为采取行动。”

 

在她带来的另一份文件中说,“我们有来自各种渠道的证据表明,Facebook 和它旗下的 App 全家桶上的仇恨言论、分裂性政治言论和虚假信息正在影响世界各地的社会。”

 

豪根说:当我们生活在一个充满愤怒、仇恨、极化内容的信息环境中时,它侵蚀了我们的公民信任,侵蚀了我们对彼此的信心,侵蚀了我们想要关心彼此的能力。现今存在的 Facebook 正在撕裂我们的社会,并导致世界各地的种族暴力。

 

她告诉记者,自己是在 2019 年被 Facebook 招募的。她说,她同意接受这份工作的唯一条件是,她可以从事反对虚假信息的工作,因为她曾因网上阴谋论而失去一位朋友

 

豪根说,不想让任何人感受到我曾经经受过的痛苦。但她也看到了要确保在 Facebook 上有高质量的信息方面的风险有多大。

 

在总部,她被分配到公民诚信部 (Civic Integrity),负责处理包括虚假信息在内的选举风险。但在刚刚过去的这次 2020 年大选之后,出现了一个转折点。

 

豪根说:他们告诉我们,” 我们要解散公民诚信组织”。就好像他们在说,“哦,很好,我们平安度过了这次选举,没有发生骚乱。我们现在可以拿掉 Civic Integrity 了。” 快进了几个月,确实发生了叛乱。当他们砍掉 Civic Integrity 时,那一刻我就在想,“我不相信他们真正愿意投入需要投入的东西,来使得 Facebook(的内容)可以不危险。”( I don’t trust that they’re willing to actually invest what needs to be invested to keep Facebook from being dangerous.”)

 

Facebook 的回应说,公民诚信部门的工作没有被取消,只是被分配到了其他部门。

 

FB 在刻意激发人们的愤怒以获取流量和点击量

 

豪根告诉记者,Facebook 的问题根源在于它在 2018 年对其算法做出的改变, 这个算法决定了你在 Facebook 新闻流上能看到什么内容。

 

decbc9f681c7345a9ebe0f465981642

图源:ABC

“所以你知道,当你拿自己的手机,坐下来,滑动屏幕 5 分钟,你可能只看到 100 条内容。但 Facebook 有成千上万条的可以向你展示的内容。该算法就会挑你过去参与最多的内容来向你展示。”

 

“今天,Facebook 筛选内容的一个后果是,它正在优化那些能够获得更多的参与或反应的内容。它自己的研究就表明,那些充满仇恨、分裂、促成两极化的内容,比起其他情绪,更容易激发人们的愤怒。”

 

虚假信息和使人愤怒的内容对人们很有诱惑力,得以让用户留在这个平台上。社交媒体本来就是情绪操控的。可以说,没有情绪操控,就没有流量。

 

豪根说,是的,这非常诱人。Facebook 已经意识到,如果他们把算法改得更安全,人们在网站上花的时间就会更少,他们的广告点击就会减少,从而导致他们赚的钱就会更少

 

Facebook 明白虚假信息对 2020 年选举的风险。因此他们开启了安全系统来减少虚假信息。但是其中很多改变只是暂时的。一旦选举结束,他们又把它关掉了,或者把设置改回以前的样子。

 

“把业绩增长置于安全之上。对我来说,这真的感觉是对民主的背叛。”

 

Facebook 则表示,一些安全系统依然存在。但是,选举之后,在脸书上一些人用来组织 1 月 6 日的国会叛乱。检察官引用了 Facebook 上的帖子作为证据 — 武装游击队员的照片和包括 “通过子弹或选票恢复共和国即将到来!” 的文字。极端分子使用了许多平台,但 Facebook 是一个反复被提到的名字。

 

e05f54f253721074f1db14489e7f1e9

FB 平台上的信息可靠度一直被质疑,图源:NYTimes

暴乱发生之后,Facebook 员工在豪根复制的一个内部留言板上表达愤怒。“…… 难道我们没有足够的时间来搞清楚如何在不启用暴力的情况下管理话语?”

 

编辑们也试图找一些 “正能量” 的评论,发现了这样一句话:“我不认为我们的领导层无视数据,无视异议,无视真相……”。但这句话引来了这样的回复:“欢迎来到 Facebook!。我注意到你在 2020 年 11 月才刚刚加入。我们已经观察了公司领导层多年来的胡作非为。”

 

“…… 同事们…… 为一家不做更多工作来减轻其平台的负面影响的公司工作,是不能摸着良心干活的。”

 

事实是,Facebook 从本质上放大了人性中最坏的一面。

 

豪根说,这只是众多不幸后果之一。Facebook 里没有人是有恶意的,但是奖励机制是错位的。例如,当你浏览的内容越多,Facebook 就会赚越多的钱。人们喜欢参与那些容易激起情绪反应的内容,他们接触到的愤怒越多,他们的互动就越多,浏览量也就越多。

 

这种机制导致欧洲各地主要政党向 Facebook 投诉。豪根获得的这份 2019 年内部报告称,这些政党 “强烈认为算法的改变迫使他们在 Facebook 上的交流中偏向负面…… 导致他们的政策立场更加极端。”

 

欧洲各政党基本上是在对 Facebook 说,你编写算法的方式正在改变我们领导国家的方式。

 

豪根认为这是真的。因为 Facebook 认为,外部力量正在迫使 Facebook 采取我们不喜欢的立场,我们知道这对社会不利。但是我们知道,如果我们不采取这些立场,我们就无法在社交媒体的市场上获胜。

 

Facebook 旗下的 Instagram 同样存在问题

 

豪根接着又把伤害的证据延伸到了图片共享应用 Instagram 应用。国内的小红书无论从界面还是配色都跟 Instagram 类似,用户主要以分享图片和短视频为主。

 

472e2a4eadb57a2f770b0d41bc01efc

“FB 将盈利放在人们的健康之上”,图源:Bloomberg

主持人问,你发现的 Facebook 内部研究之一谈到了 Instagram 如何伤害未成年少女。研究表明,13.5% 的少女说 Instagram 让她们自杀的念头更加严重;17% 的少女说 Instagram 让她们饮食失调更加严重。

 

豪根说,超级悲惨的是,Facebook 自己的研究表明,当这些年轻女性开始消费这些饮食失调的内容时,她们会变得越来越抑郁。这实际上使她们更多地使用该应用程序。因此,她们最终陷入了这种恶性循环,她们越来越讨厌自己的身体。

 

Facebook 自己的研究显示,Instagram 不仅仅是对青少年有危险,它的确伤害了青少年,而且它明显比其他形式的社交媒体更糟糕。

 

225823ddea072fb9031b4c53f696098

就在上周,Facebook 表示,它将推迟为少年儿童创建儿童版 Instagram 的计划。

豪根向证监会提起针对 Facebook 的多项指控

 

上个月,豪根的律师向在金融市场执法的证监会 SEC 提交了至少 8 项投诉 。这些投诉,将该公司内部研究表现出来的面孔,跟公司的公开面孔——通常是首席执行官扎克伯格的面孔——进行了比较。后者去年 3 月对国会进行了远程听证。

 

扎克伯格去年 3 月 25 日在国会听证时的供词:

“我们已经删除了可能导致迫在眉睫伤害现实世界的内容,我们已经建立起了一个前所未有的第三方事实核查程序。虽然这个系统并不完美,但这是我们找到的符合我们国家价值观的解决虚假信息的最佳方法。”

 

《60 分钟》节目也采访了豪根的律师之一,约翰 · 泰伊。他是华盛顿一个名为 “举报人援助” 的法律团体的创始人。

 

主持人问到,去 SEC 举报背后的法律基础是什么?你指控 Facebook 违反了哪条法律?

 

泰伊说,作为一家公开上市的公司,Facebook 被要求不得对其投资者撒谎,也不能隐瞒重大信息。因此,美国证监会在这种情况下会开展执法行动,指控像 Facebook 和其他公司这样的公司存在重大误报和遗漏,对投资者产生了不利影响。

 

而当下,Facebook 可能指控豪根的事情之一就是她偷了公司的文件。

 

根据十年前通过的多德 · 弗兰克法案 (The Dodd-Frank Act),美国证监会内部设立了举报人办公室。而该法的一个条款规定,任何公司都不能禁止其员工与证监会沟通,并与证监会分享公司内部文件。

 

豪根说,许多事情她都可以跟扎克伯格共情。扎克从来都没有想要做一个宣扬仇恨的平台。但是他允许做出了这样的选择,而这些选择的副作用是,宣扬仇恨的,能造成两极化的内容得到了更多的传播和影响。

 

Facebook 拒绝接受采访,但在给《60 分钟》节目的一份书面声明中说,“我们的团队每天都在保护数十亿人公开表达自己意见的权利,与保持我们的平台成为一个安全和积极的地方之间的平衡。我们将继续做出重大改进,以解决虚假信息和有害内容的传播。如果说我们鼓励不良内容传播而无所作为,是不对的。

 

声明中还说:“如果有任何研究证明发现了解决这些复杂挑战的确切方法,整个科技行业,政府和社区应该早就解决了这些问题了。”

 

豪根计划本周在国会作证,她认为联邦政府应该加强监管。

 

豪根表示,Facebook 已经证明他们不能单独行动,Facebook 一次又一次地表明它选择利润而不是安全,并且鼓励这种做法。它在用我们的安全来赚取其利润。我希望这将对世界产生足够大的影响,使他们有足够的毅力和动力,真正去把这些法规落实到位。这是我的希望。

 

另据报道,事实核查网站 Snoopes 在 1 月 6 日国会叛乱发生之前多次联系 Facebook,对 Facebook 上的群组里面的暴力言论和组织活动发出警告。但是 Facebook 从来没有回应他们。

 

在 1 月 6 日美国国会大厦骚乱之前,一名 Snoops 记者提醒 Facebook 通讯人员注意该平台上的暴力言论的电子邮件基本上被忽略了。一些后续报道将这些关于未来暴力的具体警告与暴力支持者 1 月 6 日当天实施的行为联系起来。

 

在 Snopes 发表报道后的几个小时内,Facebook 删除了该小组,但一直没有回应他们的电子邮件。也就是说,Facebook 意识到了自己的错误,但是比 Snoopes 希望的时间更晚地删除了该小组。

 

参考链接:

https://www.cbsnews.com/news/facebook-whistleblower-misinformation-public-60-minutes-2021-10-03/

https://www.science.org/doi/abs/10.1126/science.aap9559

https://www.snopes.com/news/2021/02/12/facebook-capitol-riot/

Leave a Reply

Your email address will not be published. Required fields are marked *