埃森哲(Accenture)是如何通过清理Facebook的肮脏内容赚取数百万美元的

Facebook和埃森哲很少谈及他们的安排。但他们之间的秘密关系是这家世界上最大的社交网络努力与业务中最毒的部分保持距离的核心。

亚当·萨塔里亚诺(Adam Satariano)和迈克·艾萨克(Mike Isaac)著

2019年,朱莉甜蜜,新任命的全球咨询公司首席执行官埃森哲,与顶级管理人员举行会议。她有一个问题:如果埃森哲应该离开它为领先的客户,Facebook做的一些工作?

多年来,紧张局势在一定的任务,它的社交网络进行安装埃森哲。在八个小时轮班,成千上万的全职员工和承包商通过Facebook的最毒的帖子,其中包括图片,关于自杀,斩首和性行为视频和消息进行排序,试图阻止他们从网上流传。

埃森哲的一些员工表示,他们已经开始出现抑郁、焦虑和偏执的症状。在美国,一名工人参加了集体诉讼,抗议工作条件。乐动扑克新闻报道将埃森哲与这起可怕的工作联系在一起。因此,斯威特下令进行审查,讨论日益增长的道德、法律和声誉风险。

与会者说,在埃森哲华盛顿办公室举行的会议上,她和人力资源主管埃琳•舒克(Ellyn Shook)表达了对这项工作给Facebook带来的心理损失以及对公司声誉的损害的担忧。负责监督账目的一些高管认为,这些问题是可以解决的。他们说,失去这个社交网络客户太有利可图了。

会议没有决议。

Facebook和埃森哲很少谈论他们的安排,甚至也很少承认他们是合作伙伴。但他们之间的秘密关系是世界上最大的银行努力的核心社交媒体公司本身业务的最毒的部分距离。

多年以来,Facebook已经正在审议对流经它的网站上的暴力和仇恨内容。首席执行官马克•扎克伯格一再承诺清理平台。他促进了使用人工智能来杂草出毒性的帖子,并宣传努力雇用成千上万的工人来删除AI没有的信息。

但在幕后,Facebook已经默默付出别人来承担很大一部分责任。自2012年以来,该公司已经聘请了至少10咨询和人员配备全球公司通过其职位进行筛选,与分包商的广泛网络一起,根据采访和公共记录。

没有公司已经越来越至关重要的这种努力比埃森哲。在财富500强公司,提供高端技术,会计学,跨国公司和政府咨询服务更广为人知,已经成为Facebook在审核内容单一最大的贸易伙伴,根据纽约时报的考试。

埃森哲已经采取的工作 - 并且给它体面的外衣 - 因为Facebook已与它的合同为一年内容审核等服务价值至少$ 500万元,根据时代检查。埃森哲员工超过三分之一的15000人谁Facebook日前表示,它已经聘请了视察其职位。和而协议只提供埃森哲的年收入的一小部分,他们给它一个重要的生命线到硅谷。在埃森哲,Facebook正在被称为“钻石客户”。

他们的合同,以前没有被报道,已经重新定义了外包关系的传统界限。埃森哲吸收缓和内容的最坏的方面并提出Facebook的内容的问题了自己。由于做生意的成本,它已经处理了从审查岗位工人的心理健康问题。它已努力处理劳工行动时,这些工人被推为更多的工资和福利。它已默默承担,当他们公开反对工作公众的监督。

15名现任和前任员工说,Facebook苛刻的招聘目标和业绩目标,以及内容政策的诸多变化,使埃森哲难以跟上,这些都加剧了这些问题。当面对审查员对这些工作采取法律行动时,埃森哲保持沉默,因为Facebook辩称,它不承担责任,因为这些工人属于埃森哲和其他公司。

“如果没有埃森哲,我们就不会在没有埃森哲的情况下知道Facebook,”Foxglove的联合创始人Cori Crider表示,这是一个代表内容主持人的律师事务所。“像埃森哲这样的推动者,用于浇水费,让Facebook在ARM的长度上占据其业务的核心问题。”

《泰晤士报》就两家公司的关系采访了40多名埃森哲(Accenture)和Facebook的现任和前任员工、劳工律师和其他人士,其中还包括会计和广告工作。由于保密协议和对报复的恐惧,大多数人匿名发言。《泰晤士报》还审查了Facebook和埃森哲的文件、法律记录和监管文件。

Facebook和埃森哲拒绝让高管发表评论。Facebook发言人德鲁·普萨特里(Drew Pusateri)表示,该公司意识到内容节制“工作可能很困难,这就是为什么我们与合作伙伴密切合作,不断评估如何最好地支持这些团队。”

埃森哲发言人斯泰西•琼斯(Stacey Jones)表示,这项工作是一项公共服务,“通过保持互联网安全来保护我们的社会至关重要”。

两家公司都没有点名提到的其他。

色情帖子
Facebook的大部分工作与埃森哲追溯到裸体问题。

2007年,每个月都有数百万用户加入这个社交网络,许多人还上传裸照。那一年,Facebook与纽约总检察长安德鲁·库莫(Andrew Cuomo)达成了一项和解协议,要求该公司在24小时内删除用户标记的色情帖子。

团队的董事界限的Facebook员工很快就会淹没,团队成员表示。Sheryl Sandberg,该公司的首席运营官和其他高管推动了团队寻找通过内容梳理的自动解决方案,其中三个人说。

他们说,Facebook也开始考虑外包。外包比雇佣员工更便宜,并提供税收和监管福利,以及在公司没有办公室或语言专业知识的地区快速增长或收缩的灵活性。他们说,桑德伯格帮助支持外包的想法,中层管理者制定了细节。

到2011年,Facebook的与oDesk,即招募自由职业者的评论内容的服务工作。但在2012年,新闻网站Gawker网乐动扑克站后,在报道说摩洛哥工人oDesk和其他地方支付低至每小时$ 1的工作,Facebook开始寻求其他的合作伙伴。

Facebook降落在埃森哲。以前被称为安德森咨询,该公司在与会计公司Arthur Andersen休息后重新安排在2001年埃森哲。它希望在硅谷中获得牵引力。

2010年,埃森哲与Facebook签订了会计合同。到2012年,该协议扩大到包括一项内容审核协议,尤其是在美国以外的国家。

两名参与那次旅行的前Facebook员工说,那一年,Facebook派员工前往菲律宾马尼拉和波兰华沙,培训埃森哲的员工整理帖子。埃森哲的员工学习使用Facebook的软件系统,以及该平台关于保留、删除或升级内容以供审查的指导方针。

“蜜獾”
最开始只是一个几十埃森哲版主快速增长。

到2015年,埃森哲公司在旧金山湾区的办公室已经成立了一支代号为蜜獾,只是Facebook的需要,前员工说。埃森哲从提供约300名工人在2015年至3000在2016年他们是全职员工和承包商的混合,根据位置和任务去了。

该公司很快就成功地利用其与Facebook的工作与YouTube上,Twitter的,Pinterest的和其他适度的合同,高管表示。(数字内容适度产业预计将达到$ 8.8十亿明年,根据珠峰集团,大约2020年的总一倍。)的Facebook也给了埃森哲合同领域,如检查伪造或重复的用户账户和监测名人及品牌的帐户,以确保他们没有虐待淹没。

2016年,联邦当局发现俄罗斯特工利用Facebook向美国总统选举选民散布分裂性帖子后,该公司增加了主持人的数量。该公司表示,除了已经拥有的4500人外,还将雇佣3000多人来管理该平台。

扎克伯格在2017年的一篇博文中说:“如果我们要建立一个安全的社区,我们需要迅速做出反应。”。

接下来的一年中,Facebook的聘请阿伦钱德拉,前惠普公司的行政,为规模经营的副总裁帮助监督与埃森哲和其他人的关系。他的部门被桑德伯格监督。

Facebook还将内容的内容展开给其他公司,如认知和Taskus。根据监管申请,Facebook现在提供三分之一的Taskus业务,或者每年1.5亿美元。

这项工作有挑战性。虽然AI的Facebook和Instagram跨Facebook和Instagram的超过90%的令人反感的材料,但外包工人必须决定是否留下AI不会捕获的帖子。

他们会根据Facebook的政策对帖子进行正确审查,从而获得绩效分数。埃森哲的员工说,如果他们犯错误的次数超过5%,他们可能会被解雇。

但Facebook的关于什么是可以接受的规则不断改变,造成混乱。当人们使用的加油站表情符号,俚语,卖大麻,工人删除这些帖子违反毒品公司的内容政策。Facebook的再叫版主不要删除帖子,后来倒车过程之前。

Facebook的还调整了它的中庸技术,增加新的键盘快捷键来加快审查过程。但更新有时很少预警发布,增加了错误。

截至今年5月,埃森哲计费的Facebook在马尼拉大约1900专职版主;1300在印度孟买;850在里斯本;780在吉隆坡,马来西亚;300在华沙;300在加州山景城;225在都柏林;和135在得克萨斯州奥斯汀,根据纽约时报审查人员的记录。

在每个月底,埃森哲送发票给Facebook,详细说明了主持人的工作时间和内容审查的体积。每个美国主持人产生$ 50或以上每小时埃森哲,两个人与计费的知识说。相反,在一些美国城市的版主收到了$ 18中的小时起薪。

心理成本
在埃森哲内部,工人们开始质疑看到如此多可恶帖子的效果。

埃森哲雇用心理健康顾问来处理辐射。IzabelaDziugieł是在埃森哲的华沙办事处工作的辅导员表示,她在2018年告诉经理,他们正在聘请人们虐待,以便通过内容排序。她的办公室从中东处理帖子,包括令人毛骨悚然的图像和叙利亚战争的视频。

“他们只会雇用任何人,” Dziugiel,谁曾与创伤后应激障碍治疗的士兵说。她在2019年离开了公司。

在都柏林,通过Facebook的内容筛选谁一个埃森哲主持人在2018年离开了他的办公桌上有一封遗书,说谁参与了这一事件心理健康辅导员。工人发现安全。

约书亚·斯克拉,在奥斯汀一个主持人谁在四月辞职,说他审查了500至700个职位的转变,包括车祸和动物的视频被折磨后尸体的图像。

“一个视频,我看了是谁在拍自己强奸小女孩的家伙,”斯克拉,谁描述了他的经验,在内部的职位,后来东窗事发说。“这是很可怕。”

他补充说,如果员工绕过埃森哲的指挥链,直接与Facebook沟通内容问题,他们可能会受到训斥。他说,这使得Facebook了解问题和应对问题的速度变慢了。

Facebook表示任何过滤内容可能升级的担忧。

奥斯汀的另一名前主持人斯宾塞·达尔(Spencer Darr)在6月的一次法律听证会上表示,这项工作要求他做出难以想象的决定,比如是否删除一段狗被活剥皮的视频,或者干脆将其标记为令人不安。”内容版主的工作是不可能的,”他说。

2018年,埃森哲推出了WeCare政策,心理健康顾问表示,这些政策限制了他们治疗员工的能力。他们的头衔被改为“健康教练”,并要求他们不要进行心理评估或诊断,而是提供“短期支持”,比如散步或听平静的音乐。根据埃森哲2018年的指南,这样做的目的是教主持人“如何应对困难的情况和内容”。

埃森哲的琼斯表示,该公司被“致力于帮助我们的人民在专业和个人中取得成功。”工人可以看到外面的心理学家。

到2019年,行业的审查正在增长。那一年,认识表示,在科技场地之后,它在亚利桑那州办事处介绍了工人的低薪和心理健康影响。认识表示,该决定将花费至少2.4亿美元的收入,导致6000次裁员。

内部辩论
不止一位埃森哲首席执行官就与Facebook开展业务展开了辩论。

2017年,埃森特雷·尼·尼安切当时的校长质疑工作的道德规范,以及讨论中涉及讨论的三位高管提供了公司提供服务的长期战略。

没有采取任何行动。Nanterme于2019年1月死于癌症。

五个月后,甜,一个长期埃森哲律师和执行,被任命为首席执行官。她很快就下令节制业务的审查,三名前同事说。

管理人员编制的报告和讨论工作如何与像救护车司机的工作比较。顾问被送到观察版主和他们的经理。

位于奥斯汀的办事处于2017年开业,作为Sweet审查的一部分,被选中进行审计。该市还是Facebook办公室的所在地,有大量讲西班牙语和阿拉伯语的人阅读非英语帖子。在最高峰时期,埃森哲的奥斯汀办公室有大约300名版主通过Facebook帖子进行解析。

但有些工人对支付和观看如此多的毒性内容变得不满。通过短信和内部留言板组织,他们呼吁更好的工资和福利。有些人与媒体分享了他们的故事。

去年,来自埃森哲(Accenture)的两名员工参加了由美国版主提起的针对Facebook的集体诉讼,奥斯汀的一名员工就是其中之一。根据法庭记录,Facebook辩称其不承担责任,因为这些工人受雇于埃森哲等公司。在该案法官裁定Facebook败诉后,该公司于2020年5月与员工达成了5200万美元的和解协议。

前高管表示,对于Sweet来说,关于Facebook合同的争论已经持续了好几次会议。她随后做了几处修改。

2019年12月,埃森哲创建了一份两页的法律披露,告知版主这份工作的风险。这份文件说,这项工作“有可能对你的情绪或心理健康产生负面影响”。

去年十月,埃森哲走得更远。它列出的内容审核首次在其年度报告中的一个危险因素,称这将离开公司容易受到媒体监督和法律上的麻烦。埃森哲也制约了新节制的客户,两个人配合政策转向的知识说。任何新的合同需要由高级管理层的批准。

但他们说,斯威特也保留了一些东西。

其中:与Facebook的合同。最终,人们说,客户是太宝贵了,从走开。

本文最初出现在纽约时报

跟随并与我们联系脸谱网linkedin
By Adam Satariano & Mike Isaac<\/strong>

In 2019, Julie Sweet<\/a>, the newly appointed chief executive officer of global consulting firm Accenture<\/a>, held a meeting with top managers. She had a question: Should Accenture get out of some of the work it was doing for a leading client, Facebook?

For years, tensions had mounted within Accenture over a certain task that it performed for the social network. In eight-hour shifts, thousands of its full-time employees and contractors were sorting through Facebook\u2019s most noxious posts, including images, videos and messages about suicides, beheadings and sexual acts, trying to prevent them from spreading online.