社交媒体背后的内容审核员直面黑暗的“清道夫”

12月19日报道(编译:叶展盛)

去年,Peter的一位同事因为工作压力崩溃,最后放弃了两个月的工资选择离职。另外一位同事也因为工作换上了焦虑症和抑郁症,同时还因为饮食不规律,导致严重缺乏维生素,最后不得不住院。

数据、算力、算法是推动人工智能技术进步的“三驾马车”。面对海量激增的数据,算法和算力是AI发展的两大核心挑战,而算力门槛高、迭代周期长,其重要性日渐凸显,成为了重中之重。2019年,百度发布了自主研发的鸿鹄芯片,它专为远场语音交互打造。鸿鹄芯片的设计革新了传统芯片设计方法,遵循“软件定义芯片”的全新设计思路。该芯片采用双核 HiFi4 架构,2.8M 大内存,台积电 40nm 工艺,在此硬件规格上,100mW 左右平均工作功耗,即可支持远场语音交互核心的阵列信号处理和语音唤醒能力。未来,鸿鹄芯片还将为车载语音交互,以及智能家居等场景带来更大想象力。

3、自研百度鸿鹄芯片量产:让企业和开发者可以用上中国自主可控的芯片

5、Xuperchain:中国自研+开源区块链核心技术

一本和二本之间,固然有着批次线的划分。但能说踩线的一本高校办学实力,就比二本的龙头高校强吗?显然不能。二本高分段收生的高校往往是一些一本、二本混招的高校。在你所在的省份它或许是二本收生,但是在其它省市却可能是一本收生。从学校的划分来看,这些高校很难有明确的一本、二本划分。没有了一本、二本的划分,也就不会涉及末流一本高校实力强于龙头二本高校的说法。同时,有一些省市的二本院校中还存在着211高校。如此一来,就更加不能说二本高校的办学实力不如一本。

Peter是这家网站的内容审核人员之一,YouTube将他和同事们分配到不同的内容队列中,比如版权问题队列、种族憎恨和骚扰队列,以及“成人”色情队列等。

之后Daisy也开始接受治疗。在此过程中她明白了工作效率的下降并不是自己的错,当人们反复看一些让人不安的图片后,有些人会暴饮暴食和增重,有些人会剧烈运动,而Daisy这类人就容易疲劳。

随着网络服务的增加,谷歌部分服务的用户数量甚至超过了10亿,它雇佣了一支内容审核大军。然而上传内容简单,审核内容却很困难。今年10月,该公司在报告中表示,在过去一年里,谷歌删除了16万条包含暴力极端主义的博客和照片,平均每天438条。

在YouTube上,大部分待审核的内容都是良性的。如果没有内容待审核,那么审核人员就比较空闲。然而他们的工作量取决于所在的地区以及上司的同情心。有几位员工表示非常喜欢这份工作,原因是找到非法视频就能获得奖励,同时工作也非常简单,有大量的空闲时间用来放松。

但在过去一年里,有研究调查了一百多名内容审核人员,结果证明这并不是一个二元性的问题。部分工作人员在入职后前几周表现出PTSD的早期症状,还有一些人则是在工作数年后才患病。

工作一年后,Daisy当时的男朋友表示她发生了很大变化,整天提心吊胆,晚上睡觉说梦话,有时候还会尖叫,而且她总是很累。一位室友曾在背后轻轻戳了她一下,结果她就突然转过身来攻击对方。“我的第一反应就是‘这个人要伤害我’,我总是把生活中的事情和那些图片联想到一起,”她说道。

在刚入职时,临时员工还能享有和全职员工一样的休息时间,可以在办公桌上吃东西,自由去卫生间,以及自由安排假期。几个月后,Accenture和Cognizant等公司就开始收回这些权利,还不允许员工带手机。

这是她第一次出现急性焦虑症。

2016年6月的法国国庆日,ISIS的恐怖分子驾驶一辆货车冲入节庆人群,造成86人死亡,458人受伤。网上的相关图片和视频开始剧增,公司高层要求Daisy高负荷工作,处理这些内容。Daisy也想要加快工作进度,然而事与愿违。“你只能看到待审核的内容越来越多,”她说道。

2、百度昆仑云服务器:让中国最好的AI跑在中国自主可控的芯片之上

2019年,中国科技自主创新的发展步入快车道,以上这五大创新技术只是百度探索人工智能领域的一小部分。“打铁还需自身硬”,唯有真正自研,将核心关键技术掌握在自己手中,才具备支撑社会变革的底气和实力。未来,相信百度还将为中国自主核心技术的突破创新带来更多惊喜!

Peter表示,当他刚在VE队列工作时,就开始脱发,体重也在增加,人也开始容易发脾气。哪怕是在节假日,当他开车经过上班地点时,都莫名一阵心悸。

Peter已经从事这份工作两年,他也担心自己的心理健康。他的家人反复要求他离职,但他又担心离职后找不到这样一份高报酬的工作:每小时18.5美元,折算成年薪大约是3.7万美元。

“你整天都要看那些残肢断臂横陈在血泊中,脑细胞都无法正常工作,”她说道。

值得注意的事,公司不仅仅在试验。同时它也在限制内容审核人员审核内容的时间,为外出治疗的合同工提供病假,为离职的、患上长期心理疾病的员工提供帮助。

坏消息到来之快,远超奥斯汀办事处的预期。尽管有数百名内容审核人员全天候轮班工作,Accenture仍然难以跟上负面视频的增加速度。随着中东恐怖事件的发酵,暴力极端主义的视频越来越多,2017年公司招募了十几位阿拉伯语的员工进行审核。

与此同时,她表示很感谢公司能提供带薪病假,并认为自己是员工中比较幸运的一个。

另外谷歌也在尝试用技术解决这些问题,包括利用机器学习系统负责这些工作。谷歌的研究员还表示,将来可能会将照片里血液的颜色改成绿色、对脸部进行打码等,观察它对工作人员情绪的影响。

选大学难吗?选大学难也不难。说选大学难,是因为要选择一所合适自己的大学并不容易。说选大学不难,是因为什么样的高考分数就对应什么样的学校。总的来说选择大学不难,难的是选专业。不过有一个分数群体的考生,却会出现宁做鸡头,还是选择做凤尾的情况。

随着中国产业智能化升级进程的逐步深入,人工智能需要面对越来越复杂的场景,企业和开发者们对AI算力的需求出现超大规模增长,表现出强劲的AI算力市场需求。今年12月,百度昆仑云服务器正式上线百度智能云,可为企业和开发者们提供超强的AI推理和训练性能,加速AI技术与各行各业深度融合的步伐。百度昆仑云服务器基于百度自主研发的AI加速芯片-KUNLUN1,并与百度自主研发的产业级深度学习开源平台飞桨深度适配,支持知识增强语义理解框架ERNIE等完全自主可控的领先算法模型,让中国最好的AI跑在中国自己自主可控的芯片之上。

1、百度飞桨:中国首个也是国内唯一开源开放的产业级深度学习平台

让她出乎意料的是,暴力内容非常多。2015年11月13日,宣布效忠ISIS的恐怖分子在巴黎和圣丹尼的郊区演唱会中发动恐怖袭击,死亡人数达130人,受伤人数达413人。

“如果你每天看着别人拿刀砍下另一个人的脑袋,你会感觉这个世界简直疯了。这会让你感到恶心,你会感觉活着没什么意思,”他说道。

在奥斯汀,Accenture开始进行新的尝试。公司开始尝试将视频和照片改成黑白色,以观察内容审核人员受到的情感影响是否会降低。

Daisy主要负责恐怖内容审核,儿童色情图片(CSAI)更会让她感到不安。虽然当初说每周只要审核一到两个小时,但实际上这类工作占据了不少时间。

可以说Daisy是伴随这项谷歌服务一起发展的,最开始她选择这份工作是看上了谷歌丰厚的福利:公司的餐厅和小厨房、免费的按摩和干洗服务。最终她选择在谷歌的总部,也就是加州山景城工作,随后这支团队被转移到了附近的森尼维尔市。一年的薪水是7.5万,加上谷歌的股票,总收入接近9万美元。

深度学习框架上承应用下接芯片,是智能时代的操作系统。在关键技术上,中国必须通过自主研发掌握主动权。百度飞桨是中国首个也是目前国内唯一开源开放、功能完备的产业级深度学习平台,在今年也取得了长足的进步,如今已经具备开发便捷的产业级深度学习框架、超大规模深度学习模型训练技术、多端多平台部署的高性能推理引擎、开源开放覆盖多领域的产业级模型库四大领先技术。通过有效降低深度学习技术应用门槛,飞桨让开发者和企业避免重复“造轮子”,更快速、便捷地开发AI应用。目前,飞桨已经累计服务150多万开发者,定制化训练平台上企业用户超过6.5万,发布了16.9万个模型,已广泛应用于工业、农业、服务业等各个行业,实现“遍地开花”。据IDC报告显示,在国内深度学习平台市场中,百度与谷歌、Facebook三强鼎立,已经占据了国内超过七成的市场份额,其中百度的市场份额在过去半年里仍在迅猛增长,展现出领军者的不俗实力。

一个星期后,她选择申请读研,最终被塔夫斯大学法律政策学院录取,并于今年年初获得硕士学位。如今她在R Street Institute担任政策研究员,她关注儿童和科技,还抽空去谷歌给决策者们提供儿童隐私和内容审核方面的信息。

Peter和他的同事告诉记者,他们希望像谷歌的全职员工那样生活,拥有更高的薪水,更完善的医疗保险,还希望拥有更加体贴下属的领导,适当减轻自己的工作压力。

在此之前,Daisy没有任何心理疾病,她也没想到这份工作可能会给她的心理健康带来影响(可能谷歌也没想到)。入职后,公司也没有进行过任何这方面的培训。

经过面试的层层筛选,人事部门给Daisy赋予了神圣的使命——让互联网变得更加安全。“这听起来简直像在度假。在谷歌工作,你能喝免费的海宝茶,午睡有休息室,每周只需要花几个小时看点闹心的内容。这么好的工作哪里找?”当时她只有23岁,她就告诉母亲决定入职。

推广:猎云银企贷,专注企业债权融资服务。比银行更懂你,比你更懂银行,详情咨询微信:zhangbiner870616,目前仅开通京津冀地区服务。

研究发现这能显著改善员工的心情——至少在试验期是这样的。

鸡头,还是凤尾,这是什么样的群体呢?这个分数群体的考生就是刚压一本线的考生。这些考生的分数虽然达到了一本线,却属于一本最低分段的考生。这个时候是选择末流的一本,还是二本的龙头高校呢?不同的人,会有不同的选择。在这里建议刚压一本线的考生,不妨看看二本院校,至于原因主要有以下几方面。

随后记者采访了一位女员工,她也是谷歌的内容审核人员,年薪达到了“六位数”,拥有不错的医疗保险和其他补贴。但这并不能让她免受审核内容带来的危害。这位员工负责移除恐怖主义和虐童方面的内容,她的急性焦虑发作频繁,和儿童交流时经常哭泣。有心理医生将她诊断为创伤后应激综合征。

严格说压线的一本分数,并不能选择到二本的龙头高校。二本龙头高校的收分,往往都会高出一本线收分,甚至一些二本高校的收分还会高出一本线几十分。然而即便如此,刚踩线的一本考生选择二本高校,仍然是值得的。可能选择二本院校,心里会有所不甘,毕竟好不容易才上了一本。但是如果还是固执地选择一本,那么很可能就会错过一大片美好的森林。

“他们对待我们的方式非常差。如果你不按要求的做,他们有一万种方法整你,”Michael说道。

YouTube的首席执行官Susan Wojcicki曾表示内容审核人员数量已达到1万。但公司没有透露美国地区有多少人。合同制的工作人员更加廉价,相比之下,全职员工年薪达9万美元,这还不包括分红。因此临时工、合同工和第三方人员占据了54%。

Peter以及不少同事都是移民。Accenture招募了一批像他一样会讲阿拉伯语的人,其中不少人是在中东地区长大的。公司将他的语言能力评定为7级,能够精确地识别憎恨言论和恐怖主义宣传,随后就能将这些内容从网站上删除。

这些员工都是移民,之前在从事保安、快递配送等工作,他们从朋友那里听到了这个招聘。“我们刚移民到美国的时候,大学学位根本得不到承认。因此我们什么都做,”在该网站工作两年的Michael说道。

Peter最初是负责“暴力极端主义者队列”(VE)的,这也是Alphabet最严肃的工作之一,这份工作给不少人留下了严重的后遗症。

末流一本,二本龙头,你会怎样选择呢?

她非常庆幸自己不是合同工,哪怕在就诊期间也能获得薪资。“这几个月我在反复思考自己的选择和出路,”她说道。

北京时间12月26日,在昨晚新疆对阵北京的比赛中,新疆队阿不都沙拉木在与北京队翟晓川一次对抗中不慎受伤离场。凌晨,翟晓川更新微博表示,若知沙拉木受伤,我会选择放弃那次进攻。

这种工作需要多个团队协作。在大多数时候,被举报恐怖主义或虐童的内容由奥斯汀等团队负责。谷歌称这些员工是通过第三方公司雇佣的,但在采访中不少员工表示自己是合同工。对于政府方面的法律请求,谷歌则交给全职的员工处理,他们会第一时间删除相关的图片、视频和链接。

当时的招聘内容里表示,法律助理需要处理一些法律请求,移除搜索引擎中“侵犯版权、诽谤和其他不合适内容”请求的链接。另外法律助理还需要审核一些包含虐童内容的图片。“但我非常清楚地记得当时的注释写着‘这种内容移除工作每周只有1到2个小时’,”Daisy说道。

还有一次,Daisy和几个朋友在旧金山的幼儿园看到一群小孩,一位护理人员要求孩子们抓住一根绳子避免掉队。“我眼前仿佛闪过一个画面。一些和他们差不多大的小孩被绳子绑起来,遭到了性侵。当我看到小孩和绳子的时候,就想到了这些画面。然后我呆了好一会,几个朋友问我是否不舒服,我坐下来休息了几分钟,非常想哭,”Daisy说道。

然而负责处理恐怖内容的人员就没那么幸运了。他们表示上司剥夺了自己的休息时间,老板要炒你甚至不会给个合适的理由,没有预先通知就修改排班更是家常便饭。

公司让两组人员分别审核彩色和黑白的照片、视频。每两周,对他们的心理状况进行问卷测试。

这些工作人员更是深受暴力的影响,每天审查凶杀画面让他们越来越焦虑。现在Peter看到动作片中的枪战画面都会感到难受。还有部分员工通过药物来解决焦虑。

4、ERNIE:NLP领域重大突破多项中英任务超越谷歌BERT

2015年,Daisy Soderberg-Rivkin申请了谷歌公开职位中的法律助理。然而这份工作实际上就是内容审核,它只是套了一件“外衣”:“法律方面的内容移除助理”。

随后Daisy听从心理医生的建议,养了一只狗,与它一起参与课程,让它成为自己的情感支撑。随后她发现自己能慢慢和儿童接触。“看着孩子拍拍我的狗,我发现我和他们的关系真的有了很大的进步,”她说道。

在奥斯汀,每天两小时的休息是标准。有4位员工表示,当任务非常繁忙时,有员工就会自行放弃休息时间。大约在六个月前,为了达到既定的任务目标,他们也开始放弃休息时间。每个人的电脑上都安装了录屏软件,以此记录每天是否达到5个小时。但还有其他工作任务,比如检查邮件、参加团队会议,这些并不会计入工作时间。

阿不都沙拉木和翟晓川曾一起代表中国男篮并肩作战,本场比赛翟晓川全场拼了46分钟,10投4中得到15分5篮板。他在关键时刻的超神三分一度让球队看到翻盘希望,然而最后一攻太急躁错失绝杀。

在内容审核方面,谷歌和YouTube采取了与其他科技巨头相同的方法:花钱请其他公司完成这个任务。其中,Accenture运营着谷歌旗下美国地区最大的内容审核网站,这家公司位于德克萨斯州奥斯汀,它的内容审核人员在全天候地为YouTube服务。

刚压一本线,有一本的学校可以选择,但是选择的范围却很小。不管怎样选,选来选去就那么几所高校。如果将目光放在了二本,那么就会扩大自己的学校选择范围。扩大了学校的选择范围不仅能让选择变得简单,而且也更容易选出适合自己的高校。更为重要的是用一本的分数,选择二本高校,不仅能有更多地学校可供选择,而且也能选到较为不错的专业。

中国已明确要将区块链作为核心技术自主创新的重要突破口。区块链与金融资本、实体经济的深度融合,推动产业变革升级,对中国经济转型升级、实现高质量发展的重要性不言而喻。但是目前,中国自主技术平台不多,超过80%的区块链技术平台是使用国外开源技术(如Fabric、以太坊)的产品或者衍生产品。2019年5月,百度区块链整体品牌Xuper正式亮相,并宣布由国人自研的底层区块链技术XuperChain正式开源,与开发者共享科技创新成果,告别技术上的“拿来主义”和核心技术依赖别国带来的潜在风险。

自然语言处理(NLP)是让机器理解并解释人类写作、说话方式的关键技术,被称为“人工智能皇冠上的明珠”,其重要性显而易见。2019年NLP领域迎来重大突破,百度打造了可持续学习的知识增强语义理解框架ERNIE,通过建模海量数据中的实体概念等先验知识,学习真实世界的语义关系。这种融合知识的语义建模大幅增强了模型的语义表示能力,在共计16个中英文自然语言处理任务上效果超越了谷歌BERT和XLNet。近日,ERNIE更是在自然语言处理领域权威数据集GLUE中荣登榜首,并刷新该榜单历史,超越了微软MT-DNN-SMART,谷歌T5、ALBERT等一众国际顶级预训练模型。未来,百度将持续精进NLP技术,让机器更好地理解真实世界,让复杂的世界更简单!

“我们需要更多的人参与到这个工作中。但整个系统也有待完善,包括它的运作方式,如何为员工提供支持,如何为他们提供工具和资源处理内容。否则,问题只会越发糟糕,”Daisy说道。

因为擅长法语,Daisy被分配到负责法国地区的内容审核,最终成为了该区的项目主管。如今,她每天都要筛选报告,确定内容是否合适——是否违法法律或谷歌的服务条款。

在经历半年的治疗后,Daisy回到了自己的岗位。让她遗憾的是,上司的态度并没有太大的改变。“他们刚开始会关心我。‘工作做得怎么样?刚回来可以慢慢做。’但最后,所有的事情都会重新和效率挂钩。”

如今Daisy已经离职两年了,但她还会受到一些后遗症的困扰,有时急性焦虑症复发,她也需要抗抑郁药物来稳定情绪。

据采访的工作人员透露,Accenture要求每位内容审核人员每天要在5小时内处理120部视频,他们每天拥有两小时的休息时间,以及一个小时的午餐时间。之前有高管承诺会将5小时减到4小时,但至今没发生。Accenture则否认给员工设立了任何工作量要求。繁忙的工作还会进一步压缩休息时间。

谷歌为员工安排了一位咨询师,但只会不定期到访,而且预约很快就会被占满。“当我们收到通知邮件后,就要抢着去预约咨询师,因为每个同事都有类似的症状。”在成功预约后,咨询师建议Daisy去看看心理医生。

翟晓川写道:“兄弟,非常抱歉,一直在想你受伤的事情,如果我知道这个后果,我会选择放弃那次进攻,我不希望我们每个人受伤,希望大家都健健康康,兄弟早日康复。 ”

刚压一本线的考生,有一本院校可以选择吗?高考成绩刚压一本线,有一本院校可供选择,但是选择的余地却不大,并且这些末流的一本院校所在的地理位置往往也不在大城市,即使是在大城市,也多是一些中外合作办学的高校。比如在四川的2019年高考中,踩线收生的高校只有四川轻化工大学、北京理工大学珠海学院、福建师范大学(中外合作办学)、贵州大学(中外合作办学)等几所高校。