原作者 全媒派 2018-10-24 仅供学习交流
信息“擦洗工”、事实核查员……那些卡在人工与智能夹缝的新兴传媒人 qq.com
9月,加州女子Selena Scola一纸诉状把Facebook告上了法庭——因为看了过多暴力、血腥和色情图片,她患上了PTSD(创伤后应激障碍)。Selena是Facebook合作的第三方Pro Unlimited的内容审核员,负责删除Facebook上“剧毒、不安全、有害的内容”,包括色情、暴力、仇恨言论等。
对于PTSD,维基百科的解释是“指人在经历过性侵犯、战争、交通事故等创伤事件后产生的精神疾病”,常见于遭受重大打击后导致的精神创伤。然而,在互联网时代,没有性侵,也没有战争和交通事故,因视听感官长时间遭受刺激产生的伤害,不亚于物理刺激造成的精神损害。
新技术带来了繁荣的互联网产业,随之也诞生了新工种,内容审查员是其中的代表之一,除此外,还有事实核查员、论坛版主、合作伙伴经理等,他们的生存与困境成为了网络时代的缩影。
内容审查员与PTSD:隐匿的信息“擦洗工”,无处安放的焦躁
社交网络上,一头是梦想家用技术缔造的开放盛世——用网络建设一个连接世界的地球村,另一头的人躲在盛世的影子里,把好最后一道关卡——鉴定并删除变态的视频,这一点,人力比机器做得好多了,至少在当下是如此。
或者更早以前的论坛时代,版主们也担任着这个角色,但他们的规模和工作量远不如社交网络时代。据报道,仅Facebook一家,内容审查员的数量就达到了7500人。这些人甚至不是Facebook的员工,只是被第三方雇佣来的廉价劳动力。
2014年,《连线》杂志发表了一篇调查报道《社交网站上不为人知的隐匿职业:信息“擦洗工”》。担任“擦洗工”的廉价劳动力多分布在东南亚,他们可以拿着“美国水平”的工资,代价是“直面人性的恶”。
YouTube在美国本土雇佣的审查员要求更高,需要对东南亚员工审核过的视频进行二次过滤,公司许以YouTube的工作场所、办公福利等条件,甚至承诺转正机会,Facebook条件也是如此。
事实上,这些审查项目几乎是秘密进行,科技公司和外包员工、第三方签订保密协议,不允许他们向外透露任何审查细节,Facebook把这个秘密项目起名为honeybadger(蜜獾)。在此次起诉事件中,Selena暂时无法提供更多工作细节,她担心一旦违反保密协定,会遭到报复。
纪录片《信息擦洗工》海报(2018.5)
在Selena的起诉声明中,她提到Facebook和第三方公司都不曾提供心理干预以保证审查员的精神健康。但即便提供了心理医生,内容审查员也不知道如何开口讲述自己的经历。据《连线》杂志报道,YouTube审查员Rob说,YouTube给擦洗工们雇了心理咨询师,理论上谁都可以和他们谈心,但Rob不知道如何接近他们。据他所知,也没有谁去找过咨询师。所以他只能靠自我调节——喝酒喝得越来越多,身材也越来越胖。
而创伤之后,审查员们可能产生一辈子的心理阴影。Selena的起诉文件里写道:“她的PTSD症状可能会因为碰到鼠标发作,也可能是因为走进了一栋冷冰冰的大厦、在电视上看到一段暴力视频、听到吵闹的声音,又或者,是因为受到一点惊吓。”
如果要真正解决审查员们的心理问题,或许还是应该回归技术,比如提高人工智能的识别能力和审查效率。但目前看来,开放的网络世界背后,还有如此多阴暗和不堪,扎克伯格与科技巨头们在人工智能审查上所做的努力还远远不够。
Reddit版主:用爱发电,无薪且糟心的职位
Reddit,一家月活达到3亿的神奇网站。界面设计极其Old School,但因为许多细分、有趣的小组吸引了一个又一个小圈层爱好者。
相比于Facebook内容审查员的隐秘身份,Reddit版主似乎更为人熟知一些,他们有自己的账号,有删帖和禁言的权利,小组用户可以直接和版主沟通。不同的是,在Reddit上当版主没有薪水,全靠志愿者们用爱发电,他们也一样要遭受种族主义、性别歧视、水贴刷屏等垃圾内容的精神侵害,甚至是被用户直接攻击。
全媒派在《 不抬杠是不可能的!有人用五年筛出了60万优质杠精 qq.com》提到一个小组changemyview,该小组为了建立一个理性讨论的优质社区,启用了22个志愿者作为版主,24小时巡视新鲜发帖,如有不当,则会沟通或删除。
其它小组的版主工作模式也是如此,但生存条件可能更艰难一些,至少,版主人数达不到22个之多。而被审核的小组用户们可没有那么开心,极端的人,给版主们发去一条又一条的辱骂和威胁信息。
在Engaget和 Point发起的联合报道中,他们找到了10个Reddit版主。版主们管理着大大小小的小组,最大的达1600多万订阅者。但无论小组大小,他们的困境都是相似的,被辱骂、攻击、人肉、诅咒甚至死亡威胁,而Reddit官方,一次又一次忽略了版主们提交的被攻击报告。
版主Emily管理着“伦敦”小组和“新闻”小组,为了避免极端报复,她从来不暴露自己的性别,以免有人威胁“强奸她”。还有一些攻击和威胁,描述得具象又恐怖,让人光看文字就会起一身鸡皮疙瘩。
牛津大学实验心理学副教授Lucy Bowes认为,长时间的版主工作必然导致抑郁症、PTSD和焦虑症等精神疾病,工作时间越长,患病危险越高。
对于Reddit这样的社区来说,技术监管和人力监管不到位,内容过于野生是一大原因。但与此同时,注册机制过于松散,导致恶意账号删不尽,喷子们随便用一个邮箱又可以注册回归。即便是禁言72小时,用户被解禁后还是会继续攻击。
而Lucy认为,对于Reddit这样体量的公司而言,要解决版主们的问题,应该从公司自身入手,比如对新版主进行培训,加强汇报反应机制的建设,或是截屏留取证据,以确保未来起诉。另一方面,对于这些志愿者,Reddit也应该随时关注他们的心理健康,及时进行干预和治疗。
尽管体量大,提供咨询的话会增加不少成本,但对于一个依靠一个个小组支撑起来的庞大社区而言,这些愿意资源维持社区秩序的人才是Reddit的财富。
事实核查员:真相的代价
在巴西,一份299页的文件在WhatsApp的右翼群里疯转,里面有40名事实核查员的社交媒体详细资料。巴西网友视奸他们所有人的账号:看,这是他2011年发的贴,他就是一个左派分子。
这一切,只是源自于事实核查组织Agência Lupa和Aos Fatos在今年5月宣布的计划:与Facebook合作,做好今年10月的总统大选辟谣工作。事实核查员们将手动辨别信息流中的假新闻,并打上“Fake”标识,将假消息的影响力降低80%。
但打击也由此开始。
先是大V和右翼媒体发文指责,事实核查员的工作是做“信息审查”,后又有人画了幅漫画,把事实核查员画成了投资人乔治·索罗斯的宠物,在WhatsApp门口巡视。
接下来是死亡威胁。有人给Lupa的总监Tardáguila发信息“你看不到巴西的下一任总统”、“我们会挨个来收拾你”……
这并非孤例。事实上,同Facebook合作的34个事实核查组织都受到了网络谩骂、人肉等威胁,这对他们的工作造成了很大困难,尤其在媒体信任度本就不高的国家。
事实核查的进展并没有那么顺利,一是利益相关方和一些网民在疯狂打击,二是在Facebook方面,他们并没有对这34个事实核查项目投入足够的资源,甚至在态度上都不够强硬和坚定。
在巴西,Facebook从未就此次事实核查项目召开新闻发布会,反复要求的热线和邮件也迟迟没有开通,唯一有的,只是在今年5月发布了两条博文,一是承认网络暴力确有其事并谴责有关行为,二是宣布和巴西、墨西哥和哥伦比亚的事实核查项目的合作。
在Tardáguila看来,Facebook需要明白,这是他们的项目,公司必须要发声,“我们努力了三年,没有任何改变,这些改变必须由Facebook来承担”。为此,她也提出了一些切实可行的合作条例:
关于需要被核查的内容,平台需要更好地翻译相关通知。
Facebook方开通热线或邮件地址,用户和媒体可以询问事实核查项目的相关问题。
在每个国家建立和事实核查员的主要沟通渠道。
对Facebook的事实检查项目运作流程进行可视化,翻译至现有的合作国家。
定期与事实核查合作伙伴开会,了解项目进展情况。
合作伙伴经理:与170个编辑室共同产出
ProPublica在2016年推出了有史以来规模最大的新闻众包项目Electionland 2016,和全国大小媒体合作,以任务分派的形式合作完成大选报道。报道覆盖范围广,参与媒体多,资源利用率高。随后,ProPublica试着开了新的项目,也由此诞生了一个新的职位。
新项目名为Documenting Hate,一个追踪和报道仇恨犯罪和偏见事件的调查项目。新的职业则是合作伙伴经理(partner manager),目前由记者Rachel Glickhouse担任。她像一个统筹者,同时担任记者、编辑、研究员、社交媒体制片人、招聘、培训和项目经理。
Documenting Hate官方网站
通过合作伙伴经理的努力,Documenting Hate项目和150家国家/本地媒体,以及20家高校媒体建立起合作关系。项目的关键在于资源共享和合作报道,ProPublica搜集到的仇恨事件案例和数据都被统一上传到官方数据库保管,并向加入的媒体开放使用,比如公众提供的线索和故事、警方的案卷信息,真正实现了资源上的共享和合作。
与此同时,合作伙伴经理也会担任起“空中管制调解员”的作用,确保不同记者不会在一个事件上耗费精力,或是针对不同当事人,指派合适的记者跟进。
虽然类似Documenting Hate这样的新闻众包项目有利于报道资源的合理分配,但合作伙伴经理也面临着不小的挑战。加入项目的记者可能无法彼此合作,也可能有等级倾轧,又或者,记者们对项目的热情有一定的周期性,有的可能无法长期为这个项目效力,而在一些特殊时期,参与者会少得可怜。
尽管如此,在Rachel看来,众包模式依然会是未来新闻的发展方向之一,在编辑室的时间和资金都非常稀缺的时代,有一个中心化的项目聚合资源并进行再分配,自然能极大程度上缓解编辑室所面临的尴尬。
互联网浪潮下诞生的新职位固然有其局限性和困境,但菲律宾事实核查项目Vera Files的联合创始人Chua认为,类似于事实核查员遭遇网络暴力的事件,Facebook固然有保护事实核查员的责任,但如果Facebook无法保护他们,那记者必须自我保护,“新闻业有风险,事实核查同样如此。”身为大时代下的小个体,我们能做的,不过是催促科技公司解决眼下的问题,让个人迅速跟上这滚滚向前的历史车轮。
【参考资料】
FB内容审查员患PTSD
//www.businessinsider.com/content-moderator-sues-facebook-ptsd-2018-9
社交网站上不为人知的隐匿职业:信息“擦洗工”-钛媒体官方网站 tmtpost.com
//www.theguardian.com/technology/2017/jan/11/microsoft-employees-child-abuse-lawsuit-ptsd
真相的代价:事实核查员遭到的威胁与攻击
//www.poynter.org/news/these-fact-checkers-were-attacked-online-after-partnering-facebook
Reddit讨论区审核管理员遭仇恨言论攻击
//www.engadget.com/2018/08/31/reddit-moderators-speak-out/
新闻业的最新职位 - 合作伙伴经理 -如何在ProPublica的新闻编辑室工作
作為一個威權體制下的網民,看完這部紀錄片的第一感受便是:隔靴搔癢,過於浮泛。
社交媒體上出現的種種問題,其實也就是現實世界的反映。色情/血腥/恐怖組織/政治,每一個議題下都可以分化出無數的觀點與立場。紀錄片試圖用不到一個半小時的體量,以網絡審查員為主要視角進行全方面的探討,注定只能泛泛而談。
但我確實欣賞導演對不同立場的同等尊重。理论的说法叫做:“兩面說辭”。
對於色情的判斷標準。是藝術還是淫穢?
對於恐怖組血腥視頻的判斷標準。是非法傳教還是真實歷史記錄?
對於社會災難真實記錄的容忍度標準。是新聞的真實要求還是對苦難者的二次剝削?
對於不同政治觀念/仇恨言論的容忍標準。是憲法給予的言論自由保障還是民主社會的底線堅守?
不同人站在不同的立場與坐標,自會給出不同的答案。正如影片中所說:背景與身份決定了思維方式。而社交媒體這個平台無非是為不同立場、不同觀點的交鋒提供了舞台。平台背後商業資本、政治權力、民眾影響且深深塑造著社交媒體。
科技公司為了利益,會不斷滿足民眾的個性化需求進行算法推算,由此進行的信息推送最終造就信息茧房。民眾接受的信息內容越來越狹窄,加之同溫層相互抱團取暖,觀點自會越來越極化。
但我其實認為這樣的說辭有些高估了民眾的自主權與選擇空間。真正掌握且控制信息的還是那個無形的手。為了政權的穩定,可以要求科技公司進行IP鎖定,限制特定內容的瀏覽。自然也可以直接建造一個全球最大的局域網。以保護民眾之名(更多時候的常見話術是為了保護下一代)剝奪本可以擁有的自由。殘酷而又現實的未來構想“數字極權”,或許正在一步步到來。
我喜歡影片最後那位辭職的審查員說的那番話:不要逃避,不要麻木自身。
現實本身的苦難與黑暗是刪除不了的。(但我支持的是有底線的自由空間,並非放任自流)呆在一個溫良且無害的環境之中,會影響個體批判性思考能力,挑戰能力的訓練,逐漸縮緊自身表達的空間,放任民粹思想的氾濫。個體被迫或者無意識地逃避現實,逃避了公民所需承擔的責任。與此同時,語言本身也遭到了殲害。
只有在大量信息獲取的前提下,才能進行相對有效的信息判斷與審視。在簡體中文信息這個極其糟糕的環境下,一味地聽信與一味的不聽信,都是糟糕的能力體現。(孫楊一事的輿論風向轉變是極其具有參考價值的控制案例。足以以小見大。)(好像話題扯遠了orz......
說回正題來,對於影片中的審核員我內心十分同情,領著不高的薪金,每天都得直面黑暗與血腥。
但對於第三帝國的審核員,秉著一個沒有來由便被炸號的人的立場,我只能勉為其難的認可他們作為一顆不鬆動的螺絲釘所作出的努力。可轉念一想吧,我能體諒他們,誰來體諒我?
紀錄片裡提到的問題一時半會兒也解決不了。思想本來也無法統一,唯一要做的是建立一個文明包容的互聯網空間。全球都在右轉,樂觀的來說:或許此次疫情能成為契機,讓大家重新意識到全球化的重要性。開放包容的精神還能得到提倡。但悲觀的來說,歷史不會一直前進,要做好止步不前甚或倒退的準備。(或許在這個時候成為一顆第三帝國的螺絲釘不失為個體的良好選擇🌚(對不起,俺又在陰陽怪氣了
[纪录片赏析课作业01]
技术、媒介是中性的吗?傻子都知道不是。不然也不会有网瘾和杨永信了。
反过来看,而互联网曾经承诺的“连接每一个人”的乌托邦,在当今现实里的大图景到底是什么样子?
社交媒体,在总体上,是否将把我们的世界变得更好呢?
这几年对互联网和智能手机全球性地改变人的行为的嘲讽或自嘲也不少见了。
前不久又爆出脸书向剑桥分析泄露5000万用户而被用来操控选举的新闻。
上个月中下有哥本哈根纪录片电影节,偶然去看了这部 《清理者》The Cleaners。
片中播放了去年年末美国法庭关于 俄罗斯和2016年大选 Russia and 2016 Election Investigations 的调查。法官质疑,这三大公司的内容环境受到国际政治力量的左右,影响选民,以及被用来组织、散播、宣扬非人道的行动。唯唯诺诺中互联网公司的法律负责人(我不确定这里使用的名词是准确的)说到了自己外包了大量的员工来审核内容的事实。而脸书透露出,他们雇佣的审查者居然有数千人之众,而且未来还会继续增加人数。
——这些被雇佣的网管就是本片的主角,他们内部自称为“内容仲裁者”content moderator,所谓的“清理者”。这是一个驻扎在菲律宾马尼拉的公司,而他们的职业对于外界是一个秘密。
影片开始的时候,镜头在一间典型的现代白领办公室里,关着灯,只有一个人操作着一台亮着的电脑,并只能看到这个人面部的局部。背景音不断回放着,“删除”delete/“无视”ignore/“删除”delete/“无视”ignore……随后镜头跟随同一个主角描述ta夜晚上班的场景,穿过熙攘、喧闹、混杂的马尼拉的城市街道、高架桥,进入一栋漂亮的办公楼。在喧闹拥挤的亚洲城市里,做一项秘密却关乎数十亿人口的工作。这就是他们的工作内容,而操作看起来如此的简单,就是审核每天从全世界上传的上百亿的照片、图片,然后决定是要保留还是删除。
脸书内部关于上传信息内容规定的条例相当复杂,关于对暴力、色情的内容判定是否删除的规定,有一百多条。然而在去年被卫报曝出来以前鲜有人知。被采访者包括Google的负责人、工程师,面对镜头,检讨公司创始人们对中性技术的美好设想并没有尽到相关的责任;而另一方面也列出了关于支持自由者的质疑,包括一些内容被删的艺术家、摄影师。
“这些规定也让自由言论倡导者担忧。他们认为,Facebook可能已经成为了世界上最大的审查员,该事实敲响了言论自由的警钟。”
脸书提供的强大平台,涉及了一系列冲突明显的社会问题,包括美国内部的种族,西欧对移民的态度——到底是发泄不满,还是有组织的政治立场,这两者界限模糊。以ISIS为例的恐怖组织也在借脸书宣扬自己的。片中截取的片段。蛋最让我看不下去的是缅甸迫害罗兴亚人,一个母亲对着镜头哭诉自己的家庭怎样被迫害。——这种原本平缓融洽的文化混杂,被西方殖民者弄得互相仇视的例子早就不新鲜了。
传播能力的扩大,既然足够提供人与人的连接,也可以能让人与人更加分裂。爱是可以被传播的,那么仇恨也可以;敌意、仇视、偏见,技术本身不会过滤任何人人心里的东西。
回到清理者们,这项工作是否看起来十分简单?
然而,到目前为止机器/ AI还没有能力处理人类复杂的认知和表达。光是言论,根据不同的语境,是发泄情感还是表达真实意图都难以判断;再加上图像、视频中更加复杂微妙的视觉语言,机器对此无能为力。而这些内容仲裁者也有很大的负担:他们的神经每天要处理25000项图片或视频,而对每一张图片最多只有8秒钟做判断。这对大脑是巨大的负荷。
更糟糕的是,他们要经手的材料大多都是令人不适甚至不安的内容:色情、虐待、战争、恐怖组织的非人道行为——尽管在正式工作之前已经被训练去应对这些内容,但仍对他们的日常生活也造成困扰,也包括道德上的处境。
开头的场景展示了他们的两难处境,深处闹市,却做着全世界的网管,而工作内容也不能让身边的人知道——他们需要一个让自己心安理得的身份,当然也需要这份得体的薪水;他们不得不相信自己确实是在有尊严地维护秩序。很多人也因为上面这些原因放弃了这份工作。
技术到底带来了什么呢?纪录片的好处是,导演呈现给你的是各方视角和立场。这个问题暂且还不会有结论。
它是给我们所有人的问题。
片头片尾,截了两段扎克伯格对公众的演讲;看他如何表情坚定、豪迈地谈论脸书如何能够成就新的未来。
然后片尾字幕亮起,意味深长,留下片场一片唏嘘。
“太可怕了。太可怕了。”
我跟波兰的好朋友聊起感受,感觉出来的大概是对全球网络的这种无序状态和其无解的担忧。——就他所言,人们还是倾向于相信,世界是需要秩序的;但由谁来引导呢?现在的声音越来越多、越来越庞杂,到最后就是谁也不服谁。朋友说,这里为什么美国人会雇佣菲律宾人就很玩味了——菲律宾是个天主教国家,在价值观上跟西方基督教世界更相通。
技术悄然滋生的权力绕过了所有人的眼睛,但信息审查是真实存在的。(你看,我们的互联网环境在世界上也没有那么特殊嘛)
过去的“信息集权”提供了同一套世界的框架;哪怕你要质疑某个事实,要叫骂对着的也是同一个屏幕。而今天每个人都在自己的屏幕里接受现实,在传送到自己眼前的信息流里,营造自己世界的小泡泡——而且老一辈还带着上个时代的惯性:“那么多人都看了的信息,能不是真的吗?”。但外面还有个过滤的大泡泡呢。
信息是种权力无疑;我想对于很多人,这部片的隐喻是,我们以为今天的时代走向的是美丽新世界,其实背后并行着一个一九八四。——反正我对这种自由斗士的论调保持怀疑;有时不免有点“见到短袖子就想到裸体”的意思。
尼尔·波茨曼早在60年代就在《娱乐至死》里说过的话,到今天仍然适用:从有广播、新闻报纸、电视开始,这个世界的行动跟信息比率越来越小了,我们关注的大多跟自己眼前的事实、跟自己的生活无关。大多数事情不需要关注。而这个世界本身运行机制的复杂程度,远远超出一般普通人所能理解;这种理解也许是不必要的。 我们自己,是在为这个世界带来了更多的噪声,还是更多的秩序、平和呢?这个问题,互联网不会回答我们,技术也永远不会回答我们。
靠点击就能得来的东西并不真的属于我们自己。
这个世界会好的。不是因为技术,而是因为我们在把自己变好。
这部纪录片真的非常值得看完了之后进行深思:
我仅敢列出以下的几个点供大家思考,而不敢自己妄下结论。
1.网络SC员通常被外包给第三世界国家的员工,差不多时薪为1美元。
2.长期成为网络SC员,精神上会受到长期的负面影响,因为黄色和暴力信息长期影响人体的身体健康。有的人为此而患上严重的精神疾病。有的人甚至宁愿捡真实世界的垃圾,也不愿意再干这个活。
3.如何鉴别信息不良不止是一个法律问题,有的时候还涉及到哲学上的争辩,比如电影中提到的例子:萨达姆被杀的过程与萨达姆尸体的影像之间的区别。
4.即使专家有的时候也很难做出选择,而这些审查员每天则要做出25000次选择,而其中如果漏判3次的话,就会失去工作。影响他们的是数量和绩效。 这是否导致SC员都会趋向于保守呢?
5.实际上我们现在看到的互联网就是,网络SC整理干净之后的互联网。而真正完整的互联网,可能只有审查员看到了。
6.我们也在用自己的键盘塑造着互联网。
7.互联网公司在各别国家和地区,可能要与这些政府达成协议的话,这样的行为究竟是该被定义为一个影响言论自由还是仅仅只是遵守当地法律的行为呢?这个问题本身还是很值得深思。(顺便提到,The Good Fight S03E08中就出现了一个例子,有一个律师就是利用好了这个争论,从而能够从互联网巨头身上敲上很大一笔竹杠,当然他并不是为了真的将这个话题在法庭上能够进行准确定义,而是为了能够对这个话题进行争论,并且利用媒体的报道对互联网公司进行公关方面的巨大压力,从而能够获得大笔的赔偿金。)
你知道为什么有的微博内容会被官方删除吗?你知道为什么B站博主发的视频有一些不能通过审核吗?你知道为什么微博热点会被撤下吗?……这些背后存在着特殊的工种,那就是“网络审查员”。
《网络审查员》是我无意间在微信公众号看到的,吸引我的就是它的特殊,这是我从未听说过也从未关注过的一个工种。出于好奇,我利用下午的空闲时间将其看完。
这篇影片是纪录片,它讲述着一群网络审查员的真实工作。什么是审查员?就是网络的清道夫,清理不符合规定的图片,影片。他们是由互联网一些平台比如脸书,推特等等来和菲律宾的外包公司合作,清理网络上的罪恶(黄色内容,反政治言论,血腥暴力等)。塔曼的工作看似简单,实则不易。
在菲律宾,很多工作的薪水都很微薄,为了能够获得好点的生活,会有一些人选择了网络审查员这个工作。有个女孩面试的时候,看到的视频是恋童癖,一个女孩正在进行口交,而另一个影片则是,一个女孩身上都是精液。对于这些画面,她无法忍受,但因为工作需要,还是要克服自己心中的那个坎。另一名女审查员在步入这个行业之前是很单纯的,一些敏感词比如肛交之类的含义她并不清楚,为了这份工作,她甚至通过看性爱片进行学习这些词。除此之外,因为全球化劳动力,对于审查的内容多数是来源于其他国家,而对历史背景一无所知的情况下,审查的难度就会增加。
在审查的眼中,有些艺术不得不删除。有个女艺术家画了一个川普裸体,并且画上了一个很小的生殖器。虽然审查员知道这幅画表达的意思是,川普的能力和他的生殖器一样弱,不适合领导美国。但是涉及到裸体的图片是审查的底线。尽管艺术家自己认为,为什么会有人觉得裸体恶心。还有一个摄影师,他对叙利亚十分关注,他将一个溺水的小男孩发布到他的脸书上,不到三天就被删除。虽然他想呼吁战争的可恶,政治间的博弈造成无辜生命的丧失,但是影片涉及到sisi影片,审查员不得不删除。
审查在一定程度上,阻挡了黑暗,但也阻挡了真相。叙利亚战争的打响,很多难民都会通过手机记录真实的情况,最后却无法过审。
联合国言论自由权特别报告员说“这些公司越来越多权力决定什么留下什么撤下,利用人乐于安逸,讨厌努力,讨厌挑战的心态。随着时间的推移,总有一天,丧失我们进行批判性思考能力,妨碍接收挑战的能力,造成限缩言论。”
网络审查员的本质是不容犯错,他们决定着人们将会看到什么。而看到的这些东西,很可能引发战争,霸凌,犯罪现象等等。所以他们小心翼翼。这是一项不轻松的工作,更是一份艰巨的责任。有些黑暗是光无法到达的地方,只有审查员能替我们前往。虽然有利有弊,但是利大于弊总是好的。
(摘抄:社交媒体是中性的,不会助长什么,但如何才能吸引眼球增加关注是原因,而愤怒是最有效的诉求。)
我的职责是防止不道德视频的扩散,好比是防波堤。必须遏制罪恶在社交媒体上扩散。
网络审查员,社交媒体的“清洁工”,日复一日地重复着高强度的工作。按照一定的指标,定时定量审阅、翻看各式文字信息、图片和视频。一般情况下,他们会签订不可外泄工作内容、工作情况的合同。换句话说,是在大众视野中“不存在”的职业。
网络审查如同防波堤修筑,一方面,它阻止了常规意义上的违法信息(如涉及政治敏感话题、情色等内容的图片、视频)在社交网络平台、互联网空间上传播;另一方面却永久地改变了互联网的生态环境,对合理诉求范围内的自由表达、资源信息共享和完整程度造成了一定程度的损害。
网络审查,能够使平台监视发布内容并作合理化处理,包括防止儿童色情物品的扩散、察觉恐怖主义活动于未然、防止网络霸凌等。在目前的认知范围内,以及网络审查员们所接受的培训中获取的信息一样,这是有益于网络平台建设、为大众提供尽可能美好事物的工作。
但网络审查常规情况下分为发布前的审查和举报后的审查,一个可能削减用户体验,一个可能导致不良信息漏审漏查。因此在这种情况下,需要在人工智能识别的基础上,投入大量人力资源。局限也因此不可避免。
运营公司作为企业,其经营目的难免不以赚取利益为主。这也是为什么在像土耳其一样严格限制了Facebook、Twitter、YouTube等网络巨头的功能和内容后,各大公司依然不肯放弃此国市场一样。因此在相互妥协的情况下,就会增大网络审查力度的加大。同时由于不同地区国家对于敏感信息的定义不同,所以同一个视频、一张图片可能会被公司做上IP地址的屏蔽,来满足市场需求。
而协助完善网络审查的,是各个有着不同价值观但是却有着类似培训经验的人们。他们在平台、外包公司背后,进行着形形色色内容的审查,决定是应该“忽略”还是“删除”相关内容。虽然有着基本的规定,但也会因个人判断而产生对同一内容的判断出入。而上层决策者与基层执行者之间的断层,也会成为审查内容限制不一的原因之一。
对工作人员作出的判断,上司并不完全掌握。为评估审查员业绩而挑选的样本数量只占整体的3%。这就是业绩评估的现状。
企业有意识地对用户发布内容进行裁量取舍,这一倾向逐年明显。他们利用了我们贪图轻松不胜其烦,不愿付出努力的弱点。或许为时已晚,但若长此以往,我们本来具备的批判性思维的能力、克服困难的能力都会衰退。对言论自由设限,也就是对挑战精神和奋斗精神设限,如果不允许刺激社会,今后人们所能获得的信息量将越来越少:尖锐意见、挑战性表达方式都将从网上销声匿迹。如此我们的社会很难称得上是丰富多彩的社会。
联合国言论自由特别报告员,戴维·凯伊在纪录片中说道。
而这一现象,恰恰很有可能造成人们批判性思维的逆向打压,通过身边熟悉的事物,一点点地增多门槛,最终促成个人、平台在日常表达上的自我审查。最终哪些是正确的,哪些是可以发布的内容,都已经无法判断了。
初版诞生于1985年的《娱乐至死》,早已预见到,在信息碎片爆炸化的时代下,娱乐业的发达也会对人们健全思维的形成产生一定的影响。(虽然本书的观点有一部分比较偏激,但叙述中的可信服的还是存在)“娱乐至死”时代下的自我审查,无疑是社会进步的巨大绊脚石。
而纪录片中指责的承担这重大责任和社会意义的互联网公司,在相关领域的审查作用微乎其微。不仅无法为每天饱受各种图片、视频折磨的网络审查员足够的心理后盾支援,还在部分市场起到了消极的带头作用。透过各家网络审查员的叙述,我们可以窥到现状的轮廓:在可以无拘无束地片面、自由表达自己观点的今天,好的结果是赚取流量,成为网络红人;坏的结果顶多是发布内容的删除和帐号的封停。(在部分国家或地区)
贯穿影响现代人生命的互联网的影响力日渐提高,网络审查员的工作个体差异性太大且得不到保障。随着人工智能等科技的进一步发展,和“当代网络审查员”经验的积累,不久的将来,或许不会是硅谷“智者”们所期待的那样。
审查;还以为是日本人做的,原来是德国人;色情delete,战争暴行(宣传恐怖delete,反战ignore)但作为网络守望者的这部分菲律宾人不可能了解那个背景不好判断,忽略的害处:罗兴亚人的迫害,稀疏的言论自由:人里面不成熟、容易受恶影响的还是不少的,审查是一种偷懒的方式,人类就不用自己费劲去判断了,政治言论:油管的仅对该国ip屏蔽,也算厚道,那为啥我们不行?(大概扶植本国经济吧,也能偷懒,毕竟自己人好管);审查员自己的影响,每天看这些势必有影响(发条橙);网络使全球人心的共通,对于审查员更明显;言论自由观点(我的):事物都有丑恶一面,如果你没看到,说明你还不了解它;人总是需要假象的敌人(鄙视对象),外国移民、CXK。
引人深思。同样的内容在不同的语境下是不一样的,讽刺或者谴责是不是就可以?(实际工作中真的就遇到这样的情况啊)提供一个“干净”的环境是不是就不利于理性批判呢?非常不爽的是,这样一个“国际纪录片节”竟然放个样片给我看,中间字幕还因为剪辑版而字幕对应不上。
“Delete, delete... Ignore, ignore”,以网络世界不为人注意的审查过滤工作展开,用Google和FB做引子,到最后拉开成了对极右思潮的兴起、政治讽刺的界限还有中东和罗兴亚人的全面涉及,88分钟里满满的信息量和各种立场。勾勒了网络世界近年来除去深网、色情交易和信息安全之外最严峻的现状。无法想象各位清道夫需要在工作中承受多少压力与伤害,才能换得一份维持温饱的工作;女孩穿行于垃圾堆的画面映照,十分加分。
当影像创作紧紧地与道德与立场捆绑,纪录片本身也跳脱开单纯的新闻属性,质问甚至鞭挞所有人习以为常的伦理框架。从网络清道夫,到社交媒体时代的仇恨传播,一块荧幕前后是监控的过犹不及,和话语的无孔不入。信息量大,有些话题点到即止,拍的精细完整,但再做扩充也无妨。
一部片顶十季《黑镜》,而且与当下联系更紧密,讨论的核心仍处在on-going状态,没有人知道之后会发生什么改变。手法无甚高明,但贵在争议的提出和创作者的态度,毕竟很多难题并不可能也并不应当由这部纪录片来回答。
你好,你发表的关于《The Cleaners》的短评,因为含有违反相关法律法规或管理规定的内容,已被移除。感谢你的理解与支持。——豆瓣电影
很有意思的视角,第三世界廉价审查员,被剥削的不只是重复性劳动,还被迫承受了最为骇人听闻的精神暴力。后半部分上升到社交媒体就比较泛泛而谈了,无非是民主和民粹的讨论,作者立场也过于明显。这部电影本质还是猎奇,但也只有冲击力和未知能引发思考。
設計的場面和台詞過多,集中於弘大命題而遠離了作為網絡審查者的“人”。始終陷在一種美感過度的不適中。講演現場等視頻的活用很好。“被審查”的部分影像,那些自殺情色宗教與恐怖暴力,除了展示,真的沒有更好的方式了嗎?對影像資料的處理和使用,需要倫理上的再思考。JIFF0507M9
特别严肃、深沉、拓展视野和引人熟思的一部纪录片。新网络时代社交媒体在左右我们的思维动向,可怕的是它利用我们的潜意识,就在我们毫无意识之间替我们决定了一切。而被牺牲的网络审查员,真的新时代最悲伤职业。
看到扎克伯格意气风发的脸,就像是这个世界真正的领导者一样。可怕的是竟然还有人把自己和国家的人民与希特勒和被屠杀的犹太人类比,渺小无力的我们只能对着社交媒体冒泡。
发人深思的优秀纪录片,不能忽视的人群——网路清道夫
常在河边走哪能不湿鞋
清道夫不是人干的活。每天看各种黄色暴力血腥视频,有害身心。审查员有自杀的,也有宁愿回去捡垃圾,也不再看那些网络垃圾。
脸书YouTube推特上,内容合法不合法,是让一群外包的菲律宾人来审查。难怪影片中,故意让审查员看两张照片,一张是获普利策奖的越战照片《火从天降》,因为小女孩全身赤裸,被删;另一张,伊战美军虐囚事件,审查员看成了ISIS士兵在虐美军俘虏,被删。
索爾仁尼琴說過“每個人有不知情的權利”,但是人又卻是好奇和獵奇。前幾年Dark Net第一季的其中一集就對網絡審查員有過展現。感覺這部紀錄片是擴展版,而且選取的事例頗具典型性。我依然覺得對於互聯網(尤其是移動互聯網)要採取謹慎甚至消極的態度。整個片最讓我印象深刻的是NGO組織對敘利亞內戰的社交網絡視頻爭分奪秒的保存。畢竟,很多視頻基於版權和審查已經無法被觀看,而本身又具備價值。其實,“知道太多”的審查員和違規視頻圖文資料庫同樣是個不穩定的危險因素。難道就不怕造反嗎?
一部上影节北影节选片首轮一定被毙的纪录片出现在即将被迫全面退票转为免费包场的西宁,来自一个全球最大的被清理者组成的国度。
看!这盛世,时代之恶,我在这儿先糊你脸上为敬。
① 网络审查的存在是必要的,如同现实生活中的质检、保洁和垃圾分类等工种;但对「垃圾」、「有害」的标准界定是模糊的;② 人与人之间的道德标准、族群与族群之间的习俗观念、国与国之间的法律政策都是存在差异,而遍及全球的社交网络平台必然无法普适所有地区人民;③ 平台工具的中立属性,与吸引点击的传播逻辑,形成天然矛盾;④ 国家和联合国都难以解决的矛盾争端,居然需要距离事发千里之外、月入几千元的审查员做出判断,真心无奈。
不涉及处在局域网的我们,主要介绍采访不存在的欧美几大上传类社交网站的图片视频的人工审查员,他们居然都是在菲律宾的当地人,每天面对两万多件的色情暴力政治战争等敏感信息。梦到大量不同男人生殖器的女基督徒,还有的看过上百段斩首的影像,在自残部门调离不成而自杀的员工,叙利亚老百姓拍摄的那些和isis的如何处理,开放网络后只识脸书的缅甸人被假消息散播利用挑起的大屠杀,最后现身的扎克伯格发布会好像把矛头直指大公司在建立自由之地的同时今后要怎么走向,穿插在美国被诉讼而改变准则的几次事件,对了解那些人背后的操作程序和世界阴暗面有不少直观的感受,联想在高墙之内被保护的这片土地更加唏嘘。
这群为了网络的健康与和谐默默付出的人们,难以想象他们每天要面对多少充满血腥、暴力、色情以及政治恐怖的镜头。他们目睹过自杀,目睹过砍头,目睹过性侵,出现一点小小的纰漏都可能会造成死伤甚至战争,他们在不为人知的地方守护着世界的和平