幕后之人：網絡世界中的螺絲釘

中間機制始終存在

美國曾有一篇新聞報道，指一家公司主要為客戶提供業務流程外包服務，其中一項拓展業務是內容審核，即雇傭小時工為大型網站審核用戶生成內容，涵蓋上傳到社交媒體平臺上的所有圖片、視頻和文本等。

報道中提到，公司員工在這項工作中遭遇了極大的身心損害，這是因為他們必須觀看許多令人不適的圖片和視頻，如淫穢畫面、仇恨言論、虐待兒童和動物的畫面，以及未經剪輯的戰場片段，導致他們身心俱疲甚至瀕臨崩潰。

也正因此，一些專門從事內容審核的公司開始為那些在審核過程中感到煩悶和壓抑的員工提供心理咨詢。美國學者莎拉·羅伯茨在《幕后之人：社交媒體時代的內容審核》中寫道：“他們僅僅領著八美元的時薪，卻要為此觀看用戶上傳到社交媒體平臺和網站上的那些令人不適的內容。這些內容是如此不堪入目，以至于許多員工最終都得接受心理咨詢?！?/p>

但對于社交媒體平臺以及任何將產品放在網絡上供用戶公開評價的公司來說，這種審核又是不可或缺的，僅僅是品牌保護這項需求就足以促使他們這樣做。

《幕后之人：社交媒體時代的內容審核》

[美]莎拉·羅伯茨 /著

羅文 /譯

萬有引力 | 廣東人民出版社

2023年5月

許多互聯網終端用戶都認為，自己與社交平臺的關系很簡單，只需要上傳內容就會對外傳播。但實際上，中間機制始終存在，涉及一系列行為、政策和工作者，也就是互聯網審核。

說到互聯網審核，它最初是一種商業性質的行動，始終伴隨著互聯網的普及，從一開始就是互聯網社會的一部分。社交媒體無疑是互聯網世界的顛覆性和跨越式發展，但也讓互聯網審核出現了“突變”：更繁瑣、工作量更大、難度也更高。

也正是社交媒體時代，使得“如果你給互聯網開一個口子，它就會被‘垃圾’填滿”這句話無比接近事實。

雖然許多人都在抱怨互聯網過于繁雜，紛爭越來越多，但即使是眼下所見，也并非互聯網原本的面貌?！赌缓笾恕犯嬖V我們：一個隱秘且龐大的內容過濾機制，已經事先為用戶掃除了無數劣質、不良的內容。

無論是這套商業過濾機制的操控者，還是具體篩查工作的執行者，仍然是活生生的人——“全世界都能找到他們的身影。他們可能在舒適的硅谷科技公司總部，可能在倉庫或摩天大樓中的隔間里，可能在某個鄉村或者超級城市馬尼拉，也可能在太平洋西北地區的家中用筆記本電腦辦公，同時照料著孩子。那些支付且依賴這項服務的平臺用戶，大多對他們的工作內容、工作條件和待遇一無所知。事實上，這種隱蔽性是人為設定的?！?/p>

2010年到2018年，莎拉·羅伯茨展開了漫長的調查研究，突破互聯網公司保密協議、地域限制等重重阻礙，訪談了許多離職及在職的商業性內容審核員，以及包括業內人士、學者、律師、記者等在內的群體，全面考察了互聯網商業性內容審核工作的不同類型，揭示了審核員們的生存境遇，并針對內容審核過程中出現的政策爭議、犯罪制止、社會影響等進行闡述。

莎拉·羅伯茨寫道：“審核員在做判斷時需要考慮社交規范、文化美學、內容策展以及內容是否符合站內規則和外部法律等諸多方面，但他們卻是公司里薪酬最低的員工，同時還要承受工作所帶來的傷害?！?/p>

她試圖解答這一系列問題：在一個自動化、智能化的時代，互聯網的商業性內容過濾機制為何仍然需要大量人力的投入？從事這項工作的普通員工，他們每天如何開展工作，面對的是什么，又遭遇了什么？他們的經濟權益、身心健康是否得到了保護？他們對于自己的勞動、社交媒體經濟乃至互聯網的文化和政策，又有哪些敏銳的理解和洞察？

更重要的問題是：為什么我們沒有集體討論過這群人、他們的工作以及他們所受的影響？既然互聯網已經融入了成千上萬人的生活，為什么我們沒有討論過這項工作對于互聯網的影響？

最終，莎拉·羅伯茨希望：“他們可以離開陰影處，從屏幕后面走出來，走到有光亮的地方來?！?/p>

技術從不是中立的

莎拉·羅伯茨在研究了美國互聯網領域的狀況之后，如此總結業界生態：“如今大多數人眼中的互聯網，其中的絕大部分領域都由私營企業所管理，而人們幾乎沒有任何掌控。這些企業通常是跨國巨頭，與其初創所在地的政府關系密切。這種私有化存在于網絡服務的各個層面，比如為全球計算機提供主干網的公司之中，只有五家大型公司（二級、三級主干網也幾乎都掌握在少數跨國媒體和通信巨頭的手中）才能夠提供接入私營平臺內容的服務?！?/p>

至于商業性內容審核，則是強大的管控機制，它在為私營企業服務的過程中，伴隨著私營企業一同成長起來。這些私營企業運營的平臺和服務組成了一個高度規范化、中介化和商業化的網絡。

雖然技術無止境，但僅僅從目前情況來看，完成大部分內容審核工作的并不是先進的人工智能和深度學習算法，而是薪資低微的普通人。這個隱藏在幕后的機制，包括了提供勞動力的外包公司、有相關需求的大型網絡平臺，以及將有害畫面和有害信息擋在用戶視野之外的審核員。

這部分“幕后群體”并不為大多數人所熟知，不過仍有一些人敏銳發現了它的優劣所在：有人曾闡釋搜索功能如何構建對性別、性向和種族的有害表述；有人曾探討在智能助理（或者說擬人化的虛擬助理，簡稱AVAs）設計過程中存在的人為干預以及內嵌的價值體系；有人通過為期十年的研究記錄了Facebook二元性別選項的影響，及其在性別表達和性別選擇上的衍生影響……

這一切都不意外，正如莎拉·羅伯茨所寫的那樣：“技術從來都不是中立的，也不是‘先天’為善或者沒有影響的。恰恰相反，它們作為一種社會技術建構，必定會反映創始人的想法。同時，它們創立的目的是服務某些東西或者某些人，無論其創立初衷就是如此，還是后期在適應和抗拒過程中演變成這樣的?！?/p>

技術的應用和普及，始終在影響著權力的積累和擴張，也影響著資本與文化。女性被系統性排斥就是非常典型的例子，在技術發展史上，女性的地位始終被邊緣化。英國早期從事計算機編程工作的女性總被刻意打壓，這也被視為英國在全球計算機產業中相對落伍的一個因素。

社交媒體更是內嵌著人類的價值觀，人們使用軟件時，各種操作正是他們理解自身、他人和世界的體現。同時?！败浖O計和人機交互反映了一種更宏大的社會邏輯、意識形態和對當代社會的想象?！敝劣谀切┥楸┝Φ脑愀鈨热?，僅僅是這些價值觀和邏輯的部分衍生物。

既然技術呈現著人的意志和思維，它的走偏也需要人來糾正。用技術糾正技術，從目前來說是做不到的。即使人工智能可以識別部分不良內容，但面對海量內容，加之用戶上傳內容的信息、意圖和潛在后果十分復雜，算法顯然無法負荷。

一份吃力不討好的工作

莎拉·羅伯茨以Megatech公司為例子，試圖詮釋審核員這個職業。Megatech公司是跨國上市公司，可以說是這個行業的天花板，它的員工也代表著這一行業的上限。但遺憾的是，這個群體的待遇也遠遠算不上好。

這家公司的審核員，每人每天要利用專門審核工具，審核1500～2000個視頻。用戶舉報的視頻首先會經過機器篩查，沒有被刪除的部分以縮略圖形式發送到員工手中進行判斷。因為互聯網信息時時刻刻都在更新，所以審核人員必須幾班倒，24小時始終在線工作。

這不僅僅是一份任務繁重的計件工作，還是一份附加了大量負面信息的計件工作。因為他們所要審核的視頻都涉及暴力、色情、騷擾和仇恨等負面內容，在工作時間內，審核人員只有短暫的休息和吃飯時間能夠遠離它們。而且這些負面內容的糟糕程度遠遠超出大多數人的想象——比如恐怖分子處決人質、虐待動物和戰爭殺戮等。書中就寫道，因為看多了斬首視頻，一名審核人員甚至可以從尸體照片判斷出劊子手使用的刀具長度與類型。

所以審核員必須面對不高的薪水、到期即走的合同、長期守在電腦前的頸椎和肩周等健康問題，還有更嚴重的心理問題。因為長期被暴力、血腥或色情等視頻騷擾，他們很難控制自身情緒，因此會衍生酗酒等問題?！斑@些內部合同工從Mega Tech的旋轉門中走出去，留不下任何痕跡，除了一行簡歷，以及對人性陰暗面的感受，他們努力忘記，但卻是徒勞?！?/p>

而且，這一行的從業者還面臨著痛苦無處訴說的困境。他們要簽署保密協議，對工作內容嚴格保密，甚至不可以主動公開自己從事的職業，其目的是為了保護平臺網站的形象。

莎拉·羅伯茨寫道：“對于這些依賴用戶生成內容的公司來說，至少還有一個原因使得它們不愿意公開其內容審核活動。它們對于大規模、產業化的內容審核的依賴是一種無奈之舉，如果這種需求被人們知曉并完全掌握，平臺的陰暗面就有可能暴露，即用戶會利用它們的分發機制來傳播令人反感和不適的內容，而大多數主流平臺都不愿意給公眾留下這種印象?！?/p>

雖然工作枯燥乏味且心理壓力極大，但因為對言論、圖片等的界定往往涉及政治、經濟和文化層面，所以也需要審核人員有一定的知識基礎。前些年，歐美科技公司招聘內容審核員時，往往以名校學生為主。

但這帶來了更大的職業幻滅感：高學歷名校生面對這個實際上門檻不高、技術元素和成長空間都非常有限的工作，很容易失去耐心。雖然偶爾也會有一些職業成就感，比如給執法部門的報告可以抓獲某個嫌疑人，或者使某個兒童脫離危險，又或者挽救一個試圖自殺者，但這種正向結果實在太少。

后來，外包成了相當主流的做法。這是常見的成本轉移。而且外包公司也不是“最前線”，有些有專門的審核中心，還有一些則選擇繼續分包，或是借助零工平臺招聘個體零工。在成本下降的同時，也讓這份工作變得更加沒有保障。

而從工作效果來說，外包讓審核變得更為低效。嚴格來說，審核員不僅僅應該有一定文化素養和分析能力，還需要客觀，因為他們不是單純的網民，而是平臺風氣的塑造者之一?？稍诮档统杀镜那疤嵯?，商業平臺又將審核視為一項價低者得的低門檻工作。

美國就是如此，行業會大量聘用無需提供保險的臨時工，合同也是短期的，往往以時薪計算且沒有任何福利。大多數從業者在工作滿一年后都會遭遇實質上是逼迫辭職的假期，即強制休息三個月，之后才有資格續簽合同，但大多數從業者顯然無法承受這樣的等待。在惡劣的競爭狀態下，行業整體素質也沙河日下。

此外，歐美地區還會將審核業務進一步外包給人力成本更低的東南亞，比如菲律賓就是“審核重鎮”。這很大程度上造成了新的剝削模式，即“當一個地方選擇接受遠方的國家和經濟體所主導的發展周期和商業周期時，它收到的不只是這樣有形的干擾”。

互聯網的自由離不開約束

從某種意義上來說，互聯網是一個充滿矛盾和悖論的體系。它的構架和數據傳輸都高度程序化、依賴協議，但內容上又高度自由，正如《幕后之人》所言：“許多互聯網擁護者早期對它的一個核心愿景，便是互聯網的架構和倫理觀決定了它對任何形式的審查都具有高度的抵抗力?！?/p>

可是，如此崇尚自由的互聯網系統，在早期在線社群中就已出現不同形式的內容審查。最初，“這項任務通常由一些人自愿承擔，根據是社群內部的社群規范和用戶行為的參與規則。社群內部的審查方式和風格會帶來不同的社群氛圍，比如有的社群強調嚴格遵守規則，有的社群則提倡無政府主義式的管理?！钡还苁菄栏襁€是寬松，社群都不希望內容審查這一元素被用戶們所熟知，因為它們依賴用戶生成內容，之后逐漸成熟的互聯網行業體制顯然沿襲了這一思路。

美國全國公共廣播電臺（NPR）的《萬事皆曉》欄目早年調查互聯網審核工作時，曾試圖采訪微軟和谷歌的審核人員，但遭到拒絕。2013年，該欄目的《阻止兒童色情內容的幕后工作者》報道中，一位微軟方面的發言人輕描淡寫地將內容審核工作稱為“臟活”。

“臟”不僅僅是互聯網公司高層的看法，也是從業者自身的看法，他們認為自己從事的是互聯網最底層也最骯臟的工作。尤其是在現行行業體制幾乎完全被審核需求強烈的社交媒體公司所支配的當下，這一思維更是變得根深蒂固。它甚至讓審核人員的低薪也變得理所當然，在同一棟互聯網公司大樓里，他們往往是收入最低的一群。

但就像莎拉·羅伯茨希望的那樣，這一群體理應走到幕前，得到更多的了解和理解。在商業性的互聯網領域里，“審核”看似一種對自由的約束，但它對暴力、色情和種族歧視等內容的把關卻是不可或缺的?；蛘哒f，正因為“審核”這一約束性的存在，才保障了大多數人的上網自由。

本文來自微信公眾號：經觀書評 （ID：jingguanshuping），作者：葉克飛

相關推薦

幕后之人：網絡世界中的螺絲釘
疏離之人
A-SOUL的未來，字節跳動該如何下注腳？
95后的“去螺絲釘化”管理觀
年輕人的大廠圍城：要尋找自我，還是做一顆厲害的螺絲釘？
連死亡都要進入網絡世界，數字遺產到底該刪還是留？
打動愛美之人,湯臣倍健Yep的新“肽”度
臺前與幕后的5G戰爭
印度、歐洲和美國是未來網絡世界治理的三駕馬車
智能手機屏幕江湖，誰是幕后大佬？

網址: 幕后之人：網絡世界中的螺絲釘 http://www.bimbinganhajiumroh.com/zhidaoview30311.html