自由工作者,，也被困在算法里
凱洛格管理學(xué)院
2021-08-24
在互聯(lián)網(wǎng)的某個(gè)角落，你可能已經(jīng)被評(píng)級(jí)過(guò),。
這些評(píng)級(jí)幫助各種各樣的公司做決定,，諸如在哪些地方冒險(xiǎn)，以及如何改善運(yùn)營(yíng)等等,。然而,，這些評(píng)級(jí)對(duì)被評(píng)級(jí)者有著什么樣的影響？凱洛格學(xué)院的哈蒂姆?拉赫曼的新研究顯示,，盡管這些算法不透明,，而正是由于這種不透明性,，它們?cè)谝砸庀氩坏降姆绞剿茉烊藗兊男袨椤?/p>
拉赫曼是凱洛格學(xué)院的管理與組織學(xué)助理教授，他研究了一個(gè)網(wǎng)上自由工作者勞動(dòng)力平臺(tái)的算法影響,。拉赫曼說(shuō)：“目前有許多關(guān)于未來(lái)工作及其表現(xiàn)形式的探討,。這類(lèi)平臺(tái)是下一個(gè)前沿領(lǐng)域的組成部分?！?/p>
拉赫曼研究的那個(gè)網(wǎng)站與許多承諾為自由工作者和付費(fèi)客戶(hù)牽線建立合作關(guān)系的網(wǎng)站（例如Upwork,、TopCoder、TaskRabbit等等）一樣,，也是采用一種復(fù)雜的算法對(duì)自由工作者進(jìn)行評(píng)分,，潛在客戶(hù)即可根據(jù)這個(gè)分?jǐn)?shù)來(lái)分類(lèi)并選擇可能的人選。
為了了解這種不透明的評(píng)估系統(tǒng)如何影響自由工作者,，拉赫曼加入了這個(gè)平臺(tái)（化名“TalentFinder”）并且采訪了自由工作者和雇用他們的客戶(hù),。此外，他還解析了TalentFinder上面的書(shū)面交流和自由工作者討論板上的帖子,。
所有跟他談過(guò)的工作者,，都對(duì)分?jǐn)?shù)突然莫名下降的可能性感到惶惶不安。對(duì)于這種心慌,，他們的反應(yīng)方式主要取決于自己之前是否經(jīng)歷過(guò)評(píng)分降低的情況,，而與他們的評(píng)分高低關(guān)系較小，另外很重要的一點(diǎn)是他們對(duì)該平臺(tái)帶來(lái)收入的依賴(lài)程度,。
拉赫曼解釋說(shuō),，傳統(tǒng)上學(xué)者將工作表現(xiàn)評(píng)估描述為能夠幫助收緊工作者周?chē)摹拌F籠”，因?yàn)檫@些評(píng)估可以讓雇主約束行為并設(shè)定成功的標(biāo)準(zhǔn),。用算法進(jìn)行評(píng)估則有一種不同的,、可能帶有破壞性的影響。
“不透明的第三方評(píng)估可能為工作者產(chǎn)生一個(gè)‘看不見(jiàn)的籠子’,，因?yàn)樗麄儗?duì)這種評(píng)估的感受是一種控制形式但卻無(wú)法解釋或了解這些評(píng)估標(biāo)準(zhǔn)進(jìn)而取得成功,。”拉赫曼寫(xiě)道,。
當(dāng)然,，如同拉赫曼指出的那樣，不僅我們?cè)S多人或多或少地也住在某種看不見(jiàn)的籠子里,，而且我們還在構(gòu)建籠子方面提供了一些幫助,。每當(dāng)我們對(duì)從亞馬遜商城購(gòu)買(mǎi)的商品或Lyft司機(jī)做出評(píng)級(jí)時(shí)，我們都可能正在影響他人的生計(jì),。
“使用這些平臺(tái)的人多半沒(méi)有意識(shí)到自己在影響這些系統(tǒng)及其算法方面所扮演的重要角色,，覺(jué)得那只不過(guò)是一種交易式關(guān)系?！彼f(shuō),。
讓評(píng)估標(biāo)準(zhǔn)變成一個(gè)迷
“TalentFinder”是同類(lèi)網(wǎng)站中規(guī)模最大的平臺(tái)之一,。在2015年，有超過(guò)1,200萬(wàn)的自由職業(yè)者在該網(wǎng)站注冊(cè),，客戶(hù)數(shù)有500萬(wàn),，分布在全球100多個(gè)國(guó)家。這些客戶(hù)可以挑選各種各樣的自由工作者,，從助理到營(yíng)銷(xiāo)人員再到軟件工程師,，應(yīng)有盡有。
2013年,，當(dāng)拉赫曼在TalentFinder注冊(cè)并開(kāi)始進(jìn)行研究時(shí),，該平臺(tái)根據(jù)一套顯示項(xiàng)目分?jǐn)?shù)和整體分?jǐn)?shù)的透明系統(tǒng)對(duì)自由職業(yè)者進(jìn)行評(píng)級(jí)。項(xiàng)目完成時(shí),，客戶(hù)會(huì)用一個(gè)1到5的評(píng)分量尺在幾個(gè)方面評(píng)價(jià)自由職業(yè)者,，包括“技能”、“工作質(zhì)量”以及“遵守預(yù)定的完成進(jìn)度”,。這些分?jǐn)?shù)匯總后得到項(xiàng)目總分,，將這些項(xiàng)目分?jǐn)?shù)匯總（根據(jù)每個(gè)項(xiàng)目的金額加權(quán)）后即產(chǎn)生一個(gè)滿(mǎn)分為五星的總評(píng)級(jí)，該評(píng)級(jí)包含在自由職業(yè)者的個(gè)人簡(jiǎn)介中,。
雖然這套評(píng)估系統(tǒng)直截了當(dāng),，但它給TalentFinder帶來(lái)一個(gè)問(wèn)題，那就是自由職業(yè)者的評(píng)級(jí)普遍過(guò)高,，缺乏差異性,，而差異性對(duì)客戶(hù)會(huì)有幫助。該網(wǎng)站曾經(jīng)一度有超過(guò)90%的自由職業(yè)者在五星中得到四星評(píng)級(jí),，80%的自由職業(yè)者則獲得幾近完美的評(píng)級(jí),。
對(duì)這種情況的解決之道就是：算法。從2015年開(kāi)始,，該網(wǎng)站根據(jù)刻意保持神秘的標(biāo)準(zhǔn),，改用一個(gè)1到100的評(píng)分量尺對(duì)自由職業(yè)者進(jìn)行評(píng)分。
該算法推出三個(gè)月后,，TalentFinder在一篇公開(kāi)博文中寫(xiě)道：“我們不透漏您分?jǐn)?shù)的確切計(jì)算方式,，因?yàn)檫@樣做會(huì)使某些用戶(hù)更容易進(jìn)行操作來(lái)人為提高他們的分?jǐn)?shù)?！毙滤惴▽?shí)施后，僅有大約5%的自由職業(yè)者得到了90分以上的評(píng)分,。
為了研究這個(gè)自由職業(yè)者新評(píng)估系統(tǒng)的效果,，拉赫曼在2015年到2018年之間從以下三個(gè)來(lái)源收集數(shù)據(jù)：與自由職業(yè)者進(jìn)行的80次訪談和與客戶(hù)進(jìn)行的18次訪談；書(shū)面交流內(nèi)容,，包括TalentFinder社區(qū)討論板上超過(guò)2,000條與算法有關(guān)的信息和TalentFinder上有關(guān)這個(gè)主題的公開(kāi)帖子,；還有他作為一名注冊(cè)客戶(hù)的自身觀察,。
普遍存在的擔(dān)心害怕
拉赫曼在整理他的訪問(wèn)和書(shū)面內(nèi)容時(shí)，赫然發(fā)現(xiàn)他聽(tīng)到的抱怨相當(dāng)一致,。所有他訪談的自由職業(yè)者都擔(dān)心害怕自己的分?jǐn)?shù)可能突然下降,，并且對(duì)于無(wú)法從分?jǐn)?shù)變化中學(xué)習(xí)并改進(jìn)而感到挫折。
“最讓我驚訝的是平臺(tái)上業(yè)績(jī)最優(yōu)秀和經(jīng)驗(yàn)最豐富的自由職業(yè)者在了解算法如何運(yùn)作方面未必能夠取得任何優(yōu)勢(shì),?！彼f(shuō)?！耙话銇?lái)說(shuō),，在一個(gè)系統(tǒng)中成績(jī)出色的人在某種程度上可以推斷出系統(tǒng)是如何運(yùn)作的。而在這個(gè)環(huán)境中,，即使是分?jǐn)?shù)沒(méi)有改變的人,，也一樣擔(dān)心害怕?！?/p>
拉赫曼對(duì)這種害怕與挫折感觀察到兩種截然不同的反應(yīng),。其中一種反應(yīng)他稱(chēng)為“試驗(yàn)性反應(yīng)”，自由職業(yè)者會(huì)不斷通過(guò)反復(fù)試驗(yàn)來(lái)試圖提高自己的分?jǐn)?shù),，比如只接合約期較短的項(xiàng)目或主動(dòng)要求客戶(hù)對(duì)工作表現(xiàn)提供反饋,。
另一種反應(yīng)是自由職業(yè)者試圖通過(guò)拉赫曼稱(chēng)為“限制性活動(dòng)”的行為來(lái)保護(hù)自己的分?jǐn)?shù)。自由職業(yè)者試圖通過(guò)不同的方式來(lái)限制自己在評(píng)估算法的曝光度,，他們有時(shí)要求在TalentFinder上認(rèn)識(shí)的客戶(hù)在平臺(tái)以外的地方聯(lián)系及付款,，以便使其評(píng)級(jí)不受影響。其他人則不采取任何行動(dòng),，希望以此保持評(píng)級(jí),。
拉赫曼找到了兩個(gè)主要因素，它們決定了哪些自由職業(yè)者會(huì)試驗(yàn),，哪些人會(huì)離開(kāi)平臺(tái)私下交易或者干脆不采取行動(dòng),。這兩個(gè)因素是自由職業(yè)者對(duì)該平臺(tái)帶來(lái)收入的依賴(lài)度，以及他們是否經(jīng)歷過(guò)分?jǐn)?shù)下降的情況,。
這根據(jù)自由職業(yè)者的分?jǐn)?shù)高低而有所不同,。
獲得高評(píng)級(jí)并且對(duì)平臺(tái)依賴(lài)度高的自由職業(yè)者根據(jù)最近分?jǐn)?shù)是否下降來(lái)選擇他們的應(yīng)對(duì)策略?？吹阶约悍?jǐn)?shù)下降的人會(huì)試驗(yàn)不同的策略來(lái)提高分?jǐn)?shù),；如果他們的分?jǐn)?shù)沒(méi)有下降，他們就限制自己在平臺(tái)上的活動(dòng)以努力保護(hù)分?jǐn)?shù),。對(duì)平臺(tái)依賴(lài)度低的業(yè)績(jī)優(yōu)異者無(wú)論是否有過(guò)分?jǐn)?shù)下降,，都會(huì)限制自己在TalentFinder上的時(shí)間。
分?jǐn)?shù)較低的自由職業(yè)者對(duì)平臺(tái)的依賴(lài)度似乎決定了他們的行動(dòng)方向,。如果他們依賴(lài)平臺(tái),，他們就會(huì)采取試驗(yàn)法,，即便分?jǐn)?shù)繼續(xù)波動(dòng)。如果他們不覺(jué)得自己的收入與平臺(tái)息息相關(guān),，他們就逐漸限制自己在平臺(tái)上的活動(dòng),。
拉赫曼解釋說(shuō)，工作者的處境在這些平臺(tái)似乎比起傳統(tǒng)工作環(huán)境更讓人感到岌岌可危,，因?yàn)榇_實(shí)如此,。傳統(tǒng)的雇主評(píng)估大多旨在幫助員工改進(jìn)，但是像TalentFinder這類(lèi)由算法進(jìn)行評(píng)估的網(wǎng)站主要是為了幫助平臺(tái)從眾多人選中自動(dòng)挑選出“最佳”工作者,，從而讓客戶(hù)滿(mǎn)意,。
“對(duì)平臺(tái)來(lái)說(shuō)，重點(diǎn)是優(yōu)化平臺(tái)的整體活力,，平臺(tái)的主要目標(biāo)并非是幫助工作者改進(jìn),。”拉赫曼說(shuō)道,?！皩?duì)人們的日常生活經(jīng)驗(yàn)而言，尤其是當(dāng)他們依賴(lài)平臺(tái)的工作機(jī)會(huì)時(shí),，這就可能非常挫折和困難,。”
住在籠子里,，并且塑造它
拉赫曼說(shuō),，從他開(kāi)始從事這項(xiàng)研究以來(lái)，他對(duì)我們多數(shù)人住的各種各樣看不見(jiàn)的籠子越來(lái)越了解,。例如,，他指出，近期報(bào)告詳細(xì)說(shuō)明了從我們的電視和吸塵器到我們用來(lái)處理醫(yī)療處方和汽車(chē)保險(xiǎn)的手機(jī)應(yīng)用程序,，所有這些都在收集我們的資料并且以我們基本上看不到的方式訓(xùn)練專(zhuān)屬算法,。
“我認(rèn)為當(dāng)我們進(jìn)入這個(gè)系統(tǒng)，我們所有的言行以及互動(dòng)情況都全部輸入到我們未必了解其存在的算法時(shí),，看不見(jiàn)的籠子比喻的適用范圍便更加廣泛,。”拉赫曼說(shuō),。
他指出,，有些人退出這些平臺(tái)的自由度更高，歸根結(jié)底就看他們對(duì)平臺(tái)的依賴(lài)度如何,。拉赫曼表示,，未來(lái)研究有一個(gè)可能成果相當(dāng)豐碩的領(lǐng)域，那就是探討種族、性別和收入等特征與對(duì)平臺(tái)依賴(lài)度以及其算法評(píng)估之間的關(guān)聯(lián)性,。比如，了解某些種族群體的人是否更可能先被算法“評(píng)估”（并被列入可能的黑名單）后才能夠去租公寓,、申請(qǐng)信用卡或參加健康保險(xiǎn),，這一點(diǎn)很重要。
“讓這個(gè)看不見(jiàn)的籠子的比喻浮出臺(tái)面是希望大家注意到這個(gè)現(xiàn)象,，并且希望用一種人們可以起共鳴的方式呈現(xiàn),。”拉赫曼說(shuō)道,?！爱?dāng)然，即便我們都意識(shí)到這個(gè)現(xiàn)象,，要知道怎么做還是很難,，因?yàn)檫@些系統(tǒng)很復(fù)雜而且算法改變的速度很快?！?/p>
立法機(jī)構(gòu)開(kāi)始對(duì)這個(gè)基本上沒(méi)有法律規(guī)范的領(lǐng)域提供某種程度的監(jiān)督,。2020年的《加州消費(fèi)者隱私權(quán)法案》（California Consumer Privacy Act）是美國(guó)國(guó)內(nèi)這類(lèi)立法中最強(qiáng)大的法案，它建立了網(wǎng)上用戶(hù)對(duì)于個(gè)人資料收集的知曉,、刪除和選擇的權(quán)利,。歐盟在2018年通過(guò)了更積極的立法。拉赫曼說(shuō)：“這是一個(gè)鼓舞人心的跡象,，不過(guò)僅有法規(guī)遠(yuǎn)遠(yuǎn)不能解決問(wèn)題,。”（財(cái)富中文網(wǎng)）
財(cái)富中文網(wǎng)所刊載內(nèi)容之知識(shí)產(chǎn)權(quán)為財(cái)富媒體知識(shí)產(chǎn)權(quán)有限公司及/或相關(guān)權(quán)利人專(zhuān)屬所有或持有,。未經(jīng)許可,，禁止進(jìn)行轉(zhuǎn)載、摘編,、復(fù)制及建立鏡像等任何使用,。
