AI社會學(xué)｜當(dāng)算法成了你的老板

某個元旦的早上，7點13分，來自佛羅里達的一位優(yōu)步（uber）司機想要下線休息。當(dāng)他試著關(guān)閉手機上的派單系統(tǒng)時，系統(tǒng)突然調(diào)皮地跳出一條消息：“你離賺滿40元還差6元，你確定現(xiàn)在就要下線嗎？” 司機還沒來得及細想，系統(tǒng)上“繼續(xù)駕駛”的按鈕已經(jīng)被高亮成誘人的淡藍色，好像在友好地邀請你點擊；相反，“下線”的那個按鈕被涂成了淡灰色。

圖片來源：How Uber Uses Psychological Tricks to Push Its Drivers’ Buttons, New York Times, 2017

這是“外賣騎手困在算法系統(tǒng)”的美國版本，曾在2017年引起過軒然大波。彼時，調(diào)查記者和社會學(xué)家們發(fā)現(xiàn)，由于零工經(jīng)濟（gig economy）平臺與員工之間沒有正式的雇傭關(guān)系，無法強制員工們在某個時刻上班，所以為了盡可能地將司機留在路上，或是將司機們導(dǎo)流到平臺希望的某時某地，美國主要的網(wǎng)約車平臺優(yōu)步（uber）和來福車（Lyft）雇傭了大批心理學(xué)家和數(shù)據(jù)科學(xué)家，運用了復(fù)雜的算法，設(shè)計了一系列 “心理學(xué)把戲” （psychological tricks）。或者說，通過算法和心理學(xué)，加上精致的交互界面設(shè)計，他們把整個系統(tǒng)變成了一場大型真人游戲。

例如，在優(yōu)步的系統(tǒng)里，新手司機通常會有一個“第一個25單”的里程碑。在新手們跑到10單左右，系統(tǒng)會自動彈出 “你快到一半了，恭喜” 的消息。值得注意的是，“25”絕對不是一個隨機數(shù)字—— 優(yōu)步旗下的大批數(shù)據(jù)科學(xué)家經(jīng)過對海量司機數(shù)據(jù)的分析，發(fā)現(xiàn)25單之后，司機留在平臺繼續(xù)工作的可能性大大增加。心理學(xué)家們也提供支持：給人們設(shè)定某個具體的目標， 會更容易激勵他們完成任務(wù)。

更早之前，優(yōu)步的主要競爭對手來福車雇傭了一個咨詢公司，想知道該怎樣在不大幅增加支出的情況下，將司機們導(dǎo)流到平臺最繁忙的時段。一樣通過數(shù)據(jù)分析和心理學(xué)實驗，來福車發(fā)現(xiàn)與其告訴司機們 “在更繁忙的周五晚上工作會將你的收入提高25%” ，還不如簡單地更換一下語言的組織方式：“停留在你目前工作的時段，你會比那些周五晚上開車的少賺25%”。 在行為經(jīng)濟學(xué)里，第二種組織語言的方式甚至有一個專有名稱叫做 “損失厭惡” （loss aversion）—— 是指人們面對同樣數(shù)量的收益和損失時，會主觀地認為損失更加令他們難以忍受。

當(dāng)然，在優(yōu)步和來福車的系統(tǒng)界面里也存在一系列跟美團、餓了么類似的徽章獎勵體系，“最佳服務(wù)”和“最幽默司機”僅僅是其中兩個。事實上，幾乎每隔一段時間，平臺都會自動在司機的界面彈出各種各樣眼花繚亂的目標和徽章獎勵，基于過往的行為數(shù)據(jù)，其精準化程度極高，使得司機們在打怪升級的快感里，持之以恒地為平臺貢獻著服務(wù)時間。

紐約大學(xué)的傳播學(xué)者娜塔莎·斯卡爾（Natasha Schüll）寫過一本很有意思的書，叫做《設(shè)計成癮》（Addiction by Design）。通過對拉斯維加斯老虎機的研究，她發(fā)現(xiàn)“設(shè)計”在上癮機制中起到重要作用，書中提出一個著名概念叫做“l(fā)udic loop”，指老虎機的設(shè)計者是如何通過不定期、不定量、不可預(yù)測地給予微小獎勵來使游戲者上癮的。在斯卡爾看來，系統(tǒng)永遠不是中立的，任何系統(tǒng)的設(shè)計都鑲嵌有權(quán)力掌控者的種種考量。

在社交媒體主導(dǎo)的今天，我們身邊的ludic loop比比皆是，商家們所使用的各種心理學(xué)小游戲也早已經(jīng)見怪不怪。然而，將類似的技巧使用到工作環(huán)境中，效果卻可能是災(zāi)難性的。

這一方面是因為，通過數(shù)字化，平臺基本已經(jīng)對員工的工作效率、時長、社交內(nèi)容、休息時間等等數(shù)據(jù)具有幾乎全景式的掌控，通過機器學(xué)習(xí)算法，很容易就推導(dǎo)出其間的各種關(guān)聯(lián)；再加上心理學(xué)和設(shè)計的加持，算法對于員工的“隱形操控”可能是以往種種強制性手段所無法比擬的。比如，相比于之前的強制加班，優(yōu)步早已發(fā)現(xiàn)給予司機適當(dāng)目標激勵可以促使他們更長地停留在線上。

另一方面， 由于缺少雇傭關(guān)系的法律約束，不僅平臺對員工缺少責(zé)任和義務(wù)，員工也無法對平臺進行有效追責(zé)。員工在平臺面前近乎裸奔，平臺卻始終是客觀的、數(shù)字驅(qū)動的、不可能出錯的黑箱系統(tǒng)。平臺之于員工是基于私人數(shù)據(jù)的個性化操控，這使傳統(tǒng)工會對于工人的組織也變得愈發(fā)困難。

在工作環(huán)境下，這種權(quán)力的不對等的關(guān)系比尤其突出，與社交媒體和商業(yè)導(dǎo)購不同，這里算法影響的不是你的下一個網(wǎng)絡(luò)好友、或是下一單網(wǎng)購零食，而是下一份工作。

想象未來的某一天，算法成為我們所有人的老板。每天早上，它溫情脈脈地將你喚醒，提醒你今天已經(jīng)是本月第八個九點之前進公司的日子，積滿十個，可以順利加入九點小組，獎勵精美徽章一個。在你疲憊不堪想把手頭文檔放下，去茶水間續(xù)命之時，系統(tǒng)會告訴你，89%的同事們已經(jīng)完成了本日工作，你想不想加快一點進度呢？

比起人類老板的咆哮如雷，算法老板永遠是甜美女聲。但它知道表面上你渾水摸魚，其實還有25%的潛力可以挖掘；也知道與其告訴你不干完這單就要罰錢，不如告訴你隔壁辦公室跟你同年的同事馬上就要升級來的更有效率。交互界面里代表算法系統(tǒng)的虛擬頭像，還可以進一步個性化、擬人化、和偶像化，讓你心甘情愿為之貢獻時間和精力。屆時，不止是外賣小哥被困在系統(tǒng)里，所有人，都會被困在全知全能且無法反制的算法里。

當(dāng)然，對社會學(xué)家們來說，更根本的永遠是權(quán)力問題。在被算法操縱的系統(tǒng)里，誰更有權(quán)力？誰受到壓制？

2017年，美國國會對當(dāng)代信息社會三大巨頭—— 谷歌、臉書和推特 ——舉行了聽證會。路易安那州的參議院約翰肯尼迪（John Kennedy) 說：先生們，我為今天來到這里的三大公司感到自豪，你們代表了今日的美國，你們也為善不少。但是，你們（所掌握的巨大）的權(quán)力又常常令我感到恐懼。

在優(yōu)步和來福車的算法系統(tǒng)引發(fā)巨大爭議的三年之后，美國各州對零工經(jīng)濟平臺們的抗議浪潮此起彼伏。今年八月，加州率先舉起法律武器，要求網(wǎng)約車和外賣平臺將司機和外賣員工重新定義為全職雇員，簽署正式雇傭合同，并且支付保險福利；優(yōu)步和來福車則以在加州停運加以威脅……

故事到了這里遠遠并沒有結(jié)束，雙方的角力仍將持續(xù)，但它的走向讓我們看到了某種隱約的可能性——

就算老板變成了算法，人類員工卻仍然是人類，可以組織，可以說“不”，可以有改變算法的力量和勇氣。

【參考文獻】

[1] Molly McHugh, What Congress Wants From Google, Twitter, and Facebook. https://www.theringer.com/tech/2017/11/1/16589586/google-facebook-twitter-russia-election-testify

[2] Natasha Schüll Addiction by Design: Machine Gambling in Las Vegas. Princeton: Princeton University Press (2012)

[3] Rosenblat, Alex, and Luke Stark. "Algorithmic labor and information asymmetries: A case study of Uber’s drivers." International Journal of Communication 10 (2016): 27.

[4] How Uber Uses Psychological Tricks to Push Its Drivers’ Buttons, New York Times, 2017

[5] Uber and Lyft’s California labor law battle is far from over, https://www.cnbc.com/2020/08/21/uber-and-lyfts-california-labor-law-battle-is-far-from-over.html

-----

作者沈虹，畢業(yè)于美國伊利諾伊大學(xué)香檳分校傳播學(xué)系，現(xiàn)任職于美國卡內(nèi)基梅隆大學(xué)。她用社會學(xué)的方法研究新興科技。