摘要 今天,算法已經(jīng)滲透到社會(huì)的各方面,對(duì)人的影響也不斷深化。算法社會(huì)中的人,被全程、全息數(shù) 據(jù)化,算法也推動(dòng)了人的標(biāo)簽化、評(píng)分制,這些都對(duì)人們的思維、行為產(chǎn)生影響。算法作為一種中介,構(gòu)建了一種數(shù)據(jù)化界面,重塑了人們對(duì)世界的認(rèn)知方式,同時(shí)算法也以匹配、調(diào)節(jié)與控制等方式建構(gòu)了各 種對(duì)象間的關(guān)系,算法的權(quán)力也因此不斷增加。算法對(duì)社會(huì)關(guān)系的另一種影響,是強(qiáng)化既有共同體的邊 界,或推動(dòng)新的共同體的形成,因此,算法對(duì)社會(huì)結(jié)構(gòu)的影響也會(huì)走向深層。
關(guān)鍵詞 算法;算法社會(huì);人的數(shù)據(jù)化;算法中介;算法權(quán)力;共同體
中圖分類號(hào)G206文獻(xiàn)標(biāo)識(shí)碼A
作者 彭蘭,中國(guó)人民大學(xué)新聞與社會(huì)發(fā)展研究中心研究員,中國(guó)人民大學(xué)新聞學(xué)院教授,博士生導(dǎo)師, 北京100872
DOI: 10.15897/j .cnki.cn51-1046/g2.2021.03.002
在計(jì)算機(jī)專家看來,算法是“一種有限、確定、有效并適合用計(jì)算機(jī)程序來 實(shí)現(xiàn)的解決問題的方法,是計(jì)算機(jī)科學(xué)的基礎(chǔ)”。通俗地說,今天的算法可以看 作是用計(jì)算機(jī)程序?qū)崿F(xiàn)的、基于數(shù)據(jù)分析、面向特定目標(biāo)的一套指令或方案。算 法即是規(guī)則,它不僅確立了機(jī)器所試圖實(shí)現(xiàn)的目標(biāo),同時(shí)也指出了實(shí)現(xiàn)目標(biāo)的路徑與方法。算法與數(shù)據(jù)的分析、加工技術(shù)相關(guān),也與數(shù)據(jù)采集技術(shù)相關(guān)。近些年社會(huì)化 媒體、移動(dòng)終端、大數(shù)據(jù)、云計(jì)算、人工智能、物聯(lián)網(wǎng)等一系列技術(shù)的發(fā)展,從 不同方向推動(dòng)了算法的應(yīng)用,也因此,算法這個(gè)本來有些深?yuàn)W的專業(yè)名詞頻頻出 現(xiàn)在我們的生活中,算法不僅改變著人們的生活,形塑著人們的行為,也將引發(fā)更多變革。
一、算法滲透的社會(huì)
今天的社會(huì),算法正日益滲透社會(huì)生活的各個(gè)方面。
在人們的信息獲取中,推薦算法已成為信息過濾的一種重要手段,無論是商 品信息的獲取,還是新聞或知識(shí)性信息的獲取。推薦算法對(duì)于人們認(rèn)知的影響, 也將進(jìn)入深層。而人們?cè)诟鞣N平臺(tái)閱讀的內(nèi)容,很多是由算法驅(qū)動(dòng)下的機(jī)器自動(dòng) 完成。算法正在成為信息環(huán)境建構(gòu)的重要力量。
在人們的日常生活中,價(jià)格算法影響著人們購(gòu)買商品的價(jià)位,導(dǎo)航算法、網(wǎng) 約車平臺(tái)算法和未來的自動(dòng)駕駛汽車的算法影響著人們的出行,外賣平臺(tái)算法在 決定人們收到外賣的時(shí)效同時(shí),也在控制著騎手們的勞動(dòng)。一些婚戀網(wǎng)站,則用算法來進(jìn)行姻緣匹配。
從經(jīng)濟(jì)角度看,算法推動(dòng)了新經(jīng)濟(jì)模式的發(fā) 展,特別是諸如共享經(jīng)濟(jì)這樣的新經(jīng)濟(jì)模式,也 改變著傳統(tǒng)經(jīng)濟(jì)模式,進(jìn)一步,有研究者提出了 算法經(jīng)濟(jì)的概念,即將生產(chǎn)經(jīng)驗(yàn)、邏輯和規(guī)則總 結(jié)提煉后“固化”在代碼上,使生產(chǎn)經(jīng)營(yíng)活動(dòng)無 須人工干預(yù)、自動(dòng)執(zhí)行的經(jīng)濟(jì)模式,其目標(biāo)是通過 算法的應(yīng)用大幅改善供需匹配效率和交易成本。[3]
牛津大學(xué)教授阿里爾?扎拉奇等人在 辭法的陷 阱:超級(jí)平臺(tái)、算法壟斷與場(chǎng)景欺騙》一書中,也 應(yīng)用了算法經(jīng)濟(jì)的概念(algorithm- driven econom^ , 雖然他們對(duì)于算法經(jīng)濟(jì)的界定與上文的定義不盡 相同,但同樣也是從算法的視角關(guān)注新經(jīng)濟(jì)及其 影響。在書中,作者指出:通過精妙的計(jì)算機(jī)算 法,互聯(lián)網(wǎng)的興起與普及的確在某種程度上深化 了市場(chǎng)競(jìng)爭(zhēng)并為民眾帶來了諸多便利與實(shí)惠,但 這種由信息技術(shù)演進(jìn)帶來的市場(chǎng)經(jīng)濟(jì)模式的轉(zhuǎn)變 也導(dǎo)致了社會(huì)資源發(fā)生了不公正的再分配。
無論是個(gè)體,還是機(jī)構(gòu),越來越多的認(rèn)知與 決策,是在算法的輔助甚至主導(dǎo)下完成。而通過 算法來判斷輿情態(tài)勢(shì)、社會(huì)風(fēng)險(xiǎn),也正在成為各 類機(jī)構(gòu)和管理部門常用手段。在法律界,甚至出 現(xiàn)了用“風(fēng)險(xiǎn)評(píng)估工具”算法來確定罪犯刑期的 做法,這種算法參考了數(shù)十年的量刑判例,結(jié)合 了十幾個(gè)參數(shù),來評(píng)估被告在一定時(shí)期內(nèi)重新犯罪的可能性。
算法越來越多地左右著對(duì)個(gè)體的評(píng)價(jià),影響 著個(gè)體的社會(huì)形象,甚至影響著人們?cè)谏鐣?huì)中的位 置及流動(dòng)可能性。各種網(wǎng)絡(luò)平臺(tái)的評(píng)分機(jī)制,大多 是基于數(shù)據(jù)與算法。新冠疫情期間啟用的健康碼, 也是一種綜合算法,它可以計(jì)算出人們是否具有病 毒傳播風(fēng)險(xiǎn)。人力資源部門可能利用算法來決定人 員聘用、升遷,銀行利用算法來決定貸款發(fā)放。數(shù) 據(jù)、算法以及由此形成的評(píng)分,成為今天社會(huì)一種 重要的評(píng)價(jià)思維。這種評(píng)價(jià)思維,也對(duì)人的行為產(chǎn) 生了越來越大的調(diào)節(jié)作用。可以想象,算法也將成 為個(gè)人的社會(huì)信用評(píng)價(jià)體系的重要基礎(chǔ)。
除了個(gè)人的社會(huì)信用評(píng)價(jià),算法還將全面進(jìn) 入社會(huì)治理體系,研究者期待,將社會(huì)治理具體 規(guī)則融入人工智能算法模型,使智能設(shè)備“掌握” 規(guī)則知識(shí)、并根據(jù)管理目標(biāo)自動(dòng)感知、自動(dòng)識(shí)別、 自動(dòng)預(yù)測(cè)、自動(dòng)判斷與自動(dòng)處置。向利用大數(shù)據(jù)、 數(shù)據(jù)分析、人工智能和機(jī)器學(xué)習(xí)的可能性,圍繞 算法開發(fā)數(shù)據(jù)驅(qū)動(dòng)的綜合管理結(jié)構(gòu)叫在實(shí)踐層 面,健康碼的實(shí)施便是算法治理的一次重要實(shí)踐, 它意味著建立在數(shù)字城市性、算法化社會(huì)性、大 數(shù)據(jù)主義這三大要素之上的算法治理,系統(tǒng)性地 升級(jí)了面向人口的“安全技術(shù)”。兇算法治理將一 切可能的因素都變成了算法上可以控制的元素, 并將各種可預(yù)知的風(fēng)險(xiǎn)降到了最低,從而最大限 度地保障了共同體和國(guó)家的“安全”和“穩(wěn)定”。但與此同時(shí),數(shù)字政治下的算法治理不僅僅將活 生生的生命變成了檔案和數(shù)據(jù),也變成了受算法掌控和支配的行動(dòng)者(agents) o [9]
未來,隨著物聯(lián)網(wǎng)等技術(shù)的發(fā)展,數(shù)據(jù)采集 維度更為多元,基于數(shù)據(jù)和相關(guān)算法進(jìn)行的社會(huì) 管理、社會(huì)控制也必將進(jìn)一步深化,形成所謂的 智慧社會(huì)。智慧社會(huì)可以基于各種信息采集、處 理系統(tǒng)形成一種社會(huì)的“數(shù)字神經(jīng)系統(tǒng)”,它能感 知社會(huì)狀態(tài),將之與需求和動(dòng)態(tài)反應(yīng)模型相結(jié)合, 并用得到的結(jié)果來校正系統(tǒng)。卩。]這種感知、反饋與 校正,離不開算法的支持。雖然有研究者認(rèn)為智 慧社會(huì)將推動(dòng)傳統(tǒng)的中央集權(quán)、信息非對(duì)稱、交 互不對(duì)等的社會(huì)管理結(jié)構(gòu)向權(quán)利平等、信息對(duì)稱、 位置對(duì)等的創(chuàng)新社會(huì)管理結(jié)構(gòu)的轉(zhuǎn)變叫,但另一方 面,智慧社會(huì)的管理權(quán)力將向數(shù)據(jù)與算法的擁有 者傾斜,新的權(quán)力不平衡甚至集權(quán)也可能會(huì)形成, 在社會(huì)管理日益便利、高效的同時(shí),個(gè)人權(quán)利的 保障卻可能變得更為困難。
無論我們是否愿意接受算法的統(tǒng)治,我們已 經(jīng)進(jìn)入了一個(gè)隨時(shí)可能被算法算計(jì)的社會(huì)。而算法的基礎(chǔ)——人的數(shù)據(jù)化,也正在改變我們的生存與生活。
二、算法社會(huì)人的數(shù)據(jù)化、標(biāo)簽化與評(píng)分制
算法與數(shù)據(jù)、算力是人工智能共同的基礎(chǔ),算法離不開數(shù)據(jù),因此,算法社會(huì)的前提是萬物 數(shù)據(jù)化,這也包括人的數(shù)據(jù)化。算法的廣泛應(yīng)用, 更是強(qiáng)化了人的數(shù)據(jù)化。
在算法推薦中,無論是內(nèi)容的推薦,還是電 商產(chǎn)品的推薦,都需要描繪用戶畫像,也就是通 過各種渠道收集的用戶數(shù)據(jù)來建立用戶模型,使 其成為算法分析的對(duì)象。早期的數(shù)據(jù)主要是用戶 在各種平臺(tái)提供的注冊(cè)數(shù)據(jù),以及在網(wǎng)絡(luò)中發(fā)布 的內(nèi)容、瀏覽痕跡、購(gòu)買記錄等行為數(shù)據(jù),但隨 著移動(dòng)終端、智能物體的發(fā)展,身體的數(shù)據(jù)化,也開始變得普遍。身體的運(yùn)動(dòng)軌跡、身體狀態(tài)等數(shù)據(jù),也成為用戶數(shù)據(jù)的重要構(gòu)成部分。
未來算法和其他技術(shù)的發(fā)展,甚至有可能基于不同的場(chǎng)景和目標(biāo),建立用戶的動(dòng)態(tài)數(shù)字化映 射模型。例如,通過人臉識(shí)別來辨識(shí)個(gè)體的身份, 通過定位系統(tǒng)了解人的空間位置或軌跡變化,通過智能眼鏡了解人的視線的移動(dòng)及關(guān)注焦點(diǎn)以分 析人在現(xiàn)實(shí)空間中的需求,通過人的心跳、分泌 的汗液、腦電波等生理層面的數(shù)據(jù)來感知人的情 緒變動(dòng),人的全息、全時(shí)數(shù)據(jù)化將成為可能。
全息、全時(shí)的數(shù)據(jù)化構(gòu)建了人的一種“虛擬 實(shí)體”,這不僅為網(wǎng)絡(luò)服務(wù)提供更多的動(dòng)態(tài)依據(jù),更是成為了人的數(shù)字化生存的一種新形態(tài)。“虛 擬實(shí)體”能更真實(shí)、直接地反映個(gè)體的身體狀態(tài)、 行為等現(xiàn)實(shí)化存在,人們的身體及現(xiàn)實(shí)行為與數(shù) 據(jù)之間的對(duì)應(yīng)關(guān)系變得更為直接,人們通過數(shù)據(jù) 進(jìn)行自我控制,特別是身體控制,也會(huì)更為普遍。
而社交媒體的普及,也在進(jìn)一步推動(dòng)人們以 文字、圖片、短視頻和直播等各種形式進(jìn)行媒介 化表達(dá),這種表達(dá)的結(jié)果同樣也是數(shù)據(jù),這些數(shù) 據(jù)與虛擬實(shí)體一起,共同構(gòu)成了個(gè)體的數(shù)據(jù)化生存。數(shù)據(jù)化的個(gè)體與他人的交往也是數(shù)據(jù)化的, 基于數(shù)據(jù)的互動(dòng),體現(xiàn)著個(gè)體的存在感,也成為社交“表演”的一部分,影響著人的自我表達(dá)、自我認(rèn)知與社會(huì)關(guān)系。
對(duì)個(gè)體來說,數(shù)據(jù)化生存,也帶來了一種數(shù) 字化的“人格”。有研究者將數(shù)字化人格定義為 “通過個(gè)人信息的收集和處理勾畫一個(gè)在網(wǎng)絡(luò)空間的 個(gè)人形——即憑借數(shù)字化信息而建立起來的人 格”。也有研究者將其界定為基于算法對(duì)數(shù)據(jù)本體 的個(gè)人先前行為軌跡進(jìn)行數(shù)字化描摹并進(jìn)行信用評(píng) 級(jí)由此生成的數(shù)字化個(gè)人鏡像,數(shù)字人格意在勾勒 出數(shù)據(jù)本體在社會(huì)活動(dòng)中的可信任程度。回雖然研 究者對(duì)數(shù)字人格的關(guān)注重點(diǎn)有所不同,但從數(shù)字畫 像到數(shù)字人格的概念的變化,說明了人與數(shù)據(jù)關(guān)系 從表層走向深層,數(shù)據(jù)成為人及人格的一個(gè)必不可 少的組成部分,“我們被數(shù)據(jù)化,我們自身以及行 動(dòng)被記錄下來,數(shù)據(jù)調(diào)節(jié)和塑造我們的行為。”
學(xué)者藍(lán)江指出,個(gè)體的數(shù)據(jù)化,也意味著生命 的“檔案化”,這意味著個(gè)體生命已經(jīng)進(jìn)入生命政治 的治理裝置之中,個(gè)體數(shù)據(jù)成為治理層面維系社會(huì) 安全和運(yùn)作的基本方式。同時(shí)也讓每一個(gè)參與共同 體和國(guó)家活動(dòng)的個(gè)體,都必須按照這種可治理的方 式來重新生產(chǎn)自身。冏除了政治力量外,在商業(yè)領(lǐng) 域,算法也在加劇對(duì)個(gè)體數(shù)據(jù)的利用與控制,“算 法與商業(yè)資本結(jié)合形成監(jiān)視資本主義,用戶被嵌入數(shù)據(jù)生產(chǎn)鏈條,變成被算法支配調(diào)控的客體。”
數(shù)據(jù)可以通過外部力量對(duì)個(gè)體的作用,也會(huì) 通過自我傳播產(chǎn)生影響。
人類的“自我傳播”(內(nèi)向傳播),是“主我” 與“客我”之間的對(duì)話,有時(shí)它也需要一些外在的中介,例如日記和社交媒體,而今天包括傳感 器、可穿戴設(shè)備在內(nèi)的智能物體成為了另一類重 要的中介。智能物體甚至使得過去被認(rèn)為是不可 量化的精神層面的反應(yīng),如情緒與心理狀態(tài)等被 量化,這些數(shù)據(jù)也會(huì)作用于個(gè)體。借助各種外化 的數(shù)據(jù),自我傳播也會(huì)成為精神自我與物質(zhì)自我 的一種對(duì)話,帶來一種“反身性”運(yùn)動(dòng)。
后人類學(xué)者海勒認(rèn)為:“反身性就是一種運(yùn)動(dòng),經(jīng)由這種運(yùn)動(dòng),曾經(jīng)被用來生成某個(gè)系統(tǒng)的東西,從一個(gè)變換的角度,被變成它所激發(fā)的那 個(gè)系統(tǒng)的一部分。”控制論的角度看,這意味著 “信息從系統(tǒng)流向觀察者,但是反饋回路也可能回溯 到觀察者,將他們變成被觀察的系統(tǒng)之一部分”。[18] 作為觀察者與被觀察者一體、傳者與受者一體的人, 其自我傳播就是一種反身性運(yùn)動(dòng),是“行動(dòng)的反身 性”,即作為觀念動(dòng)物的主體擁有反過來針對(duì)自身并 監(jiān)控自身行動(dòng)的能力。回而傳感器的作用,是將過 去人很難量化的一些狀態(tài)變?yōu)閿?shù)據(jù),這使人對(duì)自身 的觀察與反身控制進(jìn)入一個(gè)新的層面。
但也需要看到,這種基于數(shù)據(jù)的自我觀察也 并非完全是個(gè)人化的“反身運(yùn)動(dòng)”,某些時(shí)候,它 會(huì)被公開并成為自我表達(dá)、社交互動(dòng)的一種手段,例如,社交平臺(tái)上人們曬出的自己的行走步數(shù)。出于表演、競(jìng)爭(zhēng)等目的,人們往往要獲得更“漂亮”的數(shù)據(jù),并可能因此改變自己的行為。原來屬于 “精神自我”與“物質(zhì)自我”的反身性對(duì)話,也會(huì)變成個(gè)人與他人、環(huán)境之間的一種互動(dòng)。數(shù)據(jù)化在深化人的自我傳播的同時(shí),也推動(dòng)了人與外界的互動(dòng)。
當(dāng)人們的身體不斷映射為數(shù)據(jù)化的虛擬實(shí)體 時(shí),也會(huì)出現(xiàn)一種可能性,就是因?yàn)樵O(shè)備問題或 數(shù)據(jù)采集、處理方法的不當(dāng),虛擬實(shí)體與實(shí)體之間會(huì)出現(xiàn)偏差甚至沖突。隨之而來的問題是, “當(dāng)數(shù)字身體與物理身體發(fā)生偏差,誰才是真實(shí)性 的依據(jù)呢?……技術(shù)作為工具,是便捷了主體,還是捆綁了主體? ”例這種人的實(shí)體與虛擬實(shí)體之間的沖突在未來顯然不會(huì)罕見,由技術(shù)綁架主體的情形也會(huì)時(shí)有發(fā)生。
除了身體和日常行為的數(shù)據(jù)化外,勞動(dòng)或工作過程及其評(píng)估的數(shù)據(jù)化,在今天也越來越常見,這也是對(duì)勞動(dòng)者進(jìn)行控制的一種重要手段。外賣騎手、網(wǎng)約車司機(jī)、數(shù)字平臺(tái)的內(nèi)容生產(chǎn)者,都是典型的代表。而除了這些群體外,各種群體都 有可能被日益量化的評(píng)價(jià)機(jī)制中的數(shù)據(jù)所左右。
雖然數(shù)據(jù)化成為算法社會(huì)個(gè)體生存的基本形 態(tài),但并非所有人都能順利地實(shí)現(xiàn)數(shù)據(jù)化。疫情期間,那些不能使用手機(jī)的人,就不能順利獲得 其健康狀態(tài)的數(shù)據(jù),這也給他們的日常生活增加了 很多障礙。這時(shí),數(shù)據(jù)化也是兌換個(gè)人權(quán)利的必要 資本。與此類似,個(gè)體要享受各種數(shù)字平臺(tái)服務(wù), 都需要將自己進(jìn)行某些維度的數(shù)據(jù)化,并將這些數(shù) 據(jù)出讓給平臺(tái)。數(shù)據(jù)化在幫助個(gè)體獲得服務(wù)、利益 的同時(shí),又導(dǎo)致了個(gè)人權(quán)益被侵犯、占用。
算法社會(huì)個(gè)體產(chǎn)生了無數(shù)的數(shù)據(jù),這些數(shù)據(jù) 甚至成為了平臺(tái)的重要資源或資本,但人們并不 完全擁有對(duì)自身的數(shù)據(jù)的自主權(quán),無論是采集、保存還是擴(kuò)散。很多時(shí)候,他們甚至完全無能為 力。雖然在法律上對(duì)數(shù)字時(shí)代個(gè)人隱私權(quán)、被遺 忘權(quán)及其他權(quán)利的討論一直在持續(xù),但是,在實(shí) 踐中,在個(gè)人數(shù)據(jù)保護(hù)方面,個(gè)體的弱勢(shì)地位并 未改變甚至每況愈下。
數(shù)據(jù)化的一個(gè)后續(xù)結(jié)果,是標(biāo)簽化,標(biāo)簽化 往往也是算法應(yīng)用的前提。對(duì)人、內(nèi)容、產(chǎn)品等打上各種標(biāo)簽,通過標(biāo)簽進(jìn)行匹配,這是推薦算法的常用思路之一.智能學(xué)習(xí)算法也往往要基于 分類化的數(shù)據(jù)標(biāo)記,也就是數(shù)據(jù)的標(biāo)簽化。
用戶的標(biāo)簽化,也來源于用戶給自己打的標(biāo)簽,很多社交平臺(tái)都有標(biāo)簽的功能,用戶通過幾 個(gè)標(biāo)簽來描繪自己的典型特征。在推薦算法的設(shè) 計(jì)者看來,這樣的標(biāo)簽作為由用戶產(chǎn)生的元數(shù)據(jù), 能夠反映用戶的需求及其變化,而且標(biāo)簽系統(tǒng)所 構(gòu)建的“用戶-資源-標(biāo)簽”之間的關(guān)系網(wǎng)絡(luò)能夠 為個(gè)性化信息推薦提供十分有價(jià)值的基礎(chǔ)數(shù)據(jù)。[21]
標(biāo)簽可能是算法的依據(jù),也可能是算法的計(jì) 算結(jié)果。健康碼中的綠碼(“未見異常”)就是典 型的算法計(jì)算出來的標(biāo)簽,這個(gè)標(biāo)簽賦予人們?cè)?社會(huì)中暢通無阻的權(quán)利,如果被打上“紅碼”,則 會(huì)寸步難行。算法計(jì)算后賦予人的標(biāo)簽,一方面 描繪了某些個(gè)體特征,另一方面,也可能界定人們的社會(huì)屬性或群體歸屬,這種標(biāo)簽也可能會(huì)固 化人們的社會(huì)位置。
雖然標(biāo)簽常常是為算法服務(wù)的,但在算法鼓勵(lì) 人們自我標(biāo)簽化的環(huán)境下,人們也會(huì)開始更多用標(biāo) 簽化方式來看待自己,標(biāo)簽?zāi)承r(shí)候會(huì)成為“人設(shè)” 的標(biāo)志,它們反過來也會(huì)影響到人們的行為。
在現(xiàn)實(shí)世界,將認(rèn)識(shí)對(duì)象貼上標(biāo)簽以進(jìn)行評(píng)價(jià)與站隊(duì)的標(biāo)簽化思維也非常普遍,這也是心理 學(xué)中所揭示的“便捷式判斷”的體現(xiàn)。雖然標(biāo)簽 化思維與算法中的標(biāo)簽化并不一樣,但兩者的共通之處在于復(fù)雜對(duì)象的簡(jiǎn)單化,它們對(duì)個(gè)體的兩面夾擊,也會(huì)使得人們的標(biāo)簽化意識(shí)變得普遍。
與標(biāo)簽化類似的,通過數(shù)據(jù)和算法對(duì)人進(jìn)行評(píng)分,在算法社會(huì)也越來越盛行。算法社會(huì)對(duì)個(gè)體的評(píng)分主要有兩種情形,一種是個(gè)體對(duì)個(gè)體的評(píng)分,一種是機(jī)構(gòu)或組織對(duì)個(gè)體的評(píng)分。
個(gè)體間的評(píng)分,是互聯(lián)網(wǎng)空間中關(guān)系建立的 重要基礎(chǔ)。在打破了現(xiàn)實(shí)邊界的網(wǎng)絡(luò)互動(dòng)空間里, 評(píng)分機(jī)制使人們可以快速地了解判斷陌生的他人, 使人們決定是否需要建立相應(yīng)關(guān)系,在需要進(jìn)行交 易時(shí),這種判斷尤為重要。各種平臺(tái)的評(píng)分機(jī)制, 會(huì)使得人們?cè)谝?guī)則下有更多的自我約束,也有更多 的行為參照,獲得好的評(píng)分甚至也可能成為一種行 為目標(biāo)。人們對(duì)任何不利于自己的評(píng)分都會(huì)格外敏 感,淘寶賣家為了獲得好評(píng)、避免差評(píng)更是不遺余力。在網(wǎng)絡(luò)的內(nèi)容生產(chǎn)中,評(píng)分也是衡量影響力的 重要指標(biāo),很多時(shí)候也與經(jīng)濟(jì)收益關(guān)聯(lián)。
網(wǎng)絡(luò)中個(gè)體間的評(píng)分,打破了過去單一的組 織評(píng)價(jià)機(jī)制,每個(gè)個(gè)體都擁有了對(duì)他人進(jìn)行評(píng)分 的權(quán)力,每個(gè)個(gè)體得到的評(píng)價(jià)也來自于多元的主 體。評(píng)分制也使得評(píng)價(jià)結(jié)果被明朗、量化,易于 判斷、比較。
而機(jī)構(gòu)對(duì)個(gè)體的評(píng)分結(jié)果不僅是對(duì)人的狀態(tài)、 信用、能力的評(píng)定,也是權(quán)利、利益分配的基礎(chǔ)。 雖然在這類評(píng)分機(jī)制中機(jī)構(gòu)仍然是主體,但算法 在某些時(shí)候也會(huì)影響機(jī)構(gòu)的判斷。
研究者指出,評(píng)分機(jī)制代表了一種規(guī)則理性化 的趨勢(shì),便利了現(xiàn)有法律(以及背后的公共權(quán)力)和平臺(tái)私人權(quán)力的擴(kuò)張和強(qiáng)制執(zhí)行,同時(shí)也是對(duì)流動(dòng) 的社會(huì)規(guī)范進(jìn)一步確認(rèn)、固定化和再生產(chǎn)的過程。四 這些流動(dòng)的社會(huì)規(guī)范,往往是內(nèi)嵌在算法中的。
評(píng)分制雖然有時(shí)過于簡(jiǎn)單,但它至少以可操 作的方式推動(dòng)了個(gè)體對(duì)公共規(guī)則的認(rèn)識(shí)與遵從,也為人們的社會(huì)互動(dòng)提供了一定的安全性保障。 但是,當(dāng)基于數(shù)據(jù)與算法的評(píng)分機(jī)制成為人的重 要評(píng)價(jià)機(jī)制時(shí),出于種種動(dòng)因,在評(píng)分上造假、 作弊也就難以避免,而對(duì)評(píng)分權(quán)力的爭(zhēng)奪與壟斷,也會(huì)成為一些機(jī)構(gòu)或平臺(tái)的目標(biāo)。
三、作為中介的算法建構(gòu)的認(rèn)知與關(guān)系
算法不僅影響了人的生存,也影響了人與萬 物的關(guān)系,成為了人與萬物間的一種中介。在智 能化內(nèi)容生產(chǎn)中,算法是人與認(rèn)識(shí)對(duì)象的中介。 在社交媒體中,當(dāng)算法向人們推薦好友時(shí),算法 是人與人的中介。在信息平臺(tái),推薦算法是人與 信息的中介。在電商平臺(tái),算法是人與商品的中 介。而在數(shù)字勞動(dòng)者那里,算法是供需關(guān)系、勞 動(dòng)關(guān)系的中介。在商業(yè)運(yùn)營(yíng)、社會(huì)管理中,算法 更是成為多重關(guān)系的中介。
算法的中介作用,既表現(xiàn)為認(rèn)知的建構(gòu),也 表現(xiàn)為關(guān)系的建構(gòu)。
作為中介的算法,重塑了人對(duì)世界的認(rèn)識(shí)。 算法將世界的各種對(duì)象映射為一定的數(shù)據(jù)及模型, 也就是在人與這些對(duì)象之間,提供了一個(gè)數(shù)據(jù)化 的“界面”。不同的目標(biāo),不同的數(shù)據(jù)維度,不同 的算法模型,會(huì)帶來不同的界面。
機(jī)器通過算法自動(dòng)創(chuàng)作的內(nèi)容,無論是文字 報(bào)道、視頻,還是詩(shī)歌、繪畫,本質(zhì)上也是這樣 一種數(shù)據(jù)化界面。雖然在外觀上看,這些作品與 人生產(chǎn)的作品是相似的,甚至可能沒有明顯差異, 但算法的內(nèi)容生產(chǎn)原理與人的內(nèi)容生產(chǎn)原理卻截 然不同。在算法那里,紛繁復(fù)雜的世界都被抽象 為數(shù)據(jù),機(jī)器完成的所有創(chuàng)作,都是數(shù)據(jù)與代碼 運(yùn)算的結(jié)果。相比人以往認(rèn)識(shí)世界、反映世界的 方式,數(shù)據(jù)和算法可以提取人的感官不能捕捉的 現(xiàn)實(shí)世界的某些維度,呈現(xiàn)世界的另一面,也可 以計(jì)算出人憑經(jīng)驗(yàn)難以發(fā)現(xiàn)的規(guī)律或事物的走向, 甚至可以打破人類思維的套路。人工智能和大數(shù) 據(jù)技術(shù)的進(jìn)一步發(fā)展,還會(huì)進(jìn)一步提高數(shù)據(jù)對(duì)于 現(xiàn)實(shí)世界的刻畫、分析與預(yù)測(cè)能力。
有學(xué)者指出,大數(shù)據(jù)開始構(gòu)建事物的“數(shù)據(jù)表象”,使現(xiàn)實(shí)事物從感性存在轉(zhuǎn)變?yōu)?/span>“數(shù)據(jù)存在”,事物之間的相關(guān)關(guān)系取代因果關(guān)系,海量數(shù)據(jù)“自動(dòng)”呈現(xiàn)出某種規(guī)律。四而大數(shù)據(jù)的應(yīng)用,離不開算法。
算法的流行,不僅推動(dòng)了人們行為、身體的 數(shù)據(jù)化,也在推動(dòng)人的思維的數(shù)據(jù)化,也就是感 性思維越來越多地讓位于數(shù)據(jù)思維為主的表象思維。算法可以將模糊的對(duì)象變成明晰的數(shù)據(jù),將 不確定性變成確定性,這似乎給了人們更多的對(duì) 世界的“把握感”與“安全感”。也因此,數(shù)據(jù)主義成為一些人的信條,也就是將數(shù)據(jù)和算法看作 世界萬物、人際關(guān)系的存在論基石,一切似乎都 可以被歸結(jié)為數(shù)據(jù)和算法的抉擇與更替。
但是,數(shù)據(jù)并不能反映事物的一切層面,表 象直觀的數(shù)據(jù)思維,雖然在某些方面打破了以往 人的感性思維的局限,但也帶來新的局限。數(shù)據(jù) 看似客觀,但數(shù)據(jù)的篩選、模型的建立仍是主觀 的。過度依靠數(shù)據(jù)思維,也有可能造成一種認(rèn)知 封閉,這種認(rèn)知封閉首先體現(xiàn)在人們的思維認(rèn)知 被牢牢鎖定在過去的數(shù)據(jù)痕跡之中。四而缺乏數(shù)據(jù) 的駕馭能力,缺乏對(duì)數(shù)據(jù)質(zhì)量的評(píng)估能力,更會(huì) 使得人隨時(shí)掉入數(shù)據(jù)的陷阱。
算法和機(jī)器帶來的,畢竟只是一種數(shù)據(jù)化界 面,這種界面既可能準(zhǔn)確反映世界的某個(gè)維度或側(cè)面,也可能出現(xiàn)失真。即使沒有失真,如果我們?nèi)魏螘r(shí)候都要透過這層界面去認(rèn)識(shí)和反映世界, 那么,人與萬物之間的直接關(guān)系將被弱化,世界 的很多維度被削弱因而變得“扁平”。人的主觀觀察、認(rèn)知與描繪世界的能力也會(huì)下降,人的認(rèn)識(shí) 與決策,也會(huì)變成算法的認(rèn)識(shí)與決策,并因此受 到算法設(shè)計(jì)者或控制者的制約。如有學(xué)者指出,人的數(shù)字化與智能化的生存方式,將會(huì)使人與自然的關(guān)系發(fā)生逆轉(zhuǎn)。在這個(gè)轉(zhuǎn)變過程中,人類越來越生活在技術(shù)營(yíng)造的環(huán)境中,認(rèn)識(shí)關(guān)系將會(huì)變成權(quán)力關(guān)系。
作為中介的算法也在建構(gòu)事物間的關(guān)系,匹配、調(diào)節(jié)、控制是主要的關(guān)系模式。
算法進(jìn)行的匹配,也就是篩選、計(jì)算出適合 的關(guān)系并進(jìn)行連接。算法之所以在今天日益普及, 也是因?yàn)橛行╆P(guān)系的發(fā)現(xiàn)、評(píng)估是靠人力不能完 成的,例如在網(wǎng)約車平臺(tái)實(shí)現(xiàn)的司機(jī)與乘客的實(shí) 時(shí)匹配。算法在匹配、連接的同時(shí),也有可能將 個(gè)體的能量聚集起來,成為一種集體能量,這是 共享經(jīng)濟(jì)平臺(tái)正在實(shí)踐的,這也是傳統(tǒng)的人力方 式難以實(shí)現(xiàn)的。
作為中介的算法,既有可能提供準(zhǔn)確的匹配, 也有可能提供無效或者錯(cuò)誤的連接,這取決于算法模型的合理性、它所依據(jù)的數(shù)據(jù)的可靠性。另 一方面,算法也可能會(huì)阻止一些連接的發(fā)生,例 如,個(gè)性化內(nèi)容推薦算法會(huì)過濾掉很多信息,使 人與那些信息之間失去連接。信用評(píng)估算法會(huì)讓一 些人因?yàn)閭€(gè)人背景而失去獲得工作或貸款的機(jī)會(huì), 這也是對(duì)連接的阻斷,而在沒有算法的年代,在這 些個(gè)人背景不容易被他人掌握的情況下,情況可能 會(huì)有所不同。雖然這些算法的設(shè)計(jì)目標(biāo)是便利、效 率、風(fēng)險(xiǎn)控制等,但某些時(shí)候它也是對(duì)個(gè)體自主 權(quán)、選擇權(quán)及自我突破機(jī)會(huì)的壓制甚至剝奪。
為了通過算法建立起各種匹配,算法的設(shè)計(jì) 者需要學(xué)習(xí)、研究現(xiàn)實(shí)社會(huì)的各種關(guān)系模式。在某種意義上,算法為我們提供了一個(gè)思考、評(píng)估 現(xiàn)有的關(guān)系及其本質(zhì)的機(jī)會(huì),在此基礎(chǔ)上,算法 可能用自己的方式建構(gòu)出社會(huì)關(guān)系,而這個(gè)過程 是對(duì)社會(huì)關(guān)系進(jìn)行重置的過程。即這種重置既有可 能是重復(fù)、強(qiáng)化,也有可能是顛覆。但在目前的 算法設(shè)計(jì)中,重復(fù)、強(qiáng)化更為常見。多數(shù)推薦算 法是對(duì)人們以往關(guān)系或興趣的強(qiáng)化,一些評(píng)估算 法是對(duì)社會(huì)偏見與原有制度的強(qiáng)化。這并不意味 著不存在顛覆可能,只是算法設(shè)計(jì)者在目前更可 能沿用舊有的文化模式、思維框架。人工智能是 人類思維的映像,人類在面對(duì)某些問題時(shí)采取的 “范疇化傾向”的認(rèn)知態(tài)度,也在人工智能的算法 流程中體現(xiàn)出來。這種重復(fù)中,也可能繼承著人類原有的偏見、歧視等思維慣性。算法出現(xiàn)的偶 然誤判,也會(huì)在后續(xù)的算法中被不斷繼承、放大。
盡管算法提供的匹配方案未必是最優(yōu)的,但人們對(duì)于算法的優(yōu)劣難以做出評(píng)估,因?yàn)檫@樣的評(píng)估往往要耗費(fèi)人們大量時(shí)間,有時(shí)甚至是人力 難以企及,而且當(dāng)人們感受到算法帶來的便利時(shí), 也會(huì)更多地順從自己的惰性,依從甚至依賴算法 的引導(dǎo)。
作為中介的算法,常常也會(huì)通過一定的機(jī)制調(diào)節(jié)與控制著各種對(duì)象及其相互關(guān)系。
例如,在內(nèi)容平臺(tái),算法調(diào)節(jié)著生產(chǎn)者-內(nèi) 容?消費(fèi)者幾者之間的關(guān)系。信息推薦算法不僅 影響著個(gè)人的信息獲取,也會(huì)影響著整個(gè)平臺(tái)的 流量分布,而流量指標(biāo)反過來也會(huì)影響到內(nèi)容生 產(chǎn)者的取向,算法和數(shù)據(jù)建立起了內(nèi)容消費(fèi)者與 生產(chǎn)者之間的反饋回路,形成了內(nèi)容平臺(tái)的調(diào)節(jié) 邏輯,也帶來一種新的產(chǎn)消關(guān)系,這使得內(nèi)容生 產(chǎn)者可以更直觀、直接地了解用戶的需求與評(píng)價(jià)。 但從另一方面看,當(dāng)內(nèi)容生產(chǎn)者被算法鉗制時(shí), 他們對(duì)于內(nèi)容的專業(yè)判斷力也會(huì)受到抑制,一些 時(shí)候也會(huì)屈從于算法計(jì)算出來的“民意”。算法也 在影響人-信息環(huán)境-現(xiàn)實(shí)世界的關(guān)系,在算法 調(diào)節(jié)下各類信息在平臺(tái)中構(gòu)建的“擬態(tài)環(huán)境”,控 制著人們對(duì)現(xiàn)實(shí)世界的認(rèn)知,但有時(shí)它們可能偏 離現(xiàn)實(shí)環(huán)境,或者將人們局限于狹小的視野里。
在勞動(dòng)平臺(tái),算法的調(diào)節(jié)、控制也很常見。 有研究者發(fā)現(xiàn),外賣平臺(tái)系統(tǒng)將勞動(dòng)過程精確到 可計(jì)算的程度,實(shí)現(xiàn)了對(duì)騎手勞動(dòng)的高度控制和 精準(zhǔn)預(yù)測(cè),這很大程度上源于平臺(tái)系統(tǒng)背后的數(shù) 據(jù)、算法和模型的支持。㈣從用戶角度來說,算法 調(diào)節(jié)了外賣騎手資源的分配,用戶可以更快地收 到外賣,但對(duì)于騎手來說,這種調(diào)節(jié)則是對(duì)他們 勞動(dòng)的嚴(yán)格控制,在算法的算計(jì)下,他們的每一分 鐘時(shí)間的價(jià)值都被榨取。在這些平臺(tái),原本是由人 完成的調(diào)節(jié)、控制,改由算法實(shí)施,雖然算法背后 仍是人制定的規(guī)則,但算法可以完成實(shí)時(shí)、動(dòng)態(tài)、 精準(zhǔn)調(diào)控,這是以往僅靠人力控制難以實(shí)現(xiàn)的。
在其他的算法經(jīng)濟(jì)的模式中,算法也在調(diào)節(jié) 著供需、資源、價(jià)格等要素及關(guān)系,在提高用戶 的便利程度的同時(shí),為生產(chǎn)者賺取更高的利潤(rùn)。
算法輔助的社會(huì)治理,也是試圖通過算法來 進(jìn)行社會(huì)關(guān)系的動(dòng)態(tài)管理與調(diào)節(jié),發(fā)現(xiàn)與防范社 會(huì)風(fēng)險(xiǎn),同時(shí),通過算法中內(nèi)置的規(guī)則,來引導(dǎo)、 控制人們的行為,使過去一些由管理機(jī)構(gòu)強(qiáng)制進(jìn) 行的管理措施,內(nèi)化為人的自我控制。
對(duì)個(gè)體來說,算法中介的控制,往往會(huì)通過 評(píng)價(jià)機(jī)制來體現(xiàn),“無論是商業(yè)力量還是國(guó)家機(jī) 構(gòu),評(píng)分都代表了一種新型權(quán)力機(jī)制,這種機(jī)制 和數(shù)據(jù)、算法緊密結(jié)合在一起,對(duì)數(shù)字時(shí)代社會(huì) 主體行為產(chǎn)生重要影響。”的不管愿意或者不愿意, 基于大數(shù)據(jù)的算法正在把所有社會(huì)成員的個(gè)人數(shù) 據(jù)軌跡描摹為全景圖譜,形成對(duì)每個(gè)人的信用評(píng) 級(jí)。這種信用評(píng)級(jí)機(jī)制的存在意味著人們需要對(duì) 自身是否存在違規(guī)行為而不斷自我檢查,并在數(shù) 字算法的審查下“生產(chǎn)”自身的正常狀態(tài)。叫作為中介的算法,既然影響著人們的認(rèn)知與行為,也建構(gòu)、調(diào)節(jié)、控制著各種關(guān)系,它也就 會(huì)成為一種權(quán)力。算法權(quán)力包含算法本身的權(quán)力 和數(shù)據(jù)的權(quán)力。四算法權(quán)力的主要作用方式有:通 過對(duì)數(shù)據(jù)的占有、處理與結(jié)果輸出,演化為資源、 商品、財(cái)產(chǎn)、中介甚至社會(huì)建構(gòu)力;算法直接變?yōu)?行為規(guī)范,影響甚至控制個(gè)體的行為;算法輔助甚 至代替公權(quán)力,做出具有法律效力的算法決策。
今天的算法權(quán)力更多地掌握在那些擁有技術(shù) 和數(shù)據(jù)的機(jī)構(gòu)或個(gè)人手里,或許在一開始,他們 中的多數(shù)并未意識(shí)到自己的權(quán)力有多大,影響有 多深,他們更多地是遵循技術(shù)邏輯探尋技術(shù)的可 能性,但當(dāng)他們看到算法可以幫助自己實(shí)現(xiàn)盈利 或其他目標(biāo)時(shí),他們就會(huì)有意強(qiáng)化這種權(quán)力。另 外一方面,資本、政治等其他權(quán)力,在意識(shí)到算 法的力量時(shí),也會(huì)加強(qiáng)對(duì)其滲透或控制。而一旦 算法進(jìn)入到各種應(yīng)用中,一些潛在的風(fēng)險(xiǎn)就會(huì)釋 放,權(quán)力過度或失范的問題也會(huì)不斷暴露。
算法權(quán)力日益增強(qiáng)時(shí),對(duì)算法權(quán)力的反思也在不斷增加,算法偏見或歧視、算法黑箱、算法的反 競(jìng)爭(zhēng)效應(yīng)、算法對(duì)個(gè)體的控制、算法對(duì)個(gè)人權(quán)利的侵犯等,是目前被討論最多的問題,未來或許還會(huì) 有更多問題涌現(xiàn)。將算法本身作為一種治理對(duì)象, 規(guī)范其應(yīng)用,也將是算法社會(huì)的一個(gè)長(zhǎng)期目標(biāo)。
對(duì)于算法權(quán)力的更深層影響,一種典型的擔(dān)憂是:一旦權(quán)力從人類手中交給算法,人文主義議 題就可能慘遭淘汰。囲但將數(shù)據(jù)、算法與人文主義對(duì)立,認(rèn)為算法一定是工具理性的結(jié)果,或許只是 今天我們的思維慣性,面對(duì)一個(gè)無法避免的算法社 會(huì),我們更需要拋棄技術(shù)與人文之間非此即彼的思 維,探求人文精神與技術(shù)理性和諧共存的可能性。
四、算法對(duì)共同體的強(qiáng)化或促成
算法不僅作為中介在實(shí)現(xiàn)一對(duì)一的關(guān)系匹配與連接,也在建構(gòu)著群體關(guān)系,它對(duì)共同體的形 成與維系的影響也開始日益受到關(guān)注。
對(duì)于健康碼這樣一種算法的產(chǎn)物,有研究者 從共同體的角度進(jìn)行了分析,吳冠軍認(rèn)為,健康碼正是借助當(dāng)代數(shù)字技術(shù),具身化了 “免疫”意義 上的共同體邊界,只有經(jīng)過數(shù)字認(rèn)證(“綠碼”),個(gè) 體才被允許進(jìn)入人際交往的共同體。健康碼以低成 本高效率的方式,有力地強(qiáng)化了共同體的“免疫” 能力。的與他類似,也有研究者指出,健康碼這種 被符號(hào)化和抽象化甚至扁平化的身體在特殊歷史條 件下成了社會(huì)共同體身份的準(zhǔn)入證。
健康碼造就的共同體邊界是疫情時(shí)期的產(chǎn)物,但算法對(duì)于人群的區(qū)隔,對(duì)于共同體維系的作用,并不只在這樣一個(gè)特殊時(shí)期。
雖然共同體概念的最早提出者騰尼斯認(rèn)為,共同體基本形式主要包括親屬(血緣共同體)、鄰里(地緣共同體)、友誼(精神共同體)",但是,今天人們談及共同體時(shí),可能會(huì)涉及各種具有共 同特征或紐帶的群體。共同體意味著相似人群的 類聚與整個(gè)社會(huì)的群分。
像健康碼一樣,很多基于算法的評(píng)價(jià)系統(tǒng),也在將人群進(jìn)行區(qū)分,強(qiáng)化人們的群體歸屬,并賦予相應(yīng)的標(biāo)簽,而在進(jìn)行關(guān)系匹配或資源分配 時(shí),每個(gè)標(biāo)簽會(huì)對(duì)應(yīng)著與相應(yīng)群體適配的規(guī)則、套路,因此,算法和標(biāo)簽可能將人們框定在既有 的群體中,在一定程度上也在加固不同共同體之間的“墻”。算法對(duì)某些共同體邊界的維護(hù),也是 算法權(quán)力的一種表現(xiàn)。
除了維護(hù)某些共同體的邊界、維系現(xiàn)有共同 體外,算法還可能通過對(duì)相似人群的連接,推動(dòng)共同體的形成令
在網(wǎng)絡(luò)中,共同體的形成有各種紐帶與模式, 相對(duì)松散的社區(qū)、穩(wěn)定的社群、圈子、族群都是共同體的表現(xiàn)形式網(wǎng)。其中,興趣或其他文化上的 共通性,對(duì)于共同體的形成意義尤為突出。而在 共同興趣的人群的發(fā)現(xiàn)、連接方面,算法的作用 開始顯現(xiàn)。
早期網(wǎng)絡(luò)共同體的形成,是人們主動(dòng)尋找相 似人群、形成社區(qū)并持久互動(dòng)的結(jié)果。而今天的 算法可以通過對(duì)人們的行為的分析,將具有共同 性的人群連接起來。例如,今天的個(gè)性化推薦平臺(tái),用戶被打上的標(biāo)簽,就成為一種隱性的連接線索。表面上看,標(biāo)簽只是人與內(nèi)容連接的依據(jù),人與人之間沒有直接互動(dòng),但標(biāo)簽也可以將人們 之間隱藏的共通性挖掘出來,將具有共同屬性、興 趣或行為特點(diǎn)的人連接在一起,在算法的支持下, 以標(biāo)簽來區(qū)分人群甚至形成社區(qū)或社群成為可能。
在技術(shù)領(lǐng)域,已有不少研究者在探索如何通 過算法發(fā)現(xiàn)網(wǎng)絡(luò)社區(qū),在這一領(lǐng)域的研究中,社區(qū)通常指由一組內(nèi)部連接緊密、與外部連接稀疏的節(jié)點(diǎn)集合構(gòu)成的結(jié)構(gòu),而這種結(jié)構(gòu)正是共同體的重要特征之一。研究者通過算法研究網(wǎng)絡(luò)社區(qū)的構(gòu)成、邊界及其結(jié)構(gòu),特別是那些隱性社區(qū), 即包含于顯式社區(qū)結(jié)構(gòu)中的緊密子集,隱性社區(qū) 在更深程度上反映了社會(huì)網(wǎng)絡(luò)中隱含的真實(shí)關(guān)系,其結(jié)構(gòu)往往也是動(dòng)態(tài)的物。這些研究,主要是基于 輿情分析、影響力分析、內(nèi)容推薦、信息傳播與 網(wǎng)絡(luò)營(yíng)銷應(yīng)用等目標(biāo)。
雖然目前的算法主要是發(fā)現(xiàn)已經(jīng)存在的社區(qū),但可以預(yù)期,在未來的新媒體產(chǎn)品特別是社交產(chǎn)品的開發(fā)與運(yùn)營(yíng)中,通過算法“計(jì)算”、促成某些 共同體的思路也會(huì)出現(xiàn)。
算法的運(yùn)用,也可能使得“同溫層”更容易 形成。在網(wǎng)絡(luò)中,人們更愿意向與自己價(jià)值觀、 立場(chǎng)、態(tài)度等相似的人靠近,以此獲得抱團(tuán)取暖、相互支持的可能,人們就像氣態(tài)分子一樣在不斷 運(yùn)動(dòng),直到尋找到適合自己的位置,而相似的氣 態(tài)分子向同一 “高度”聚集,形成同溫層效應(yīng)。相比那些相對(duì)穩(wěn)定的共同體,同溫層是一種流動(dòng)的、想象的心理共同體,在不同話題、不同時(shí)期, 會(huì)有不同的同溫層,而算法推薦有助于人們隨時(shí) 尋找到適合自己的同溫層。
從共同體這個(gè)角度看,算法也會(huì)對(duì)社會(huì)結(jié)構(gòu) 產(chǎn)生深層影響,當(dāng)然,它是持久維系既有的共同體,固化原有的社會(huì)結(jié)構(gòu),還是幫助人們突破現(xiàn)有圈層,發(fā)現(xiàn)、促成新的共同體,這同樣取決于 算法的設(shè)計(jì)思路。
顯然,算法帶來的影響,并不只是上述幾方面,總體來看,數(shù)據(jù)與算法使得工商業(yè)時(shí)代以來的生產(chǎn)生活方式和社會(huì)價(jià)值觀發(fā)生了深刻改變, 同時(shí)也帶來了全新的秩序風(fēng)險(xiǎn)。"雖然對(duì)于算法權(quán) 力的反思、批判與制約是必要的,但我們也不能 只是簡(jiǎn)單抵制算法,而是需要面對(duì)算法帶來的新 挑戰(zhàn),思考人類的自我變革方向。在算法的設(shè)計(jì) 者這樣的群體中倡導(dǎo)工具理性和價(jià)值理性相融合 的技術(shù)理性、算法理性與算法倫理,讓人文研究 者更多參與對(duì)算法的開發(fā)與應(yīng)用,在全民進(jìn)行算 法素養(yǎng)的培養(yǎng),在法律和社會(huì)治理體系上面對(duì)算 法挑戰(zhàn)做出調(diào)適,或許是算法時(shí)代人類自身必要的升級(jí)。
參考文獻(xiàn)
[1] JRobert Sedgewick, Kevin Wayne.算法(第四版)[M].謝 路云,譯.北京:人民郵電出版社2012:1.
[2] 賈開,蔣余浩.人工智能治理的三個(gè)基本問題:技術(shù)邏 輯、風(fēng)險(xiǎn)挑戰(zhàn)與公共政策選擇叮中國(guó)行政管理,2017(10).
[3] 姚前.算法經(jīng)濟(jì):資源配置的新機(jī)制[J].清華金融評(píng)論, 2018(10).
[4] (英)阿里爾?扎拉奇,(美)莫里斯?E?斯圖克算法的陷 阱:超級(jí)平臺(tái)、算法壟斷與場(chǎng)景欺騙[M].余瀟,譯.北京:中 信出版社,2018:序言.
[5] 左衛(wèi)民.關(guān)于法律人工智能在中國(guó)運(yùn)用前景的若干思考 Q].清華法學(xué),2018(2).
[6] 周漢華,劉燦華.社會(huì)治理智能化的法治路徑[J].法學(xué)雜 志,2020(9).
[7] [13][31]虞青松.算法行政:社會(huì)信用體系治理范式及其 法治化[J].法學(xué)論壇,2020(2).
[8] [35]吳冠軍.健康碼、數(shù)字人與余數(shù)生命——技術(shù)政治 學(xué)與生命政治學(xué)的反思叮探索與爭(zhēng)鳴,2020(9).
[9] [15]藍(lán)江.生命檔案化、算法治理和流眾——數(shù)字時(shí)代 的生命政治川探索與爭(zhēng)鳴,2020(9).
[10] 美)阿萊克斯?彭特蘭.智慧社會(huì):大數(shù)據(jù)與社會(huì)物理 學(xué)[M].汪小帆,汪容,譯.杭州:浙江人民出版社,2015:136.
[11] 王飛躍,等.社會(huì)計(jì)算與計(jì)算社會(huì):智慧社會(huì)的基礎(chǔ)與 必然[J].科學(xué)通報(bào),2O15(Z1).
[12] 齊愛民.私法視野下的信息[M].重慶:重慶大學(xué)出版 社,2012:62.
[14] 楊慶峰.健康碼、人類深度數(shù)據(jù)化及遺忘倫理的建構(gòu) [J],探索與爭(zhēng)鳴,2020(9).
[15] 藍(lán)江.生命檔案化、算法治理和流眾——數(shù)字時(shí)代的 生命政治叮探索與爭(zhēng)鳴,2020(9).
[16] [33]張凌寒.算法權(quán)力的興起、異化及法律規(guī)制[J].法 商研究.2019(4).
[17] [18](美)瑟琳?海勒.我們何以成為后人類:文學(xué)、信息 科學(xué)和控制論中的虛擬身體[M].劉宇清,譯.北京:北京大 學(xué)出版社,2017:11,12.
[19] 趙超.反身性視野下的當(dāng)代社會(huì)科學(xué)哲學(xué):知識(shí)、社會(huì) 與行動(dòng)叮 科學(xué)技術(shù)哲學(xué)研究,2015(2).
[20] [36]吳靜.從健康碼到數(shù)據(jù)身體:數(shù)字化時(shí)代的生命政 治叮南通大學(xué)學(xué)報(bào)(社會(huì)科學(xué)版),2021(1).
[21] 易明,鄧衛(wèi)華.基于標(biāo)簽的個(gè)性化信息推薦研究綜述 [J].情報(bào)理論與實(shí)踐,2011(3).
[22] [30]胡凌.數(shù)字社會(huì)權(quán)力的來源:評(píng)分、算法與規(guī)范的再 生產(chǎn)[J].交大法學(xué),2019(1).
[23] [25]張梧.大數(shù)據(jù)時(shí)代的表象思維及其批判[J].華中科 技大學(xué)學(xué)報(bào)(社會(huì)科學(xué)版),2021(1).
[24] 林建武.數(shù)據(jù)主義與價(jià)值重估:數(shù)據(jù)化的價(jià)值判斷[J]. 云南社會(huì)科學(xué),2020(3).
[26] 成素梅.智能社會(huì)的變革與展望叮 上海交通大學(xué)學(xué) 報(bào)(哲學(xué)社會(huì)科學(xué)版),2020(8).
[27] 喻國(guó)明,耿曉夢(mèng).算法即媒介:算法范式對(duì)媒介邏輯的 重構(gòu)。]?編輯之友,2020(7).
[28] 卜素.人工智能中的“算法歧視”問題及其審查標(biāo)準(zhǔn)[J]. 山西大學(xué)學(xué)報(bào)(哲學(xué)社會(huì)科學(xué)版),2019(7).
[29] 陳龍.“數(shù)字控制”下的勞動(dòng)秩序——外賣騎手的勞動(dòng) 控制研究[J].社會(huì)學(xué)研究,2020(6).
[32]陳鵬.算法的權(quán)力和權(quán)力的算法[J].探索,2019(4).
[34] (以色列)赫拉利.未來簡(jiǎn)史[M].林俊宏,譯.北京:中 信出版集團(tuán),2017:356-357.
[37] 費(fèi)迪南?滕尼斯.共同體與社會(huì)[M].張巍卓,譯.北京: 商務(wù)印書館,2019:87.
[38] 彭蘭.“液態(tài)”“半液態(tài)”“氣態(tài)”:網(wǎng)絡(luò)共同體的“三態(tài)” [J].國(guó)際新聞界,2020(10).
[39] 喬少杰,等.大規(guī)模復(fù)雜網(wǎng)絡(luò)社區(qū)并行發(fā)現(xiàn)算法叮計(jì) 算機(jī)學(xué)報(bào),2017(3).
[40] 王莉,程學(xué)旗.在線社會(huì)網(wǎng)絡(luò)的動(dòng)態(tài)社區(qū)發(fā)現(xiàn)及演化 叮計(jì)算機(jī)學(xué)報(bào).2015(2).
[41] 馬長(zhǎng)山.智慧社會(huì)的治理難題及其消解印.求是學(xué)刊, 2019(5).