圓形監(jiān)獄中的算法監(jiān)控倫理問題

圓形監(jiān)獄中的算法監(jiān)控倫理問題

隨著信息技術和網(wǎng)絡技術的發(fā)展和融合，算法監(jiān)測作為一種重要的認知和世界重建工具，以“無聲潤物”的形式滲透到人類社會的各個領域，對人類的生產(chǎn)和生活方式產(chǎn)生了重大影響。正如麥克盧漢所言，“我們塑造了工具，但工具反過來又會塑造我們”。算法監(jiān)控在海量數(shù)據(jù)與強大算力的加持下雖然實現(xiàn)了工具理性的“勝利”,但也孕育了價值理性自我異化的基因，“數(shù)據(jù)控制”成為算法監(jiān)控社會濫用的基本依據(jù)，《數(shù)據(jù)安全法》的頒布為算法監(jiān)控的社會治理提供具體指南。一、“圓形監(jiān)獄”的內(nèi)涵在計算機科學界，算法常常被認為“是按照設計程序運營以期獲得理想結果的一系列指令?！备？乱庾R到“圓形監(jiān)獄”的規(guī)訓意義，并在此基礎上提出全景敞視主義，并認為“全景敞視主義是一種新的‘政治解剖學’的基本原則，其對象和目標不是軍權的各種關系，而是規(guī)訓的各種關系。”數(shù)字化“圓形監(jiān)獄”是隨著算法監(jiān)控技術的發(fā)展而產(chǎn)生的一個數(shù)字式虛擬監(jiān)獄，而非建筑學意義上的物理式圓形監(jiān)獄。由此，在本體論上就形成了一個不同于“物理式監(jiān)獄”的一個“新監(jiān)獄”。相較于傳統(tǒng)建筑學意義上的圓形監(jiān)獄，其隱蔽性大大提高、滲透范圍越來越廣、監(jiān)控程度越來越深，它帶來的不僅是人們主動接受規(guī)訓，還有人們被動接受懲罰。一方面，由抽象數(shù)字代碼組成的算法具有不可見性，這種不可見性隱匿了時空結構對監(jiān)控機制的限制，迫使人們自身產(chǎn)生一種有意識的“自我約束”狀態(tài)，人們不知不覺就參與到算法監(jiān)控對其自身的規(guī)訓之中；另一方面，技術化存在的人時刻處于算法監(jiān)控可見范圍之內(nèi)，人們在互聯(lián)網(wǎng)上貢獻的數(shù)據(jù)反過來會成為統(tǒng)涉人們自身物質(zhì)生活、精神生活的“原罪”,成為數(shù)字化“圓形監(jiān)獄”中的“數(shù)字難民”。可以說，“現(xiàn)代電子技術的發(fā)展已經(jīng)使社會變成了一個數(shù)字化‘圓形監(jiān)獄’,看似自由的現(xiàn)代社會密布著各種監(jiān)視技術與力量。”二、式自動實施規(guī)訓如上所述，算法監(jiān)控構造的數(shù)字化“圓形監(jiān)獄”以不可見的方式自動實施規(guī)訓權力，以超時空控制的方式實現(xiàn)對人的算法謀劃。算法監(jiān)控具有追求權力與控制內(nèi)在本質(zhì)，使其與海德格爾所說的“座架”與芒福德所說的“巨機器”的分析聯(lián)系到一起。(一)座架的技術因素算法監(jiān)控在“座架”的支配下演進為算法霸權?！啊堋且环N解蔽方式，這種解蔽方式在現(xiàn)代技術之本質(zhì)中起著支配作用，而其本身不是什么技術因素。”(二)“巨機器”的本質(zhì)特征算法監(jiān)控是一個“新的巨機器”。美國技術哲學家劉易斯·芒福德在其《技術與文明》等著作中提出巨機器這一概念。這一概念最早起源于古埃及，一開始指的不是有形的機器，而是一個由人力組成的，為了追求絕對控制的社會組織形式。最早的巨機器由經(jīng)過嚴格組織化的人力組成，受制于當時生產(chǎn)力的發(fā)展水平，它的效率很低。隨著生產(chǎn)力的快速發(fā)展，“新的巨機器”(計算機、算法、大數(shù)據(jù)、人工智能等)被確立起來，傳統(tǒng)巨機器逐漸脫離人們的視野。雖然新型巨機器與傳統(tǒng)巨機器在形式上發(fā)生了巨大變化，但二者本質(zhì)特征并沒有發(fā)生改變，即追求權力與對他人的控制。芒福德用“巨機器”來表征現(xiàn)代社會技術的本質(zhì)特征。所謂“巨機器”,“就是與生活技術、適用性技術、多元技術相反的一元化專制技術，其目標是權力和控制，其表現(xiàn)是制造整齊劃一的秩序?！痹凇白堋迸c“巨機器”的支配下，算法通過監(jiān)控數(shù)據(jù)預測人們未來行為，并在此基礎上對人們進行規(guī)訓與懲罰，主要表現(xiàn)在“信息繭房”與算法歧視等倫理風險。這些倫理風險與“圓形監(jiān)獄”規(guī)訓與懲罰的核心要義存在“邏輯共契”。這是因為，從一般意義上來講，科學知識來源于對數(shù)據(jù)的分析與解釋，算法憑借著強大的分析整合能力能夠?qū)⒑Ａ繑?shù)據(jù)轉化為預測知識，在此意義上，算法監(jiān)控構造的數(shù)字化“圓形監(jiān)獄”,通過數(shù)據(jù)——權力相互作用來實現(xiàn)規(guī)訓與懲罰的運行機制，與福柯眼中的“圓形監(jiān)獄”通過知識——權力相互作用來實現(xiàn)規(guī)訓與懲罰的運行機制相一致。三、算法監(jiān)控:“人之所是”的“先行黨建”凱斯·桑斯坦在《信息烏托邦》中詳細闡述了“信息繭房”這一概念：“在當今網(wǎng)上環(huán)境中，人們可以自由地分析和獲取大量的信息，但同時也使自己陷入了一個‘回音室’當中。因為公眾自身的信息需求并非全方位的，人們習慣性地將自己包裹在由興趣引導的信息中，從而將自身桎梏在一個‘繭房’中，這種現(xiàn)象被稱為‘信息繭房’?！薄靶畔⒗O房”產(chǎn)生的主要原因有兩個方面：一是自身原因。人自身的思維惰性熱衷于最熟悉的信息來源，這種思維習慣自然而然地會把自身困在“繭房”中；二是技術原因。數(shù)字平臺為了能夠在激烈的競爭中留住用戶，就要依靠“投其所好”原則，放大與強化對用戶社會需求的滿足，不斷地推送用戶感興趣的信息，提高用戶滿意度。數(shù)字平臺利用算法來監(jiān)控用戶的數(shù)據(jù)足跡，并在此基礎上進行“個性化推薦”,使得用戶陷入它們編制的“小世界”中?！靶畔⒗O房”是隨著個性化推薦算法的產(chǎn)生而誕生的，而個性化推薦算法是通過分析整合海量監(jiān)控數(shù)據(jù)實現(xiàn)的。具體而言：一是基于內(nèi)容的協(xié)同過濾算法下的“信息繭房”。算法通過對用戶的數(shù)據(jù)瀏覽足跡進行跟蹤與記錄來發(fā)現(xiàn)用戶的內(nèi)在偏好，從而將與用戶興趣愛好相類似的新聞推送給用戶。以“今日頭條”為例，算法通過監(jiān)控用戶在使用“今日頭條”過程中留下的數(shù)據(jù)足跡，分析與提取用戶“愛好DNA”,然后精準推送用戶感興趣的新聞；二是基于用戶的協(xié)同過濾算法下的“信息繭房”。對于感興趣的商品或內(nèi)容，用戶一般都會產(chǎn)生點擊、購買、收藏等行為，算法通過監(jiān)控用戶的此類行為來衡量用戶之間的相似度。這類算法背后隱藏的邏輯前提為“人以類聚，物以群分”。它一方面是根據(jù)內(nèi)容尋找用戶之間的關系，當用戶在某個平臺上填寫個人喜好的內(nèi)容時，算法就能根據(jù)用戶所填寫的個人資料分析與其他用戶之間的相關性，如果相關性較高，就會向用戶推送與他具有相同愛好的用戶所偏好的信息；另一方面是根據(jù)日常生活中的人際關系來建立用戶之間的關系，算法通過監(jiān)控用戶在現(xiàn)實生活中所存在的人際關系網(wǎng)絡來推薦關注對象。舉例來說，算法通過分析微博上的點贊數(shù)和關系網(wǎng)來衡量用戶之間的“友誼”。如果某個人發(fā)出的微博，另外一個人經(jīng)常點贊，算法就會認為這兩人“情比金堅”,就會給目標客戶推薦關注對象。毫無疑問，無論是基于內(nèi)容的協(xié)同過濾算法，還是基于用戶的協(xié)同過濾算法都不約而同地把人們困在“繭房”之中，給人們造成不可估量的隱性危害，損害了人們的判斷能力。從技術層面分析“信息繭房”產(chǎn)生的原因具有深刻的哲學反思意蘊。算法通過監(jiān)控所得數(shù)據(jù)將人們包裹在“信息繭房”之中，在此意義上，數(shù)即是術，具有籌劃性與主宰性。算法通過監(jiān)控數(shù)據(jù)實現(xiàn)對“人之所是”的“先行領會”,達到算法籌劃目的。也就是說，算法利用監(jiān)控數(shù)據(jù)先行規(guī)定關于人的抽象存在，以“個性化推薦”的方式踐行對人之規(guī)定的“先行領會”,深刻地改變了人的思維方式與生存環(huán)境。一方面，算法通過監(jiān)控數(shù)據(jù)為個人定制“畫像”,每個人都身處“信息繭房”之內(nèi)，同質(zhì)化數(shù)據(jù)撲面而來，使得人們始終追求自我以為正確的邏輯自洽，其思維方式必然將自己的偏見認為是真理；另一方面，算法監(jiān)控傾向于將一切“理解”為數(shù)據(jù)，人與物被同化為二進制數(shù)據(jù)，成為算法整合分析的對象。數(shù)據(jù)關系成為數(shù)據(jù)時代最重要的社會關系之一。數(shù)據(jù)關系擴張的直接后果就是將人的一切行為舉止轉換為可以計算的數(shù)據(jù)，這使得人們的生存環(huán)境就像桎梏在蠶繭一般的“繭房”之中。當下階段，算法監(jiān)控塑造的“信息繭房”強調(diào)利用用戶數(shù)據(jù)進行資本謀劃，進而獲取資本積累的目的性，而忽視了作為主體的人的豐富性，這表現(xiàn)出工具理性與價值理性的矛盾日益突出?？梢哉f，算法監(jiān)控的數(shù)據(jù)生產(chǎn)是影響其“價值理性”的重要因素。在大數(shù)據(jù)時代中，“信息繭房”以“個性日報”的形式產(chǎn)生影響?！皞€性日報”實際掩飾了數(shù)據(jù)企業(yè)深度數(shù)據(jù)挖掘的卑劣行徑。算法通過個性化推送信息，看似迎合了不同用戶的需求，實則確切斷了我們與外界的交流。隨著算法個性化推薦日益滲透在我們的日常生活，各大網(wǎng)絡社交平臺表面上看是信息自由交流的地方，卻不知已經(jīng)成了“信息繭房”成長的溫床?？此谱杂傻慕涣鲌鲇騾s在算法監(jiān)控“數(shù)據(jù)壟斷”的規(guī)訓下內(nèi)蘊對人們自由的禁錮。人們表面上可以自由地交流且自由做出選擇，但本質(zhì)上早已被數(shù)據(jù)——權力失衡的運行機制強加了種種不自由的選擇。算法監(jiān)控以推送的方式針對性地強化了用戶閱讀體驗，讓用戶對某個感興趣的信息得到幾何倍數(shù)的增加，但那些對于用戶不感興趣的信息則被悄無聲息地“遮蔽”了，用戶只能接收到某一范圍內(nèi)的信息，進而減少用戶信息相遇的概率，在人與人之間建構出一座座“信息孤島”。在“個性日報”的助推下，算法操作信息供給，人們可能因此失去了解外界的權力，個人獲取信息的渠道趨于窄化，從而影響個人全面的發(fā)展?！靶畔⒗O房”對人們的自主權也極具威脅?！靶畔⒍鄻有允侨诉M行自主決策的前提條件，而個性化所造成的信息繭房則會排除主體不感興趣的信息而只推送相關信息，進而阻礙主體進行自主決策?！彼?、算法歧視會更惡劣?？聦ⅰ皥A形監(jiān)獄”隱喻為現(xiàn)代的懲罰式社會。算法與監(jiān)控的結合塑造的數(shù)字化“圓形監(jiān)獄”以新的實踐與形式延伸與強化了傳統(tǒng)“圓形監(jiān)獄”的懲罰功能，數(shù)據(jù)企業(yè)如同“上帝之眼”時刻審視目標客體，進而塑造目標客體的思維方式與預測目標客體的行為軌跡，其帶來的這種懲罰會更加殘酷，主要表現(xiàn)之一就是算法歧視?！八惴ㄆ缫暿侵笖?shù)據(jù)驅(qū)動的算法決策會導致歧視的做法和后果，換言之，算法決策可以再現(xiàn)已有的社會歧視模式，繼承先前決策者的偏見從而加深流行的不平等?！?一)．算法設計缺乏歧視算法模型作為一種數(shù)學殺傷性武器可以被看成用“數(shù)學的方式表達的意見”,算法的運行需要一定的變量，而變量的賦值、分類都是由設計者人為設定的。算法編程人員可以通過道德物化的方式將人們撰寫“劇本”中存在的偏見“嵌入”算法中。這主要表現(xiàn)在以下兩個方面：一是價格歧視。算法設計者建立的算法模型能夠通過監(jiān)控消費者的消費記錄、行動軌跡等行為數(shù)據(jù)，將同樣的商品對不同的用戶顯示不同的價格，“大數(shù)據(jù)殺熟”就是典型的歧視性定價行為。二是結果偏袒。算法設計者根據(jù)其內(nèi)在的偏好，使得算法模型對某些結果產(chǎn)生一定的偏袒，從而可能造成歧視行為的出現(xiàn)。進一步而言，就算編程人員沒有故意將偏見嵌入算法模型中，但他們作為日常社會中生活的人，思想與行動都會受到當今社會意識形態(tài)和個人知識儲備水平的影響，從而也很難保證無意識的偏見不被“嵌入”。(二)數(shù)據(jù)的碎片化數(shù)據(jù)作為算法“活的靈魂”,數(shù)據(jù)的質(zhì)量影響算法決策的質(zhì)量，然而數(shù)據(jù)具有無邊界性、碎片化、滯后性特征，這些特征會導致出現(xiàn)算法歧視現(xiàn)象：一是數(shù)據(jù)具有無邊界性特征。眾所周知，數(shù)據(jù)源于人類的記錄，蘇軾在《赤壁賦》中說道，“耳得之為聲，目遇之成色”,這些聲色“取之不盡用之不竭”。這說明我們聽到的、看到的一切對象都是沒有邊界、無窮無盡。換言之，可記錄的現(xiàn)象是無窮無盡的，算法監(jiān)控的數(shù)據(jù)也難免有遺漏，從而可能導致出乎意料的歧視。二是數(shù)據(jù)具有碎片化特征。“數(shù)據(jù)一經(jīng)產(chǎn)生，就是碎片化的，數(shù)據(jù)就像玻璃，它從來都是斷片的、不連續(xù)的，數(shù)據(jù)只能記錄事實的一個或數(shù)個側面，無論怎么記錄，它從來都沒有、有不可能形成一個完全記錄的事實?！?三)．落后地區(qū)的人額度對司法的影響例如，貸款公司在訓練其貸款算法時，把“郵政編碼”等數(shù)據(jù)納入其中，從表面上看并沒有什么不妥，但從本質(zhì)上來看，“郵政編碼”表達了這么一種觀點：某個落后地區(qū)的人貸款額度可以適當減少，其中就暗含了歧視。另外，有相關統(tǒng)計表明，美國黑人的犯罪率比白人更高，這個統(tǒng)計結果影響了美國司法部門幾十年，讓黑人很難得到與白人一樣的司法權力。從本質(zhì)上來看，這個統(tǒng)計結果掩蓋了兩者的因果關系。在現(xiàn)實社會中，黑人難以享受到跟白人一樣的上學待遇，難以找到與白人一樣的工作等，在某種程度上說，黑人的高犯罪率正是這種現(xiàn)實不平等帶來的后果。算法歧視具有以下兩個特征：1.所使用生產(chǎn)生產(chǎn)符號和拼接語法，無法突出低教育水平的原因例如，ZestFinance公司開發(fā)的一款算法把一些不尋常的觀測值設置了較高的權重，比如申請者的貸款申請是否正確地使用了標點符號與拼寫語法。標點符號和拼寫錯誤表明了教育水平的高低，低教育水平又與階級相關。當窮人不符合標準的語言水平時，算法會抬高他們的貸款利率，如果他們后來因為貸款利率高而導致還款困難，這反過來又會證實他們是高風險群體的假設。2.．犯罪率高與侵犯發(fā)生率高用有偏見的數(shù)據(jù)訓練出來的算法模型，其輸出的結果必然也帶來偏見，然后這一輸出結果通過對系統(tǒng)進行反饋，就會使偏見得到鞏固與加強。例如，犯罪預測算法的訓練數(shù)據(jù)是關于大量黑人的犯罪歷史記錄，通過對黑人進行身體歧視導致黑人無法得到與白人一樣的公平待遇，黑人的犯罪率更高了。黑人居高不下的犯罪率又反過來又正好印證了算法的預言，故很難對算法進行質(zhì)疑，算法對黑人的歧視進一步加強。五、“信息蝶房”與算法歧視的倫理風險算法與監(jiān)控的秘密合謀塑造的數(shù)字化“圓形監(jiān)獄”迫使人們接受數(shù)字化分析與預測，并在此基礎上對人們進行規(guī)訓與懲罰，使人們面臨“信息繭房”與算法歧視的倫理風險。算法監(jiān)控倫理風險的社會治理要以算法監(jiān)控技術為反思、規(guī)范的對象，不僅要考慮算法監(jiān)控技術本身的特性與結構，而且還要考慮算法監(jiān)控與人和社會之間的關系——算法監(jiān)控與設計者以及使用者的關系、其所帶來的社會影響等，為此，我們要注意以下應對策略：(一)“慎言慎行”與“言行合一”目前，大多數(shù)人對語言功能的理解主要停留在“認識世界”,而非“改造世界”這一層面，把這習以為常的理解搬用到互聯(lián)網(wǎng)上就會產(chǎn)生這樣一種認識，認為只要在網(wǎng)上“君子動口不動手”就不會產(chǎn)生實際影響，從而在網(wǎng)絡中隨意發(fā)表言論。由于只需要賦予算法幾條基本的指令，它就能最大限度地挖掘我們在網(wǎng)絡上發(fā)布的信息，這些信息能帶來“信息繭房”與算法歧視。我們必須改變對語言的功能僅為“知”的狹隘理解，要看到語言也能行駛“行”的作用。也就是說，我們要意識到數(shù)據(jù)能夠決定我們做什么，從而在網(wǎng)上“謹言慎行”。而且，伴隨著算法監(jiān)控的塑造作用日益凸顯，我們需要反思算法監(jiān)控技術的社會角色，將人與機器的對立思維轉換為協(xié)作思維，從人——機交織的框架下認識到算法監(jiān)控的規(guī)范意蘊。(二)技術設計的倫理反思面對算法監(jiān)控技術產(chǎn)生的倫理問題，最直接的辦法就是揮舞著倫理大棒進行技術批判，隨時對該技術的“越界”行為吹口哨，我們可稱之為技術倫理研究的“外在主義”進路。“外在主義”進路試圖將算法監(jiān)控的社會應用限定在倫理規(guī)定的范圍內(nèi)，這一努力是正當?shù)模驗槿艘獮槠鋭?chuàng)造的技術負責，但也有一定的局限性。算法監(jiān)控并非是完全被動的“客體”,伴隨著算法監(jiān)控規(guī)范意蘊的日益凸顯，不斷塑形人類思維、行為方式?；诘芽柖倔w論的“外在主義”進路已不再適應當前技術實踐的需要。拉圖爾提出的“行動者網(wǎng)絡理論”隱匿了“人”與“非人”的界限，將技術物視為與人地位相平等的“行動者”。鑒于技術物的“行動者”地位，在具體的技術實踐中，技術設計者要與倫理學專家共同交流協(xié)作，促進“外在進路”與“內(nèi)在進路”協(xié)調(diào)共進。通過具體的技術設計將公平、正義、法制等倫理觀念“嵌入”算法監(jiān)控技術之中，使之在使用情境發(fā)揮善的作用?！白尶萍嫉摹悄堋c人的‘智慧’相結合”(三)相