算法背后的數(shù)字倫理觀后感

算法背后的數(shù)字倫理觀后感你被數(shù)字化技術(shù)困擾過(guò)嗎？同意隱私條款后，我們的信息去哪了？怎樣算過(guò)度收集信息？人臉識(shí)別應(yīng)該被禁止嗎？什么時(shí)候要特別注意隱私安全？應(yīng)該如何改進(jìn)算法推送？機(jī)器決策比人決策更好嗎？發(fā)展人工智能需要符合什么準(zhǔn)則？元宇宙對(duì)人類(lèi)是好事還是壞事？......生活在數(shù)字時(shí)代的今天，數(shù)字世界的倫理與隱私保護(hù)有哪些新表現(xiàn)？很多古時(shí)候認(rèn)為的隱私今天已不一定是隱私，哪些是現(xiàn)代社會(huì)的隱私？隱私與科技進(jìn)步之間如何把握？如何防止數(shù)據(jù)被濫用？如何防范危害？保護(hù)的責(zé)任在哪一方？隨著移動(dòng)互聯(lián)網(wǎng)的廣泛普及與智能手機(jī)功能的深度開(kāi)發(fā)，信息的內(nèi)容分發(fā)打破了塔奇曼所說(shuō)的“新聞常規(guī)”。[1]以人工編輯為核心的傳統(tǒng)分發(fā)模式逐漸衰落，以社交為核心的人際網(wǎng)絡(luò)分發(fā)模式、以算法為核心的智能分發(fā)模式崛起興盛?！八惴ㄐ汀狈职l(fā)模式的出現(xiàn)和普遍應(yīng)用，意味著人類(lèi)開(kāi)始運(yùn)用機(jī)器大規(guī)模地解決信息分發(fā)問(wèn)題，人類(lèi)社會(huì)信息分發(fā)的動(dòng)力從人力轉(zhuǎn)向了部分自動(dòng)化——從“人找信息”，到“信息找人”；受眾和媒體的關(guān)系也發(fā)生了轉(zhuǎn)變：從“傳者為中心”轉(zhuǎn)向以“受眾為中心”，“注意力經(jīng)濟(jì)”越來(lái)越不能被忽視。1.站在風(fēng)口浪尖的算法近年來(lái)，人工智能的開(kāi)發(fā)讓算法推薦強(qiáng)勢(shì)崛起，成為當(dāng)下最流行的內(nèi)容分發(fā)方式。各大媒體亦在尋求人工智能技術(shù)與新聞報(bào)道的結(jié)合。但也正因?yàn)槿绱?，“算法型”分發(fā)模式站在了風(fēng)口浪尖上。當(dāng)“算法為王”的價(jià)值觀念已成為平臺(tái)的增長(zhǎng)極之時(shí)，對(duì)算法的導(dǎo)向糾偏也迫在眉睫。早在2015年，F(xiàn)acebook就飽受用戶(hù)對(duì)其人工智能推薦內(nèi)容存在政治偏見(jiàn)的指責(zé)，繼而加大了人工編輯在審批熱門(mén)話(huà)題方面的重要作用。[2]在我國(guó)，算法推薦新聞近年來(lái)似乎也成了眾矢之的。2017年，《人民日?qǐng)?bào)》連續(xù)發(fā)表三篇評(píng)論文章，指出，隨著人工智能的廣泛應(yīng)用，部分商業(yè)網(wǎng)站、移動(dòng)新聞客戶(hù)端都在運(yùn)用算法這個(gè)“讀心術(shù)”；而技術(shù)往往是一把冰冷的雙刃劍，在價(jià)值和利益的天平上，所謂的算法成為了利益的砝碼。公允地說(shuō)，這些批判在現(xiàn)實(shí)狀況下不無(wú)道理。比如，在現(xiàn)在的算法還不足夠“聰明”的情況下，用機(jī)器智能去完全替代人的“把關(guān)”，這樣的資訊“守門(mén)人”是否可以完全信賴(lài)？[3]再比如，由于“算法型”信息分發(fā)更多地建立在對(duì)于人們的直接興趣和“無(wú)意注意”的信息需求的挖掘上，它的直接后果是：忽略人們必需的那些非直接興趣和需要“有意注意”的信息，導(dǎo)致“信息繭房”、算法偏見(jiàn)、假新聞泛濫等問(wèn)題。這些對(duì)于“算法型”信息分發(fā)的社會(huì)質(zhì)疑是必須要面對(duì)與正視的。相對(duì)于上述一些批判算法的觀點(diǎn)，也有學(xué)者持不同看法。他們認(rèn)為，“算法推薦”對(duì)新聞傳播業(yè)的改革推動(dòng)是巨大的?！八惴ㄐ汀毙畔⒎职l(fā)模式強(qiáng)勢(shì)崛起，成為互聯(lián)網(wǎng)語(yǔ)境下新聞分發(fā)的主流模式，主要原因可歸納為以下三方面：第一，算法推薦新聞引發(fā)的新聞生產(chǎn)是一種“新聞內(nèi)容+數(shù)據(jù)化精確制導(dǎo)”的生產(chǎn)方式，它在互聯(lián)網(wǎng)時(shí)代高效對(duì)接了受眾需求和信息。算法通過(guò)對(duì)社交推薦機(jī)制進(jìn)行二次過(guò)濾，優(yōu)化推薦結(jié)果，從而提升了互聯(lián)網(wǎng)內(nèi)容推送的精準(zhǔn)度。例如，各大新聞媒體根據(jù)用戶(hù)的社交行為、地理位置、職業(yè)、年齡等推斷出用戶(hù)的興趣點(diǎn)，并判斷這些興趣的重要程度或者先后順序進(jìn)行推送，從而實(shí)現(xiàn)個(gè)性化信息推送。第二，個(gè)性化新聞推送下，通過(guò)對(duì)數(shù)據(jù)的挖掘，原來(lái)被忽視的大量長(zhǎng)尾信息被挖掘。這些非主流、個(gè)性化的產(chǎn)品需求，雖然是需求的尾巴，但是經(jīng)過(guò)散落在社會(huì)各個(gè)角落中的用戶(hù)的積累，能夠更好地適配“汝之毒藥，我之甘飴”的長(zhǎng)尾信息。[4]“汝之毒藥，我之甘飴”意味著你覺(jué)得不感興趣甚至是垃圾的信息，對(duì)于我可能極有價(jià)值。于是，信息價(jià)值不再有統(tǒng)一的標(biāo)準(zhǔn)，不再有重要性的絕對(duì)的高低之分。第三，在大數(shù)據(jù)技術(shù)和算法軟件的耦合作用下，算法新聞生產(chǎn)運(yùn)作的高效性?xún)?yōu)勢(shì)凸顯。特別是在體育、財(cái)經(jīng)等常規(guī)新聞生產(chǎn)領(lǐng)域，算法與機(jī)器寫(xiě)作新聞可以減少新聞?dòng)浾叩臋C(jī)械勞動(dòng)，使新聞生產(chǎn)者有更多精力用于深度報(bào)道和解讀。2016年里約奧運(yùn)會(huì)期間，今日頭條的寫(xiě)稿機(jī)器人“張小明”每天撰寫(xiě)30篇以上的賽事報(bào)道和消息；騰訊的寫(xiě)作機(jī)器人“Dreamwriter”可以根據(jù)算法以最快的速度生成新聞稿件，并能在一分鐘內(nèi)將重要信息送達(dá)給用戶(hù)。2.“算法型”信息分發(fā)模式可能引發(fā)的風(fēng)險(xiǎn)雖然人工智能技術(shù)為傳播領(lǐng)域帶來(lái)一場(chǎng)革命，但算法背后存在的隱患也逐漸凸顯。從技術(shù)邏輯與社會(huì)邏輯相結(jié)合的角度看，“算法型”信息分發(fā)模式出現(xiàn)的問(wèn)題和隱憂(yōu)主要集中在以下四大方面：“算法”打造社群：“圈群文化”與“信息繭房”社交媒體平臺(tái)，算法技術(shù)通過(guò)精確的個(gè)性化描述打造社區(qū)，形成了新的人際交往形式——“圈群文化”。隨著圈子的粘性增強(qiáng)，圈子不可避免地會(huì)出現(xiàn)排他性，所以“圈群文化”的另一面是“排斥”。因此，社交媒體在運(yùn)營(yíng)的后期往往會(huì)出現(xiàn)“文化邊界”。因?yàn)椤霸谀芙蛹{同一種或者幾種近似的文化的背景下，一大群人才能生活在一個(gè)社交網(wǎng)絡(luò)或者說(shuō)一個(gè)‘社會(huì)’中。不調(diào)和到乃至產(chǎn)生沖突的文化，會(huì)自然的在人群與人群之間產(chǎn)生邊界”。[5]人們?cè)谧约哼x擇的圈子里活動(dòng)，畫(huà)地為牢將自己封閉起來(lái)。久而久之，人們的關(guān)注視野變得越來(lái)越窄，最終形成“信息繭房”。很大程度上，這是一種“自我”設(shè)限——用戶(hù)就像蠶一樣被自己吐的絲禁錮在自己制造的“信息繭房”里。長(zhǎng)期生活在“信息繭房”之中，無(wú)疑會(huì)令用戶(hù)越來(lái)越沉溺于自己的回音，在信息繭房中越陷越深?！皵?shù)據(jù)化”的人將會(huì)失去對(duì)整個(gè)社會(huì)的理解與全局批判的能力，甚至?xí)斐扇后w“極化”現(xiàn)象。倫理沖突：虛假新聞與低俗內(nèi)容虛假新聞和低俗內(nèi)容也是算法推薦存在的顯著性問(wèn)題。算法推薦最初在傳播倫理方面存在一定的缺陷。不同于人工編輯和人工篩選，純粹的個(gè)性化推薦系統(tǒng)缺乏對(duì)文章的質(zhì)量與內(nèi)容的把關(guān)，終極目標(biāo)就是實(shí)現(xiàn)流量最大化。因此，用戶(hù)在獵奇心理驅(qū)使下點(diǎn)開(kāi)的虛假新聞、低俗內(nèi)容就會(huì)在網(wǎng)絡(luò)環(huán)境中廣泛地傳播，如早孕網(wǎng)紅、暴力血腥等內(nèi)容嚴(yán)重破壞了網(wǎng)絡(luò)生態(tài)環(huán)境。美國(guó)技術(shù)哲學(xué)家安德魯芬伯格指出，算法技術(shù)不是一個(gè)“中立性”的工具，它可以被商業(yè)、政治等非技術(shù)力量操縱和改變。當(dāng)平臺(tái)系統(tǒng)默認(rèn)獵奇、低俗等需求并據(jù)此進(jìn)行個(gè)性推薦時(shí)，算法便會(huì)被錯(cuò)誤的價(jià)值觀俘獲，低質(zhì)內(nèi)容流行網(wǎng)絡(luò)。不僅如此，社交媒體成為了假新聞泛濫的溫床，個(gè)性化推薦在不經(jīng)意間成為了謠言滋生的幫兇。更隱蔽的歧視：算法偏見(jiàn)智能算法推薦有可能進(jìn)一步加劇全球不平等現(xiàn)象與社會(huì)沖突。《自然》雜志曾用BIBO表示BiasIn，BiasOut（即偏見(jiàn)進(jìn)，偏見(jiàn)出）?？梢?jiàn)，偏見(jiàn)從人類(lèi)社會(huì)移植而來(lái)，隱秘地隱藏在算法之中。算法在描繪社會(huì)現(xiàn)實(shí)的同時(shí)也體現(xiàn)出現(xiàn)實(shí)中的偏見(jiàn)，于是它們可能有利于白人男性，而不利于女性、老年人、單親父母、有色人種、非英語(yǔ)居民等。[6]事實(shí)證明，新生的人工智能Twitter機(jī)器人可以在幾個(gè)小時(shí)內(nèi)成為白人至上主義者，自動(dòng)生成的標(biāo)簽將非裔美國(guó)人的照片標(biāo)記為大猩猩。在亞馬遜公司曾開(kāi)發(fā)的一款用于篩選簡(jiǎn)歷的算法中，意外被“培養(yǎng)”出歧視女性應(yīng)聘者的偏好。顯然，算法從受相同偏見(jiàn)影響的內(nèi)容中學(xué)習(xí)到更多偏見(jiàn)，這些認(rèn)知偏見(jiàn)經(jīng)網(wǎng)上廣泛傳播后導(dǎo)致更為廣泛的社會(huì)沖突。把關(guān)權(quán)力的遷移：算法對(duì)把關(guān)權(quán)力的程序化收編當(dāng)信息分發(fā)從編輯中心轉(zhuǎn)向?yàn)闄C(jī)器中心，把關(guān)人的角色及其功能實(shí)際上被進(jìn)一步弱化了，在信息環(huán)境的活力和豐富程度獲得加強(qiáng)的同時(shí)，信息環(huán)境的不可控性亦因此加強(qiáng)。從本質(zhì)上看，算法技術(shù)是Facebook等科技公司為了吸引更多的用戶(hù)群體，最大限度延長(zhǎng)他們對(duì)公司產(chǎn)品的使用時(shí)間，從而獲取經(jīng)濟(jì)效益而提出的。新聞的“標(biāo)題黨”及低俗內(nèi)容信息往往能為企業(yè)帶來(lái)巨大閱讀量，這便會(huì)利誘平臺(tái)降低把關(guān)的“度”，讓打擦邊球的文章都可以通過(guò)審核。[7]在算法時(shí)代，把關(guān)需要基于質(zhì)的判斷，因?yàn)椤靶侣劜粦?yīng)是一種被操縱和營(yíng)銷(xiāo)的產(chǎn)品，而是歷史的精華”。3.算法時(shí)代內(nèi)容生態(tài)良性發(fā)展的建議及對(duì)策重視技術(shù)帶來(lái)的問(wèn)題，并不是要拒絕技術(shù)，而是更需要保持技術(shù)敏感，學(xué)會(huì)“馴服”算法、駕馭技術(shù)。具體來(lái)說(shuō)，智能時(shí)代“算法型”內(nèi)容分發(fā)的優(yōu)化策略可以從以下三個(gè)方面展開(kāi)。改進(jìn)以算法為核心的分發(fā)模式，建立網(wǎng)絡(luò)世界“人行道”專(zhuān)業(yè)的媒體意識(shí)到“過(guò)濾氣泡”“信息繭房”的存在并通過(guò)技術(shù)手段，發(fā)起“戳泡”運(yùn)動(dòng)，幫助人們擺脫思維定勢(shì)的桎梏，開(kāi)放包容地傾聽(tīng)全方位的聲音。例如，瑞士報(bào)紙NZZ開(kāi)發(fā)了一款A(yù)PP——theCompanion。這款A(yù)PP通過(guò)機(jī)器學(xué)習(xí)生成個(gè)性化信息，但與眾不同的是，算法能夠保障在每一次給讀者所推薦的信息中包含一個(gè)“驚喜”，也就是超出讀者原本偏好范圍之外的內(nèi)容。Google推出了“逃離泡沫”插件，該插件根據(jù)用戶(hù)的閱讀習(xí)慣，反向推薦格調(diào)積極、易于接受的內(nèi)容。[8]該模式不但可以對(duì)“信息繭房”等問(wèn)題進(jìn)行有效處理，同時(shí)還能夠在感官上給用戶(hù)帶來(lái)很好的體驗(yàn)效果。哈佛大學(xué)教授凱斯·桑斯坦認(rèn)為，網(wǎng)絡(luò)傳播的“回音室”局限同樣會(huì)產(chǎn)生群體“極化”的問(wèn)題。因此，必須創(chuàng)建網(wǎng)絡(luò)世界的“人行道”。在用戶(hù)無(wú)法想象的地方，為他們分發(fā)各種不在計(jì)劃內(nèi)的信息，能夠讓社會(huì)上不同層次的人都可以對(duì)各種領(lǐng)域的信息有所接觸，從而擺脫“信息繭房”的束縛。建立“人機(jī)結(jié)合”雙重審核機(jī)制，提升對(duì)算法權(quán)力的引導(dǎo)與規(guī)范在完善算法技術(shù)層面，由人工訓(xùn)練機(jī)器人，通過(guò)語(yǔ)義分析、關(guān)鍵詞分析等方法建立可以被人工智能識(shí)別的正能量模型、社會(huì)負(fù)面模型以及反低俗模型數(shù)據(jù)庫(kù)，并交由算法技術(shù)對(duì)平臺(tái)內(nèi)容進(jìn)行過(guò)濾和篩選，從而有效剔除標(biāo)題黨、抄襲和惡意信息。[9]此外，互聯(lián)網(wǎng)平臺(tái)媒體應(yīng)采取多元共治的思維，加強(qiáng)外部審核和監(jiān)督。通過(guò)邀請(qǐng)政府機(jī)構(gòu)、新聞媒體、傳播學(xué)界的知名專(zhuān)家組成專(zhuān)家團(tuán)，充分考慮不同行業(yè)、不同領(lǐng)域的專(zhuān)家意見(jiàn)，同時(shí)，進(jìn)一步擴(kuò)大意見(jiàn)領(lǐng)袖和熱心網(wǎng)友的參與度，以發(fā)揮更大的作用。近兩年，一些曾經(jīng)完全依靠算法的內(nèi)容分發(fā)科技公司已經(jīng)開(kāi)始了相應(yīng)的轉(zhuǎn)變。例如，蘋(píng)果已經(jīng)聘請(qǐng)了傳統(tǒng)記者來(lái)編輯和策劃其訂閱新聞應(yīng)用AppleNews，職業(yè)社交網(wǎng)站LinkedIn還聘請(qǐng)了記者從事內(nèi)部編輯產(chǎn)品的工作。因此，在算法技術(shù)之下，需要堅(jiān)持“人工+技術(shù)”的雙重審查機(jī)制，確保受眾信息接收渠道及形式的多樣性，避免算法壟斷新聞?lì)I(lǐng)域，構(gòu)建傳統(tǒng)媒體、自媒體與算法媒體和諧共存的大眾傳播體系。算法新聞?dòng)脩?hù)要提升“算法素養(yǎng)”，設(shè)計(jì)者要具有內(nèi)心自律和社會(huì)責(zé)任

算法作為一種新技術(shù)，絕大多數(shù)人對(duì)它的認(rèn)知都停留在“知其然而不知其所以然”的層面。提升算法素養(yǎng)，一方面，需要大力推動(dòng)與算法有關(guān)的科普書(shū)籍進(jìn)學(xué)校、進(jìn)社區(qū)，使廣大