AI未來(lái)進(jìn)行式（人工智能）

AI人工智能未來(lái)進(jìn)行式目錄\h01一葉知命\h開(kāi)復(fù)解讀\h什么是深度學(xué)習(xí)\h深度學(xué)習(xí)：能力驚人但也力有不逮\h深度學(xué)習(xí)在互聯(lián)網(wǎng)和金融行業(yè)的應(yīng)用\h深度學(xué)習(xí)帶來(lái)的問(wèn)題\h02假面神祇\h開(kāi)復(fù)解讀\h什么是計(jì)算機(jī)視覺(jué)技術(shù)\h計(jì)算機(jī)視覺(jué)技術(shù)的應(yīng)用\h計(jì)算機(jī)視覺(jué)的基礎(chǔ)——卷積神經(jīng)網(wǎng)絡(luò)（CNN）\hDeepfake\h生成式對(duì)抗網(wǎng)絡(luò)\h生物特征識(shí)別\hAI安全\h03雙雀\h開(kāi)復(fù)解讀\h自然語(yǔ)言處理（NLP）\h有監(jiān)督的NLP\h自監(jiān)督的NLP\hNLP應(yīng)用平臺(tái)\hNLP能通過(guò)圖靈測(cè)試或者成為通用人工智能嗎\h教育領(lǐng)域的AI\h04無(wú)接觸之戀\h開(kāi)復(fù)解讀\h數(shù)字醫(yī)療與人工智能的融合\h傳統(tǒng)藥物及疫苗研發(fā)\hAI在蛋白質(zhì)折疊、藥物篩選及研發(fā)方面的潛力\hAI與精準(zhǔn)醫(yī)療及診斷：讓人類(lèi)活得更加健康長(zhǎng)壽\h機(jī)器人技術(shù)\h機(jī)器人技術(shù)的工業(yè)應(yīng)用\h機(jī)器人技術(shù)的商業(yè)場(chǎng)景和消費(fèi)級(jí)市場(chǎng)\hAI時(shí)代的數(shù)字化工作\h05偶像之死\h開(kāi)復(fù)解讀\h什么是元宇宙\h什么是XR（AR/VR/MR）\hXR技術(shù)：全方位覆蓋人類(lèi)的六感\(zhòng)hXR技術(shù)：超感官體驗(yàn)\hXR技術(shù)的兩大挑戰(zhàn)：裸眼顯示和腦機(jī)接口\hXR技術(shù)普及背后的倫理道德和社會(huì)問(wèn)題\h06神圣車(chē)手\h開(kāi)復(fù)解讀\h自動(dòng)駕駛\h真正的自動(dòng)駕駛什么時(shí)候才會(huì)出現(xiàn)\hL5自動(dòng)駕駛車(chē)輛將帶來(lái)的影響\h阻礙L5自動(dòng)駕駛的非技術(shù)性難題\h07人類(lèi)剎車(chē)計(jì)劃\h開(kāi)復(fù)解讀\h量子計(jì)算\h量子計(jì)算在安全領(lǐng)域的應(yīng)用\h什么是自主武器\h自主武器的利與弊\h自主武器會(huì)成為人類(lèi)生存的最大威脅嗎\h如何解決自主武器帶來(lái)的危機(jī)\h08職業(yè)救星\h開(kāi)復(fù)解讀\hAI將如何取代人類(lèi)員工\hAI取代人類(lèi)員工背后的潛在危機(jī)\hUBI會(huì)是一劑良方嗎\h從事哪些工作的人不容易被AI取代\h如何化解AI時(shí)代的人類(lèi)工作危機(jī)\h迎接AI新經(jīng)濟(jì)以及制定全新的社會(huì)契約\h09幸福島\h開(kāi)復(fù)解讀\hAI時(shí)代的幸福準(zhǔn)則\h如何利用AI衡量和提升幸福感\(zhòng)hAI數(shù)據(jù)：去中心化vs.中心化\h誰(shuí)值得我們信賴并有資格存儲(chǔ)我們所有的數(shù)據(jù)\h10豐饒之夢(mèng)\h開(kāi)復(fù)解讀\h可再生能源革命：太陽(yáng)能＋風(fēng)能＋電池技術(shù)的有效結(jié)合\h材料革命：走向無(wú)限供給\h生產(chǎn)力革命：AI與自動(dòng)化\h豐饒時(shí)代：技術(shù)發(fā)展的必然結(jié)果\h稀缺時(shí)代與后稀缺時(shí)代的經(jīng)濟(jì)模式\h豐饒時(shí)代的貨幣制度\h豐饒時(shí)代的挑戰(zhàn)\h豐饒時(shí)代之后，會(huì)是奇點(diǎn)時(shí)代嗎\hAI的故事會(huì)迎來(lái)一個(gè)圓滿的結(jié)局嗎01

一葉知命開(kāi)復(fù)導(dǎo)讀開(kāi)篇的故事發(fā)生在印度孟買(mǎi)，一個(gè)當(dāng)?shù)丶彝⑴c了一項(xiàng)由深度學(xué)習(xí)賦能的智能保險(xiǎn)計(jì)劃。為了改善這家人的生活，該計(jì)劃的AI保險(xiǎn)程序通過(guò)一系列的生活應(yīng)用與這家的每位成員相連，這些應(yīng)用與保險(xiǎn)算法進(jìn)行動(dòng)態(tài)互動(dòng)。然而，這家正值青春期的女兒卻發(fā)現(xiàn)，這套AI保險(xiǎn)程序似乎總是在“巧妙”地阻撓她追求愛(ài)情。在本章故事后的解讀部分，我將介紹AI和深度學(xué)習(xí)的基礎(chǔ)知識(shí)，闡述其利弊優(yōu)劣。通過(guò)這個(gè)故事，我會(huì)進(jìn)一步解釋AI的運(yùn)作方式，以及為何AI在一門(mén)心思地試圖優(yōu)化某些目標(biāo)時(shí)，卻可能“無(wú)意”中導(dǎo)致后果慘重的多米諾骨牌效應(yīng)。同時(shí)，我會(huì)談一談當(dāng)一家企業(yè)擁有太多用戶數(shù)據(jù)時(shí)，可能帶來(lái)什么樣的風(fēng)險(xiǎn)?？紤]到有些讀者對(duì)AI較為陌生，我在本章的解讀部分增加了“AI簡(jiǎn)史”，探討為什么有些人對(duì)AI翹首以盼，而有些人對(duì)AI持半信半疑的保留態(tài)度，以及AI讓人歡喜讓人憂的幾大議題。自己的命運(yùn)雖不完美，也好過(guò)完美模仿他人的命運(yùn)?！侗≠よ蟾琛返谌碌?5節(jié)屏幕上，隨著西塔琴的節(jié)奏，三層樓高的象頭神塑像緩緩沉入阿拉伯海?？扇芙庑圆牧蠒?huì)在海水中化成金色和紫紅色的泡沫，沾在焦伯蒂海灘上數(shù)千個(gè)慶祝節(jié)日最后一天的孟買(mǎi)信徒身上，像是某種祝福。爺爺和奶奶高興地拍起手唱起歌，弟弟洛汗大口嚼著木薯?xiàng)l，喝著無(wú)糖可樂(lè)，食物殘?jiān)S著他的搖頭晃腦撒了一地。醫(yī)生要求洛汗嚴(yán)格控制脂肪和糖分的攝入，盡管他只有8歲。在廚房里忙活的父親桑賈伊和母親麗婭也敲打著廚具合唱起來(lái)，就像寶萊塢電影里會(huì)出現(xiàn)的橋段。納亞娜卻對(duì)此熟視無(wú)睹。此刻，這個(gè)10年級(jí)女孩全副心思都在一款最近在年輕人中很火的智能應(yīng)用“葉占”（Leafate）上，據(jù)說(shuō)它能夠以問(wèn)答的方式進(jìn)行AI占卜。相傳數(shù)千年前，一位叫阿加斯蒂亞（Agastya）的印度圣哲，在棕櫚葉上以梵文古詩(shī)刻下每個(gè)人的前世、今生與來(lái)世，以及天文科學(xué)、醫(yī)療知識(shí)與哲學(xué)智慧。13世紀(jì)時(shí)，這些葉子在印度南部的泰米爾納德邦被發(fā)掘出土，英國(guó)殖民者將許多刻有天文與藥草知識(shí)的葉子帶回歐洲，而那些寫(xiě)著每個(gè)人命運(yùn)的納迪\h\h(1)葉則被賣(mài)掉。幸而當(dāng)?shù)貙W(xué)者與占星世家將這些納迪葉視為傳家之寶，悉心保存，才得以流傳至今。每個(gè)人都可以通過(guò)提供出生時(shí)間以及指紋來(lái)尋找屬于自己的納迪葉，但因?yàn)閼?zhàn)亂、遺失、保存不當(dāng)?shù)仍?，只有一部分人能找到屬于自己的納迪葉。2025年，來(lái)自英國(guó)的一家科技公司花巨資對(duì)民間流傳的納迪葉進(jìn)行掃描，并使用AI對(duì)上面的信息進(jìn)行深度學(xué)習(xí)、自動(dòng)翻譯及結(jié)構(gòu)化處理，試圖為每一個(gè)人模擬出一片近似的納迪葉。畢竟這顆星球上有近87億人口。按照葉占的說(shuō)法，每個(gè)人的數(shù)字納迪葉都被存儲(chǔ)在云端，只有通過(guò)問(wèn)答形式，才能解鎖想要咨詢的信息，不同問(wèn)題的價(jià)格也不盡相同。今天納亞娜想問(wèn)的問(wèn)題是：“我和新來(lái)的插班生薩赫杰，有沒(méi)有可能發(fā)展成情侶？”當(dāng)薩赫杰的視頻流被推到虛擬課堂界面中央時(shí)，納亞娜一下子被吸引住了。這個(gè)男孩沒(méi)有用美顏濾鏡或虛擬背景，顯得羞澀而真實(shí)。他介紹了身后墻上掛的手工面具，這些面具結(jié)合了印度神靈和超級(jí)英雄的特點(diǎn)，用色大膽，可以看出制作者的確才華橫溢。納亞娜發(fā)覺(jué)在“享聊”（Sharechat）的私密聊天群里，其他女生也在討論薩赫杰。從家居布置和經(jīng)過(guò)隱私保護(hù)處理的姓氏，討論他究竟是不是所謂的“15%”，也就是政府要求私立學(xué)校必須為其保留15%入學(xué)名額的“弱勢(shì)群體”的孩子，學(xué)校需要為他們免除學(xué)雜費(fèi)，他們的書(shū)本和校服也都得靠捐贈(zèng)。所謂“弱勢(shì)群體”，不過(guò)是一個(gè)對(duì)于曾經(jīng)的“達(dá)利特”更具保護(hù)性的代稱。她從一些紀(jì)錄片和書(shū)本里看到過(guò)，種姓制度可以追溯到幾千年前，是一種基于印度教教義的社會(huì)和宗教等級(jí)制度。傳統(tǒng)上，一個(gè)人的種姓在出生之時(shí)便已確定，并且一個(gè)人的種姓將影響他的職業(yè)、教育、婚姻及生活方式。按傳統(tǒng)定義，達(dá)利特在四大種姓之外，又稱“賤民”，是“不可接觸者”，他們通常從事最骯臟的工作——徒手清潔下水道、處理動(dòng)物死尸、鞣制皮革以及一些被認(rèn)為會(huì)“污染”其他印度教徒的事情。根據(jù)1950年的印度憲法，種姓歧視是非法的，但在很長(zhǎng)一段時(shí)間里，達(dá)利特從飲水、用餐、居住的社區(qū)到死后埋葬的墓地，都與其他更上等的種姓人群區(qū)隔開(kāi)。他們擔(dān)心會(huì)造成種姓“污染”，這似乎已經(jīng)成為一種集體無(wú)意識(shí)的心理烙印。一些原先屬于上等種姓的人會(huì)拒絕從達(dá)利特手里接過(guò)食物，甚至拒絕在同一個(gè)空間共處，哪怕雙方是同學(xué)或者同事。印度政府努力糾正這種歷史上形成的不公正現(xiàn)象，試圖為達(dá)利特提供更公平的競(jìng)爭(zhēng)環(huán)境。早在1950年的憲法中，印度政府就以“表列種姓”“表列部落”的方式，制定了為達(dá)利特人提供政府和企事業(yè)單位職員名額、高等學(xué)校入學(xué)名額以及立法機(jī)構(gòu)的議員名額等方面的“保留政策”（ReservationPolicy）。從2010年開(kāi)始，當(dāng)局又進(jìn)一步宣布為達(dá)利特在政府職員名額和高等學(xué)校入學(xué)名額中保留15%的配額。不少家長(zhǎng)抱怨，為什么不按真實(shí)成績(jī)錄??？為什么我們需要為歷史的過(guò)錯(cuò)買(mǎi)單？難道這不是在變相鼓勵(lì)一種新的不平等嗎？但總體上，種姓制度已經(jīng)成為歷史。2億曾經(jīng)的達(dá)利特已通過(guò)各種方式融入印度的主流社會(huì)，難以從表面上看出身份的痕跡，印度政府也在大力推行對(duì)貧民窟的改造，提高弱勢(shì)群體的生活水平。一切似乎都在變得更公平、更美好。聊天室里的女孩們討論得很熱烈：如果薩赫杰真的是15%，還要不要跟他約會(huì)？你們這些勢(shì)利眼。納亞娜心里暗暗咒罵。她有一個(gè)遠(yuǎn)大的夢(mèng)想，她想成為一名表演藝術(shù)家，而不是膚淺的娛樂(lè)明星。所有偉大的藝術(shù)家都必須真實(shí)地面對(duì)自己的內(nèi)心感受，不被世俗眼光所左右。如果她喜歡薩赫杰，那么就是喜歡，無(wú)論他是什么出身，住在哪個(gè)社區(qū)，說(shuō)的印地語(yǔ)是否帶有濃重的泰米爾口音。經(jīng)過(guò)計(jì)算，葉占給出一個(gè)令人失望的答案——“很遺憾，由于所提供信息不足，您的問(wèn)題暫時(shí)無(wú)法得到解答?！本o接著，是退款成功的金幣撞擊聲效。騙子！信息不足又不是我的錯(cuò)！納亞娜憤怒地抬起頭，發(fā)現(xiàn)母親已經(jīng)把飯菜都準(zhǔn)備好了。除了傳統(tǒng)的印度節(jié)日食物，還叫了昂貴的中華料理外賣(mài)，這對(duì)于一向摳門(mén)的父親來(lái)說(shuō)可不太尋常。不僅如此，母親還穿上了她最珍視的帕西式真絲紗麗，盤(pán)了頭發(fā)，戴上了全套首飾。上次這么隆重，也許還是在她和父親結(jié)婚的時(shí)候。爺爺和奶奶也比平時(shí)要高興幾分，甚至胖子洛汗也沒(méi)有一直討厭地纏著她問(wèn)東問(wèn)西。這一切肯定不是因?yàn)橄笊窆?jié)的緣故?！鞍l(fā)生了什么？”納亞娜看著桌上的一切，沒(méi)頭沒(méi)腦地問(wèn)。“什么叫發(fā)生了什么？”母親反問(wèn)她?！爸挥形乙粋€(gè)人覺(jué)得你們和平常不太一樣嗎？”和父親相視一笑后，母親說(shuō)道：“說(shuō)說(shuō)看，哪里不一樣了？”“你們?cè)谛?，你們有什么事情瞞著我？”納亞娜變得有點(diǎn)神經(jīng)質(zhì)?！肮詫氊悅?，先開(kāi)飯吧?！蹦棠涕_(kāi)始動(dòng)手掰面包?！暗鹊龋y道是……爸爸升職了？我們家中彩票了？政府減稅了？”“你倒想得美?！备赣H搖晃著腦袋，“想減稅只能等下屆選舉了。多虧你能干的媽媽……”“媽，你又買(mǎi)了什么？”納亞娜不等父親把話說(shuō)完，便轉(zhuǎn)向得意的母親?！拔?，你這口氣聽(tīng)起來(lái)有點(diǎn)不尊重長(zhǎng)輩呢?！薄吧洗呜澬”阋松袭?dāng)?shù)娜擞植皇俏摇奔{亞娜的聲音小了下去。“這次不一樣。我做了充分的調(diào)查，它有IRDAI（印度保險(xiǎn)監(jiān)管與發(fā)展局）的牌照。而且，周?chē)泥従佣假I(mǎi)了，她們可比我小心多了?！奔{亞娜深吸了一口氣：“這次又是什么？”“象頭神保險(xiǎn)（GaneshaInsurance）！大家都管它叫GI，節(jié)日有特別折扣，首期保費(fèi)打五折?！甭?tīng)到五折，爸爸興奮地拍起了手。爺爺和奶奶雖然不明所以，不過(guò)也跟著鼓起了掌?！巴＃∥覀兗也皇窃缇陀猩ｋU(xiǎn)公司的保險(xiǎn)了嗎？”“你爺爺、奶奶、外公、外婆年紀(jì)都大了，原有的養(yǎng)老金根本不夠用，還得靠我們家供養(yǎng)。生了病，你也不想去公立醫(yī)院排隊(duì)吧，錢(qián)從哪來(lái)？還有你和你弟弟上私立學(xué)校，都得靠省吃儉用。你不是還想去拉伊大學(xué)學(xué)表演藝術(shù)嗎？那里的學(xué)費(fèi)、住宿費(fèi)可比孟買(mǎi)的公立大學(xué)貴多了……”“我就知道，最后又會(huì)怪到我頭上……”“人既要為長(zhǎng)遠(yuǎn)做打算，也得考慮眼前的生活?！睜敔斅朴频夭辶艘痪洹！澳沁@家保險(xiǎn)公司又有什么不一樣？”納亞娜問(wèn)道?！案舯诘纳嘲⑻f(shuō)，這個(gè)平臺(tái)用了AI技術(shù)，能夠根據(jù)全家人的情況，動(dòng)態(tài)調(diào)整保費(fèi)，用最少的錢(qián)實(shí)現(xiàn)最大的保障。而且它還有一系列生活A(yù)pp，推送購(gòu)物建議和打折券?？纯次业念^發(fā)，就是在它推薦的美發(fā)店做的，才400盧比，比我以前做過(guò)的都要好。”洛汗想偷偷地拿甜品，卻被納亞娜打了一下手背，只好乖乖縮回去?！翱梢患冶ｋU(xiǎn)公司干嗎要管你去哪做頭發(fā)呢，它又怎么知道我們家人的情況呢？”“這個(gè)嘛……”媽媽開(kāi)始顧左右而言他，“GI接受家庭投保的條件是，給出所有人的數(shù)據(jù)接口?！薄笆裁?？”納亞娜瞪大了眼睛?！暗麄兿蛭冶ＷC所有數(shù)據(jù)都是嚴(yán)格保密的，除非我們?cè)试S，否則他們不能隨便使用。”“你有什么權(quán)力把我的數(shù)據(jù)接口給別人！”納亞娜失控地叫起來(lái)?！安辉S這么跟你媽媽說(shuō)話。法律上，你還沒(méi)有成年，作為你的監(jiān)護(hù)人，是的，我們有權(quán)這么做?！卑职滞蝗粐?yán)肅起來(lái)，用手指著納亞娜。女兒的臉憋得通紅，把刀叉使勁往盤(pán)里一摔，跑回自己屋里，用被子蒙住自己的腦袋。在納亞娜的那片納迪葉上，這一定是她生命中最糟糕的一天。***納亞娜和家人的冷戰(zhàn)只堅(jiān)持了一個(gè)禮拜。她開(kāi)始收到奇怪的訊息。一開(kāi)始，只是一些日常的問(wèn)候和提醒：要下雨了，出門(mén)記得帶傘；最近呼吸道疾病流行，要戴好口罩；臨近街區(qū)食用水管道發(fā)生泄露；出行路線有交通事故，注意繞開(kāi)擁堵……納亞娜開(kāi)始覺(jué)得GI的服務(wù)似乎也沒(méi)那么討厭。如果在智能傳輸設(shè)備smartstream裝上GI出品的一系列生活A(yù)pp，綁定數(shù)據(jù)接口后，它便時(shí)不時(shí)地還會(huì)推薦一些美妝、服飾、餐飲打折信息和優(yōu)惠券。所有這些App都有一個(gè)共同點(diǎn)——界面上有一只金色的小象。母親把那只金色小象強(qiáng)行推送到了每個(gè)人的終端上。據(jù)調(diào)查，在孟買(mǎi)有超過(guò)70%的家庭數(shù)據(jù)控制權(quán)是在女性手里，而在印度的其他城市這個(gè)比例只有不到40%。所有這些個(gè)人數(shù)據(jù)都綁定在由印度國(guó)民身份統(tǒng)一管理局（UIDAI）向超過(guò)13億印度合法居民發(fā)放的數(shù)字身份卡（Aadhaar）上。數(shù)字身份卡從2010年開(kāi)始投入使用，經(jīng)過(guò)30年的發(fā)展，公民的指紋、虹膜、部分家族遺傳病史、職業(yè)及家庭信息、消費(fèi)及納稅記錄等數(shù)據(jù)都通過(guò)這一系統(tǒng)被政府記錄在案。而GI能夠在用戶同意的前提下獲得極高的數(shù)據(jù)權(quán)限，并使用到其旗下一系列App矩陣中，為用戶提供最為智能和個(gè)性化的服務(wù)。當(dāng)然，總有一些隱私不在打包范圍之內(nèi)，比如社交媒體數(shù)據(jù)就需要單獨(dú)授權(quán)，未成年人隱私數(shù)據(jù)的授權(quán)甚至需要獲得合法監(jiān)護(hù)人的同意。納亞娜非常謹(jǐn)慎地對(duì)待每一次與GI的交互。她總會(huì)反復(fù)閱讀說(shuō)明，選擇“我接受”或者“再考慮一下”。但慢慢地，她發(fā)現(xiàn)每次選擇“再考慮一下”之后，GI總會(huì)推送過(guò)來(lái)更有誘惑力的折扣信息。比如，納亞娜正發(fā)愁應(yīng)該邀請(qǐng)薩赫杰去哪里吃飯，GI就會(huì)立馬為她列出全孟買(mǎi)最適合情侶約會(huì)的10家餐廳。納亞娜猜AI是通過(guò)網(wǎng)絡(luò)瀏覽記錄猜出自己的想法，盡管她對(duì)此也不是百分之百肯定。薩赫杰太可愛(ài)了，像一只溫順的綿羊，想要討好班上的每一個(gè)同學(xué)，給每個(gè)人送上自己做的木雕動(dòng)物頭像。見(jiàn)到真人之后，她更加難以自制，不時(shí)找各種借口和薩赫杰熱情地搭話。但出于某種原因，男孩總是跟她保持距離。他不喜歡我嗎？這個(gè)問(wèn)題盤(pán)旋在納亞娜腦海中，揮之不去。GI則是更加起勁地推薦諸如“如何在男性眼中顯得更有魅力”的建議清單。也許這對(duì)于其他孟買(mǎi)女孩來(lái)說(shuō)，再正常不過(guò)了，可在納亞娜看來(lái)，總覺(jué)得哪里不太對(duì)勁。為什么女生需要通過(guò)改變自己才能獲得男生的青睞，而不是向?qū)Ψ秸故咀钫鎸?shí)的自我呢？盡管跟媽媽還沒(méi)有完全和好，可納亞娜還是趁著她心情大好的時(shí)候拋出了心底的疑惑。“傻孩子，機(jī)器會(huì)的也是人類(lèi)教的呀?！蹦赣H看著鏡子中新買(mǎi)的長(zhǎng)裙，轉(zhuǎn)了個(gè)身，“如果AI每天都泡在享聊上，那它能學(xué)到的只能是這種大男子主義的調(diào)調(diào)。怎么？你最近談戀愛(ài)了？”“沒(méi)、沒(méi)有呀……”納亞娜心虛地否認(rèn)?！澳悴m得了我，可瞞不過(guò)AI哦。需要我?guī)湍愠鲋饕鈫?？”“謝了媽。可我在網(wǎng)上給他點(diǎn)贊，他也沒(méi)什么反應(yīng)……”“傻孩子，喜歡一個(gè)人，光在網(wǎng)上點(diǎn)贊是不夠的。不過(guò)這倒提醒我了，據(jù)說(shuō)如果對(duì)GI開(kāi)放享聊賬號(hào)，我們家的保費(fèi)也許還能再往下降降……”納亞娜搖搖頭，退出母親的房間。不久前，母親還強(qiáng)烈反對(duì)納亞娜為了獲得更準(zhǔn)確的占卜結(jié)果，向葉占開(kāi)放數(shù)據(jù)接口的想法?，F(xiàn)在情況卻完全反了過(guò)來(lái)。不光是母親，家里的每一個(gè)人似乎都被這個(gè)App洗腦了。你能從它上面看見(jiàn)，自己每一個(gè)行為都能夠影響下一期保費(fèi)的升降。一旦什么事情跟金錢(qián)掛上鉤之后，人類(lèi)的大腦就像打開(kāi)了賞罰分明的自動(dòng)程序，不由自主地改造自己，朝著目標(biāo)竭力逼近。老人們得到了許多關(guān)于養(yǎng)生和健康的建議，GI會(huì)提醒他們及時(shí)服用藥物以及到醫(yī)院復(fù)診。當(dāng)然他們也可以通過(guò)GI直接在線預(yù)約私人醫(yī)生，只不過(guò)政府養(yǎng)老金無(wú)法覆蓋這部分費(fèi)用，只能通過(guò)商業(yè)醫(yī)保抵扣。直觀地看到保費(fèi)數(shù)字的變化后，老人們似乎更懂得珍惜自己的生命了。畢竟這個(gè)國(guó)家有超過(guò)2億老年人，其中將近六成的人都享受不到醫(yī)療保障，只能自求多福。父親桑賈伊接受了金色小象的建議，戒掉了香煙，酒也從濃烈的亞力酒換成了比較健康的葡萄酒。他甚至連開(kāi)車(chē)風(fēng)格也有所收斂，不再像賽車(chē)手一樣在擁堵的孟買(mǎi)街頭橫沖直撞了。GI讓桑賈伊直觀地看到了車(chē)險(xiǎn)、意外險(xiǎn)和壽險(xiǎn)保費(fèi)隨著他的行為習(xí)慣的改變而下降，好處可是實(shí)實(shí)在在的，精確到一分一厘。納亞娜原本以為弟弟洛汗是最頑固不化的。畢竟對(duì)于沒(méi)有什么自控能力的小孩子來(lái)說(shuō)，脂肪和糖分容易讓人上癮?？山鹕∠缶谷蛔龅搅?。當(dāng)然，它不是讓8歲男孩理解延遲滿足的重要性，而是讓每一個(gè)家人都理解洛汗不健康的飲食習(xí)慣會(huì)直接導(dǎo)致保費(fèi)上漲，從前的心軟與縱容便一去不復(fù)返。這一切都很好理解。保險(xiǎn)公司當(dāng)然希望投保人活得更健康、更長(zhǎng)壽，它的利潤(rùn)率也就更高?？陀^上，這個(gè)控制系統(tǒng)也降低了父親死于癌癥及交通事故的概率，阻止了弟弟成為印度8000萬(wàn)糖尿病患者中的一員，讓4位長(zhǎng)者活得更有尊嚴(yán)，更有質(zhì)量。GI甚至還通過(guò)對(duì)智能電網(wǎng)數(shù)據(jù)的分析，找到一處因?yàn)槔匣╇姷木€路，避免了一場(chǎng)火災(zāi)。母親見(jiàn)人就說(shuō)，政府沒(méi)有做到的事情，GI做到了！好像這是一件多么光彩的事情。在納亞娜看來(lái)，母親已經(jīng)完全成了GI的一個(gè)傳銷(xiāo)工具。母親的整個(gè)生活只有一個(gè)目標(biāo)——如何將保費(fèi)降到最低，至少必須是社區(qū)里最低的。這幾乎成了太太們相互之間的一場(chǎng)競(jìng)賽。可納亞娜還是猶豫不決：自己究竟應(yīng)不應(yīng)該交出享聊的數(shù)據(jù)接口？直到她收到了薩赫杰送給自己的動(dòng)物木雕，一只雕滿花紋的烏鴉。可烏鴉不是厄運(yùn)的象征嗎？他是讓我不要太聒噪嗎？他到底想要說(shuō)什么？被一連串疑問(wèn)折磨得暈頭轉(zhuǎn)向的納亞娜第一時(shí)間想到的，竟然不是登錄葉占去算一卦，而是允許GI進(jìn)入她的社交媒體生活。***事情非常不對(duì)勁。開(kāi)放了享聊的數(shù)據(jù)接口，就好比敞開(kāi)了臥室的大門(mén)，你的網(wǎng)絡(luò)私生活一覽無(wú)遺。盡管GI一再保證，所有的數(shù)據(jù)都以聯(lián)邦學(xué)習(xí)的方式投喂給AI，不會(huì)有任何第三方平臺(tái)會(huì)得到這些隱私信息，但對(duì)于終端用戶來(lái)說(shuō)，這樣的保證就好比農(nóng)場(chǎng)主對(duì)火雞說(shuō)，你現(xiàn)在很安全，盡情享受生活吧?？烧l(shuí)也不知道感恩節(jié)究竟在什么時(shí)候降臨。一想到自己在享聊上的瀏覽、發(fā)言、點(diǎn)贊、表情……以及在輸入框中鍵入又刪除的文字，還有手指在屏幕上滑動(dòng)、停留的痕跡，都將成為一個(gè)保險(xiǎn)“機(jī)器”調(diào)整賬單數(shù)字的依據(jù)，納亞娜就覺(jué)得整件事太可笑了。她還期待這臺(tái)機(jī)器能夠充當(dāng)戀愛(ài)顧問(wèn)呢。薩赫杰在享聊上留下的信息很少。他像一個(gè)不屬于這個(gè)時(shí)代的老年人，謹(jǐn)慎地轉(zhuǎn)發(fā)官方新聞，或者發(fā)一些過(guò)時(shí)的表情包，給人一種“僵尸”賬號(hào)的感覺(jué)。毫無(wú)疑問(wèn)，盡管AI不認(rèn)識(shí)薩赫杰，但只要追蹤納亞娜的行為軌跡，便能夠輕易地在兩人之間建立起某種關(guān)聯(lián)。這只關(guān)乎算法，與愛(ài)情毫無(wú)瓜葛。納亞娜發(fā)現(xiàn)，她每一次刷新薩赫杰的頁(yè)面時(shí)，每一次給他點(diǎn)贊時(shí)，GI都會(huì)蹦出奇怪的提示，分散她的注意力。如果她想找個(gè)理由和薩赫杰通話，預(yù)約共進(jìn)晚餐的餐廳，甚至只是在網(wǎng)上挑選禮物時(shí)，GI都會(huì)彈出一些完全離譜的推薦，或者干脆讓頁(yè)面一直處于加載狀態(tài)，無(wú)法顯示結(jié)果。如果她猜得沒(méi)錯(cuò)的話，GI正在阻止她進(jìn)一步發(fā)展和薩赫杰的關(guān)系。這和之前相比，可是大相徑庭。為什么是薩赫杰？或者可能是任何一個(gè)人？究竟是哪里出了問(wèn)題？母親毫無(wú)預(yù)兆地出現(xiàn)在納亞娜的房間門(mén)口，打斷了她的胡思亂想：“你究竟在搞什么鬼？我們的保費(fèi)都快漲到天上去了！”“我……”納亞娜不知道該怎么說(shuō)出口。“告訴我，否則我就沒(méi)收你的smartstream?！薄安?，你不能這么做！”“很遺憾的是我可以，而且我現(xiàn)在就要……”還沒(méi)等母親的話說(shuō)完，納亞娜就撞開(kāi)她，跑出了家門(mén)。她要逃到一個(gè)沒(méi)有人能找到自己的地方。她要給薩赫杰打一個(gè)電話，管它保費(fèi)漲多少?；瓴皇厣岬呐⒉恢雷吡硕嗑?，直到看見(jiàn)混凝土墻上一張張人臉對(duì)自己露出笑容，她才知道自己走到了古堡區(qū)的新印度保險(xiǎn)大廈。這座裝飾藝術(shù)風(fēng)格的大廈建于1936年，外立面裝飾著表現(xiàn)農(nóng)民、陶藝師、棉紡女工等勞動(dòng)者生活的浮雕。太陽(yáng)開(kāi)始落山了，納亞娜決定在這里給薩赫杰打電話。男孩的頭像旋轉(zhuǎn)閃爍，smartstream不斷彈出GI的通知，家庭保費(fèi)又上漲了0.73盧比……等待接聽(tīng)的時(shí)間如此漫長(zhǎng)，就在納亞娜幾乎要放棄的時(shí)候，電話接通了。畫(huà)面黑乎乎的，看不太清楚，只有當(dāng)薩赫杰咧嘴一笑時(shí)，那口整潔的白牙才暴露了他?！笆悄銌?，薩赫杰？”納亞娜怯聲問(wèn)道?！啊俏?，納亞娜？”“我以為你不會(huì)接我電話呢?！薄班拧也荒苷f(shuō)太久，不過(guò)……我并不是不想跟你說(shuō)話。”“我知道。”納亞娜的心都快跳上天了，“我給你發(fā)餐廳地址，一會(huì)兒見(jiàn)？”薩赫杰似乎有一絲為難，不過(guò)最終還是答應(yīng)了。掛掉電話，納亞娜忍不住歡呼了一聲，卻聽(tīng)到身后有人叫自己的名字。她轉(zhuǎn)身一看，是母親。麗婭站在夕陽(yáng)下，渾身閃爍著金紅色的光?！皨寢?？……你怎么知道我在這里？”“別忘了，我還是這家里的數(shù)據(jù)管理員。”麗婭做出生氣的樣子?！皩?duì)不起?！奔{亞娜不敢直視母親的眼睛，“我喜歡上了一個(gè)人……我想去見(jiàn)他，可是GI不讓我去……”“這就是保費(fèi)上漲的原因？這可太奇怪了，我一直以為GI的目標(biāo)就是最大限度地延長(zhǎng)我們的壽命，不讓人干出一些傷害健康的蠢事。除非，那是一個(gè)很危險(xiǎn)的人？或者，他患有某種傳染病？”納亞娜搖搖頭：“他是我的新同學(xué)薩赫杰，很聰明，很有才華?！奔{亞娜從口袋里拿出薩赫杰送她的禮物，“喏，這是他自己刻的?！蹦赣H仔細(xì)端詳著那只木頭烏鴉：“感覺(jué)他確實(shí)不像是壞人，我敢打賭他應(yīng)該還挺帥。”納亞娜收起木雕，露出了羞赧的笑容，隨即又變得憂心忡忡：“也許我應(yīng)該聽(tīng)GI的話？也許這對(duì)我，對(duì)我們家，都是更好的選擇？”“孩子，我想告訴你一些事情?！蹦赣H摟著女兒的肩膀，緩緩地往回走，“之前有一段時(shí)間，我感覺(jué)到了咱們之間的小別扭。也許由此而來(lái)的擔(dān)憂影響了我的舉動(dòng)，AI注意到了這些變化，開(kāi)始向我推薦一些書(shū)……”“那么你讀了什么？”納亞娜開(kāi)始好奇?！耙槐?0年前的電子書(shū)，名字卻叫《AI2041》。里面有一個(gè)關(guān)于母親和女兒的故事。母親為了維護(hù)自己的權(quán)威，卻忽視了女兒成長(zhǎng)的煩惱……巧的是那也是一家印度人！里面還提到了科妮莉亞·索拉布吉（CorneliaSorabji），那是一位我曾經(jīng)深深敬仰的女士……”“媽，能說(shuō)一點(diǎn)關(guān)于那位女士的故事嗎？”“20年前，當(dāng)時(shí)我比你大不了幾歲。我最大的愿望是當(dāng)一名律師。也許是因?yàn)槲业哪感！腺I(mǎi)大學(xué)曾經(jīng)出過(guò)印度歷史上第一位女律師科妮莉亞·索拉布吉。盡管她1919年就在牛津大學(xué)拿到了律師資格，卻因?yàn)橛《葲](méi)有女律師的先例而被拒絕注冊(cè)成為執(zhí)業(yè)律師。她與官僚機(jī)構(gòu)抗?fàn)幜嗽S多年，才真正成為一名律師，替女性和弱勢(shì)群體伸張正義，爭(zhēng)取權(quán)利?！奔{亞娜吃驚地看著母親，她從來(lái)不知道這些事情?！暗?00年后，女性的處境依然很艱難。我的父母希望我能夠盡快嫁人，而不是混在男人堆里整天和罪犯打交道。這就是為什么在這個(gè)國(guó)家女性地位如此低下的原因。我沒(méi)有科妮莉亞那么勇敢，我放棄了。我珍藏那件紗麗，就是為了向科妮莉亞致敬。當(dāng)年她把紗麗反過(guò)來(lái)穿，作為一種示威?！蹦赣H停下來(lái)，雙手放在女兒的肩上，眼中有什么東西閃閃發(fā)光?！拔蚁Ｍ芙o你有足夠安全感的生活，這樣你就不需要靠嫁給誰(shuí)才能得到幸福，這樣你就可以去追求任何你想要的東西，成為任何你想成為的人。比如，去上拉伊大學(xué)學(xué)時(shí)尚科技與表演藝術(shù)。納亞娜，無(wú)論是誰(shuí)，人或者AI，告訴你你不能做什么，別聽(tīng)他們的。有些事情如果自己不去嘗試，你永遠(yuǎn)也不會(huì)知道答案。”納亞娜仿佛第一次真正認(rèn)識(shí)了自己的母親，她激動(dòng)得說(shuō)不出話來(lái)?！八浴阅悴⒉唤橐馕译x開(kāi)孟買(mǎi)……去艾哈邁達(dá)巴德？”“這個(gè)嘛……如果你考得上的話，不過(guò)競(jìng)爭(zhēng)可是很激烈哦?！蹦赣H微微一笑?！耙膊唤橐庖?yàn)槲遥依锏谋ＹM(fèi)上漲？”“有一些風(fēng)險(xiǎn)值得去冒，我相信我的女兒有自己的判斷力?！薄爸x謝你，媽媽！我現(xiàn)在就去找薩赫杰！”納亞娜吻別母親，雀躍著奔向車(chē)站。一輛紅色的雙層巴士正從馬路拐角駛來(lái)……***透過(guò)玻璃窗，納亞娜看見(jiàn)餐廳里的侍者們正忙碌地?cái)[放餐具，點(diǎn)亮燭臺(tái)，等待顧客在這個(gè)浪漫的夜晚走進(jìn)靛藍(lán)餐廳\h\h(2)。薩赫杰站在窗外的街邊，他的皮膚在夜色中顯得更加深沉。他一點(diǎn)也沒(méi)有想走進(jìn)那家餐廳的意思?！皩?duì)不起，我不能……”他的眼睛像一對(duì)螢火蟲(chóng)，幽幽發(fā)亮?！盀槭裁矗俊薄叭绻液湍氵M(jìn)了這家餐廳，我的媽媽會(huì)不高興的。這種消費(fèi)行為會(huì)提升我們的保費(fèi)?！薄半y道說(shuō)……”納亞娜閃過(guò)一個(gè)念頭，“等等！你們也加入了GI的家庭計(jì)劃？”“是的。我媽媽生病了。我們只負(fù)擔(dān)得起草藥的錢(qián)，可是草藥治不好她。我們很幸運(yùn)，GI有面向弱勢(shì)群體的特殊通道，否則，我們可能根本負(fù)擔(dān)不起……”“可我還是不明白！為什么你要送給我烏鴉？而不是孔雀、兔子或者別的什么動(dòng)物……”薩赫杰又露出了迷人的微笑：“問(wèn)題小姐，我們不該站在這家高級(jí)餐廳門(mén)口，像兩個(gè)傻瓜一樣瞪著對(duì)方。邊走邊說(shuō)吧?！币鼓怀踅档拿腺I(mǎi)街頭車(chē)水馬龍，喇叭聲此起彼伏，像是公鴨在比拼嗓門(mén)。璀璨的燈火照亮這座容納了3000萬(wàn)人口的巨型城市，她的歷史可以追溯到石器時(shí)代。最初到達(dá)這里的希臘人給她起名為“Heptanesia”，意思就是“七座島”，后來(lái)歷經(jīng)佛教的孔雀王朝、印度教的錫拉哈拉王朝、伊斯蘭教的古吉拉特王國(guó)，直到落入葡萄牙人的手里，然后又被當(dāng)成凱瑟琳公主的嫁妝送給了英國(guó)人。再后來(lái)，她成了印度爭(zhēng)取獨(dú)立的核心，伴隨著血與火的洗禮，直到今天。納亞娜意識(shí)到薩赫杰非常小心地保持和自己的距離，就像她身上帶著電流或者尖刺?！盀槭裁次覀兙筒荒堋荒芸拷舜耍俊奔{亞娜小心地選擇措辭。這下輪到薩赫杰露出了驚訝的表情：“你真的不知道嗎，納亞娜？”“知道什么？”“我的姓氏啊。”“學(xué)校和虛擬課堂的系統(tǒng)一直把你的姓氏保護(hù)得很好，就像是什么名門(mén)望族的后代?！薄扒∏∠喾?，這是因?yàn)樗麄儾幌胱屇銈儺a(chǎn)生不好的感覺(jué)?！薄笆裁床缓玫母杏X(jué)？”“在以前，它被形容為一種‘被污染’的感覺(jué)?！薄澳闶窃谡f(shuō)……種姓？可我以為那已經(jīng)被禁止很久了?！彼_赫杰苦澀地笑了笑：“法律上不允許，新聞里不出現(xiàn)，人們不說(shuō)這個(gè)詞，但這并不代表它就消失了?！薄翱葾I是怎么知道的呢？”“AI并不知道。事實(shí)上，它根本不需要知道任何關(guān)于種姓的定義，它只需要從歷史數(shù)據(jù)中學(xué)習(xí)。你住哪個(gè)社區(qū)，做什么工作，賺多少錢(qián)，開(kāi)什么車(chē)，平常吃什么，在網(wǎng)上喜歡看什么……所有這些都會(huì)通過(guò)算法把你和一個(gè)更大的群體聯(lián)系起來(lái)，即便你并不認(rèn)可這種身份。無(wú)論你用什么方式隱藏或改變你的姓氏，它都像一個(gè)影子一樣存在著。人沒(méi)有辦法擺脫自己的影子，不是嗎？”納亞娜想起媽媽說(shuō)過(guò)的話，若有所思：“所以，AI是通過(guò)對(duì)數(shù)據(jù)的學(xué)習(xí)，將社會(huì)上對(duì)于種姓的隱性歧視，顯性化成可以量化計(jì)算的保費(fèi)?！彼_赫杰故作輕松地笑了笑：“哈，差點(diǎn)忘了，還有膚色。最初代表種姓的梵文‘瓦爾那’（vārna），意思就是‘顏色’?！薄斑@簡(jiǎn)直太荒謬了！”“這就是現(xiàn)實(shí)，納亞娜。低種姓的女孩或許可以嫁給高種姓的男性，但如果反過(guò)來(lái)，則會(huì)被社會(huì)視為不道德。高種姓女孩的家庭聲譽(yù)會(huì)受損，她的兄弟姐妹也會(huì)被人指指點(diǎn)點(diǎn)?！薄翱晌乙詾锳I并不懂這些?！薄皼](méi)錯(cuò)，AI并不在乎這些古老的規(guī)矩，它只在乎如何盡可能降低保費(fèi)。這就是為什么GI要阻止我們?cè)谝黄鸬脑??！辈恢獮楹?，?dāng)聽(tīng)到薩赫杰說(shuō)到“在一起”時(shí)，納亞娜的耳朵微微發(fā)燙，頭開(kāi)始發(fā)暈，以至于沒(méi)聽(tīng)清男孩說(shuō)出的一個(gè)術(shù)語(yǔ)?！澳繕?biāo)函數(shù)最大化?！薄澳鞘鞘裁?？”“如果人類(lèi)告訴AI，嘿，讓這些人的保費(fèi)降得越低越好。然后，AI就會(huì)千方百計(jì)地去實(shí)現(xiàn)這個(gè)目標(biāo)。客觀上，GI的建議會(huì)讓投保人活得更久、更健康、更安全，但除此之外，它不會(huì)考慮其他的因素，比如這些人快不快樂(lè)。”“這也太蠢了?！薄皺C(jī)器還沒(méi)有聰明到能夠理解人類(lèi)的快樂(lè)。況且，所有這些不公平與偏見(jiàn)都是真實(shí)存在的。AI只是揭開(kāi)了那層遮羞的面紗。”“你怎么知道這么多？”納亞娜眼中又多了幾分贊賞?！拔蚁肷暾?qǐng)上帝國(guó)理工學(xué)院?！彼_赫杰小心翼翼地說(shuō)出了自己的心愿，“我想成為一名算法工程師，然后，改變這一切。”兩人走到一個(gè)岔路口，離納亞娜的家已經(jīng)很近了。薩赫杰打算就此告別，女孩卻有話還沒(méi)說(shuō)完?！斑@種不公平讓我想起了葉占上的那些預(yù)言，那些預(yù)言早在千百年前就被寫(xiě)好了，每一個(gè)人都不得不接受命運(yùn)的安排……”薩赫杰露出奇怪的表情：“難道你還不知道？”“知道什么？”“葉占也是GI家族的App之一。那些所謂的算命結(jié)果，都是來(lái)自AI對(duì)你的數(shù)據(jù)分析?！薄鞍?？所以命運(yùn)也不是真的……”納亞娜突然感到一陣失落。薩赫杰沉默了一會(huì)兒，指向自己將要走的方向?！斑@條路通往我的家。它將經(jīng)過(guò)達(dá)拉維工地，孟買(mǎi)的心臟，那里曾經(jīng)是容納過(guò)100萬(wàn)人的超級(jí)貧民窟。每個(gè)游客都想到此一游，拍照留念，但他們絕對(duì)不會(huì)住下來(lái)。政府正在把它改造成適合普通市民居住的超級(jí)社區(qū)。可當(dāng)你靠近達(dá)拉維時(shí)，GI還是會(huì)不停地推送警報(bào)，告訴你上周有多少人在這里被殺，有多少女孩被強(qiáng)奸，有多少孩子死于痢疾。納亞娜，我很欣賞你的正義感，但這樣的一條路，不是為你們這樣的人準(zhǔn)備的。如果我們要討論命運(yùn)，這就是命運(yùn)?！薄皫胰??！奔{亞娜朝前邁出一步，連她都被自己的話嚇了一跳，“我要證明給你看，我不是你所說(shuō)的那種人?！薄澳愦_定嗎？”納亞娜遙望遠(yuǎn)處那片改造中的工地，在燈火通明的孟買(mǎi)中心，那里就像一片黑暗的沼澤。她心里生出幾分害怕，但她又想起了媽媽之前告訴過(guò)自己的話?！坝行╋L(fēng)險(xiǎn)值得去冒。”她堅(jiān)定地說(shuō)。“請(qǐng)?！彼_赫杰微微一笑，像個(gè)真正的紳士那樣伸出手，讓納亞娜先走。兩個(gè)孩子在這座古老的城市中行走。歷史在每一條反復(fù)修繕的街道上，在每一張表情復(fù)雜的臉上，在每一個(gè)來(lái)歷不明的音節(jié)里留下印跡。它們都是孟買(mǎi)的靈魂。這些靈魂又將被打碎、重組，然后拼貼成明天嶄新的機(jī)器神靈?！澳敲茨愕降诪槭裁匆臀覟貘f？”“我的星座動(dòng)物是烏鴉，雖然我沒(méi)那么擅長(zhǎng)社交?！薄熬瓦@么簡(jiǎn)單？”“就這么簡(jiǎn)單?！奔{亞娜的smartstream越來(lái)越頻繁地震動(dòng)起來(lái)。她知道這是來(lái)自GI的警告，警告自己務(wù)必遠(yuǎn)離達(dá)拉維。那里曾經(jīng)是全世界最大的貧民窟，那里充滿了貧窮、犯罪、疾病，以及所謂的“不可接觸者”——就像眼前的這個(gè)男孩。她緊了緊衣領(lǐng)，沿著古老的街道繼續(xù)向前走去。女孩決定要自己找到答案。\h(1)古印度人認(rèn)為納迪（Nadi）是輸送各種生命元的人體經(jīng)絡(luò)。\h(2)靛藍(lán)餐廳，孟買(mǎi)著名的現(xiàn)代歐洲美食餐廳。開(kāi)復(fù)解讀《一葉知命》為我們清晰展現(xiàn)了象頭神保險(xiǎn)公司所使用的深度學(xué)習(xí)技術(shù)的力量：納亞娜的媽媽麗婭買(mǎi)到劃算的東西，省了不少錢(qián)；爸爸桑賈伊戒了煙，開(kāi)車(chē)風(fēng)格也有所收斂；弟弟洛汗改變了不良的飲食習(xí)慣，吃得更健康了，以免成為印度8000萬(wàn)糖尿病患者中的一員……客觀來(lái)看，象頭神保險(xiǎn)公司的確做到了幫助投保人“活得更長(zhǎng)久、更健康、更安全”。那么，深度學(xué)習(xí)技術(shù)就沒(méi)有任何陷阱嗎？事實(shí)上，如何平衡好技術(shù)的尺度也是《一葉知命》的故事想要探討的內(nèi)核，這個(gè)問(wèn)題也引發(fā)了人們對(duì)AI基礎(chǔ)概念之一——深度學(xué)習(xí)的思考。目前，AI已經(jīng)發(fā)展成一門(mén)涵蓋許多子領(lǐng)域的重要學(xué)科。機(jī)器學(xué)習(xí)是迄今為止AI應(yīng)用最成功的子領(lǐng)域，而在這個(gè)領(lǐng)域中，最大的技術(shù)突破就是深度學(xué)習(xí)。正因?yàn)槿绱?，人們?cè)谔岬健叭斯ぶ悄堋薄皺C(jī)器學(xué)習(xí)”和“深度學(xué)習(xí)”的時(shí)候，可能不會(huì)把它們的概念區(qū)分得那么清楚，有時(shí)候，這幾個(gè)詞會(huì)被混用。2016年，基于深度學(xué)習(xí)技術(shù)開(kāi)發(fā)的圍棋棋手AlphaGo擊敗了韓國(guó)棋手李世石，令世界為之震驚，而深度學(xué)習(xí)也借此徹底點(diǎn)燃了人們對(duì)AI的熱情。此后，深度學(xué)習(xí)成為大多數(shù)AI商業(yè)化應(yīng)用中非常重要的技術(shù)。作為“幕后功臣”，深度學(xué)習(xí)也出現(xiàn)在了本書(shū)的絕大多數(shù)故事之中?！兑蝗~知命》這個(gè)故事充分展示了深度學(xué)習(xí)的驚人潛能，但也暴露了這一技術(shù)背后潛在的風(fēng)險(xiǎn)，例如無(wú)法消除隱含在技術(shù)背后的偏見(jiàn)等問(wèn)題。那么，研究人員應(yīng)該如何開(kāi)發(fā)、訓(xùn)練和應(yīng)用深度學(xué)習(xí)？深度學(xué)習(xí)有哪些局限性？數(shù)據(jù)將如何推動(dòng)深度學(xué)習(xí)的發(fā)展？深度學(xué)習(xí)在什么條件下才能發(fā)揮最大價(jià)值，為什么？這些都是我們要逐一解決的問(wèn)題。什么是深度學(xué)習(xí)受人類(lèi)大腦內(nèi)部復(fù)雜的神經(jīng)元網(wǎng)絡(luò)的啟發(fā)，深度學(xué)習(xí)模擬生物神經(jīng)網(wǎng)絡(luò)，構(gòu)建出包括輸入層和輸出層在內(nèi)的人工神經(jīng)網(wǎng)絡(luò)，當(dāng)將數(shù)據(jù)輸入該網(wǎng)絡(luò)的輸入層后，在輸出層就會(huì)顯現(xiàn)出相應(yīng)的處理結(jié)果。在輸入層和輸出層之間，可能存在很多中間層（又稱隱藏層），從而能夠更深入地刻畫(huà)所處理對(duì)象的特征，并具備更強(qiáng)大的函數(shù)模擬能力。幾十年前，計(jì)算機(jī)算力有限，只能支撐一兩層中間層。近年來(lái)，隨著算力增強(qiáng)，可以訓(xùn)練出有成千上萬(wàn)層中間層的網(wǎng)絡(luò)，“深度學(xué)習(xí)”即由此得名。許多人認(rèn)為，人類(lèi)使用特定的規(guī)則去“編碼”AI，利用自身的認(rèn)知（比如貓有尖尖的耳朵和胡須）去“教導(dǎo)”AI，才能讓算法具備相應(yīng)的能力。但這種做法反而會(huì)弄巧成拙，沒(méi)有這些外在的人類(lèi)規(guī)則，深度學(xué)習(xí)的效果其實(shí)會(huì)更好。深度學(xué)習(xí)的訓(xùn)練方法是，針對(duì)特定的應(yīng)用場(chǎng)景，給人工神經(jīng)網(wǎng)絡(luò)的輸入層“投喂”大量數(shù)據(jù)樣本，同時(shí)給輸出層“投喂”相應(yīng)的“正確答案”，通過(guò)這樣的訓(xùn)練，不斷優(yōu)化人工神經(jīng)網(wǎng)絡(luò)的內(nèi)部參數(shù)，使根據(jù)輸入生成最接近“正確答案”的輸出的概率最高。舉個(gè)例子。研究人員如果想訓(xùn)練一個(gè)人工神經(jīng)網(wǎng)絡(luò)利用深度學(xué)習(xí)技術(shù)學(xué)會(huì)確認(rèn)一張圖片上是否畫(huà)著貓，他會(huì)先向該網(wǎng)絡(luò)的輸入層“投喂”數(shù)百萬(wàn)張帶著“有貓”或“無(wú)貓”標(biāo)簽的圖片樣本，然后把相應(yīng)的結(jié)果“投喂”給輸出層，再根據(jù)輸入與輸出對(duì)該網(wǎng)絡(luò)內(nèi)部的參數(shù)進(jìn)行優(yōu)化，使每一次新的輸入行為都能提高輸出正確結(jié)果的概率。通過(guò)這種訓(xùn)練，人工神經(jīng)網(wǎng)絡(luò)能夠在數(shù)百萬(wàn)張圖片中，自己找到最有助于區(qū)分是否有貓存在的那些特征。人工神經(jīng)網(wǎng)絡(luò)的訓(xùn)練是一個(gè)數(shù)學(xué)處理過(guò)程——通過(guò)不斷調(diào)整網(wǎng)絡(luò)中的數(shù)百萬(wàn)個(gè)參數(shù)（有時(shí)甚至是數(shù)十億個(gè)參數(shù)），來(lái)最大限度地提高“只要輸入有貓的圖片，就輸出‘有貓’的判定”的概率，以及“只要輸入沒(méi)有貓的圖片，就輸出‘無(wú)貓’的判定”的概率。在訓(xùn)練過(guò)程中，人工神經(jīng)網(wǎng)絡(luò)和其中的參數(shù)會(huì)組成一個(gè)巨大的數(shù)學(xué)方程組，用以解決有貓無(wú)貓的問(wèn)題。一旦完成訓(xùn)練，它就可以對(duì)從未見(jiàn)過(guò)的圖片進(jìn)行判斷，確定圖片上是否有貓。圖1-1展示了一個(gè)利用深度學(xué)習(xí)技術(shù)識(shí)別圖片上是否畫(huà)著貓的神經(jīng)網(wǎng)絡(luò)架構(gòu)。圖1-1經(jīng)過(guò)訓(xùn)練，人工神經(jīng)網(wǎng)絡(luò)能夠判定輸入的圖片上“有貓”還是“無(wú)貓”在訓(xùn)練過(guò)程中，可以將深度學(xué)習(xí)視為解決目標(biāo)函數(shù)最大化問(wèn)題的一種數(shù)學(xué)運(yùn)算。這個(gè)目標(biāo)函數(shù)是由每次的訓(xùn)練主題決定的，比如在識(shí)別貓的這個(gè)例子中，目標(biāo)函數(shù)就是正確判斷出圖片上“有貓”或者“無(wú)貓”的概率。深度學(xué)習(xí)幾乎在任何領(lǐng)域都能發(fā)揮識(shí)別、預(yù)測(cè)、分類(lèi)、合成的作用。在《一葉知命》這個(gè)故事中，象頭神保險(xiǎn)公司就是把深度學(xué)習(xí)技術(shù)應(yīng)用到保險(xiǎn)行業(yè)，用于判斷投保人可能面臨的健康問(wèn)題，并以此作為確定保費(fèi)的依據(jù)。為了讓人工神經(jīng)網(wǎng)絡(luò)能夠區(qū)分出那些可能患重大疾病的人，象頭神保險(xiǎn)需要整理出一套訓(xùn)練數(shù)據(jù)。這套數(shù)據(jù)需涵蓋所有過(guò)去的投保人的信息，包括每個(gè)人的個(gè)人病史和家庭病史等，并且每個(gè)數(shù)據(jù)樣本都應(yīng)打上是否有過(guò)重大疾病索賠記錄的標(biāo)簽（就是在輸出層標(biāo)注“有重大疾病索賠記錄”或“無(wú)重大疾病索賠記錄”）。在用海量數(shù)據(jù)進(jìn)行訓(xùn)練后，該網(wǎng)絡(luò)就可以預(yù)測(cè)出新的投保人在未來(lái)提出重大疾病索賠的概率，并決定是否核準(zhǔn)該投保人的投保申請(qǐng)；如果核準(zhǔn)，該網(wǎng)絡(luò)還要給定適合該投保人的保費(fèi)額度。值得注意的是，在這個(gè)場(chǎng)景中，不需要由人來(lái)為過(guò)去的投保人打上是否有過(guò)重大疾病索賠記錄的標(biāo)簽，取而代之的是，這些標(biāo)簽應(yīng)完全依據(jù)“黃金標(biāo)準(zhǔn)”（例如有無(wú)重大疾病索賠記錄）自動(dòng)生成。深度學(xué)習(xí)：能力驚人但也力有不逮第一篇闡述深度學(xué)習(xí)的學(xué)術(shù)論文發(fā)表于1967年，但這項(xiàng)技術(shù)卻花了近50年的時(shí)間才得以蓬勃發(fā)展，之所以經(jīng)歷了這么長(zhǎng)的時(shí)間，是因?yàn)樯疃葘W(xué)習(xí)需要海量的數(shù)據(jù)和強(qiáng)大的算力，才能訓(xùn)練多達(dá)幾千層的神經(jīng)網(wǎng)絡(luò)。如果把算力比作AI的引擎，那么數(shù)據(jù)就是AI的燃料，直到最近10年，算力才變得足夠高效，數(shù)據(jù)才變得足夠豐富。如今，智能手機(jī)所擁有的算力，相當(dāng)于1969年美國(guó)國(guó)家航空航天局（NASA）把尼爾·阿姆斯特朗送上月球時(shí)所用電腦算力的數(shù)百萬(wàn)倍。除算力的大幅提升外，數(shù)據(jù)量的增長(zhǎng)也不遑多讓——2020年的互聯(lián)網(wǎng)數(shù)據(jù)量幾乎是1995年時(shí)的1萬(wàn)億倍。盡管深度學(xué)習(xí)的最初靈感來(lái)源于人類(lèi)的大腦，但二者的運(yùn)作方式截然不同：深度學(xué)習(xí)所需要的數(shù)據(jù)量遠(yuǎn)比人腦所需要的多得多?？墒且坏┙?jīng)過(guò)大數(shù)據(jù)訓(xùn)練，它在相同領(lǐng)域的表現(xiàn)將遠(yuǎn)遠(yuǎn)超過(guò)人類(lèi)（尤其是在數(shù)字的量化學(xué)習(xí)，例如挑選某人最可能購(gòu)買(mǎi)的產(chǎn)品，或從100萬(wàn)張臉中挑選最匹配的一張）——相對(duì)來(lái)說(shuō)，人類(lèi)在同一時(shí)間內(nèi)只能把注意力放在少數(shù)幾件事情上面，而深度學(xué)習(xí)算法卻可以同時(shí)處理海量信息，并且發(fā)現(xiàn)在大量數(shù)據(jù)背后的模糊特征之間的關(guān)聯(lián)，這些模糊特征不僅復(fù)雜而且微妙，人類(lèi)往往無(wú)法理解，甚至可能不會(huì)注意到。圖1-2深度學(xué)習(xí)的最初靈感來(lái)源于人類(lèi)的大腦（圖片來(lái)源:dreamstime/TPG）此外，在借助大量數(shù)據(jù)進(jìn)行訓(xùn)練時(shí)，深度學(xué)習(xí)可以針對(duì)每一個(gè)用戶提供定制化的服務(wù)——基于海量數(shù)據(jù)中較相似用戶的數(shù)據(jù)，對(duì)每個(gè)用戶做出貼切的預(yù)測(cè)，以達(dá)到千人千面的效果。例如，當(dāng)你訪問(wèn)淘寶時(shí)，它的AI算法會(huì)在首頁(yè)醒目的位置向你重點(diǎn)推薦你可能愿意下單購(gòu)買(mǎi)的商品，刺激你的消費(fèi)欲，讓你最大限度地在淘寶消費(fèi)。AI算法推薦這些商品所依據(jù)的，不僅僅是你過(guò)去的瀏覽痕跡，也包括和你畫(huà)像相似的其他用戶的瀏覽痕跡。當(dāng)你刷抖音上的短視頻時(shí)，系統(tǒng)的AI算法會(huì)讓你總能刷到感興趣的內(nèi)容，盡量延長(zhǎng)你在該應(yīng)用程序上的停留時(shí)間。淘寶和抖音的AI算法是定制化的，會(huì)針對(duì)不同的用戶分別考量與之相類(lèi)似的用戶的特征，最終為其展示不同的個(gè)性化內(nèi)容——同一個(gè)內(nèi)容，可能在你眼里根本一文不值，但我會(huì)覺(jué)得很有價(jià)值——這種有針對(duì)性的精準(zhǔn)定制化服務(wù)所帶來(lái)的用戶點(diǎn)擊率和購(gòu)買(mǎi)率，比傳統(tǒng)的靜態(tài)網(wǎng)站通常所使用的內(nèi)容推送方法要好很多。深度學(xué)習(xí)的能力非常強(qiáng)大，然而它并不是“包治百病”的靈丹妙藥。雖然深度學(xué)習(xí)擁有人類(lèi)所缺乏的并行處理海量數(shù)據(jù)的“絕技”，但不具備人類(lèi)在面對(duì)決策時(shí)獨(dú)一無(wú)二的汲取過(guò)去的經(jīng)驗(yàn)、使用抽象概念和常識(shí)的能力。與人類(lèi)相比，深度學(xué)習(xí)想要充分發(fā)揮作用，離不開(kāi)海量的相關(guān)數(shù)據(jù)、單一領(lǐng)域的應(yīng)用場(chǎng)景以及明確的目標(biāo)函數(shù)，這三項(xiàng)缺一不可，如果缺少其中任何一項(xiàng)，深度學(xué)習(xí)將無(wú)用武之地。如果數(shù)據(jù)太少，AI算法就沒(méi)有足夠多的樣本去洞察數(shù)據(jù)背后的模糊特征之間的有意義的關(guān)聯(lián)；如果問(wèn)題涉及多個(gè)領(lǐng)域，AI算法就無(wú)法周全考慮不同領(lǐng)域之間的關(guān)聯(lián)，也無(wú)法獲得足夠的數(shù)據(jù)來(lái)覆蓋跨領(lǐng)域多因素排列組合的所有可能性；如果目標(biāo)函數(shù)太過(guò)寬泛，AI算法就缺乏明確的方向，以至于很難進(jìn)一步優(yōu)化模型的性能。我們必須了解：AI“腦”（深度學(xué)習(xí)）和人的大腦是非常不一樣的，從學(xué)習(xí)方法到擅長(zhǎng)領(lǐng)域：表1人腦和AI“腦”的差別和擅長(zhǎng)深度學(xué)習(xí)在互聯(lián)網(wǎng)和金融行業(yè)的應(yīng)用由于深度學(xué)習(xí)具有上述優(yōu)缺點(diǎn)，互聯(lián)網(wǎng)行業(yè)的領(lǐng)頭企業(yè)成為AI技術(shù)的第一批受益者也就不足為奇了。臉書(shū)、亞馬遜、阿里巴巴、騰訊等國(guó)內(nèi)外大型互聯(lián)網(wǎng)公司手中擁有最多的數(shù)據(jù)，這些數(shù)據(jù)通常會(huì)基于用戶的行為（如用戶是否點(diǎn)擊或購(gòu)買(mǎi)，或者在某一頁(yè)面上的停留時(shí)長(zhǎng)等）被自動(dòng)打好標(biāo)簽，進(jìn)而根據(jù)現(xiàn)有的用戶行為來(lái)推動(dòng)公司業(yè)務(wù)量（如營(yíng)業(yè)收入或廣告點(diǎn)擊量）的最大化。這個(gè)流程打通后，互聯(lián)網(wǎng)公司的應(yīng)用程序或平臺(tái)就變成了“印鈔機(jī)”一般的存在，隨著所積累的用戶行為數(shù)據(jù)越來(lái)越多，公司會(huì)賺到越來(lái)越多的錢(qián)。這便解釋了谷歌、臉書(shū)、亞馬遜、阿里巴巴、字節(jié)跳動(dòng)（旗下有抖音）之類(lèi)的互聯(lián)網(wǎng)巨頭，在過(guò)去10年里市值不斷攀升，最終成為領(lǐng)先的AI型公司的原因。在互聯(lián)網(wǎng)之外，深度學(xué)習(xí)觸手可及的下一個(gè)行業(yè)是金融業(yè)。比如故事《一葉知命》所描述的保險(xiǎn)公司，它具備同互聯(lián)網(wǎng)公司相似的便利條件：擁有單一領(lǐng)域（保險(xiǎn)業(yè)）海量的高質(zhì)量數(shù)據(jù)，而且這些數(shù)據(jù)都與業(yè)務(wù)指標(biāo)緊密相連。正因?yàn)槿绱?，基于AI的金融科技公司陸續(xù)出現(xiàn)，例如美國(guó)初創(chuàng)的保險(xiǎn)公司Lemonade和中國(guó)的水滴公司等，它們使用戶能夠通過(guò)應(yīng)用程序購(gòu)買(mǎi)保險(xiǎn)或申請(qǐng)貸款，并且在很短的時(shí)間內(nèi)就能完成審核流程。這些使用AI技術(shù)的金融科技公司正在超越傳統(tǒng)的實(shí)體金融公司，因?yàn)樗鼈兛梢酝ㄟ^(guò)對(duì)海量數(shù)據(jù)進(jìn)行學(xué)習(xí)，實(shí)現(xiàn)更好的財(cái)務(wù)成果（基于用戶信用評(píng)級(jí)降低違約率）、更高效的即時(shí)交易（借助AI和應(yīng)用程序），以及更低的成本（無(wú)須人工）。當(dāng)然，傳統(tǒng)金融公司也看到了AI的威力，它們?cè)谧约旱母鱾€(gè)內(nèi)部流程中也使用了AI技術(shù)。至于最終的結(jié)果究竟是“傳統(tǒng)公司＋AI”會(huì)成功，還是創(chuàng)業(yè)型AI公司會(huì)顛覆傳統(tǒng)公司，我們拭目以待。AI還有一個(gè)非常有趣的優(yōu)勢(shì)，就是數(shù)據(jù)越多越好，數(shù)據(jù)越多元化越好。通過(guò)不斷搜集數(shù)據(jù)（包括那些讓人類(lèi)專家大跌眼鏡的稀奇古怪的數(shù)據(jù)），AI可以做出更精確的判斷，從而創(chuàng)造更多的利潤(rùn)。比如保險(xiǎn)公司為了審核你的投保申請(qǐng)，其AI可以試著去了解你更喜歡買(mǎi)加工食品還是買(mǎi)蔬菜，更喜歡把時(shí)間花在手機(jī)游戲上還是花在健身房里，更愿意投資陌生網(wǎng)友推薦的股票還是投資對(duì)沖基金……所有這些信息都會(huì)成為證據(jù)，說(shuō)明很多關(guān)于你的情況，包括你身為投保人的相對(duì)風(fēng)險(xiǎn)，而這些數(shù)據(jù)都可以通過(guò)你的手機(jī)應(yīng)用程序來(lái)獲取。在故事《一葉知命》中，象頭神保險(xiǎn)公司會(huì)通過(guò)用戶界面上的“金色小象”，時(shí)不時(shí)地向用戶推送美妝、服飾、餐飲方面的打折信息、優(yōu)惠券，以及投資建議。每當(dāng)納亞娜根據(jù)“金色小象”的推薦購(gòu)買(mǎi)商品、閱讀財(cái)務(wù)資訊、進(jìn)行網(wǎng)絡(luò)交友時(shí)，象頭神保險(xiǎn)公司都會(huì)收集到相應(yīng)的數(shù)據(jù)，然后利用這些數(shù)據(jù)來(lái)優(yōu)化自身的AI系統(tǒng)，向更加智能的方向發(fā)展。以上過(guò)程，類(lèi)似于騰訊匯聚我們?cè)谖⑸讨辛粝碌馁?gòu)物歷史，在微信支付中留下的轉(zhuǎn)賬交易記錄，在微信中的好友信息，以及我們的小程序使用習(xí)慣等，借此了解我們是什么樣的人。在這些信息中，有的一看就是價(jià)值很高的，有的看起來(lái)價(jià)值一般，但是深度學(xué)習(xí)的強(qiáng)大之處就在于它可以在所有信息的特征中找到微妙的組合，對(duì)組合特征中豐富的有價(jià)值的信息做更深層的洞察，而這個(gè)過(guò)程是人類(lèi)無(wú)法理解、無(wú)法做到的。深度學(xué)習(xí)帶來(lái)的問(wèn)題任何強(qiáng)大的技術(shù)都是一把雙刃劍。比如電力可以為人類(lèi)社會(huì)的日常設(shè)施提供動(dòng)力，但如果人直接碰觸電，就可能喪失性命。再如互聯(lián)網(wǎng)讓一切變得更加方便，但也大幅降低了人對(duì)事物的專注力。那么，深度學(xué)習(xí)在給人類(lèi)帶來(lái)便利的同時(shí)，又會(huì)帶來(lái)什么問(wèn)題呢？第一個(gè)問(wèn)題是，深度學(xué)習(xí)會(huì)使AI比你更了解你自己。雖然好處顯而易見(jiàn)──AI可以向你推薦以前沒(méi)有聽(tīng)說(shuō)過(guò)的商品，可以精準(zhǔn)地為你推薦伴侶或者朋友，但事情的另一面是，AI也會(huì)掌握你的缺點(diǎn)——你有沒(méi)有過(guò)這樣的經(jīng)歷：本來(lái)只想打開(kāi)抖音看一個(gè)視頻，卻刷了3個(gè)小時(shí)還停不下來(lái)？在嗶哩嗶哩上無(wú)意中點(diǎn)擊了一個(gè)鬼畜視頻，然后就源源不斷地接收到更多的鬼畜內(nèi)容？某天晚上不小心在網(wǎng)絡(luò)電臺(tái)點(diǎn)播了一個(gè)恐怖故事，之后的每個(gè)深夜都會(huì)定時(shí)被恐怖故事驚擾？奈飛平臺(tái)2020年的高分紀(jì)錄片《智能陷阱》就展現(xiàn)了AI個(gè)性化推薦如何讓人們?cè)跓o(wú)意識(shí)中被操縱，使AI應(yīng)用程序背后的利益方達(dá)成目的。正如在紀(jì)錄片中出鏡的谷歌前產(chǎn)品設(shè)計(jì)師、設(shè)計(jì)倫理學(xué)家特里斯坦·哈里斯所說(shuō)的那樣，你在手機(jī)上的每次點(diǎn)擊都會(huì)激活價(jià)值數(shù)十億美元的超級(jí)計(jì)算機(jī)，它會(huì)根據(jù)從20億用戶的行為中學(xué)習(xí)到和提取到的經(jīng)驗(yàn)，對(duì)準(zhǔn)你的大腦，企圖左右你的思維。對(duì)于用戶來(lái)說(shuō)，對(duì)個(gè)性化推薦上癮的行為會(huì)導(dǎo)致惡性循環(huán)。AI應(yīng)用程序?yàn)橛脩籼峁┓掀涮卣鞯膫€(gè)性化推薦，使用戶不斷接收到其所偏好的信息，然后就不知不覺(jué)逐漸被困在“信息繭房”里，拒絕接收不符合其固有認(rèn)知的異質(zhì)信息。應(yīng)用程序根據(jù)用戶接收信息的行為特征，向用戶推薦更多的其所偏好的同質(zhì)信息，從而使用戶陷入“樂(lè)此不疲”的快感，難以自拔，無(wú)法戒掉這些應(yīng)用程序。這種機(jī)制對(duì)于用戶來(lái)說(shuō)是惡性循環(huán)，但對(duì)那些把這種機(jī)制當(dāng)作印鈔機(jī)的大型互聯(lián)網(wǎng)公司來(lái)說(shuō)，卻是良性循環(huán)。這部紀(jì)錄片還提出了一種觀點(diǎn)：如果人們對(duì)AI的個(gè)性化推薦上癮，這類(lèi)應(yīng)用程序就可能縮窄人們的視野、扭曲事實(shí)的真相、加劇社會(huì)的分化，對(duì)人類(lèi)的情緒、心理健康、幸福感等方面造成負(fù)面影響。從技術(shù)層面來(lái)說(shuō)，上述問(wèn)題的關(guān)鍵在于目標(biāo)函數(shù)的單一性，以及AI專注于優(yōu)化單一目標(biāo)函數(shù)所帶來(lái)的不利的外部效應(yīng)——如今，AI所訓(xùn)練的目標(biāo)函數(shù)通常針對(duì)的是單一目標(biāo)，例如賺錢(qián)（或者更多的點(diǎn)擊量、廣告），因此，AI有可能過(guò)度熱衷于企業(yè)的目標(biāo)績(jī)效，而不考慮用戶的福祉?！兑蝗~知命》中的象頭神保險(xiǎn)公司承諾盡量降低保費(fèi)，由于保費(fèi)的數(shù)額與投保人的重大疾病索賠概率高度相關(guān)，“金色小象”會(huì)給用戶提供養(yǎng)生建議，讓用戶改善自己的健康狀況。從表面來(lái)看，保險(xiǎn)公司和投保人的目標(biāo)似乎是一致的，然而在故事中，象頭神保險(xiǎn)公司的AI系統(tǒng)計(jì)算出“高種姓”的納亞娜和“低種姓”的男生薩赫杰之間的戀愛(ài)關(guān)系會(huì)增加納亞娜一家將來(lái)的保費(fèi)，所以不斷試圖阻撓這對(duì)年輕人相戀。象頭神保險(xiǎn)公司的AI系統(tǒng)經(jīng)過(guò)海量數(shù)據(jù)的訓(xùn)練，能夠發(fā)現(xiàn)事物之間的因果關(guān)系，例如基于同一個(gè)目標(biāo)函數(shù)，通過(guò)分析數(shù)據(jù)，發(fā)現(xiàn)吸煙會(huì)導(dǎo)致患病的風(fēng)險(xiǎn)升高，于是說(shuō)服用戶戒煙，這是好事情。但另一方面，AI系統(tǒng)還發(fā)現(xiàn)，和“低種姓”的薩赫杰在一起會(huì)拖累納亞娜，這就導(dǎo)致了AI系統(tǒng)嘗試殘忍地拆散這對(duì)情侶，甚至可能因此而進(jìn)一步加劇社會(huì)的不平等。那么，如何才能解決這個(gè)問(wèn)題呢？一種通用的方法是讓AI的目標(biāo)函數(shù)變得不再單一。例如既要降低保費(fèi)，又要維護(hù)社會(huì)的公平；再如對(duì)于權(quán)衡用戶花在社交網(wǎng)絡(luò)上的時(shí)間這個(gè)問(wèn)題，特里斯坦·哈里斯建議把“用戶在社交網(wǎng)絡(luò)上花費(fèi)的有意義的時(shí)間”也作為衡量標(biāo)準(zhǔn)之一，而不是僅限于“用戶在社交網(wǎng)絡(luò)上停留的時(shí)長(zhǎng)”，通過(guò)同時(shí)考量這兩者，制定出混合型的復(fù)雜目標(biāo)函數(shù)。AI專家斯圖爾特·拉塞爾（StuartRussell）提出了另一種解決方法，他主張?jiān)谠O(shè)計(jì)目標(biāo)函數(shù)時(shí)需要考慮人類(lèi)的福祉，并讓人類(lèi)更大程度地參與數(shù)據(jù)標(biāo)注和目標(biāo)函數(shù)的設(shè)計(jì)，比如我們能否建立關(guān)于“更大的人類(lèi)利益”的目標(biāo)函數(shù)——諸如“人類(lèi)的幸?！敝?lèi)的目標(biāo)函數(shù)？能否讓人類(lèi)來(lái)定義和標(biāo)注什么是幸福？這方面的嘗試，將在第九章《幸福島》中做詳細(xì)的闡述。所有這些方法，不僅需要對(duì)AI的復(fù)雜目標(biāo)函數(shù)展開(kāi)更加深入的研究，而且需要對(duì)“所花費(fèi)的有意義的時(shí)間”“維護(hù)社會(huì)公平”“幸福”等概念進(jìn)行量化。不過(guò)，這些方法會(huì)使企業(yè)的盈利變少，那么如何激勵(lì)企業(yè)讓步做正確的事情呢？一種方法是制定法規(guī)，對(duì)某些傷害人類(lèi)福祉的行為給予處罰；另一種方法是對(duì)企業(yè)承擔(dān)社會(huì)責(zé)任的行為進(jìn)行評(píng)價(jià)，比如目前ESG\h\h(1)得到了越來(lái)越多的來(lái)自商業(yè)界的關(guān)注，或許負(fù)責(zé)任地使用AI也可以成為未來(lái)ESG的一部分，以鼓勵(lì)企業(yè)的正面行為；還有一種方法是建立第三方監(jiān)管機(jī)構(gòu)，監(jiān)督企業(yè)對(duì)技術(shù)是否有不當(dāng)使用，例如追蹤產(chǎn)品中出現(xiàn)虛假新聞的比例或AI算法導(dǎo)致歧視的訴訟案件數(shù)量，并向企業(yè)施壓，要求企業(yè)把考慮用戶的福祉納入技術(shù)中；最后，特別困難但又特別有效的一種方法是，確保AI技術(shù)持有者的利益與每個(gè)用戶的利益達(dá)成100%的一致（參見(jiàn)第九章《幸福島》）。深度學(xué)習(xí)所帶來(lái)的第二個(gè)問(wèn)題，就是會(huì)使不公平和偏見(jiàn)得以延續(xù)。AI完全基于數(shù)據(jù)優(yōu)化和結(jié)果優(yōu)化進(jìn)行決策，理論上應(yīng)該比大部分人更加不受偏見(jiàn)的影響，但是，其實(shí)AI也可能產(chǎn)生偏見(jiàn)。比如，倘若用于訓(xùn)練AI的數(shù)據(jù)不夠充分、全面，對(duì)某些群體的覆蓋率不足，那么就會(huì)產(chǎn)生偏見(jiàn)。曾經(jīng)有一家著名公司的招聘部門(mén)發(fā)現(xiàn)，因?yàn)橛?xùn)練樣本中女性的數(shù)據(jù)不夠，其所使用的AI軟件不看好女性候選人。再如，倘若訓(xùn)練數(shù)據(jù)全部收集自一個(gè)有偏見(jiàn)的環(huán)境，那么數(shù)據(jù)本身就可能帶有偏見(jiàn)。微軟的Tay對(duì)話機(jī)器人和OpenAI的語(yǔ)言模型GPT-3，都生成過(guò)歧視少數(shù)群體的言論。最近有研究表明，AI可以基于面部微表情精準(zhǔn)地推斷一個(gè)人的性取向，這種AI應(yīng)用就可能導(dǎo)致不公平和偏見(jiàn)。這與《一葉知命》中薩赫杰所遭遇的情況類(lèi)似，薩赫杰的“低種姓”并不是直接標(biāo)注給AI系統(tǒng)的，而是AI系統(tǒng)通過(guò)歷史數(shù)據(jù)和個(gè)人特征推斷出來(lái)的。換句話說(shuō)，薩赫杰并沒(méi)有被直接貼上“達(dá)利特”的標(biāo)簽，但因?yàn)樗臄?shù)據(jù)和特征與“達(dá)利特”高度相關(guān)，所以象頭神保險(xiǎn)公司的AI系統(tǒng)向納亞娜發(fā)出警告，并且阻撓她與薩赫杰在一起。盡管這些偏見(jiàn)和歧視并非出于AI的本意，但是仍會(huì)造成極其嚴(yán)重的后果，而且如果把帶有偏見(jiàn)的AI應(yīng)用于醫(yī)學(xué)診斷或者司法判定，那么其風(fēng)險(xiǎn)將無(wú)法想象。因此，我們需要全力以赴應(yīng)對(duì)AI的公平性問(wèn)題和偏見(jiàn)問(wèn)題。第一，使用AI的公司應(yīng)該披露AI系統(tǒng)被用在哪里以及使用目的。第二，AI工程師應(yīng)該接受一套職業(yè)道德準(zhǔn)則的培訓(xùn)——類(lèi)似醫(yī)學(xué)生宣誓用的“希波克拉底誓言”。這樣，工程師才能深刻地理解，他們所從事的職業(yè)使他們承擔(dān)了把事關(guān)倫理道德的重要決策嵌入產(chǎn)品之中的任務(wù)，這是足以改變他人人生軌跡的事情，工程師有責(zé)任承諾維護(hù)用戶的權(quán)益。第三，工程師使用的AI訓(xùn)練工具應(yīng)該嵌入嚴(yán)格的測(cè)試機(jī)制，以對(duì)基于樣本比例不公平的數(shù)據(jù)訓(xùn)練出來(lái)的計(jì)算模型發(fā)出警告或徹底禁止生成模型。第四，應(yīng)該制定AI審計(jì)法。這與傳統(tǒng)的財(cái)務(wù)審計(jì)或稅務(wù)審計(jì)類(lèi)似，AI公司被舉報(bào)后，政府需要派遣專家對(duì)其進(jìn)行審計(jì)。如果一家公司在AI的倫理道德或者公平性方面多次被投訴，它的AI算法就必須接受審計(jì)，以檢查、確定其是否存在不公平、偏見(jiàn)或隱私保護(hù)方面的漏洞。深度學(xué)習(xí)的第三個(gè)問(wèn)題，就是它的不可解釋性。人類(lèi)總是能解釋人類(lèi)決策背后的原因，因?yàn)槿祟?lèi)的決策過(guò)程本身比較簡(jiǎn)單，是基于經(jīng)驗(yàn)積累得出的規(guī)則。可是，深度學(xué)習(xí)的決策基于復(fù)雜的方程組，這種方程組有數(shù)千個(gè)特征和數(shù)百萬(wàn)個(gè)參數(shù)，深度學(xué)習(xí)決策的“理由”，就是在一個(gè)有數(shù)千個(gè)維度的“空間”里經(jīng)過(guò)海量數(shù)據(jù)訓(xùn)練而得出的數(shù)學(xué)方程組，要把這個(gè)方程組精確地簡(jiǎn)化成一個(gè)人類(lèi)可以聽(tīng)得懂的“原因”，基本上是不可能的。但是，無(wú)論是出于法律的考量，還是出于用戶的期望，許多關(guān)鍵的AI決策都需要給出一個(gè)解釋。為了解決這一問(wèn)題，人們目前正在進(jìn)行許多相關(guān)的研究，這些研究試圖簡(jiǎn)化、總結(jié)AI復(fù)雜的邏輯過(guò)程，或者發(fā)明具有可解釋性框架的AI算法，從而使AI變得更加“透明”。上面所提到的這些深度學(xué)習(xí)所帶來(lái)的問(wèn)題，已經(jīng)引起了公眾對(duì)AI的嚴(yán)重不信任。不過(guò)，所有的新技術(shù)都有缺點(diǎn)，而，歷史表明，許多技術(shù)的早期漏洞都將隨著時(shí)間的推移而得到糾正或被徹底解決。大家可以回想一下，當(dāng)年防止人類(lèi)觸電的斷路器，還有查殺電腦病毒的殺毒軟件，就是很好的例子。因此我相信，未來(lái)通過(guò)改進(jìn)技術(shù)和完善政策法規(guī)，將會(huì)解決深度學(xué)習(xí)（乃至AI）所帶來(lái)的大部分問(wèn)題，比如不公平、偏見(jiàn)、不透明。然而重要的是，我們必須追隨納亞娜和薩赫杰的腳步——讓人們意識(shí)到這些問(wèn)題的嚴(yán)重性，然后動(dòng)員人們?yōu)榻鉀Q問(wèn)題而努力。\h(1)即英文Environmental（環(huán)境）、Social（社會(huì)）和Governance（公司治理）的縮寫(xiě)。02

假面神祇開(kāi)復(fù)導(dǎo)讀本章的故事圍繞西非尼日利亞的一個(gè)視頻制作者展開(kāi)，此人被招募來(lái)制作一段真假難辨的Deepfake（深度偽造）視頻。如果他成功地做到瞞天過(guò)海，將引發(fā)災(zāi)難性的后果。在故事中的未來(lái)世界里，偽造者和鑒別者之間高精尖版“貓抓老鼠”的博弈史無(wú)前例地上演著。計(jì)算機(jī)視覺(jué)是AI的一個(gè)主要分支，它的目標(biāo)是教會(huì)電腦“看懂”世界。自深度學(xué)習(xí)發(fā)明以來(lái)，我們?cè)谟?jì)算機(jī)視覺(jué)領(lǐng)域所取得的種種突破，一方面使得AI感知技術(shù)達(dá)到了空前的水平，另一方面也引起了世人對(duì)AI的重視。在故事后的解讀部分，我會(huì)為讀者分析深度偽造及其背后的計(jì)算機(jī)視覺(jué)、生物識(shí)別、AI安全這三大相關(guān)技術(shù)，探討從現(xiàn)在到未來(lái)在這幾個(gè)領(lǐng)域可以期望的技術(shù)突破點(diǎn)在哪些方面，以及有哪些辦法將可能幫助我們避免走入所有視覺(jué)影像都真假難分的死胡同。真理與早晨隨著時(shí)間的流逝變得光明?！侵拗V語(yǔ)電動(dòng)輕軌緩緩駛?cè)雭啺驼九_(tái)。還沒(méi)等它停穩(wěn)，阿瑪卡就迫不及待地跳出了體味濃重的車(chē)廂。為了方便，在拉各斯大部分的輕軌車(chē)門(mén)都是自由開(kāi)合的，輕軌的行駛速度自然也是慢得像瘸腿的老牛一樣，但至少比堵成一鍋木薯糊糊的地面交通要快多了。阿瑪卡跟在一個(gè)老頭身后穿過(guò)檢票閘機(jī)。攝像頭會(huì)通過(guò)人臉識(shí)別自動(dòng)扣取乘車(chē)費(fèi)用，但是它并沒(méi)有識(shí)別出阿瑪卡是一個(gè)活人，這多虧了他臉上戴著的面具。這座西非第一大城市的常住人口數(shù)量，經(jīng)常在2700萬(wàn)到3300萬(wàn)之間變化不定，具體是多少，完全取決于當(dāng)局的統(tǒng)計(jì)口徑。自從拉各斯在5年前開(kāi)始限制外來(lái)人口流入之后，像阿瑪卡這樣沒(méi)有固定職業(yè)的尋夢(mèng)者，便只能在街頭、天橋下、農(nóng)貿(mào)市場(chǎng)或者車(chē)站里尋找暫時(shí)的棲身之地。他見(jiàn)過(guò)許多的無(wú)家可歸者，他們無(wú)家可歸的原因各不相同，有的是因?yàn)榕镂荼粡?qiáng)拆了（為了建設(shè)新的商業(yè)中心），有的是因?yàn)樵跂|北部地區(qū)受極端組織頻繁襲擾不得不背井離鄉(xiāng)，但更多的只是因?yàn)樨毟F。為保持尼日利亞令人驚嘆的活力（國(guó)民年齡中位數(shù)僅為21歲），他們不遺余力地繁衍后代，但并沒(méi)有從尼日利亞這個(gè)非洲第一人口大國(guó)的崛起中分到一杯羹。亞巴被稱為西非的硅谷。與拉各斯的其他區(qū)不同，這里秩序井然，空氣清新。行人會(huì)通過(guò)身體動(dòng)作激活廣告牌上的卡通動(dòng)物，并用手勢(shì)與之互動(dòng)。清潔機(jī)器人掃描街道上的垃圾，將它們收集、分類(lèi)后匯總到回收中心，變成可再生材料或生物燃料。由竹纖維織成的建筑物外立面和服裝是新的潮流，象征著科技企業(yè)實(shí)現(xiàn)碳中和的決心。阿瑪卡舉著smartstream，通過(guò)XR功能在街景上疊加的一條虛擬路線，他終于在一座不起眼的灰色建筑物的三層找到了這家名為“列里”的公司。兩天前，他收到一條神秘訊息，說(shuō)有份工作適合他，但必須現(xiàn)場(chǎng)面試。前臺(tái)的接待員善意地提醒阿瑪卡取下面具，進(jìn)行身份信息核對(duì)。男孩略帶緊張地把面孔暴露在鏡頭前。父輩們把面具奉為神圣節(jié)日儀式的一部分，如今面具卻變成了年輕人標(biāo)榜性格的新時(shí)尚。他戴的粗糙面具是3D打印的，和摩洛哥市場(chǎng)上高價(jià)賣(mài)給游客的精致手工藝品無(wú)法相提并論。它的表面噴涂著類(lèi)似于安珂蛺蝶翅膀花紋的圖案，能夠?qū)挂话銛z像頭的人臉識(shí)別算法，讓阿瑪卡在AI眼中變成一個(gè)“無(wú)臉人”。這為他省下了不少錢(qián)，更重要的是，避免了被警方驅(qū)逐的麻煩，畢竟眼下他還沒(méi)有合法居留身份。阿瑪卡被帶到一間會(huì)議室里。他僵硬地坐著，腦海中盤(pán)算著被問(wèn)到工作經(jīng)驗(yàn)時(shí)該如何回答。他沒(méi)有太多選擇，只能撒謊。過(guò)了10分鐘，面試官并沒(méi)有出現(xiàn)，投影墻卻開(kāi)始播放一段他再熟悉不過(guò)的監(jiān)控視頻。午夜。燈光昏黃。一座高架橋下零散地躺著幾名無(wú)家可歸者。一個(gè)男孩從畫(huà)面中的陰影處走出，在一名熟睡者身旁站了許久。畫(huà)面放大，那竟然是一個(gè)白人男孩，不過(guò)五六歲的樣子，穿著條紋睡衣，臉上毫無(wú)表情。熟睡者忽然驚醒，發(fā)現(xiàn)了男孩，便詢問(wèn)他的名字和住處。男孩搖晃著身體，聽(tīng)不清在說(shuō)些什么，突然男孩的面孔一變，露出利齒朝那人的頸部咬去。被咬者大叫，驚醒其他人，男孩帶著滿口鮮血逃離現(xiàn)場(chǎng)。這段名為《白人吸血鬼男孩襲擊拉各斯無(wú)家可歸者》的視頻，在24小時(shí)內(nèi)的點(diǎn)擊量便達(dá)到了數(shù)百萬(wàn)次。之后，平臺(tái)鑒定其為偽造，根據(jù)相關(guān)法規(guī)全網(wǎng)刪除，上傳用戶“Enitan0231”的賬號(hào)遭到封禁，該用戶的所有廣告收入也被凍結(jié)?！案傻闷?！把電影畫(huà)面、群眾演員和實(shí)景拍攝結(jié)合得天衣無(wú)縫。難以相信這竟然是在伊凱賈的地下網(wǎng)吧里做出來(lái)的?！币粋€(gè)男性的聲音在會(huì)議室里響起，帶著濃重的伊博口音?！澳闶钦l(shuí)？想要干什么？”阿瑪卡起身，警惕地望向四周?！胺潘牲c(diǎn)，你可以叫我齊。難道你不想要一份工作嗎？你有多久沒(méi)吃一頓飽飯了？”阿瑪卡重新坐下。齊說(shuō)得對(duì)，沒(méi)有居留證，他沒(méi)法找到工作，那些靠出賣(mài)體力的活兒甚至更臟的活兒又輪不到自己。他已經(jīng)走投無(wú)路?！盀槭裁词俏?？”“你很有天賦，想要靠技術(shù)在尼萊塢出人頭地，成為一名貨真價(jià)實(shí)的電影人，不然也不會(huì)來(lái)到拉各斯。更重要的是，我們需要一個(gè)信得過(guò)的人，一個(gè)自己人?！卑斂ㄖ肋@句話背后的意思。尼日利亞有250個(gè)民族，這些民族有著不同的語(yǔ)言和文化，其中許多民族彼此敵對(duì)的歷史長(zhǎng)達(dá)數(shù)百年。拉各斯是約魯巴人占據(jù)絕對(duì)主流地位的城市，而阿瑪卡是來(lái)自東南省份的伊博人。約魯巴和伊博族分別是尼日利亞第二大和第三大民族，近年來(lái)圍繞利益和權(quán)力分配多有沖突。他不得不隱瞞自己的口音和身份，以避免不必要的麻煩?！澳阋易鍪裁?？”“你最擅長(zhǎng)的事情……偽造一段視頻?！薄拔也?，這肯定不是合法的?！薄斑@取決于你是否被系統(tǒng)抓住破綻。”“哈！”阿瑪卡像是聽(tīng)見(jiàn)了什么笑話，“你也看到了，靠我現(xiàn)在的工具和免費(fèi)算力，撐不過(guò)24小時(shí)?！薄拔覀儠?huì)提供所需的一切?！卑斂ú[起眼睛，鼻翼翕張，像是在嗅這份工作背后的危險(xiǎn)氣息?！叭绻揖芙^呢？你會(huì)殺了我嗎？”“比那更糟。”墻上出現(xiàn)了另一段視頻，像是在夜店的私密舞池里。鏡頭從天花板的某個(gè)角落俯瞰整個(gè)房間，幾個(gè)男孩赤裸著上身，正在閃爍的激光束中貼身熱舞。鏡頭拉近，阿瑪卡認(rèn)出了自己的面孔，他和身前的一個(gè)臉頰上閃爍著粉色熒光的男孩瘋狂舌吻，然后又扭過(guò)頭去吻背后的另一個(gè)爆炸頭男孩。視頻定格在這一幕，3張面孔像交疊的杧果樹(shù)葉難分彼此。阿瑪卡面無(wú)表情地盯著畫(huà)面。過(guò)了一會(huì)兒，他露齒微笑。前臺(tái)的面部掃描提供了偽造視頻的素材，而在社交媒體上的六個(gè)點(diǎn)贊就能暴露一個(gè)人的性取向?！耙苍S那確實(shí)是我的臉，可脖子卻不是我的?！卑斂ㄏ崎_(kāi)連衣帽，露出從右耳下方斜跨到左側(cè)鎖骨的粉色疤痕，那是一次反抗街頭搶劫留下的紀(jì)念。他說(shuō)：“何況這里是拉各斯，這根本算不了什么。”“在拉各斯的確算不了什么，可這段視頻能讓你坐牢。想想你的家人。”齊的聲音帶著一絲同情。阿瑪卡陷入沉默。這源于尼日利亞社會(huì)對(duì)性少數(shù)群體根深蒂固的偏見(jiàn)。違反該法案者，就算不被判刑，也將面臨漫長(zhǎng)的訴訟過(guò)程以及那些腐敗警察的勒索。他不敢想象自己的家庭將承受多大的壓力，尤其是一直對(duì)他寄予厚望的父親。哪怕這個(gè)視頻不是真的。男孩咬了咬嘴唇，把帽子重新拉過(guò)頭頂，這讓他感到安全：“我要一筆預(yù)付款，加密貨幣。還有，目標(biāo)信息越詳細(xì)越好，我不想浪費(fèi)時(shí)間查資料。”“你說(shuō)了算，小鳥(niǎo)恩扎\h\h(1)。至于目標(biāo)，你不可能錯(cuò)過(guò)他的……”阿瑪卡看著墻上浮現(xiàn)出的人像，臉上露出見(jiàn)了鬼一般的表情。***約魯巴人習(xí)慣把拉各斯叫作?？?，意思是“農(nóng)園”。受赤道季風(fēng)性氣候的影響，每年6月的拉各斯最為涼爽，雨量也最充沛。阿瑪卡躺在廉價(jià)旅店的床上，戴著XR眼鏡，聽(tīng)著窗外滴答的雨聲，煩躁不安地?cái)[弄著新機(jī)器——一臺(tái)暗綠色的IllumiwareMark-V。這項(xiàng)新工作和他以前那些小打小鬧完全不同。阿瑪卡最經(jīng)常玩的把戲，是在交友網(wǎng)站上偽裝成富家小姐。先從網(wǎng)絡(luò)上抓取視頻素材，主角最好穿著色彩明艷的V領(lǐng)布巴上衣和伊羅長(zhǎng)裙，頭上包裹著蓋勒頭巾，經(jīng)典的約魯巴風(fēng)格。背景一般是臥室，光照穩(wěn)定；主角最好表情豐富、夸張，以便AI能提取出足夠多的靜幀圖像作為對(duì)象數(shù)據(jù)集。除此之外，還有阿瑪卡用smartstream拍攝自己的臉部（不同角度、光照和表情）自動(dòng)生成的數(shù)據(jù)集。接下來(lái)把數(shù)據(jù)集上傳到云端，以超對(duì)抗性生成網(wǎng)絡(luò)（Hyper-GenerativeAdversarialNetwork，H-GAN）的方式訓(xùn)練模型。訓(xùn)練時(shí)間從幾小時(shí)到幾天不等，取決于對(duì)分辨率及細(xì)節(jié)的要求，當(dāng)然也要考慮算力成本。最后得到一個(gè)DeepMask模型，將這副算法“面具”應(yīng)用在任何以阿瑪卡或那位富家小姐為主角的視頻上，便可以實(shí)現(xiàn)肉眼無(wú)法分辨的換臉效果。如果網(wǎng)速足夠快，還可以實(shí)時(shí)換臉，樂(lè)趣更多，但也需要付出更多的額外勞動(dòng)。比如將英語(yǔ)或伊博語(yǔ)實(shí)時(shí)翻譯成約魯巴語(yǔ)，用TransVoice和Lipsync開(kāi)源工具包合成語(yǔ)音和與之相匹配的嘴唇動(dòng)作，替換視頻中相應(yīng)的部分。但這會(huì)面臨一定的風(fēng)險(xiǎn)，如果對(duì)方使用了付費(fèi)版本的防偽檢測(cè)器，視頻中的異常區(qū)域就會(huì)變紅并發(fā)出警告。那樣，阿瑪卡的所有心血就付諸東流了。20年前的Deepfake技術(shù)還很脆弱，一旦網(wǎng)速波動(dòng)，或者表情過(guò)度夸張、頭部動(dòng)作幅度過(guò)大，都會(huì)導(dǎo)致臉部邊緣模糊、有偽影，唇形與語(yǔ)音不同步。哪怕只有0.05秒的錯(cuò)位，經(jīng)過(guò)千萬(wàn)年進(jìn)化的人類(lèi)大腦也會(huì)響起警報(bào)——“這張臉看起來(lái)不太對(duì)勁?！钡F(xiàn)在的DeepMask，其逼真程度已經(jīng)超出了人類(lèi)肉眼的分辨力極限?，F(xiàn)在，防偽檢測(cè)器成了保障網(wǎng)絡(luò)安全的一項(xiàng)標(biāo)準(zhǔn)配置，在歐美、亞洲等地已被寫(xiě)入信息安全法，但在尼日利亞，只有主流內(nèi)容平臺(tái)和政府網(wǎng)站才要求配備。原因很簡(jiǎn)單。過(guò)于嚴(yán)苛的防偽檢測(cè)器設(shè)置會(huì)消耗大量算力成本，同時(shí)讓視頻加載速度變得緩慢，影響用戶體驗(yàn)。一般來(lái)說(shuō)，政府網(wǎng)站和官方新聞網(wǎng)站數(shù)據(jù)流量有限，其防偽檢測(cè)器會(huì)采用最高級(jí)別的設(shè)置。而一般的社交網(wǎng)站和視頻平臺(tái)，則會(huì)針對(duì)當(dāng)下最流行的偽造算法進(jìn)行精確打擊，其防偽級(jí)別會(huì)根據(jù)內(nèi)容傳播的數(shù)據(jù)量動(dòng)態(tài)調(diào)整，數(shù)據(jù)量越大，檢測(cè)越嚴(yán)苛。每次視頻約會(huì)結(jié)束后，阿瑪卡都會(huì)靜靜地坐在黑暗中。腐爛的食物和泥土散發(fā)的味道混雜在一起，附著在質(zhì)地粗糙的再生材料衣服上，讓他感到很真實(shí)。他會(huì)反復(fù)回味那些男孩的細(xì)微表情和甜言蜜語(yǔ)。那些都不屬于他，而是屬于長(zhǎng)著同樣面孔的另一個(gè)約魯巴女孩。阿瑪卡曾嘗試把那個(gè)女孩想象成失散多年，在異族長(zhǎng)大的孿生妹妹。可是，他心底卻無(wú)比清楚，雙胞胎只有在約魯巴人的傳統(tǒng)中才會(huì)受到重視，而在伊博人看來(lái)卻是冒犯大地之母的禁忌。占卜師在阿瑪卡出生之時(shí)就告訴他的父親，這具男性嬰孩的身體中，困著一個(gè)轉(zhuǎn)世投胎的女性靈魂。這是整個(gè)家族的恥辱，和那個(gè)中性名字一起，伴隨他度過(guò)了整個(gè)童年。這也是阿瑪卡離開(kāi)家鄉(xiāng)來(lái)到拉各斯的原因。他身體里的女性靈魂，會(huì)因?yàn)槠渌泻o(wú)意中的觸碰而戰(zhàn)栗，但他知道，自己永遠(yuǎn)無(wú)法在現(xiàn)實(shí)中面對(duì)那些男孩。使用DeepMask的次數(shù)越多，阿瑪卡就越難以擺脫這副面具，越難以讓自己的情感和想法自由流淌。他既不能變成真正的約魯巴女孩，也無(wú)法回到伊博人中間。就像不斷轉(zhuǎn)生、死去又重返人間的靈童，作為一條卡在輪回之網(wǎng)里的魚(yú)，無(wú)論被叫作阿比庫(kù)還是奧班杰，都需要忍受永無(wú)止境的痛苦。這次任務(wù)是阿瑪卡逃出輪回的唯一機(jī)會(huì)。他或者賺到足夠的錢(qián)實(shí)現(xiàn)心愿，或者徹底完蛋。可眼下，他卻遇到了棘手的難題。一陣有節(jié)奏的敲門(mén)聲打斷了他，是好心的房東大媽奧齊奧瑪，她帶來(lái)了一盆切好的柯拉果種子。奧齊奧瑪是20年前移居拉各斯的伊博人，雖然她已經(jīng)完全融入了異族社會(huì)，但還是一下子聽(tīng)出了阿瑪卡的口音?！霸谖依霞遥挥心腥瞬庞匈Y格切開(kāi)柯拉果。”阿瑪卡咀嚼著淺咖啡色的果實(shí)，熟悉的苦澀在口中蔓延開(kāi)來(lái)?！八晕也虐岬竭@里?！眾W齊奧瑪大笑，“不管叫它‘奧比’還是‘奧吉’，只要一吃，難題自然解開(kāi)?！薄癗dewo\h\h(2)，老人說(shuō)的總是對(duì)的?！卑斂ㄏ氚验T(mén)關(guān)上，卻被房東的手?jǐn)r住，她指著機(jī)器屏幕上定格的那個(gè)頭像，眼露憂慮的神色?！澳愫退麤](méi)有關(guān)系吧？我是說(shuō)，他是個(gè)好人，可是……我不想有麻煩，你懂的。”阿瑪卡故作輕松地笑笑：“只是碰巧看到這條新聞，我還想拿到居留證呢。”“好孩子。愿上帝保佑他，不管他是站在哪一邊的。”奧齊奧瑪?shù)哪樝Я?。阿瑪卡松了口氣，跳上床，那張臉正在盯著他。這是一張充滿力量的面孔。額頭和臉頰上涂抹著象征部落精神的白色顏料，雙眼中仿佛能夠噴射出火焰，雙唇微張，似笑非笑，像是有一番新的言辭正在醞釀之中，即將掀起風(fēng)暴。這張臉的主人，傳奇的非洲敲擊樂(lè)之父，尼日利亞的民主戰(zhàn)士，音樂(lè)人費(fèi)拉·阿尼庫(kù)拉波·庫(kù)蒂，已經(jīng)去世44年了。***阿瑪卡遇到的難題是，如何讓假的變得更假。這個(gè)盜用面孔假冒費(fèi)拉·庫(kù)蒂的虛擬人自稱“FAKA”，也就是“FelaAnikulapoKutiAvatar”\h\h(3)的縮寫(xiě)。一開(kāi)始所有人都以為這是個(gè)玩笑。因?yàn)楸娝苤?，真正的費(fèi)拉·庫(kù)蒂死于1997年。視頻內(nèi)容主要是針砭當(dāng)下時(shí)政，換臉的效果又非常粗糙，不可能誤導(dǎo)觀眾以為費(fèi)拉·庫(kù)蒂真的說(shuō)了那些話。因此被內(nèi)容平臺(tái)歸為“諷刺”或“模仿”類(lèi)，而不是必須被刪除、封禁的虛假內(nèi)容。然而，F(xiàn)AKA的影響力如滾雪球般越來(lái)越大，數(shù)百萬(wàn)的追隨者變得愈發(fā)狂熱，在網(wǎng)絡(luò)上組建加密討論組，分享相關(guān)視頻并自發(fā)擴(kuò)散。視頻被AI翻譯成不同民族的語(yǔ)言，加以配音和口型合成，對(duì)于文化程度不高的邊緣群體更具感染力。后來(lái)，費(fèi)拉·庫(kù)蒂基金會(huì)甚至主動(dòng)站出來(lái)，表示愿意將費(fèi)拉·庫(kù)蒂肖像的使用權(quán)無(wú)償授予幕后的神秘組織。沒(méi)有人知道這一切是誰(shuí)干的。視頻初始信息經(jīng)過(guò)加密，上傳賬號(hào)是一次性的，服務(wù)器地址經(jīng)過(guò)多次跳轉(zhuǎn)。各種陰謀論甚囂塵上，許多人認(rèn)為這是極端組織或境外勢(shì)力所為，目的是動(dòng)搖當(dāng)前民主政府的統(tǒng)治基礎(chǔ)。但是阿瑪卡的雇主列里公司并不這么認(rèn)為。列里公司不過(guò)是偽裝的外殼，其實(shí)它就是地下極端民族主義組織“伊博榮耀”，齊只是臺(tái)前代表。列里公司分析了FAKA的所有視頻內(nèi)容后得出結(jié)論，在FAKA背后的，恰恰是國(guó)內(nèi)的約魯巴極端民族主義勢(shì)力，其目的是有步驟地影響民眾心智，進(jìn)而操縱輿論與政策風(fēng)向，打壓其他民族——尤其是伊博族的經(jīng)濟(jì)利益與政治權(quán)力。核心事件便是FAKA呼吁把在伊博人的土地上新發(fā)現(xiàn)的大型稀土礦床作為“全尼日利亞人的共同財(cái)產(chǎn)”，由中央政府監(jiān)管和直接開(kāi)發(fā)。這樣的事情在歷史上發(fā)生過(guò)許多次，伊博人的土地盛產(chǎn)石油，但伊博人卻并沒(méi)有享受到由此帶來(lái)的發(fā)展紅利。更多時(shí)候，伊博人覺(jué)得自己就是這個(gè)國(guó)家身上的蜥蜴尾巴，割了長(zhǎng)，長(zhǎng)了割，沒(méi)人管你疼不疼、流不流血。這一次，他們不愿意再逆來(lái)順受了。阿瑪卡的任務(wù)便是其中的一個(gè)關(guān)鍵環(huán)節(jié)——通過(guò)偽造FAKA的視頻內(nèi)容擾亂輿論方向，就像在池塘里不停地?cái)嚻鹉嗌?，讓魚(yú)群驚慌逃散。這在技術(shù)上并不難，阿瑪卡用H-GAN鏡像了一張F(tuán)AKA的臉，從眨眼頻率到唇部動(dòng)作，甚至包括嘴部與頭部不自然地分離，都完全是像素級(jí)的復(fù)刻。他并不在乎面具背后那個(gè)真實(shí)的操縱者到底是誰(shuí)，他只需要做到數(shù)學(xué)上的完美映射，便足以騙過(guò)防偽檢測(cè)器和所有人類(lèi)的肉眼。難的在于FAKA嘴里說(shuō)出的話。阿瑪卡看完了所有的視頻，這些話涉及多元社會(huì)議題、復(fù)雜的政治立場(chǎng)和價(jià)值觀判斷，還不時(shí)引用費(fèi)拉·庫(kù)蒂生前的名言和民間俗語(yǔ)。作為年輕一代的尼日利亞人，阿瑪卡很多時(shí)候也不確定自己是否完全理解了這些話的意思，更不用說(shuō)去模仿了。FAKA說(shuō)尼日利亞需要一種超越民族的新語(yǔ)言，“要把我們思想和詞語(yǔ)中的那些白色毒液清除干凈”。FAKA說(shuō)尼日利亞的母親是“至高無(wú)上的、受苦最深的人”，她們用自己的雙手“迎接過(guò)多少孩子的降生，又埋葬過(guò)多少孩子的死亡”。FAKA說(shuō)“音樂(lè)是未來(lái)的武器”，只有讓教育和財(cái)富“像鼓點(diǎn)一樣在空氣中均勻播撒，人們的心臟才能按照同一個(gè)節(jié)奏跳動(dòng)”?！@些詩(shī)歌般的句子敲擊著阿瑪卡的心扉，像一粒粒冰雹落入久已干涸的土地，悄無(wú)聲息地融化成水滋養(yǎng)萬(wàn)物。那是他早已丟棄在拉各斯街頭的希望。可眼下，他需要的并不是認(rèn)同感，而是偽造出可信的FAKA演講詞。齊卻不以為然：“就讓他胡說(shuō)八道好了，這正是我們想要達(dá)到的目的，人們會(huì)對(duì)他們的偶像產(chǎn)生懷疑，共識(shí)會(huì)分崩離析。很好！非常好！”“也許人們并不像你想象的那么蠢。他們會(huì)發(fā)現(xiàn)真相，然后變得更加團(tuán)結(jié)，把憤怒的矛頭指向偽造者。”“但FAKA本來(lái)就是假的，不是嗎？”“給人們的希望可不是假的?！薄拔抑皇翘嵝涯?，時(shí)間不多了。有消息說(shuō)FAKA會(huì)參加下屆總