Anil Seth：機(jī)器的思考是否觸及靈魂

1.關(guān)于人工智能是否具有意識的討論2.支持意識的存在及其物質(zhì)基礎(chǔ)綁定的證據(jù)3.將大腦視為動力學(xué)系統(tǒng)而非計(jì)算工具4.預(yù)測和控制視角下的生物自然主義5.依據(jù)自由能原理判斷機(jī)器意識的存在6.凡人計(jì)算:更有可能的機(jī)器智能之路7.機(jī)械姬中意識測試存在的問題8.機(jī)器意識爭論帶來的道德考量9.總結(jié)1.關(guān)于人工智能是否具有意識的討論隨著AI系統(tǒng)日益強(qiáng)大，關(guān)于AI是否具備意識的討論不斷升溫，下面先概述之前眾多學(xué)者對該問題的討論。“意識的困難問題”提出者DavidJ.Chalmers在2023年的論文中提出，盡管目前的AI模型面臨多項(xiàng)技術(shù)障礙，例如缺少遞歸處理能力、全局工作空間以及整體能動性等，但這些障礙很可能在未來十年左右被克服。Chalmer認(rèn)為盡管大語言模型當(dāng)前可能不具備意識，但我們應(yīng)該認(rèn)真考慮，在不遠(yuǎn)的未來，下一代大型語言模型將可能會具備意識。Chalmers,DavidJ.'Couldalargelanguagemodelbeconscious?.'arXivpreprintarXiv:2303.07103(2023).同時(shí)，人工智能安全中心（CenterforAISafety,CAIS）綜合了YoshuaBengio等多位權(quán)威人士的討論，在一份報(bào)告中指出，盡管當(dāng)前的人工智能不具備意識，但許多神經(jīng)科學(xué)理論已提出可行的評估AI意識的指標(biāo)，基于現(xiàn)有技術(shù)這些指標(biāo)是可以實(shí)現(xiàn)的。不同意識理論下對于機(jī)器是否能具有意識的討論方向。Butlin,Patrick,etal.'Consciousnessinartificialintelligence:insightsfromthescienceofconsciousness.'arXivpreprintarXiv:2308.08708(2023).圖片：智東西。但在這場討論中，一個(gè)難點(diǎn)是研究者們往往不自覺地將AI人格化。他們認(rèn)為，由于大模型在邏輯推理和想象力等方面表現(xiàn)出越來越多的“智慧”，依照雷·庫茲韋爾在《奇點(diǎn)臨近》中的預(yù)期，AI獲得人類水平的認(rèn)知能力似乎指日可待。這種人類中心主義的觀點(diǎn)推論認(rèn)為，如果機(jī)器表現(xiàn)出類似人類的行為（符合某些理論框架下的意識指標(biāo)就可能具備意識。然而，這種基于計(jì)算功能主義的假設(shè)正是AnilSeth在其綜述文章中所質(zhì)疑的核心。2.支持意識的存在及其物質(zhì)基礎(chǔ)綁定的證據(jù)什么是計(jì)算功能主義？讓我們先看看著名的忒修斯悖論：如果逐漸更換一艘船上的每一塊木板，最終這艘船換盡所有部件后，還能被認(rèn)為是原來的那艘船嗎？換到大腦的背景下，如果將（有意識）大腦中的每個(gè)模塊換成功能上等價(jià)的硅基算法，甚至是通過仿真技術(shù)完全復(fù)制每個(gè)神經(jīng)元之間的連接，那這樣的硅基生物，能否被當(dāng)成最初大腦的等價(jià)物，是否仍舊可以被認(rèn)為是有意識的？這樣的假設(shè)就被稱為計(jì)算功能主義，即只要滿足給定功能，黑貓白貓都是好貓，意識存在的問題只和是否具有特定計(jì)算能力有關(guān)。然而，計(jì)算功能主義的批評者指出，當(dāng)生物組成部分（神經(jīng)元）被非生物（硅）部分所替代時(shí)，系統(tǒng)在內(nèi)部運(yùn)作方式及其整體行為上將不可避免地存在差異。生物學(xué)功能是通過復(fù)雜的進(jìn)化過程形成的，積累了大量的相互依存和偶然性，其中部分可能看起來是任意的，但這些特征的合力導(dǎo)致了大腦內(nèi)部結(jié)構(gòu)中“一般性且根深蒂固的”組織原則。這為用硅基替代碳基的可能性施加了許多限制。具體來看：硅基和碳基的主要差異在于，碳基腦的神經(jīng)活動會受到代謝限制、電磁場以及其他可能因素的影響。例如，一氧化氮是一種參與許多神經(jīng)元功能的神經(jīng)遞質(zhì)，能夠自由擴(kuò)散過細(xì)胞膜，這意味著任何硅基的大腦都需要能夠檢測到這種不斷變化物質(zhì)的位置，而這對于處于離散時(shí)間點(diǎn)的模擬是不可行的。Wang,Yaoben,etal.'Sustainedreleaseofnitricoxideandcascadegenerationofreactivenitrogen/oxygenspeciesviaaninjectablehydrogelfortumorsynergistictherapy.'AdvancedFunctionalMaterials32.36(2022):2206554.其他例子也能體現(xiàn)硅基與碳基造物的差異。生物神經(jīng)元的尖峰活動有助于防止有害化學(xué)物質(zhì)如活性氧的積累，這種保護(hù)機(jī)制是通過神經(jīng)元特定的放電模式實(shí)現(xiàn)的，與其代謝活動緊密相關(guān)。新陳代謝直接影響神經(jīng)系統(tǒng)的通信。然而對于硅基算法，算法本身是不朽的，不需要考慮新陳代謝。算法也無法以百分百的精度，用離散時(shí)間點(diǎn)的模擬再現(xiàn)連續(xù)變化的神經(jīng)遞質(zhì)所帶來的影響。這意味著人們無法證明當(dāng)前算法（如大模型）可具有意識的基礎(chǔ)假設(shè)——計(jì)算功能主義——是否成立。I3.將大腦視為動力學(xué)系統(tǒng)而非計(jì)算工具以上的證據(jù)雖然不足以推翻計(jì)算功能主義，但卻能夠讓其顯得不那么自圓其說。計(jì)算功能主義意味著：機(jī)器具有智能的基礎(chǔ)是計(jì)算功能，與其物理特性無關(guān)，基于碳基的計(jì)算也適合于硅基。但如果大腦的計(jì)算過程與其碳基物理實(shí)現(xiàn)密切相關(guān)，我們或許有更充分的理由質(zhì)疑，機(jī)器最終也能表現(xiàn)出意識的觀點(diǎn)。我們之所以將大腦看成是計(jì)算機(jī)，是因?yàn)榱?xí)慣了從大腦的認(rèn)知功能出發(fā)思考問題。然而，隨著對大腦內(nèi)部運(yùn)行機(jī)制的了解深入，神經(jīng)科學(xué)界并沒有發(fā)現(xiàn)生物腦的“心智軟件”和“濕件”之間，存在類似于計(jì)算機(jī)硬件和軟件之間的明顯區(qū)別。大腦活動模式在多個(gè)空間和時(shí)間尺度上持續(xù)展開，不斷受到神經(jīng)遞質(zhì)的擴(kuò)散、神經(jīng)網(wǎng)絡(luò)自身的物理結(jié)構(gòu)以及細(xì)胞基礎(chǔ)設(shè)施的各種屬性影響，這些因素都與神經(jīng)系統(tǒng)代謝活動釋放的分子風(fēng)暴緊密交織在一起。單個(gè)神經(jīng)元本身就是復(fù)雜的生物系統(tǒng)，忙于維護(hù)自身的完整性并重現(xiàn)其存在所需的物質(zhì)條件。簡單地將大腦視為執(zhí)行正確計(jì)算的機(jī)器，忽視了其復(fù)雜的多層面生物活動，這種視角既不利于我們深入理解大腦，也會影響我們對意識本質(zhì)的認(rèn)識。另一種觀點(diǎn)認(rèn)為，意識可能仍然依賴于實(shí)現(xiàn)功能組織的模式，但不依賴于計(jì)算。這種立場被稱為非計(jì)算功能主義（non-computationalfunctionalism）。它與大量使用非計(jì)算立場的形式主義來理解大腦活動的工作一致，包括認(rèn)知科學(xué)中影響深遠(yuǎn)的的“動力學(xué)系統(tǒng)”方法。該方法提供了諸如微分方程的多種數(shù)學(xué)工具來模擬具身和嵌入式神經(jīng)系統(tǒng)的屬性如何隨時(shí)間變化。類似的還包括4E理論，強(qiáng)調(diào)大腦-身體-世界互動的具身、嵌入、執(zhí)行和擴(kuò)展方面，以及Gemma神經(jīng)震蕩（30-150Hz）及同步等。這項(xiàng)研究者都在關(guān)注腦的動力學(xué)層面。上述觀點(diǎn)在重要細(xì)節(jié)上有所不同，但它們都反對將大腦視為純粹的計(jì)算工具，認(rèn)為大腦是一個(gè)不斷變化的動態(tài)系統(tǒng)。將大腦看成動態(tài)系統(tǒng)而非計(jì)算機(jī)，會將我們引入該綜述標(biāo)題中最重要的關(guān)鍵詞：生物自然主義（biologicalnaturalism）。這個(gè)術(shù)語來自“中文屋”思想實(shí)驗(yàn)的提出者JohnSearle，他通過這個(gè)思想實(shí)驗(yàn)，不僅圖靈測試作為判定機(jī)器智能存在的充分條件，也反駁了機(jī)器可能具備智能的延伸論點(diǎn)。生物自然主義認(rèn)為，意識是一種生物現(xiàn)象，源于大腦和身體中的神經(jīng)以及其他可能的生物過程，是只有生物系統(tǒng)才具有的屬性。就如同對天氣系統(tǒng)的模擬再準(zhǔn)確，也無法在模擬中產(chǎn)生被風(fēng)吹雨淋的體驗(yàn)，且模擬內(nèi)部不會變濕。那有證據(jù)和理論能佐證生物自然主義嗎？下一節(jié)將從預(yù)測和控制的神經(jīng)科學(xué)視角對生物自然主義加以論證。4.預(yù)測和控制視角下的生物自然主義預(yù)測性編碼理論將大腦的感知、決策與行動看成是最小化預(yù)測誤差的過程。而大腦之所以要不斷更新對外界環(huán)境的預(yù)測，是為了保持其所屬身體的內(nèi)穩(wěn)定。對于意識問題，預(yù)測性編碼的核心主張是，意識內(nèi)容是大腦“最佳猜測”的產(chǎn)物——是自上而下的感知預(yù)測對多感官產(chǎn)生的內(nèi)容整合。上述觀點(diǎn)更形象的描述是“意識是一種控制性幻覺”，關(guān)鍵詞“控制性”強(qiáng)調(diào)意識的內(nèi)容是主動生成的，而不是由外界體驗(yàn)被動賦予的。而意識產(chǎn)生的基礎(chǔ)是具有一個(gè)能夠像生命一樣保持內(nèi)穩(wěn)態(tài)并自復(fù)制的身體，這就是生物自然主義的依據(jù)之一。在此基礎(chǔ)上外延，對內(nèi)部身體和自身所處世界的意識感知同樣是主動生成，而不是被動賦予。這些與身體相關(guān)的感知可能構(gòu)成了“自我”體驗(yàn)的基本部分，而意識本身就既包含體察外物，更包含內(nèi)觀自省，這里的自省，在日常語境中被稱為情感。根據(jù)預(yù)測性編碼，情感是基于當(dāng)前自我狀態(tài)的一種自上而下的最優(yōu)估計(jì)，這種估計(jì)的目標(biāo)是最小化預(yù)測誤差。然而如沒有生物體存在，也就無所謂自省和對自身狀態(tài)的預(yù)測，因此也就無法產(chǎn)生意識。而對外部世界的感知，更多關(guān)注的是控制而非發(fā)現(xiàn)。由此可進(jìn)一步指出，意識是和生物體維持自身存在（短期自穩(wěn)定及長期自生成）且強(qiáng)綁定的特征。然而，無論當(dāng)前的機(jī)器人或是大模型，都無法做到自復(fù)制。一臺計(jì)算機(jī)僅僅能夠接收輸入并生成輸出，而不能生產(chǎn)自己。而對于正在進(jìn)行自復(fù)制系統(tǒng)，由于它們通過一個(gè)過程網(wǎng)絡(luò)不斷地再生自己的物質(zhì)組成部分，并且這個(gè)過程網(wǎng)絡(luò)積極地維持系統(tǒng)與周圍環(huán)境的界限，因而真的沒有辦法將它們是什么與它們做什么分開。對于自我復(fù)制系統(tǒng)來說，它們通過一個(gè)復(fù)雜的過程網(wǎng)絡(luò)不斷地重建自己的物質(zhì)成分，并積極維持與環(huán)境的界限，使得這些系統(tǒng)的物質(zhì)構(gòu)成與其功能表現(xiàn)不可分割。對于生物體來說，維持自身的內(nèi)穩(wěn)態(tài)是生存的必須，即使是最簡單的細(xì)胞也需要與外界進(jìn)行物質(zhì)交換。從生物自然主義的視角看，這種交換是意識形成的先決條件。此外，生物是自復(fù)制系統(tǒng)的典型例子：不僅僅能實(shí)現(xiàn)預(yù)期功能，還能不斷地重建自己的物質(zhì)基礎(chǔ)（自我生產(chǎn)維持自身的完整性（自我識別）。因此，生物所具有的意識也與生物本身的物質(zhì)存在“利益相關(guān)”（skininthegame）。意識不斷地參與跨多個(gè)組織層次的自我維護(hù)過程。在這種觀點(diǎn)下更高層級的）預(yù)測處理機(jī)制與它們的（更低層級的）生物學(xué)背景被不可分割地嵌入到同一個(gè)整體中，這種嵌入對于實(shí)現(xiàn)更高層級的特征（例如感官整合，全局處理）以及解釋這項(xiàng)特征與意識的關(guān)系是必要的。因此，意識與活生生的生命系統(tǒng)密切相關(guān)，這不僅限于我們熟知的碳基生命，甚至硅基的人工生命及Hinton提出的凡人計(jì)算，在生物自然主義的框架下也可能產(chǎn)生意識。5.依據(jù)自由能原理判斷機(jī)器意識的存在英國神經(jīng)科學(xué)家KarlFriston的自由能原理，提供了一個(gè)獨(dú)特的視角來解釋意識的生物學(xué)基礎(chǔ)。該原理表明：如果一個(gè)系統(tǒng)可以與其外部環(huán)境區(qū)分開，那么它的內(nèi)部和外部狀態(tài)必須是條件獨(dú)立的。在這種視角下，生物體的存在可以被描述為一種復(fù)雜的信息處理過程，目的是最小化外界對其預(yù)期的意外影響，即“自由能”。在人類中，這些需要最小化的目標(biāo)體現(xiàn)為生理參數(shù)的自動調(diào)節(jié)，如體溫、血氧和血糖水平等。這種機(jī)制確保了生物體對環(huán)境變化的適應(yīng)性和生存能力。雖然類似的信息處理過程可以在計(jì)算機(jī)系統(tǒng)中模擬，但重要的區(qū)別在于，計(jì)算機(jī)并不真實(shí)地調(diào)節(jié)這些生理參數(shù)，而僅僅是模擬相關(guān)過程。意識也是如此。假設(shè)意識有助于有意識的有機(jī)體的生存，那么，根據(jù)自由能原理，有助于維持有機(jī)體的生理過程必須保留意識經(jīng)驗(yàn)留下的痕跡，這可以描述為信息處理過程。這可以稱為“意識的計(jì)算相關(guān)性”。在傳統(tǒng)計(jì)算機(jī)中，數(shù)據(jù)處理遵循一個(gè)線性的路徑：數(shù)據(jù)必須首先從內(nèi)存中加載，然后在中央處理單元中處理，最后再次存儲在內(nèi)存中。這種處理和存儲的分離在大腦中是不存在的。大腦的不同區(qū)域間的因果聯(lián)系直接且復(fù)雜，不需通過類似中央處理單元的獨(dú)立結(jié)構(gòu)進(jìn)行中轉(zhuǎn)。在自由能的視角下，這樣的因果結(jié)構(gòu)差異導(dǎo)致了生物腦產(chǎn)生的意識和傳統(tǒng)電腦模擬的意識存在差異。上圖展示了右上角：一個(gè)具身化的大腦和外界的因果信息流，以及左上角，一個(gè)生活在模擬中的大腦的因果流，以及下圖在傳統(tǒng)電腦中的因果結(jié)構(gòu)。來自：/article/10.1007/s11098-024-02182-y從自由能原理的角度來看，生物體通過最小化意外（自由能）來保證自身的持續(xù)存在。而意識的出現(xiàn)則是為了捕捉這一過程中的因果關(guān)系。由于計(jì)算機(jī)和人腦所呈現(xiàn)的因果流不同，大腦和計(jì)算機(jī)之間的因果結(jié)構(gòu)差異可能對意識至關(guān)重要。這決定了當(dāng)前傳統(tǒng)類型的計(jì)算機(jī)及其上所運(yùn)行的人工智能系統(tǒng)不太可能具有意識。從自由能的視角出發(fā)，研究者可以更精確地探索和定義構(gòu)成意識的先決條件，并分析在人工系統(tǒng)中實(shí)現(xiàn)類似生物意識功能的可能性和挑戰(zhàn)。I6.凡人計(jì)算：更有可能的機(jī)器智能之路近年來，Hinton提出的凡人計(jì)算（MortalComputation）模型引發(fā)了對傳統(tǒng)計(jì)算模式的深度反思。標(biāo)準(zhǔn)計(jì)算機(jī)科學(xué)的一個(gè)核心原則是軟件應(yīng)與硬件分離，這樣在不同的硬件上執(zhí)行相同的算法會得到相同的輸出。例如一個(gè)神經(jīng)網(wǎng)絡(luò)可以在一臺計(jì)算機(jī)上訓(xùn)練并獲取權(quán)重，然后在另一臺計(jì)算機(jī)上運(yùn)行，它們會得到相同的過程與結(jié)果。這種模式突顯了軟件的“不朽”特性——軟件不依賴于硬件，即使原始存儲介質(zhì)損壞，也可以通過更換硬件繼續(xù)使用軟件。然而，凡人計(jì)算挑戰(zhàn)了這一傳統(tǒng)觀念。它允許在執(zhí)行相同任務(wù)的不同硬件上的神經(jīng)網(wǎng)絡(luò)之間發(fā)生顯著且事先未知的變化，這些變化依賴于各自硬件的特性和學(xué)習(xí)過程，從而為每個(gè)硬件定制獨(dú)特的軟件配置。這種做法使得軟件與其運(yùn)行的硬件緊密綁定，一旦硬件損壞，相應(yīng)的軟件也會喪失，反映出生物大腦的易逝性計(jì)算特征——生物大腦的計(jì)算活動與其物理基礎(chǔ)不可分割。Hinton,Geoffrey.'Theforward-forwardalgorithm:Somepreliminaryinvestigations.'arXivpreprintarXiv:2212.13345(2022).凡人計(jì)算在硬件失效時(shí)會造成軟件丟失，這表面上看似是資源的浪費(fèi)，但實(shí)際上它揭示了傳統(tǒng)計(jì)算模型中的一個(gè)重要缺陷：不朽的計(jì)算在能耗上昂貴。它需要進(jìn)行持續(xù)的錯(cuò)誤糾正，以確保存儲中的1保持為1，0保持為0。隨著算法的復(fù)雜性增加，在深度神經(jīng)網(wǎng)絡(luò)支持的現(xiàn)代人工智能系統(tǒng)中，錯(cuò)誤糾正的計(jì)算和能量成本迅速增長。與此相對，生物大腦因其高效的能量使用，無法實(shí)現(xiàn)不朽的計(jì)算。因此生物執(zhí)行的計(jì)算是“易逝“的，這意味著它們不能與實(shí)現(xiàn)它們的“硬件”（或“濕件”）分離。這種特性使得意識與其物質(zhì)基礎(chǔ)的分離變得不太可能（即生物自然主義假說）。因?yàn)楫?dāng)前無論哪種人工智能，都是基于一個(gè)計(jì)算不朽的實(shí)現(xiàn)范式，故而這是一個(gè)對當(dāng)前技術(shù)范式下有意識的人工智能存在，特別有力的反對論據(jù)。對比當(dāng)下傳統(tǒng)的馮諾伊曼架構(gòu)的神經(jīng)網(wǎng)絡(luò)（左圖以及神經(jīng)形態(tài)計(jì)算（以憶阻器交叉陣列實(shí)現(xiàn)的芯片，處理直接在內(nèi)存內(nèi)部進(jìn)行）實(shí)現(xiàn)的凡人計(jì)算（右圖），來自：/pdf/2311.09589v1當(dāng)然，對標(biāo)準(zhǔn)計(jì)算機(jī)科學(xué)范式的挑戰(zhàn)已經(jīng)存在很長時(shí)間了。神經(jīng)形態(tài)計(jì)算的倡導(dǎo)者們主張開發(fā)更貼近生物神經(jīng)網(wǎng)絡(luò)的硬件，這種硬件與當(dāng)前計(jì)算機(jī)中主導(dǎo)的CPU和GPU截然不同。研究者已經(jīng)開發(fā)出使用尖峰在不同的硬件元素之間進(jìn)行通信的神經(jīng)形態(tài)芯片，可能提供相比傳統(tǒng)芯片顯著更高的能效。一些神經(jīng)形態(tài)方法強(qiáng)調(diào)模擬而不是數(shù)字計(jì)算，將計(jì)算功能更直接地與硬件聯(lián)系起來。相比馮諾伊曼范式，在生物自然主義的框架下，完全突破現(xiàn)有硬件約束的凡人計(jì)算，更有可能具有意識。圖2:生物物理視角的凡人計(jì)算設(shè)備：關(guān)注生物體與內(nèi)部穩(wěn)態(tài)的維持的自復(fù)制（上圖）及控制論視角下的凡人計(jì)算設(shè)備（下圖）來自：/pdf/2311.09589v17.機(jī)械姬中意識測試存在的問題科幻電影《機(jī)械姬》提出了一個(gè)類似于圖靈測試的Garland測試。兩者都是從反向去考察機(jī)器能否具有意識，即讓普通人嘗試分辨，如果機(jī)器足夠以假亂真，那么就算通過了測試。與之相對的是正向的測試，例如根據(jù)對智能，意識的不同定義方式構(gòu)建的指標(biāo)進(jìn)行判斷（圖3）。圖3：四種不同判斷機(jī)器能否具有智能/意識的方式。這種反向的考察帶來了可能的批判：圖靈測試究竟在檢測機(jī)器的智能，還是人類的輕信程度？《機(jī)械姬》中的對話指出，這種測試實(shí)際上可能更多地在評價(jià)測試者本身，而非被測試的AI。此外，反向意識測試的一個(gè)關(guān)鍵問題是意識本身是一種主觀體驗(yàn)，難以通過外部評價(jià)者客觀判定。不過，建立正向的測試方式目前也很困難。正向測試依賴的指標(biāo)取決于各自的理論框架，而我們當(dāng)前尚且不確定解釋意識應(yīng)使用何種理論框架。當(dāng)大語言模型被引導(dǎo)進(jìn)行關(guān)于“意識”的對話時(shí)，它們可以流暢地描述自己的意識本質(zhì)，這讓一些人誤認(rèn)為這些模型可能已具有某種形式的意識。這種現(xiàn)象很大程度上與媒體使用擬人化的語言描述大模型的行為有關(guān)。例如當(dāng)大模型發(fā)布不實(shí)信息時(shí)，媒體可能將其描述為“幻覺”，而更準(zhǔn)確的描述應(yīng)該是“虛構(gòu)”。在人類中，虛構(gòu)通常是無意的創(chuàng)造性行為，而幻覺則涉及對感知體驗(yàn)的改變。因此，將大模型的行為描述為虛構(gòu)而非幻覺，有助于避免錯(cuò)誤地賦予它們?nèi)魏我鈭D或主觀體驗(yàn)的屬性。被試者對大模型是否具有意識的評分，以及不同使用頻率者的評分差異，來自：/nc/article/2024/1/niae013/7644104當(dāng)然，那些讓大模型看起來有意識的對話還有更樸實(shí)的解釋。大模型本質(zhì)上是一種統(tǒng)計(jì)算法，預(yù)測最可能承接的下一個(gè)詞。這些模型通過大量包含關(guān)于意識討論的文本進(jìn)行訓(xùn)練，因此能夠在提及意識時(shí)生成流暢的回應(yīng)。為什么關(guān)于大模型是否有意識會有這么大的爭議？看似能論證機(jī)器意識的大模型互動案例并不是直接原因。相反，案例中的這些對話利用了我們的偏見——包括人類中心主義和對機(jī)器的擬人化投射，以及對語言的誤解，認(rèn)為語言是思考的主要工具，而其實(shí)語言的主要功能是溝通。這些看似顯示大模型具有意識的對話，實(shí)際上也引起了圖靈測試和意識測試之間的混淆。這些對話被無縫地融入到了廣泛流傳的科幻敘事中，如電影《機(jī)械姬》所示，當(dāng)機(jī)器能與我們交談，尤其是關(guān)于意識的話題時(shí)，似乎就顯示出了意識。然而，這些現(xiàn)象的更樸素的解釋應(yīng)該是大模型的訓(xùn)練數(shù)據(jù)和工作原理所決定的。8.西部世界與《弗蘭肯斯坦》：機(jī)器意識爭論帶來的道德考量雖然真正有意識的人工智能還難以實(shí)現(xiàn)，但“類意識”AI系統(tǒng)（Conscious-seemingAI）的到來幾乎可以板上釘釘。這樣的系統(tǒng)能夠以假亂真，給人以“有意識”的錯(cuò)覺，而且可能已經(jīng)存在。當(dāng)足夠令人信服的大語言模型與先進(jìn)的生成式視頻和音頻化身（長遠(yuǎn)看，甚至是具身機(jī)器人）相結(jié)合時(shí)，我們將生活在一個(gè)與我們認(rèn)為有意識的AI系統(tǒng)共享的世界中，無論事情的真相如何。這種類意識AI引發(fā)了重大的道德倫理問題。它能夠很好地利用人性的脆弱，無論這項(xiàng)脆弱是偶然的，還是（企業(yè)）設(shè)計(jì)的。例如，如果我們認(rèn)為一個(gè)智能助理有意識，它真正理解我們、真正關(guān)心我們，我們可能會更傾向于盲目遵循它給出的建議，即使這些建議是錯(cuò)誤的或有害的。如果我們感覺我們在與另一個(gè)心靈而不是算法打交道，我們可能也更愿意犧牲自己的數(shù)字隱私。這種現(xiàn)象在《西部世界》中得到了藝術(shù)表現(xiàn)：我們知道某系統(tǒng)實(shí)際上并無意識，卻仍可能感覺它好似具備意識。這種情況下，我們面臨兩難選擇：一是選擇關(guān)心這類系統(tǒng)，賦予其某種倫理地位，即便我們知道它們是無意識的；二是選擇忽略這些系統(tǒng)，放棄我們的同情心。兩種選擇都有其問題：如果我們選擇關(guān)心無意識的系統(tǒng)，可能會扭曲我們的道德關(guān)懷，將注意力從真正需要關(guān)心的對象（如其他人類或非人類動物）上轉(zhuǎn)移；如果我們選擇不關(guān)心，可能會使我們對他人的感受變得麻木。這就是《西部世界》劇中發(fā)生的事情。如果我們以對待計(jì)算器的方式對待類意識智能體，那我們可能在現(xiàn)實(shí)中也會漠視他人的感受——這會抹殺我們的道德敏感性，也可能讓我們自己也感到不快。實(shí)際上，已有很多人對智能助手Siri的無禮行為感到內(nèi)疚?，旣悺ぱ┤R的《弗蘭肯斯坦》為我們提供了一個(gè)道德寓言，這部作品通常被視為對創(chuàng)造生命傲慢的警告。然而，弗蘭肯斯坦真正普羅米修斯式的罪過并不是賦予他的創(chuàng)造物生命，而是賦予其意識。其創(chuàng)造物因此具備了痛苦、嫉妒和憤怒的能力，引發(fā)了恐怖和屠殺。在與類意識智能體互動時(shí)，我們不應(yīng)重蹈覆轍。類意識智能體的出現(xiàn)也不完全是壞事，它可能更容易讓使用者與之互動，提高他們的效率并擴(kuò)大智能體的可訪問性。例如在個(gè)性化治療等領(lǐng)域，類意識智能體能夠讓用戶表現(xiàn)出更高的依存性。利弊得失取決于開發(fā)者和監(jiān)管者的選擇，正如丹尼爾·丹尼特曾說過的：“我們一生中只會看到工具級的智能，而非同事級的智能。不應(yīng)將它們視為同事，也不應(yīng)欺騙自己認(rèn)為它們是同事。”9.小結(jié)讓我們回顧一下可能出現(xiàn)有意識的AI的各種場景。第一種：意識是一種計(jì)算形式，隨著AI越來越智能，有意識的AI會在人類邁入通用人工智能的門檻時(shí)出現(xiàn)。該文指出：這一場景是基于我們的心理偏見，以及對計(jì)算功能主義未經(jīng)充分檢驗(yàn)的假設(shè)，因此不太可能。第二種：意識是一種計(jì)算形式，但它必須根據(jù)意識理論被明確地“設(shè)計(jì)”到人工系統(tǒng)中。這看起來更有可能，但仍取決于（1）計(jì)算功能主義是否成立2）相關(guān)理論是否能夠真實(shí)指定意識存在的充分條件，以及（3）相關(guān)的計(jì)算是否可以在非碳基的物理基礎(chǔ)中實(shí)現(xiàn)?；谌缛止ぷ骺臻g等意識理論，構(gòu)建有意識的AI的嘗試屬于這個(gè)場景。盡管這個(gè)場景避免了將意識與智能混淆，但它仍建立在值得懷疑的計(jì)算功能主義成立這一假設(shè)上。第三種：意識是基于計(jì)算的，但相關(guān)的計(jì)算——可能因?yàn)樗鼈儔勖邢蕖荒苡商囟愋偷奈锢砘A(chǔ)來實(shí)現(xiàn)。在這種場景中，傳統(tǒng)馮諾依曼架構(gòu)下的AI可能無法成為有意識AI。有意識的AI將更接近生物意識系統(tǒng)。通過基于神經(jīng)形態(tài)計(jì)算的凡人計(jì)算來實(shí)現(xiàn)有意識的AI就屬于這個(gè)場景。第四種：意識依賴于神經(jīng)系統(tǒng)而非計(jì)算功能組織。這時(shí)計(jì)算功能主義將不再成立，模擬與意識相關(guān)的認(rèn)知功能與結(jié)構(gòu)將不足以實(shí)例化意識。在這種情況下，有意識的AI的可信度取決于神經(jīng)系統(tǒng)中的非計(jì)算功能（如動力學(xué)特征）是否可以在硅基等其它物理基礎(chǔ)中實(shí)現(xiàn)，例如構(gòu)建足夠真實(shí)的人工生命。這一場景被稱為弱生物自然主義，其中只有生命系統(tǒng)可以實(shí)現(xiàn)意識所需的必要功能組織。最后一種場景是強(qiáng)生物自然主義。意識依賴于生命系統(tǒng)的物質(zhì)特性，就像風(fēng)暴依賴于真實(shí)的水和真實(shí)的風(fēng)一樣。在這個(gè)觀點(diǎn)中，有意識的AI需要（在某種相關(guān)意義上）是活著的，哪怕不是碳基。當(dāng)然，正如水與風(fēng)不一定引起風(fēng)暴一樣，有生命也不代表有意識。這里值得強(qiáng)調(diào)的是，即使生物自然主義（弱或強(qiáng)）是錯(cuò)誤的，我們?nèi)匀豢赡苄枰ㄟ^理解我們作為生命體的本質(zhì)，來理解人類和動物的意識，而不應(yīng)該拿評價(jià)機(jī)器的指標(biāo)來理解和考察意識。意識要么是通過某些生物結(jié)構(gòu)實(shí)現(xiàn)的，要么是通過某些功能/計(jì)算實(shí)現(xiàn)的，而意識要么是通過簡單/低