人工智能教育應(yīng)用的算法風(fēng)險(xiǎn)_1

1、    人工智能教育應(yīng)用的算法風(fēng)險(xiǎn)    二、人工智能教育應(yīng)用算法風(fēng)險(xiǎn)產(chǎn)生的根源人工智能在教育領(lǐng)域的廣泛應(yīng)用給管理者、教師和學(xué)生帶來(lái)了雙重挑戰(zhàn)：一方面是人工智能的快速發(fā)展加快了知識(shí)生產(chǎn)，知識(shí)出現(xiàn)了指數(shù)級(jí)增長(zhǎng)，需要借助新的智能信息技術(shù)提升我們對(duì)世界的把握能力、應(yīng)對(duì)知識(shí)過(guò)剩問(wèn)題。反思和開(kāi)發(fā)新的教育形式，無(wú)疑是新時(shí)代最激動(dòng)人心的挑戰(zhàn)之一。有很多機(jī)遇，但也要面對(duì)錯(cuò)失機(jī)遇的嚴(yán)重風(fēng)險(xiǎn)（盧恰諾·弗洛里迪，2018：27）。另一方面是面對(duì)人工智能教育應(yīng)用所帶來(lái)的新的教育問(wèn)題，我們所掌握的知識(shí)又嚴(yán)重不足，需要生產(chǎn)新的知識(shí)以應(yīng)對(duì)人工智能教育應(yīng)用帶來(lái)的風(fēng)險(xiǎn)，機(jī)器為我

2、們做決定的底線在哪里？誰(shuí)來(lái)告訴機(jī)器算法什么重要、什么優(yōu)先？如果人工智能的誤判導(dǎo)致事故，該誰(shuí)承擔(dān)責(zé)任？如果人工智能有禁區(qū)，那什么該劃入其中（聯(lián)合國(guó)教科文組織，2019b）？為充分應(yīng)對(duì)這些挑戰(zhàn)帶來(lái)的矛盾，我們需要思考：算法能有效反映教育問(wèn)題嗎？教育是可計(jì)算的嗎？教育是否是適宜使用數(shù)學(xué)公式的領(lǐng)域？對(duì)這些問(wèn)題的回答有助于我們明確人工智能教育應(yīng)用的邊界和條件，厘清算法風(fēng)險(xiǎn)產(chǎn)生的根源。（一）教育的模糊性、不確定性與算法的確定性之間的矛盾教育處理的是人的問(wèn)題。教育過(guò)程和教育中的人充滿不確定性，教育的世界是不確定性的世界。人的成長(zhǎng)和發(fā)展沒(méi)有明確的路徑和清晰的評(píng)價(jià)標(biāo)準(zhǔn)，什么是教育、教育的規(guī)律是什么、教育應(yīng)如何培

3、養(yǎng)人、學(xué)生應(yīng)如何學(xué)習(xí)，這些問(wèn)題永遠(yuǎn)沒(méi)有標(biāo)準(zhǔn)答案。如果人的成長(zhǎng)有某種確定性規(guī)律，教育就可以被打造成流水線、實(shí)現(xiàn)標(biāo)準(zhǔn)化培養(yǎng)，學(xué)校教育將被算法同化，多樣化的學(xué)校也沒(méi)有存在的必要了。學(xué)校生活對(duì)學(xué)生的意義在于不確定性，任何試圖改變教育的不確定性，以某種確定性取代不確定性的努力，包括把教育的輸入端（學(xué)校和教師）和輸出端（學(xué)生）的任何一端變成確定性的，都要付出無(wú)比高昂的代價(jià)。算法處理的是確定性問(wèn)題。算法的世界是確定性的世界、物化的世界，物的性質(zhì)無(wú)論什么人研究、在哪里研究，發(fā)現(xiàn)的結(jié)果都是同樣的。算法可以計(jì)算、自動(dòng)化處理的都是有精確定義的概念和現(xiàn)象，這樣才能保證數(shù)據(jù)的多樣化和完全性，這是算法能夠發(fā)揮作用的重要條

4、件。數(shù)學(xué)處理的是物理世界中最簡(jiǎn)單的概念與現(xiàn)象，它的研究對(duì)象不是人而是無(wú)生命的物質(zhì)，它們的行為是重復(fù)性的，因而可以被數(shù)學(xué)描述。但在經(jīng)濟(jì)學(xué)、政治理論、心理學(xué)以及生物學(xué)領(lǐng)域，數(shù)學(xué)就無(wú)能為力了。即使在物理王國(guó)，數(shù)學(xué)也只研究簡(jiǎn)單化的事物，這些簡(jiǎn)單化的事物與現(xiàn)實(shí)的連接就如同曲線的切線僅切曲線于一點(diǎn)一樣（莫里斯·克萊因，2019：425）。教育領(lǐng)域是數(shù)學(xué)無(wú)力處理的領(lǐng)域。教育的過(guò)程、目標(biāo)、方法充滿模糊性、復(fù)雜性，涉及要素復(fù)雜且沒(méi)有終極的、可量化的標(biāo)準(zhǔn)。教育不像法律那樣有明確的定義，好奇心、創(chuàng)新性、愛(ài)、同情心、同理心等諸多教育范疇都是模糊定義。教育過(guò)程看似微不足道，但難以對(duì)其加以描述和構(gòu)造以滿足算法的

5、需要。如果我們要對(duì)教育進(jìn)行計(jì)算，就需要某種機(jī)制將不確定性和模糊性轉(zhuǎn)化成確定性、精確性，明確定義教育的諸多范疇。而教育需要不確定性和模糊性，教育的模糊性保護(hù)了孩子的不同天賦和個(gè)性。如果試圖對(duì)教育進(jìn)行精確定義，將會(huì)把教育變成真正的流水線，培養(yǎng)出一模一樣的人，比我們所詬病的工業(yè)時(shí)代的學(xué)校教育更可怕。教師的教育藝術(shù)也依賴于模糊性，教師課堂上作出的判斷和決策，如對(duì)學(xué)生知識(shí)掌握情況的判斷、聽(tīng)講專注度的分析以及根據(jù)課堂情境調(diào)整講授方法乃至聲音大小、提出什么問(wèn)題等都包含著教師的個(gè)人化算法，每個(gè)教師的算法都是在具體情境下即時(shí)生成的，也是復(fù)雜無(wú)比的。教師的個(gè)人化算法本身涉及的教育理念、教育思想、教育哲學(xué)以及他的學(xué)

6、科知識(shí)和教育智慧都是模糊的、緘默的，教師的個(gè)人教育算法是模糊算法、隨機(jī)算法，無(wú)法公式化。對(duì)教育精確定義、去模糊性的結(jié)果必然導(dǎo)致數(shù)據(jù)的單一化和殘缺化。就教育而言，算法的應(yīng)用范圍是有限的，不是所有的教育過(guò)程和教育工作都可通過(guò)算法完成。（二）學(xué)生發(fā)展的個(gè)性化與算法公式化之間的矛盾算法和計(jì)算模型本質(zhì)上是數(shù)學(xué)公式，其教育應(yīng)用是對(duì)教育進(jìn)行公式化處理的過(guò)程。算法時(shí)代，每個(gè)人都被抽象為一組數(shù)據(jù)、一組標(biāo)簽或一組特征。機(jī)器學(xué)習(xí)算法根據(jù)學(xué)生的學(xué)習(xí)習(xí)慣、學(xué)習(xí)軌跡、學(xué)習(xí)偏好、知識(shí)掌握程度、長(zhǎng)處和弱點(diǎn)等粒度對(duì)其進(jìn)行統(tǒng)計(jì)推理和算法分揀，在細(xì)分的基礎(chǔ)上對(duì)學(xué)生分類、畫(huà)像，為每個(gè)學(xué)生打上不同的“標(biāo)簽”，賦予其公式化的“算法身份”

7、。為了便于算法分揀，學(xué)生必須接受分解程序的處理，被拆解成一個(gè)個(gè)便于分析的成分。他們不再是不可分割的“個(gè)體”，而是可以被細(xì)分的“分格”可以利用算法等工具無(wú)限細(xì)分、最終變成用數(shù)據(jù)表示的物理形態(tài)的人公式把人變成了“可分解動(dòng)物”（盧克·多梅爾，2016：43）。被算法打上不同“標(biāo)簽”的學(xué)生會(huì)接受不同的推送內(nèi)容以及不同的推送方式和數(shù)量。每個(gè)學(xué)生對(duì)其他同學(xué)收到的信息可能一無(wú)所知。機(jī)器學(xué)習(xí)算法基于社會(huì)整體“大數(shù)據(jù)集”而形成“規(guī)則集”并應(yīng)用于具體場(chǎng)景的過(guò)程，暗含著以整體特征推斷個(gè)體行為的基本邏輯，這可能造成“算法歧視”問(wèn)題（賈開(kāi)，2019）。這種通過(guò)挖掘數(shù)據(jù)建立學(xué)生個(gè)人檔案，預(yù)測(cè)個(gè)人行為的微目標(biāo)鎖定

8、技術(shù)不斷發(fā)展，將形成學(xué)生之間的知識(shí)區(qū)隔，加大學(xué)生之間的信息“鴻溝”，造成學(xué)生之間的信息溝通、學(xué)術(shù)交流、合作學(xué)習(xí)等方面的困難，最終扭曲教育，不僅無(wú)法實(shí)現(xiàn)人工智能教育應(yīng)用所承諾的效率、公平，還會(huì)將學(xué)生的個(gè)性蛻變成碎片化的數(shù)據(jù)標(biāo)簽、算法分格，造成人與人之間的疏離。算法對(duì)于人類行為特征的精準(zhǔn)識(shí)別有利于為不同個(gè)體提供差異化、個(gè)性化服務(wù)的同時(shí)，也將強(qiáng)化個(gè)人偏好甚至可能催化極端傾向（賈開(kāi)，2019）。被算法標(biāo)簽化的新算法身份與個(gè)人、個(gè)性化具有完全不同的含義，是一種公式化的自我、完全被量化的自我，是與身體完全割裂開(kāi)來(lái)的、缺乏自我認(rèn)同的算法自我。學(xué)生對(duì)自我的認(rèn)知依賴于算法的結(jié)果，必然造成個(gè)人的認(rèn)知與自我的疏離、

9、對(duì)學(xué)習(xí)的涉身性的背離。讓每個(gè)學(xué)生按照自己的需求和喜好實(shí)現(xiàn)個(gè)性化發(fā)展一直是人們的美好教育理想，這也被認(rèn)為是突破工業(yè)時(shí)代流水線式學(xué)校教育磨滅學(xué)生個(gè)性弊病的方向。但是，我們有必要認(rèn)識(shí)清楚，運(yùn)用算法計(jì)算出來(lái)的學(xué)生個(gè)人“畫(huà)像”、公式化身份并非是真正的個(gè)性化，推送算法對(duì)學(xué)生個(gè)性化學(xué)習(xí)內(nèi)容的推送也并非真正的個(gè)性化學(xué)習(xí)。真正有利于個(gè)性化發(fā)展的學(xué)習(xí)不是每個(gè)學(xué)生按照自己的喜好學(xué)習(xí)不同的內(nèi)容，而是每個(gè)學(xué)生按照自己的學(xué)習(xí)風(fēng)格采取適合自己的學(xué)習(xí)方式和學(xué)習(xí)進(jìn)度學(xué)習(xí)共同的知識(shí)內(nèi)容，個(gè)性化發(fā)展的前提是每個(gè)學(xué)生必須與其他學(xué)生共同學(xué)習(xí)人類的共同知識(shí)中精選出來(lái)的那部分。如果把人類的大腦看作一個(gè)智能系統(tǒng)，我們學(xué)習(xí)的知識(shí)就是各種數(shù)據(jù)，

10、人類學(xué)習(xí)的最終目的不是記憶知識(shí)（數(shù)據(jù)），而是通過(guò)學(xué)習(xí)知識(shí)保持人之為人的不同于機(jī)器的好奇心、想象力、創(chuàng)造力，訓(xùn)練提升個(gè)人算法，形成更復(fù)雜的大腦神經(jīng)連接，塑造大腦的發(fā)展，以便于更好地識(shí)別和使用各種知識(shí)（數(shù)據(jù)）。個(gè)人算法不單純是傳統(tǒng)意義上的聽(tīng)、說(shuō)、讀、寫(xiě)、算等能力，也包括更重要的反思能力、思辨能力、思維能力、創(chuàng)新能力、解決復(fù)雜問(wèn)題的能力、溝通協(xié)作能力以及寬闊的學(xué)科視野，也就是知識(shí)運(yùn)作模式以及產(chǎn)生知識(shí)的方式。學(xué)生的個(gè)性化發(fā)展是在學(xué)習(xí)共同知識(shí)的基礎(chǔ)上人的全面發(fā)展個(gè)性化，而不是根據(jù)個(gè)人的偏好學(xué)習(xí)個(gè)性化知識(shí)內(nèi)容。公式化的個(gè)性化知識(shí)推送不等同于學(xué)生的個(gè)性化發(fā)展。公式化的個(gè)性化推送和量化自我與其說(shuō)是有利于學(xué)生興

11、趣愛(ài)好和天賦的發(fā)展毋寧說(shuō)是對(duì)其個(gè)人發(fā)展?jié)撃艿囊种?。人的個(gè)性化發(fā)展拒絕被公式化。教育的公式化只會(huì)培養(yǎng)出視野狹窄、目光短視、具有偏見(jiàn)的，而不是德智體美勞全面發(fā)展的人。教育的目的是使人成為人，成為人意味著牢記生活是連續(xù)的、多樣的且被體驗(yàn)的，而不是被計(jì)算的（盧恰諾·弗洛里迪，2018：33）。算法的有效性需要完整信息和海量?jī)?yōu)質(zhì)數(shù)據(jù)的支撐，只有當(dāng)數(shù)據(jù)集足夠龐大、具有完整信息時(shí)，才能增強(qiáng)算法的適應(yīng)性和可靠性。學(xué)生的個(gè)性化發(fā)展是其性格特征、好奇心、想象力、創(chuàng)造力、合作能力、理解能力、思維能力等多種因素綜合作用的結(jié)果，而這種綜合作用是無(wú)法精確量化、測(cè)量的。教育過(guò)程的很多方面不能提供關(guān)于教育問(wèn)題的完整

12、信息和足夠多的數(shù)據(jù)，缺乏海量數(shù)據(jù)資源支撐的算法就像無(wú)本之木，會(huì)出現(xiàn)失真和錯(cuò)誤。我們不能把不可以計(jì)算和量化的教育對(duì)象強(qiáng)行用人工智能去解決，甚至為了使用人工智能技術(shù)強(qiáng)行去采集數(shù)據(jù)，比如讓學(xué)生穿智能校服、戴智能手環(huán)、在教室安裝人臉識(shí)別系統(tǒng)、將學(xué)生生活中使用的物品裝上傳感設(shè)備，監(jiān)控他的一言一行。在不需要和不可以使用人工智能解決的教育問(wèn)題上強(qiáng)行使用人工智能技術(shù)和算法，只會(huì)導(dǎo)致數(shù)據(jù)量不足或是數(shù)據(jù)采集的謬誤，都是顛倒了目的和手段，無(wú)謂地增加了教育風(fēng)險(xiǎn)和倫理問(wèn)題。（三）教師專業(yè)能力具身性與算法去技能化之間的矛盾教師的專業(yè)知識(shí)和專業(yè)能力是具身性知識(shí)，教師的具身性知識(shí)是教師專業(yè)知識(shí)和專業(yè)能力的綜合體，包含教育理念

13、、教育智慧、學(xué)科知識(shí)、教學(xué)技能、個(gè)人才能、自發(fā)而持久的思維、感覺(jué)以及那些模糊的、無(wú)法量化的、非顯性的知識(shí)、能力和教學(xué)經(jīng)驗(yàn)。教師利用具身性知識(shí)發(fā)現(xiàn)教育過(guò)程中出現(xiàn)的各種問(wèn)題，歸納和反思問(wèn)題背后的邏輯，創(chuàng)造性地提出解決問(wèn)題的辦法。教師的具身性知識(shí)賦予教師教育工作的靈活性和創(chuàng)造性，其思維和知識(shí)的寬度和廣度是算法無(wú)法比擬的。教師以具身性知識(shí)緘默地影響學(xué)生，教師的專業(yè)成長(zhǎng)是學(xué)生成功的最好路徑，理想的學(xué)校應(yīng)該是既能幫助學(xué)生成長(zhǎng)，又能幫助教師實(shí)現(xiàn)職業(yè)發(fā)展的地方。與教師的專業(yè)成長(zhǎng)追求知識(shí)的具身性相反，算法追求的是知識(shí)與人身的分離，其處理過(guò)程和結(jié)果均需要將知識(shí)從人身上抽離出來(lái)，機(jī)器學(xué)習(xí)算法基于大規(guī)模數(shù)據(jù)集形成的“

14、規(guī)則集”不依賴于人類的表達(dá)能力，這樣的技術(shù)突破不僅意味著人類行為自動(dòng)化程度的又一次提升，也反映了算法生產(chǎn)過(guò)程及其應(yīng)用結(jié)果與人類行為本身的分離（賈開(kāi)，2019）。在不斷復(fù)雜化的人機(jī)混合系統(tǒng)的背景下，教師處理教育事件關(guān)注的主要內(nèi)容由教育事件本身轉(zhuǎn)移到智能助手上，原本用來(lái)支持舊有智力功能和精神追求的神經(jīng)回路逐漸弱化，且開(kāi)始分崩離析。大腦會(huì)回收那些閑置不用的神經(jīng)細(xì)胞和神經(jīng)突觸，將其用于其他更迫切的工作。我們會(huì)獲得新的技能和新的視角，可是舊的技能和視角也會(huì)因此而喪失（尼古拉斯·卡爾，2015：151）。教師和智能算法之間的相互作用會(huì)系統(tǒng)性地影響教師專業(yè)發(fā)展的進(jìn)程，教師所擁有的那些非技術(shù)的、獨(dú)特

15、的教學(xué)技能和個(gè)人才能，如同情心、社交能力、創(chuàng)造力、溝通能力、推理能力和判斷力將被人工智能技術(shù)迅速而徹底地重塑，人工智能助手作為教師教育智慧的延伸，將使教師付出喪失教育智慧及各種具身性教育知識(shí)的代價(jià)。算法與教師的工作方式根本無(wú)法匹配。教師的教育活動(dòng)、教育行為不需要結(jié)果復(fù)雜的運(yùn)算工作。根本上說(shuō)，教育不同于那些離開(kāi)人工智能就無(wú)法對(duì)海量數(shù)據(jù)進(jìn)行處理的領(lǐng)域，目前用海量數(shù)據(jù)訓(xùn)練機(jī)器深度學(xué)習(xí)的技術(shù)在一些領(lǐng)域的廣泛應(yīng)用，很大程度上是因?yàn)檫@些領(lǐng)域存在人腦無(wú)法處理的海量信息。教育領(lǐng)域沒(méi)有被互聯(lián)網(wǎng)、計(jì)算機(jī)改變，部分源于這方面的原因，教育技術(shù)的熱衷者普遍感到大數(shù)據(jù)、人工智能在教育領(lǐng)域的應(yīng)用進(jìn)展緩慢，沒(méi)有像其他領(lǐng)域那樣

16、運(yùn)用海量數(shù)據(jù)喂養(yǎng)人工智能。教師在課堂上以及課后的教育和教學(xué)工作是極其復(fù)雜的，對(duì)教師的專業(yè)知識(shí)進(jìn)行編碼是個(gè)非常棘手又浩大的工程，目前的人工智能算法還不能與教師的理解力和洞察力相匹配。如果我們?cè)噲D對(duì)教師的教學(xué)進(jìn)行量化分析，就會(huì)將其破壞殆盡。教師的教學(xué)表現(xiàn)對(duì)于數(shù)學(xué)模型來(lái)說(shuō)太過(guò)復(fù)雜，可用來(lái)訓(xùn)練模型的數(shù)據(jù)都是一些粗糙的替代變量。這種模型還沒(méi)有完善到能夠?qū)ξ覀冃湃蔚娜俗龀鲋匾u(píng)判。教師考核需要考慮各種細(xì)微之處和具體情境，即使在大數(shù)據(jù)時(shí)代，這仍然是個(gè)很有挑戰(zhàn)性的問(wèn)題（凱西·奧尼爾，2018：244）。教育過(guò)程中教師憑借掌握的具身性知識(shí)，無(wú)需算法的協(xié)助進(jìn)行分析判斷，無(wú)需通過(guò)語(yǔ)音識(shí)別、人臉識(shí)別、情緒識(shí)

17、別等人工智能技術(shù)就可以對(duì)課堂發(fā)生的各種情境進(jìn)行分析判斷和處理，教師不需要人工智能抓取學(xué)生瞳孔和表情的變化，也不需要算法提供學(xué)生專注度、開(kāi)心值、驚喜值、興趣值、理解值等數(shù)據(jù)，就可以分析判斷學(xué)生的課堂表現(xiàn)、知識(shí)點(diǎn)的掌握程度，并做出即時(shí)的互動(dòng)與相應(yīng)的教學(xué)策略。充分相信教師的教育智慧和把控課堂教學(xué)的能力，這是我們保持教師教育過(guò)程中的主導(dǎo)地位的一個(gè)重要原因。（四）教育規(guī)則的靈活性與算法硬規(guī)則之間的矛盾算法處理的是靜態(tài)的、可預(yù)測(cè)的、按確定性規(guī)律演化的問(wèn)題，數(shù)學(xué)模型的本質(zhì)是基于過(guò)去的數(shù)據(jù)推測(cè)未來(lái)，其基本假設(shè)是：模式會(huì)重復(fù)（凱西·奧尼爾，2018：31-32）。這種對(duì)未來(lái)的確定性預(yù)測(cè)是反教育的。教育

18、是動(dòng)態(tài)的、主動(dòng)求變的，體現(xiàn)在每個(gè)學(xué)習(xí)者身上最大的變化是教育結(jié)果的不斷變化，教育中人的思維、判斷、推理都是隨機(jī)應(yīng)變、因時(shí)因事不斷變化的，教育中的人是變化中的人。人的可變性、可塑性是教育賴以存在的基礎(chǔ)，教育存在的意義就是促進(jìn)人的變化。沒(méi)有促動(dòng)受教育者發(fā)生變化的教育是不成功的，教育者追求教育對(duì)象當(dāng)下和未來(lái)對(duì)過(guò)去的超越，而非過(guò)去與未來(lái)的一致。人是如何變、通過(guò)什么生變、在什么時(shí)候什么情況下變，又是極其復(fù)雜，不可預(yù)知的。算法通過(guò)分析過(guò)去的數(shù)據(jù)來(lái)學(xué)習(xí)，用來(lái)計(jì)算教育的數(shù)據(jù)都是“過(guò)時(shí)”的數(shù)據(jù)，是教師和學(xué)生在過(guò)去的教學(xué)行為中留下的“信息足跡”。這些數(shù)據(jù)是基于過(guò)去的知識(shí)點(diǎn)或教育情境形成的，當(dāng)我們用舊的“信息足跡”形成的算法分析他在新的知識(shí)點(diǎn)或教育情境中可能的行為時(shí)，就會(huì)產(chǎn)生可變性不同步的問(wèn)題，無(wú)法預(yù)測(cè)當(dāng)下或未來(lái)的變化。另外，量化數(shù)據(jù)也無(wú)法預(yù)測(cè)質(zhì)性變化，特別是學(xué)習(xí)過(guò)程中發(fā)生的涌現(xiàn)、頓悟等質(zhì)