人工智能算法造成危害的原因分析3900字

分析完算法的危害表現(xiàn)，本節(jié)擬從算法自身技術(shù)運(yùn)行角度、算法外部監(jiān)管角理者，算法主體對(duì)算法的研發(fā)和升級(jí)起著主導(dǎo)和關(guān)鍵作用。1之所以會(huì)出現(xiàn)算法個(gè)人信息，最下方往往會(huì)出現(xiàn)所謂的“隱私保護(hù)條例”,這看似是平臺(tái)在征求個(gè)金夢(mèng)《立法倫理與算法正義——算法主體行為的法律規(guī)制》[J]政法論壇.2021年1月第39卷第1期：了提升透明度的要求，稱要建立健全公開透明的人的信息，該招聘就會(huì)被認(rèn)定為違法，而不論該信息對(duì)于招聘結(jié)果是否產(chǎn)生影3同時(shí)，歐盟國(guó)家也建立了一些專門機(jī)構(gòu)來(lái)規(guī)范算法的合理運(yùn)行，例如利用歐盟證券和市場(chǎng)管理部門監(jiān)管算法歧視現(xiàn)象。4目前，我國(guó)相繼出臺(tái)了《中華人民共和國(guó)數(shù)據(jù)安全法(草案)》、《中華人民共和國(guó)網(wǎng)絡(luò)安全法》,也制定了《數(shù)據(jù)安全管理辦法》(以下簡(jiǎn)稱“辦法”)。除了辦法第二十三條5和第二十四條6涉及算法之外，我國(guó)目前沒有其他法律規(guī)范就算法作出明確規(guī)定，表明我國(guó)法律體系在規(guī)制算法方面仍有較大的空白?！毒W(wǎng)絡(luò)安全法》中甚至規(guī)定，對(duì)于因網(wǎng)絡(luò)安全引起的突發(fā)事件，要依照《突發(fā)事件應(yīng)對(duì)法》和《安全生產(chǎn)法》有關(guān)的規(guī)定。7雖說這樣的規(guī)定也有其合理之處，但對(duì)于更深層次的責(zé)任追究，例如由算法引起的網(wǎng)絡(luò)安全事件，對(duì)于算法的規(guī)制問題卻避而不談。反觀美國(guó)，法院對(duì)于算法歧視案件規(guī)定了“審查三部曲”,2019年還專門出臺(tái)了《算法責(zé)任法案》,這都可以看出美國(guó)對(duì)于算法的規(guī)制正走在世界的前列，而且美國(guó)學(xué)界對(duì)于算法的討論也比中國(guó)要早的多。不過值得肯定的是，目前我國(guó)正在制定的《個(gè)人信息保護(hù)法》和已經(jīng)出臺(tái)的《電子商務(wù)法》已經(jīng)體現(xiàn)出我國(guó)正在從算法和數(shù)據(jù)兩個(gè)層面著力保護(hù)公民免受算法侵害。由此可以看出，在國(guó)外早已對(duì)算法進(jìn)行法律規(guī)制的背景下，我國(guó)相關(guān)的監(jiān)管機(jī)制至今仍不健全，因此我國(guó)可以借鑒國(guó)外對(duì)于算法的法律規(guī)制路徑，加緊制定相關(guān)法律法規(guī)。1.3算法倫理的缺失與不足算法問題層出不窮，現(xiàn)有的法律法規(guī)無(wú)法應(yīng)對(duì)所有問題，這意味著需要重新塑造公眾對(duì)于算法的認(rèn)知和法律的規(guī)則形態(tài)。另外，倘若算法發(fā)展到一定程度，今后司法活動(dòng)中的起訴書、判決書等都有可能按照算法規(guī)定的路徑自動(dòng)生成，證據(jù)材料也能經(jīng)由算法自動(dòng)審查，這不可避免地會(huì)帶來(lái)一些隱患，例如當(dāng)算法編程上出現(xiàn)問題，或是算法某個(gè)運(yùn)行環(huán)節(jié)出錯(cuò)，都可能導(dǎo)致嚴(yán)重的司法后果。如果要為此重新啟動(dòng)人工審查，勢(shì)必會(huì)增加勞動(dòng)量并耗費(fèi)更多的人力資源。當(dāng)然算法和?鄭智航徐昭曦《大數(shù)據(jù)時(shí)代算法歧視的法律規(guī)制與司法審查----以美國(guó)法律實(shí)踐為例》[J]比較法研究?《數(shù)據(jù)安全管理辦法》第二十三條：網(wǎng)絡(luò)運(yùn)營(yíng)者利用時(shí)，應(yīng)當(dāng)停止推送，并刪除已經(jīng)收集的設(shè)備識(shí)別碼等用戶數(shù)據(jù)和個(gè)人信息。網(wǎng)絡(luò)運(yùn)營(yíng)者開展定向推送活動(dòng)應(yīng)遵守法律、行政法規(guī)，尊重社會(huì)公德、商業(yè)道德、公序良俗，誠(chéng)實(shí)守信，嚴(yán)禁歧視、欺詐等行為。參見《中華人民共和國(guó)網(wǎng)絡(luò)安全法》人相比，出錯(cuò)的幾率可以說是低得多，但是我們也不得不考慮到這個(gè)“萬(wàn)一”,以及出錯(cuò)后的彌補(bǔ)辦法。另外，由于算法是人工編寫的，在算法編程的過程中，很有可能加入編程者個(gè)人的主觀傾向，例如對(duì)性別的偏見、地域的歧視等一系列常見的歧視因素都可能被編入算法程序中，這毫無(wú)疑問會(huì)影響算法輸出的結(jié)果。美國(guó)某項(xiàng)調(diào)查研究表明，性別歧視廣泛存在于谷歌的廣告系統(tǒng)之中，同種情形下，男高收入工作往往喜歡推薦給男性用戶而非女性用戶。法律具有滯后性，價(jià)格共謀這一現(xiàn)象的出現(xiàn)，也提現(xiàn)了反壟斷法具有滯后性的特點(diǎn)。預(yù)設(shè)倫理規(guī)范是反映市場(chǎng)競(jìng)爭(zhēng)變化的有效手段。與我國(guó)不同的是，歐美國(guó)家對(duì)于機(jī)器人以及算法等相關(guān)產(chǎn)業(yè)的倫理道德研究已經(jīng)展開多年，不僅對(duì)于人工智能倫理學(xué)方面已經(jīng)有了諸多嶄新的認(rèn)識(shí)，也出臺(tái)了一些相關(guān)的白皮書。同時(shí)，對(duì)于人工智能的研發(fā)人員，也有了相應(yīng)的道德約束條款和操作指引性說明。對(duì)于這方面的研究，我國(guó)更應(yīng)該緊追其后，乘勢(shì)而上。另外，對(duì)于任何的新興事物，我們應(yīng)盡可能采取鼓勵(lì)支持，并且合理引導(dǎo)的態(tài)度，充分相信人工智能技術(shù)所帶來(lái)的利大于弊，才能支持繼續(xù)發(fā)展人工智能。如今，各行各業(yè)也基本達(dá)成這樣的共識(shí)：人工智能系統(tǒng)的研發(fā)和應(yīng)用必須服從一些倫理原則。1.4對(duì)“技術(shù)中立”原則的不當(dāng)引用“技術(shù)中立”原則來(lái)源于著名的環(huán)球電影制片公司起訴美國(guó)索尼公司8一案，1976年因該案而確立的“實(shí)質(zhì)性非侵權(quán)用途規(guī)則”一直沿用至今。在中國(guó)涉及算法責(zé)任的案件如“快播案”等，也常援引“技術(shù)中立”為抗辯理由，這一原則強(qiáng)調(diào)技術(shù)自身的價(jià)值，一項(xiàng)合法并被廣泛運(yùn)用的技術(shù)，則即使它被用于非法活動(dòng)，也應(yīng)當(dāng)豁免技術(shù)開發(fā)者的責(zé)任。9但不能否認(rèn)的是，由于算法自身的性質(zhì)，技術(shù)中立確實(shí)是一種理想化狀態(tài)，算法設(shè)計(jì)過程中加入個(gè)人因素、主觀考量和平臺(tái)利益因素是不可避免的，又因法律無(wú)法直接干預(yù)算法運(yùn)轉(zhuǎn)，久而久之被過度使用的技術(shù)中立原則助長(zhǎng)了算法黑箱行為，因此，即使技術(shù)中立常常被平臺(tái)當(dāng)作抗辯理?王遷《“索尼案”二十年祭——回顧、反思與啟示》[J]《科技與法律》,2004,(04):59-68?邱遙堃《法院如何規(guī)制算法----從快播案切入》[J]《法律與社會(huì)科學(xué)》,2017,(01):49-68處理過程；三是由算法自主選擇數(shù)據(jù)，輸入端、輸出端與處理過程均不公開?！凹夹g(shù)中立”原則在以往的司法實(shí)踐中也常出現(xiàn)：2013年，優(yōu)酷訴獵豹瀏對(duì)于技術(shù)的使用行為。另一方面，“技術(shù)中立”也并不意味著絕對(duì)免責(zé)?；ヂ?lián)網(wǎng)領(lǐng)域的著作權(quán)糾紛，侵權(quán)行為，就可以被免予處罰。這項(xiàng)規(guī)定名為“避風(fēng)港原承擔(dān)相應(yīng)的侵權(quán)責(zé)任。1同時(shí)，該領(lǐng)域也奉行“紅旗原則”:當(dāng)侵權(quán)行為如紅旗后依然要履行及時(shí)刪除的義務(wù)，這是企業(yè)應(yīng)當(dāng)承擔(dān)的社會(huì)責(zé)任，與“技術(shù)中立”無(wú)關(guān)。對(duì)算法進(jìn)