人工智能安全研究所國(guó)際網(wǎng)絡(luò)會(huì)議

人工智能安全研究所國(guó)際網(wǎng)絡(luò)會(huì)議前瞻（CISS）組織研究團(tuán)隊(duì)定期跟蹤最新國(guó)際研究動(dòng)態(tài)，CISS推出的人工智能與國(guó)際安全研究動(dòng)態(tài)第11202421-22日，美國(guó)將舉辦人工智能安全研究所國(guó)際網(wǎng)絡(luò)（InternationalNetworkofAISafetyInstitutes）第一、峰會(huì)核心議題和動(dòng)向推進(jìn)前沿人工智能模型的風(fēng)險(xiǎn)評(píng)估與安全測(cè)試1OpenAIChatGpt實(shí)則隱瞞自身真正目標(biāo)的能力。[2]（ISafetySummit）風(fēng)險(xiǎn)評(píng)估機(jī)制確保這些前沿人工智能模型可控性和安全性。正逐漸成為高風(fēng)險(xiǎn)領(lǐng)域的必備安風(fēng)險(xiǎn)。[3]這種測(cè)試方法不僅適用于人工智能開發(fā)初期的風(fēng)的人工智能安全威脅，并為未來(lái)全球技術(shù)標(biāo)準(zhǔn)制定奠定基礎(chǔ)。[4]峰會(huì)預(yù)計(jì)還將就人工智能模型在軍事和生物安全等高風(fēng)險(xiǎn)領(lǐng)域的應(yīng)用制定更嚴(yán)格的技術(shù)安全標(biāo)準(zhǔn)。為此，政府、技術(shù)研發(fā)機(jī)構(gòu)及國(guó)際標(biāo)準(zhǔn)組織可能會(huì)合作建立一套全面的安全評(píng)估框架，涵蓋風(fēng)險(xiǎn)量化、透明度標(biāo)準(zhǔn)和數(shù)據(jù)管理等關(guān)鍵方面。此框架旨在指導(dǎo)各國(guó)在推動(dòng)技術(shù)創(chuàng)新的同時(shí)，有效防控可能出現(xiàn)的風(fēng)險(xiǎn)，以達(dá)成技術(shù)發(fā)展與安全保障的平衡。探討構(gòu)建人工智能安全治理的國(guó)際框架人工智能技術(shù)的跨國(guó)應(yīng)用特性導(dǎo)致單一國(guó)家的治理手治理框架已成為應(yīng)對(duì)人工智能安全挑戰(zhàn)的當(dāng)務(wù)之急[5]。本體、可操作的治理機(jī)制，推動(dòng)跨國(guó)合作。6在風(fēng)險(xiǎn)。峰會(huì)預(yù)期將討論具有一定約束力的協(xié)議或意向書，促進(jìn)透明度與公眾信任機(jī)制對(duì)人工智能的接受度和信任直接影響技術(shù)在各領(lǐng)域廣泛應(yīng)范圍內(nèi)的安全部署奠定基礎(chǔ)。峰會(huì)還可能就數(shù)據(jù)保護(hù)和隱私管理提出新的國(guó)際標(biāo)準(zhǔn)二、峰會(huì)預(yù)期成果構(gòu)建人工智能風(fēng)險(xiǎn)協(xié)同應(yīng)對(duì)機(jī)制在人工智能相關(guān)風(fēng)險(xiǎn)或突發(fā)事件發(fā)生時(shí)提高各國(guó)集體應(yīng)對(duì)8能潛在威脅時(shí)能協(xié)調(diào)一致。9國(guó)在面臨高風(fēng)險(xiǎn)人工智能模型或前沿人工智能技術(shù)可能帶高程度的風(fēng)險(xiǎn)識(shí)別和管理一致性。擴(kuò)大人工智能安全研究所國(guó)際合作網(wǎng)絡(luò)峰會(huì)另一個(gè)重要預(yù)期成果是推動(dòng)國(guó)際人工智能安全研究所網(wǎng)絡(luò)的發(fā)展。該網(wǎng)絡(luò)旨在整合全球人工智能安全研究資202320244月簽署諒解備忘錄，將共同努力開發(fā)最先進(jìn)人工智能模型測(cè)試。20245這一倡議的最終目標(biāo)是通過(guò)建立一個(gè)全球性協(xié)作網(wǎng)絡(luò)，國(guó)合作的實(shí)踐落地，計(jì)劃在各成員國(guó)之間建立共享資源庫(kù)，10等標(biāo)準(zhǔn)機(jī)構(gòu)合應(yīng)對(duì)能力。為鞏固其影響力，該網(wǎng)絡(luò)還將加強(qiáng)與私營(yíng)部門、發(fā)布全球人工智能安全治理聲明對(duì)人工智能生成內(nèi)容進(jìn)行清晰標(biāo)識(shí)，以避免虛假信息擴(kuò)散，同時(shí)便于用戶和監(jiān)管機(jī)構(gòu)對(duì)人工智能應(yīng)用合法性和潛在風(fēng)險(xiǎn)進(jìn)行識(shí)別和監(jiān)督。[在行業(yè)和企業(yè)層面，聲明可能要求人工智能開發(fā)者采用智能安全官等方式識(shí)別和控制人工智能潛在安全漏洞和倫理風(fēng)險(xiǎn)。[12重疊和資源浪費(fèi)。[13]三、峰會(huì)影響分析增強(qiáng)全球人工智能治理的協(xié)調(diào)性本次峰會(huì)的預(yù)期成果將顯著提升各國(guó)在人工智能安全14]通過(guò)此次15]這種框架將首先針對(duì)高風(fēng)險(xiǎn)的人工智能應(yīng)用，如軍事安全、公共基礎(chǔ)設(shè)施保護(hù)等領(lǐng)域，加劇全球人工智能治理的陣營(yíng)化趨勢(shì)本次峰會(huì)預(yù)計(jì)將加劇全球人工智能安全領(lǐng)域的“陣營(yíng)為核心的西方國(guó)家在英峰會(huì)很可能推動(dòng)跨國(guó)安全治理協(xié)議，通過(guò)“核心圈層”和“外圍圈層”模式強(qiáng)化聯(lián)盟內(nèi)部技術(shù)流通與信息保護(hù)。這意味著在高風(fēng)險(xiǎn)人工智能應(yīng)用上，西方國(guó)家間合作將更加密切，而外圍國(guó)家在技術(shù)準(zhǔn)入上則會(huì)受到更嚴(yán)格審查和限制。例如，峰會(huì)可能推動(dòng)建立人工智能風(fēng)險(xiǎn)分級(jí)管理系統(tǒng)，對(duì)不同等級(jí)的人工智能模型設(shè)置差異化的安全和透明性要求。這種差異化機(jī)制對(duì)西方國(guó)家而言，有助于提高人工智能模型的透明度、合規(guī)性并樹立嚴(yán)格監(jiān)管的正面形象。而對(duì)于非西方國(guó)家來(lái)說(shuō)，這種分級(jí)管理體系將增設(shè)技術(shù)壁壘，使得它們?cè)?6]這加劇人工智能國(guó)際安全領(lǐng)域“治理內(nèi)卷”本次峰會(huì)可能進(jìn)一步加劇全球人工智能治理的“內(nèi)卷化”現(xiàn)象。盡管各國(guó)難以迅速將監(jiān)管規(guī)則落地，但為了吸引國(guó)際注意、展示政績(jī)，各國(guó)可能繼續(xù)投入資源舉辦類似的高層會(huì)議和多邊倡議。這種象征性的“峰會(huì)效應(yīng)”可能導(dǎo)致各國(guó)在人工智能治理中逐漸陷入形式化競(jìng)爭(zhēng)，但實(shí)際治理成效可能有限。首先，在本次峰會(huì)激勵(lì)下，各國(guó)預(yù)計(jì)會(huì)競(jìng)相推出新的人工智能監(jiān)管工具和政策，以展示在人工智能安全治理方面的積極姿態(tài)。[17]然而，這些政策可能大多響應(yīng)峰會(huì)提出的通用標(biāo)準(zhǔn)，缺乏具體的執(zhí)行措施，因此往往僅停留在表面宣示階段，未能結(jié)合各國(guó)實(shí)際需求和資源條件。[18]尤其是資源不足或技術(shù)相對(duì)薄弱的國(guó)家，可能會(huì)采取高度一致的政策框架，而缺乏落實(shí)執(zhí)行的實(shí)際支撐，導(dǎo)致人工智能治理政策趨同。這樣的同質(zhì)化趨勢(shì)形成“治理內(nèi)卷”，各國(guó)在不斷投入精力推出新政策、塑造宏觀框架，但在實(shí)際操作中，由于缺乏執(zhí)行力和本地化調(diào)整，難以對(duì)人工智能安全治理產(chǎn)生實(shí)質(zhì)助益。為在人工智能治理中強(qiáng)化自身影響力，各國(guó)或區(qū)域組織可能會(huì)爭(zhēng)相組織獨(dú)立的人工智能治理峰會(huì)，導(dǎo)致“競(jìng)爭(zhēng)性峰會(huì)”數(shù)量激增，議題和目標(biāo)的高度重疊使得國(guó)際資源分散、政策進(jìn)一步碎片化。[19]缺乏協(xié)調(diào)的多邊會(huì)議使得各國(guó)在不同的治理標(biāo)準(zhǔn)間徘徊，增加了政策執(zhí)行復(fù)雜性，也造成寶貴資源浪費(fèi)?？傊?，本次峰會(huì)存在引發(fā)政策“過(guò)度疊加”的現(xiàn)象，形成治理框架表面豐富、實(shí)際無(wú)效局面的風(fēng)險(xiǎn)。參考文獻(xiàn)：C., & Drexel, B. (2024). Catalyzing Crisis. https:///publications/reports/catalyzing-crisisSinger,S.(2024).HowtheUKShouldEngageChinaatFrontier.CarnegieEndowment for International /posts/2024/10/lammy-china-ai-safety-cooperation?lang=enGoodfellow,I.,Papernot,N.,Huang,S.,Duan,Abbeel,&Clark,J.(2017).Attackingmachinelearningwithadversarialexamples.OpenAIBlog,24,1.Lang,C.(2024).AdvancingAIsafetyinternationalcollaboration.whatshouldhappennext.AtlanticCouncil.https:///blogs/new-atlanticist/advancing-ai-safety-requires-international-collaboration-heres-what-should-happen-next/Dafoe,A.(2018).AIgovernance:aagenda.GovernanceofAIProgram,FutureofHumanityInstitute,UniversityofOxford:Oxford,UK,1442,1443.Allen,G.C.,&Adamson,G.(2024).TheAISafetyInstituteInternationalNetwork:NextStepsandRecommendations.CSIS.https:///analysis/ai-safety-institute-international-network-next-steps-and-recommendationsE.(2024).TheU.S.forAISafety:AConversationwithElizabethDirectoroftheU.S.AISafetyInstitute.C./analysis/us-vision-ai-safety-conversation-elizabeth-kelly-director-us-ai-safety-instituteJ.&Triolo,(2024).TheBletchleyParkprocesscouldbeabuildingblock for global cooperation on AI safety. /articles/the-bletchley-park-process-could-be-a-building-block-for-global-cooperation-on-ai-safety/G.,&Hass,R.(2024).AroadmapforaUS-ChinaAIdialogue.Brookings.https:///articles/a-roadmap-for-a-us-china-ai-dialogue/Petroupoulos,A.(2024,September10).TheAISafetyInstituteNetwork:Who,WhatandHow?-ICFG.https://icfg.eu/the-ai-safety-institute-network-who-what-and-how/Allen,G.C.,&Goldston,I.(2024).TheBidenNationalSecurityMemorandumonAIExplained.CSIS.org./analysis/biden-administrations-national-security-memorandum-ai-explainedCsernatoni,R.(2024).TheAIGovernanceArmsRace:SummitPageantrytoCarnegieEndowmentforInternationalPeace./research/2024/10/the-ai-governance-arms-race-from-summitantry-to-progress?lang=enA.(2024).AnewinstitutionforgoverningAI?LessonsBrookings./articles/a-new-institution-for-governing-ai-lessons-from-gpai/Roberts,H.,Hine,E.,M.,&Floridi,L.(2024).GlobalAIgovernance:barriersandpathwaysforward.InternationalAffairs,100(3),1275-1286.Schmitt,L.(2022).MappingglobalAIgovernance:anascentregimeinafragmentedlandscape.AIandEthics,2(2),303-314.Paul,R.(2023).Europeanartificialintelligence“trustedthroughouttheworld”:Risk‐basedregulationandthefashioningofacompetitivecommonAImarket.Regulation&Governance./10.1111/rego.12563Pouget,H.(2024).AISummitIsaChancetoReshapeGlobalNarrativeson AI. Carnegie Endowment for International /posts/2024/07/france-ai-summit-reshape-global-narrative?lang=enAcharya,A.(2004