人工智能術語研究階段性成果

INTERNATIONALSECURITYANDSTRATEGYSTUDIESREPORTCENTERFORINTERNATIONALSECURITYANDSTRATEGYTSINGHUAUNIVERSITYCISS人工智能與國際安全項目術語工作組一、武器（系統(tǒng)）泛指用于攻擊或保衛(wèi)自身的作戰(zhàn)器械與裝置，被用于直接殺傷敵人的有生力量、破壞敵方設施的器械、裝置，或在遭受進攻時進行防御的器械、裝置，可區(qū)分為攻擊性武器與防御性武器兩類。武器裝備：武器裝備是作戰(zhàn)人員用于執(zhí)行和保障作戰(zhàn)行動的武器、武器系統(tǒng)以及相關的其他軍事技術裝備的統(tǒng)稱，是進行戰(zhàn)爭的重要物質基礎，是軍隊戰(zhàn)斗力生成的重要力量，是完成各種軍事行動的重要支撐。①軍械：軍械主要包括槍械、火炮、彈藥、戰(zhàn)術導彈、光學儀器（偵察器材，如望遠鏡、潛望鏡、炮隊鏡、高炮指揮鏡等）、瞄準器材、測角器材、通用雷達、指揮儀、移動電站、防暴器材、冷兵器②等一系列用于軍事目的的武器與裝備。彈藥：指含有火藥、炸藥或其他填充物，能夠對目標造成損害或完成其他戰(zhàn)術任務的物品。這包括炮彈、火炮炮彈、手榴彈、步槍榴彈、航空炸彈、火箭、導彈、魚雷、水雷、地雷等，以及用于狩獵和③射擊運動等非軍事用途的禮炮和彈藥。③參謀部、總政治部、總后勤部、總裝備部發(fā)布國際戰(zhàn)略與安全研究報告裝備：給軍隊配備的武器、軍裝、器材、技術力量等。④由若干功能上相互關聯的武器、技術裝備等有序組合，協(xié)同完成一定作戰(zhàn)任務的有機整體。⑤不可接受的致命性自主武器系統(tǒng)：根據《中國關于“致命性自主武器系統(tǒng)”問題的工作文件》⑥,中國認為“不可接受的”自主武器系統(tǒng)應滿足但不限于以下五個基本特征：（1）致命性：即具有足以致命的載荷和手段；（2）全自主性：即在執(zhí)行任務整個過程中均無人的介入和控制：（3）無法終止性：即啟動后沒有終止手段；（4）濫殺性：即不分條件、場合和對象，自動執(zhí)行殺傷任務；（5）進化性：即在與環(huán)境交互過程中，通過自主學習，實現功能擴展和能力進化，且超出人的預測。“可接受的”自主武器系統(tǒng)：具有較高的自主程度，但應始終處于人類控制之下，且可被安全、可信、可靠、可控地使用，人類可隨時中止其運行。在軍事行動中應能夠遵循區(qū)分、比例、預防等國際人道主義法基本原則。⑦3.非致命性武器非致命性武器是軍隊等強力部門在執(zhí)勤、處突、反恐等任務中廣⑤/CN/abstract/abstract11322.shtml⑥/wp-content/uploads/2022/07/Working-Paper-of-the-Peoples-Republic-of-China-on-Lethal-Autonomous-Weapons-SystemsChinese.pdf/wp-content/uploads/2022/07/Working-Paper-of-the-Peoples-Republic-of-China-on-Lethal-Autonomous-Weapons-SystemsChinese.pdf泛使用的武器，在不致命的前提下使目標快速失能并且失能后果具有最大概率的可逆性。非致命性武器提供了以最低限度的武力開展行動的能力，控制了暴力和防止不必要的附帶傷亡和破壞。⑧4.機器人自動執(zhí)行工作的機器裝置。既可以接受人類指揮，又可以運行預先編排的程序，也可以根據以人工智能技術制定的原則綱領行動。機器人的主要任務是協(xié)助或取代人類的工作，例如生產業(yè)、建筑業(yè)，或是危險的工作。⑨5.智能武器是指配備了人工智能（AI）、傳感器、自動化系統(tǒng)等使其具備一定程度自主決策、目標識別、跟蹤和攻擊能力，用于實施和保障戰(zhàn)斗行動的武器、武器系統(tǒng)和與之配套的其他軍事技術器材的統(tǒng)稱。這些武器能夠在復雜的戰(zhàn)場環(huán)境中不同程度地提高作戰(zhàn)效率和精度，并減少對人為操作的依賴。所謂智能是對人的能力延伸和發(fā)展，是人機交互環(huán)境中的一部分。人作為軍事活動和智能活動的主體，對自主化程度較高的智能武器系統(tǒng)應擁有必要的干預能力。⑩關于“自主性”，其主要目的應是降低軍事行動中武器系統(tǒng)對人類及外部資源的依賴程度，提高對復雜動態(tài)環(huán)境的適應性和戰(zhàn)場生存⑩結合過去20年中國學者觀點，并基于智能武器基本邏輯進行編纂而成。國際戰(zhàn)略與安全研究報告性，從而更好地完成人類賦予的任務。應根據不同場景、不同程度的自主能力，有針對性規(guī)范相關武器系統(tǒng)的使用。如果自主能力未用于殺傷鏈（例如用于情報搜集和偵察的無人機），即使一些武器系統(tǒng)自主程度很高，其所具有的自主性也不會引發(fā)人道主義關切。武器系統(tǒng)殺傷鏈包括觀察、判斷、決策、行動等多個關鍵環(huán)節(jié)，在某些環(huán)節(jié)具有自主功能的武器系統(tǒng)并不必然導致濫殺濫傷。因此，籠統(tǒng)地推出禁止或限制措施或將損害各國正當國防能力，甚至損害各國和平利用相關技術的權利。各方應考慮將自主武器系統(tǒng)分為“不可接受的”和“可接受的”兩類，對“不可接受的”部分加以禁止，對“可接受的”部分加以規(guī)范，以確保有關武器系統(tǒng)安全、可靠、可控，遵循國際人道法及其他適用的國際法。⑩——《中國關于“致命性自主武器系統(tǒng)”問題的工作文件》人工智能集群l：遵循統(tǒng)一控制的，人工智能計算功能單元的集合。注1：人工智能計算功能單元可包含人工智能加速處理器、人工智能服務器、人工智能加速模組等。注2：當由人工智能服務器組成時，人工智能集群可稱為人工智能服務器集群，其中的人工智能服務器可稱為節(jié)點。群體智能m：群體智能（swarml年5月1日實施第1頁。若其個體具有能通過彼此間的簡單合作來完成一個整體任務的能力，則稱該群體具有“群體智能”……群體智能的核心是由眾多簡單個體組成的群體能夠通過相互之間的簡單合作來實現某一較復雜的功能，完成某一較復雜的任務。群體智能可以在沒有集中控制并且缺少全局信息和模型的前提下，為解決復雜的分布式問題提供了可能。8.無人系統(tǒng)無人系統(tǒng)指配備必要的數據處理單元、傳感器、自動控制和通信系統(tǒng)，能夠在無需搭載人類操作員的情況下發(fā)揮其力量執(zhí)行指定任務9.無人（作戰(zhàn)）平臺無人作戰(zhàn)平臺是指在沒有搭載人類操作人員的情況下執(zhí)行作戰(zhàn)任務的一種武器系統(tǒng)。無人駕駛航空器：是指沒有機載駕駛員且自備動力系統(tǒng)的航空器。n遙控飛機：由遙控站操作的無人駕駛飛機。遙控飛機是無人駕駛飛機的一個子類。o11.無人地面平臺（自動駕駛車輛、無人駕駛車輛）無人地面平臺是地面作戰(zhàn)的重要力量，能夠在沒有搭載人類操作員的情況下執(zhí)行各種任務。n國務院、中央軍委.《無人駕駛航空器飛行管理暫行條例》.31May2023,/zhengce/content/20oCivilUnmannedAircraftSystemsAirTraf?cManagementMeasures,https://jxj./zwgk/zcwj/bj國際戰(zhàn)略與安全研究報告無人水面艦艇是一種具備自主航行能力、通過搭載任務載荷來執(zhí)行相關任務的水面艦艇。無人水下航行器是一種無需搭載人類操作員，可以自動執(zhí)行任務人工智能是利用數字計算機或者數字計算機控制的機器模擬、延伸和擴展人的智能，感知環(huán)境、獲取知識并使用知識獲得最佳結果的人工智能已經進入全面反映人類智能的第三代技術。第一代利用知識、算法和算力三個要素構造，第二代利用數據、算法與算力三個要素構造。為了發(fā)展安全、可信、可靠與可擴展的AI技術，要同時利用知識、數據、算法和算力構造。——張鈸、朱軍等，《邁向第三代人工智能》機器學習指通過計算技術優(yōu)化模型參數的過程，使模型的行為反映數據或經驗。⑩作為一門學科，機器學習（MachineLearning）涉及統(tǒng)計學、系統(tǒng)辨識、逼近理論、神經網絡、優(yōu)化理論、計算機科學、腦科學等諸多領域。機器學習研究計算機怎樣模擬或實現人類的學習⑩“Informationtechnology-Artificialintelligence-Terminology”(GB/T41867-2022)issuedonMay1,2023,ChineseElectronicsStandardizationInstitute,https://std./gb/search/gbDetailed?id=行為，以獲取新的知識或技能，重新組織已有的知識結構使之不斷改善自身的性能，也是人工智能技術的核心?；跀祿臋C器學習是現代智能技術中的重要方法之一，研究從觀測數據（樣本）出發(fā)尋找規(guī)律，利用這些規(guī)律對未來數據或無法觀測的數據進行預測。⑦深度學習：通過訓練具有許多隱層的神經網絡來創(chuàng)建豐富層次表示的方法。注：深度學習是機器學習的一個子集。——《國家標準｜GB/T41867-2022》深度學習：根據學習方法可以將機器學習分為傳統(tǒng)機器學習和深度學習。深度學習是建立深層結構模型的學習方法，典型的深度學習算法包括深度置信網絡、卷積神經網絡、受限玻爾茲曼機和循環(huán)神經網絡等。深度學習又稱為深度神經網絡（指層數超過3層的神經網絡）。深度學習作為機器學習研究中的一個新興領域，由Hinton等人于2006年提出。深度學習源于多層神經網絡，其實質是給出了一種將特征表神經網絡：由加權鏈路且權值可調整連接的基本處理元素的網絡，通過把非線性函數作用到其輸入值上使每個單元產生一個值，并把它傳送給其他單元或把它表示成輸出值。注：雖然某些神經網絡旨在模擬神經系統(tǒng)中神經元的功能，但大多數神經網絡用于人工智能以實現連接模型。——《國家標準｜GB/T5271.34-2006》⑦中國電子技術標準化研究院ChineseElectronicsStandardizationInstitute.(2018).Whitepaperonarti?cialintelligencestandardization,人工智能標準化白皮書國際戰(zhàn)略與安全研究報告神經網絡：由一層或多層神經元組成的網絡，通過權值可調的加權連接，接收輸入數據并產生輸出。注1：神經網絡是連接主義方法的一個突出例子。注2：雖然神經網絡的設計最初是受生物神經元功能的啟發(fā)，但大多數神經網絡的研究不再遵循這種啟發(fā)?！秶覙藴剩麲B/T41867-2022》自主控制是在沒有人的干預下，把自主控制系統(tǒng)的感知能力、決策能力、協(xié)同能力和行動能力有機的結合起來，在非結構化環(huán)境下根據一定的控制策略自我決策并持續(xù)執(zhí)行一系列控制功能完成預定目標自動控制⑩：在沒有人直接參與的情況下，利用外加的設備或裝置，使機器、設備或生產過程的某個工作狀態(tài)或參數自動地按照預定的規(guī)律運行。自主控制系統(tǒng)⑩：通過計算機、伺服執(zhí)行機構、傳感反饋機構、穩(wěn)定校正環(huán)節(jié)、數-模及模-數變換與分時采樣通道、支持軟件等構成的能實現自穩(wěn)定、自調節(jié)、自錄最優(yōu)、自適應等功能的系統(tǒng)。AI生命周期指從AI項目概念階段到部署和維護階段結束的整個過程。中國在《人工智能標準化白皮書（2021版）》中引用國際標準化組織和國際電工組織第一聯合技術委員會人工智能分委會(ISO/IECJTC1/SC42)在ISO/IEC22989《人工智能概念與術語》中提出了人工智能系統(tǒng)生命周期模型定義：人工智能系統(tǒng)生命周期包括初始階段、設計與開發(fā)、驗證與確認、部署、運行與監(jiān)測、重新評估及退出階段。該生命周期模型源于系統(tǒng)和軟件工程系統(tǒng)生命周期，并在此基礎上強調了人工智能領域特性方面，包括開發(fā)運營、可追溯性、透明度及可解釋性、安全與隱私、風險管理、治理等。⑩20.指揮鏈況下，指揮鏈或指揮關系是指從作戰(zhàn)指揮高層延伸到基本作戰(zhàn)單元的這樣一條持續(xù)的職權線。根據等級、編制序列和任務的不同對指揮鏈上各級的指揮權限進行不同的職權劃分，通常從上級到下級形成指揮與被指揮關系。根據作戰(zhàn)需要或部隊編制調整，可能會進行指揮關系轉換，即改變原指揮關系，形成新指揮關系。21.指揮控制（系統(tǒng)）指揮控制系統(tǒng)等手段，掌握、調配、協(xié)調、制約作戰(zhàn)部隊和作戰(zhàn)行動，以完成既定的作戰(zhàn)任務。聯合作戰(zhàn)指揮控制，既包括對各種作戰(zhàn)活動的掌控調控，也包括對各種行為主體職能行使和權責關系的規(guī)制約束。指揮控制系統(tǒng)是保障指揮員和指揮機關對部隊作戰(zhàn)人員、作戰(zhàn)行動、武器系統(tǒng)等實施指揮、控制、制約的系統(tǒng)。根據應用層級的不同，指揮控制系統(tǒng)可區(qū)分為戰(zhàn)略、戰(zhàn)役、戰(zhàn)術級指揮控制系統(tǒng)。國際戰(zhàn)略與安全研究報告22.決策點中文語境中與決策點相近的概念是定下決心（decision-making它指的是指揮員在接受上級任務、領會上級意圖后，結合對作戰(zhàn)態(tài)勢的判斷而作出的行動決定。23.有目的的人類控制這不是一個官方軍事術語，是學者在論文中提出的概念。我們的理解是，自主武器系統(tǒng)或致命性AI賦能武器系統(tǒng)在目標核查、鎖定目標、實施打擊前等關鍵任務點，由人類進行最后確認，而不是完全依靠傳感器、自主武器系統(tǒng)、或致命性AI武器系統(tǒng)的預測或判斷。24.人機交互人機交互是指人類用戶與軟硬件單元結合的計算機系統(tǒng)間進行信息輸入和輸出的交互活動，以協(xié)作實現符合人類需求的任務目標。在人的互動方式，通過智能技術提升人—機—環(huán)境的交互效率，使人類與計算機系統(tǒng)之間的溝通更加自然和真實，其主要涉及的領域包括自然處理、語音識別、手勢識別、情感計算、虛擬現實和增強現實等。u25.可信賴的人工智能發(fā)展人工智能應堅持“以人為本”理念，以增進人類共同福祉u參考資料：《以人為中心的交互系統(tǒng)設計過程》，中華人民共和國國家標準與人工智能：從交替浮沉到協(xié)同共進》，載《中國科學：信息科學》2019年第3期；為目標，以保障社會安全、尊重人類權益為前提，確?！爸悄芟蛏啤保Ｕ蟼€人隱私和數據安全，確保人工智能始終朝著有利于人類文明進步的方向發(fā)展。為此目的，不斷提升人工智能系統(tǒng)的透明性、穩(wěn)定性、可解釋性、可預測性、公平性和可靠性，提升數據真實性和準確性，確保人工智能技術可審核、可監(jiān)督、可追溯，確保人工智能始終處于人類控制之下。v透明性：人工智能系統(tǒng)的決策機制、運作過程、數據使用、行為結果等能夠被人類清晰地理解、解釋并信任，主要可體現為算法的透明性、數據的透明性、決策的透明性等，旨在實現人工智能技術可解釋、可預測、可追溯、可審查、可問責。透明性有助于所有利益攸關方清楚地了解人工智能系統(tǒng)的工作方式，但不得危害國家利益和人工w智能系統(tǒng)利益攸關方的利益。w可解釋性：人工智能系統(tǒng)能夠以清晰、易懂和有意義的方式向人類揭示其推理、決策和預測過程，使人類能夠理解并信任其作出的行為或得出的結論?？山忉屝詡戎赜跒槿斯ぶ悄芟到y(tǒng)作出的決策提供可理解的原因，而不是嘗試為“實現必要的優(yōu)越特性”提供理由。x國家新一代人工智能治理專業(yè)委員會：《新一代人工智能治理原則——發(fā)展負責任x參考文獻：《信息技術人工智能術語》，中華人民共和國國家標準GB/T41867-2022，2022年10月；ISO/IEC22989:2022(en)IArti?cialintelligence-Arti?cialintelligenceconceptsandterminology；中國信息通信國際戰(zhàn)略與安全研究報告可追溯性：人工智能系統(tǒng)在整個生命周期中各個環(huán)節(jié)的決策數據集、處理過程和輸出結果能夠被記錄、追蹤和回溯，使人工智能系統(tǒng)的決策結果可被人類理解和追蹤。y可靠性：人工智能系統(tǒng)在各種條件下持續(xù)有效地與其預設目標一致地運行并獲得期望結果的能力，既要有一定程度抵抗惡意攻擊的能力，也要有遇到嚴重問題時的退回機制。z可預測性：人類能夠預見并理解人工智能系統(tǒng)在不同條件下會產生何種輸出和行為，使人類能夠對于擬產生的輸出作出可靠的假設，這要求人工智能系統(tǒng)的輸出結果準確、可靠且可被重復，且能有效抵御漏洞和惡意攻擊。ヒ可控性：又稱為“人類控制”，是指人類的判斷應融入人工智能系統(tǒng)的研發(fā)、部署和使用流程，使人類能夠有效地指導、監(jiān)督、評估、干預、中止或終止人工智能系統(tǒng)的行為，確保人工智能系統(tǒng)符合倫理、法律和安全標準，同時建立問責機制，確保人類是最終責任主體。フy參考文獻：國家人工智能標準化總體組、全國信標委人工智能分委會：《人z參考文獻：國家人工智能標準化總體組、全國信標委人工智能分委會：《人中華人民共和國國家標準GB/T41867-2022，2022年10月。中華人民共和國國家標準GB/T41867-2022，2022年10月。家人工智能標準化總體組、全國信標委人工智能分委會：《人工智能倫理治理標準26.決策鏈目標識別：根據各種傳感器提供的目標信息，由人工智能系統(tǒng)判定目標所處的環(huán)境、目標類別和類型以及目標敵我屬性等。ヘ目標確認：在識別目標后，人工智能系統(tǒng)對目標的身份和性質進行驗證和確認，以確保識別結果的準確性和可靠性，并依據戰(zhàn)爭法和交戰(zhàn)規(guī)則確認目標是合法的攻擊對象。行動授權：基于明確的規(guī)則、目的和限制條件，將特定的行動權限授予人工智能系統(tǒng)，使其能夠在一定的范圍內在人類的監(jiān)督和控制下作出決策、采取行動或執(zhí)行任務，確保任務安全且有效地完成。決策確認：在人