CESA-2021-001《人工智能 計算機視覺系統(tǒng)可信賴技術規(guī)范》編制說明

中國電子工業(yè)標準化技術協(xié)會

團體標準《人工智能計算機視覺系統(tǒng)可信賴技術規(guī)范》

（征求意見稿）編制說明

一、工作簡況

（一）產(chǎn)品和行業(yè)發(fā)展情況

計算機視覺技術領域主要研究集圖像采集、處理、分析過程涉及的硬件、軟件、算法、

系統(tǒng)等的設計、制造、應用和維護。計算機視覺技術是典型的人工智能領域，其技術及應用

發(fā)展歷經(jīng)多年，也是AI技術使用最多的技術領域之一，其應用行業(yè)涵蓋國防、軍事、科技、

經(jīng)濟、教育、工業(yè)生產(chǎn)、農(nóng)業(yè)、服務業(yè)等幾乎所有重要行業(yè)。在人工智能技術使用在該領域

之前，就有相關比較成熟的應用、工具組件（如opencv）、標準（如JTC1SC24及信標委SC24）。

在人工智能技術應用后，為計算機視覺領域帶來了革命性的變化，以往因為準確率而不能獲

得實際應用的場景，出現(xiàn)了相當規(guī)模的實踐，其中不乏成熟度較高的實踐（如人臉識別、工

業(yè)質(zhì)檢、金融業(yè)光學字符識別等）。隨著人工智能技術的飛速發(fā)展，已有更多的先進解決方

案涌現(xiàn)。

AI可信賴是AI的一個研究領域，也是未來影響AI使能應用效果的重要方面。瞄準AI技術

應用最多、最廣泛的計算機視覺領域，制定AI可信賴技術規(guī)范，從方法論層面指引計算機視

覺系統(tǒng)AI可信賴建設，提出計算機視覺系統(tǒng)可信賴技術要求及測試方法。在產(chǎn)業(yè)內(nèi)傳播有益

經(jīng)驗，對計算機視覺產(chǎn)業(yè)的整體安全可信賴水平提升及健康發(fā)展有重要意義，影響深遠。

當前，國際上對AI應用的科研、生產(chǎn)、標準化的重點之一是AI可信賴。各標準化組織或

國際組織，如ISO/IEC，IEEE，ETSI，ITU-T，AIIA，EU的工作聚焦在AI可信賴技術能

力方面。各計算機視覺或相關解決方案廠商也大力研究發(fā)展AI可信賴技術，研制具備可信賴

能力的產(chǎn)品?？深A期的是，在不久的未來，AI可信賴技術將成為各領域AI應用的必要項。AI

可信賴能力的要求也將是各領域發(fā)展不可回避的問題。計算機視覺是AI應用最廣泛的領域，

但缺乏針對核心AI部件（組件）的可信賴技術要求，普適AI可信賴技術在計算機視覺產(chǎn)業(yè)落

地的問題，亟待解決。

（二）任務來源

2022年2月21日，中國電子工業(yè)標準化技術協(xié)會下達2022年第一季度第一批團體標準（中

電標通〔2022〕004號），擬研制《人工智能計算機視覺系統(tǒng)可信賴技術規(guī)范》相關標準。

中國電子工業(yè)標準化技術協(xié)會

本標準為自主制定標準，計劃編號為CESA-2022-1-001，歸口單位為中國電子技術標準化研

究院，由華為技術有限公司牽頭組織編制。

（三）標準主要起草單位

本標準起草單位：中國電子技術標準化研究院、華為技術有限公司、上海依圖網(wǎng)絡科技

有限公司、北京百度網(wǎng)訊科技有限公司、山東省計算中心（國家超級計算濟南中心）、之江

實驗室、武漢理工大學、華北電力大學、北京電子科技學院等。

（四）標準主要起草人

本標準主要起草人及具體分工如下：。

（五）主要工作過程

2019年9月12日，聯(lián)合發(fā)起單位、確定對該項標準進行研制，并公開征集參編單位。

2019年9月23日，參編單位討論標準草案的內(nèi)容和分工。

2021年9月2日，根據(jù)分工，參編單位討論標準草案的內(nèi)容。

2021年12月15日，第三次標準編制討論會，標準參編單位對各標準的立項材料進行編寫

討論，并對標準草案進行編寫討論。

2021年12月24日，第四次標準編制討論會，對標準草案進行編寫討論。

2022年1月12日，立項評審會，標準立項評審。

2022年2月21日，中國電子工業(yè)標準化技術協(xié)會下達2022年第一季度第一批團體標準計

劃，擬研制《人工智能計算機視覺系統(tǒng)可信賴技術規(guī)范》相關標準。

2022年2月-3月，對參編單位內(nèi)部進行標準征求意見。

2022年3月15日，開展標準編制討論會，起草組對標準草案的修改進行討論。

2022年9月6日，開展標準編制討論會，起草組對標準草案的修改進行討論。

2022年9月22日，開展標準編制討論會，起草組對標準草案的修改進行討論。

2023年6月15日，對前期的意見進行修改，形式征求意見稿。

二、標準編制原則和確定主要內(nèi)容的論據(jù)及解決的主要問題

1、編制原則

先進性原則：本標準的制定與當前人工智能大趨勢相匹配，為用戶、市場的規(guī)范化提供

基礎，為人工智能領域的發(fā)展提供標準支撐。

中國電子工業(yè)標準化技術協(xié)會

實用性原則：本標準制定時充分分析了眾多應用領域?qū)θ藛T追蹤的需求，標準制定著

力于解決用戶、廠商實際應用中的共同問題，引導用戶、廠商針對產(chǎn)品能力達成一致預期，

在實際項目中可直接落地應用。

可擴展性原則：本標準中在設計的時候，充分考慮到標準的可擴展性，可保證各廠商

在使用時兼顧規(guī)范性的同時具備可擴展能力。

2、確定主要內(nèi)容的論據(jù)

當前，計算機視覺領域在國內(nèi)發(fā)展勢頭迅猛，AI應用普遍，在國家國防、社會、經(jīng)濟、

科技發(fā)展中所占服務比重日益增加，其安全可信賴問題關系重大，影響深遠，尤其是核心AI

組件的可信賴更關系到應用水平、產(chǎn)業(yè)發(fā)展。然而，在這方面缺乏統(tǒng)一的指引，而致當前計

算機視覺產(chǎn)業(yè)可信賴服務水平參差不齊，產(chǎn)業(yè)健康發(fā)展需要指引。因此，制定《人工智能視

頻圖像系統(tǒng)可信賴技術規(guī)范》將支撐計算機視覺產(chǎn)業(yè)與AI技術的融合，提供計算機視覺產(chǎn)業(yè)

AI可信賴技術指引，能聚產(chǎn)業(yè)智慧，增強產(chǎn)業(yè)服務整體的安全性，可信賴程度，更有力地支

撐國防、經(jīng)濟、社會發(fā)展。

本文件的提出，并不介紹新技術，而對已經(jīng)定型的計算機視覺處理典型過程提出可信賴

方面的技術要求和測試方法，可用于當代及后續(xù)的計算機視覺系統(tǒng)的可信賴能力建設和評

價。

1）以深度神經(jīng)網(wǎng)絡技術代表的人工智能技術應用于計算機視覺系統(tǒng)設計和建設。因深

度神經(jīng)網(wǎng)絡的不可完全解釋性和復雜性，為基于人工智能的計算機視覺系統(tǒng)的建設和測試帶

來了障礙和難度；

2）另一個方面，人工智能可信賴標準發(fā)展速度較快，隨著國際標準（如ISO/IECJTC1

SC42，ETSISAI等）及體系的建設，可信賴標準逐步形成體系。加之，計算機視覺領域是人

工智能技術應用最多的領域，領域中各產(chǎn)品、解決方案的可信賴能力需要標準化指引；

3）結(jié)合國際AI可信賴標準的要求及已有的測試辦法，研制面向當代計算機視覺領域的

可信賴技術規(guī)范，為基于人工智能的計算機視覺系統(tǒng)建立可信賴技術標桿，將對產(chǎn)業(yè)發(fā)展提

供有力支持，有利于產(chǎn)業(yè)整體水平的提高。

主要內(nèi)容：本文件規(guī)定了基于人工智能的計算機視覺系統(tǒng)的可信賴技術要求和測試方

法。

適用范圍：本文件適用于計算機視覺系統(tǒng)及其所采用的人工智能作業(yè)處理硬件、軟件和

模型的可信賴設計及測試。

中國電子工業(yè)標準化技術協(xié)會

3、主要解決的問題

1）完成國內(nèi)外AI可信賴技術、標準在國內(nèi)計算機視覺領域的落地；

2）提出具體可實施的，適合計算機視覺系統(tǒng)的AI可信賴保障、驗證方法；

3）凝聚計算機視覺領域國內(nèi)企業(yè)優(yōu)秀實踐經(jīng)驗，提升產(chǎn)業(yè)AI可信賴綜合水平。

三、主要試驗[或驗證]情況分析

無。

四、知識產(chǎn)權情況說明

無。

五、產(chǎn)業(yè)化情況、推廣應用論證和預期達到的經(jīng)濟效果

該標準目前情況如下：

1）（法規(guī)符合）標準符合相應國家法律文件要求；

2）（應用面廣、用戶數(shù)量龐大）現(xiàn)已廣泛在金融、交通、醫(yī)療、電力、教育等行業(yè)應

用；

3）（中立/經(jīng)驗豐富）CESA有豐富的技術試驗籌備、實施經(jīng)驗；

4）（產(chǎn)業(yè)參與）國內(nèi)人工智能的設備廠商、軟件服務商、云服務商代表都有參與。

六、采用國際標準和國外先進標準情況

1、該標準不采用國際標準或國外先進標準。原因如下：

當前國際上并沒有針對計算機視覺系統(tǒng)的可信賴標準；

軟件測試類標準（如ISO/IEC250XX系列，ISO/IEC29119系列）提出了軟件測試的一般

方法論和原則，并不針對任何領域。加之，人工智能技術有特殊性，前期的軟件測試類標準，

并不適合直接采用。

2、該標準與國際標準的對比分析如下：

1）ISO/IEC24028可信賴概述：提出了人工智能可信賴的概念及范疇，并不專門針

對計算機視覺系統(tǒng)。本文件中的計算機視覺技術框架和要求，遵循24028提出的原則；

2）ISO/IEC5469功能安全與AI系統(tǒng)：提出了人工智能可信賴的分支原則（物理）功

能安全及框架。并不專門針對計算機視覺系統(tǒng)。本文件中的計算機視覺技術框架和要求，遵

循5469的規(guī)定；

中國電子工業(yè)標準化技術協(xié)會

3）ISO/IEC23468倫理概述及社會關切：提出了人工智能技術應用所應遵循的通行的

倫理關注點，不針對計算機視覺系統(tǒng)。本文件結(jié)合計算機視覺應用領域的特有要求，遴選適

用的倫理要求，作為原則性的內(nèi)容，實施標準化。本文件不與ISO/IEC23468沖突；

4）ISO/IEC24027人工智能系統(tǒng)及其輔助決策的偏見：提出了人工智能系統(tǒng)的決策偏

見的概念和基本要求。計算機視覺系統(tǒng)可能存在偏見。因此，本文件將國際標準中關于公平

性的一般要求，具體化在計算機視覺領域。本文件不與ISO/IEC24027沖突；

5）ISO/IEC24029-1神經(jīng)網(wǎng)絡魯棒性評估第1部分：概述；ISO/IEC24029-2神經(jīng)網(wǎng)

絡魯棒性評估第2部分：形式化方法：ISO/IEC24029系列標準，提出了人工智能系統(tǒng)魯棒

性的一般檢測方法和指標，并不針對計算機視覺領域。本文件包含針對計算機視覺系統(tǒng)的魯

棒性要求和測試方法。他們具體化于典型的過程。在原則上，保持與ISO/IEC24029一致；

6）ISO/IEC6254機器學習模型與人工智能系統(tǒng)的可解釋性方法及目標（NWI）：該標

準是JTC1SC42WG32021年新立項的標準，其范圍限定在人工智能系統(tǒng)的可解釋性概念、目

標和可解釋增強方法，并不涉及測試等內(nèi)容，也不針對計算機視覺系統(tǒng)。本文件的研制，與

ISO/IEC6254同步，但可以將較為成熟的研制成果，標準化于本標準，并作為貢獻物，向6254

提出。本文件不與6254沖突；

7）ISO/IEC8200信息技術人工智能人工智能系統(tǒng)可控性：該標準是JTC1SC42WG3

2021年新立項的標準，其范圍限定在人工智能系統(tǒng)可控性的實現(xiàn)及增強方法，并不涉及面向

計算機視覺系統(tǒng)的要求和測試。本文件的內(nèi)容，不與ISO/IEC8200沖突；

8）ISO/IEC25029系統(tǒng)及軟件的需求和評估–人工智能系統(tǒng)質(zhì)量模型，ISO/IEC5471

人工智能系統(tǒng)質(zhì)量評估指引：兩項標準分別規(guī)定了工智能系統(tǒng)的質(zhì)量模型和評估方法。質(zhì)量

的范圍較大，不但包含可信賴的部分要素，也包含如易用性，可操作，兼容等其它要素。另

外，ISO/IEC25059，ISO/IEC5471并不限定于計算機視覺系統(tǒng)。加之，此二標準的內(nèi)容也

不夠具體，不能直接應用在計算機視覺系統(tǒng)的測試和質(zhì)量評價。本文件不與ISO/IEC25059,

ISO/IEC5471沖突。并可作為計算機視覺系統(tǒng)質(zhì)量評價的一部分；

9）ISO/IEC23894信息技術人工智能風險管理：提出了人工智能系統(tǒng)風險管理方

面原則，是ISO31000提出的風險管理流程框架在人工智能領域的擴展。本文件是面向計算

機視覺系統(tǒng)的技術要求和測試方法，可作為風險管理重要階段（風險識別、風險處置等）所

依賴的實操方案。本文件的內(nèi)容，不與ISO/IEC23894沖突；

中國電子工業(yè)標準化技術協(xié)會

10）ISO/IEC38507組織應用人工智能的治理影響：基于ISO/IEC38500，面向人工

智能系統(tǒng)，提出了治理的原則和一般過程。ISO/IEC38507不針對計算機視覺系統(tǒng)。本文件

提出的技術要求和測試方法，可作為以計算機視覺系統(tǒng)為主的人工智能系統(tǒng)治理過程中的標

準工具，為治理過程中的風險估計、產(chǎn)品設計和建設提供支撐。本文件不與ISO/IEC28507

沖突；

11）IEEEP7000系列標準：IEEE提出了一系列面向人工智能倫理的標準和導則，其中

如P7000ModelProcessforAddressingEthicalConcernsDuringSystemDesign提出了

系統(tǒng)設計過程中落實倫理要求的原則和建議，P7001TransparencyofAutonomousSystems

規(guī)定了自主系統(tǒng)的透明性概念和建設建議，P7002DataPrivacyProcess提出了人工智能應

用倫理可能涉及的數(shù)據(jù)隱私保護方面的要求，P7003AlgorithmicBiasConsiderations提

出了算法偏見的關切，適用于人工智能系統(tǒng)設計過程中避免/減小算法的偏見。P7000系列不

針對計算視覺系統(tǒng)，也不針對計算機視覺系統(tǒng)倫理涉及的測試提出規(guī)定。本文件不與P7000

系列沖突，并在倫理要求方面，結(jié)合我國實際情況，做以取舍和增強；

3、該標準與國內(nèi)標準的對比分析如下：

1）《信息技術人工智能術語》：他基于已有標準ISO2382和GBT5271系列，結(jié)合國

際標準（ISO/IECDIS22989,ISO/IECDIS23053,ISO/IECTR24028等）和技術、產(chǎn)業(yè)的

發(fā)展情況，遴選、定義了人工智能領域的技術、產(chǎn)品、服務、產(chǎn)業(yè)術語。其中含有計算機視

覺相關術語，但不含有本文件相關的面向計算機視覺系統(tǒng)的可信賴技術要求和測試方法。本

文件的術語與《信息技術人工智能術語》標準保持一致

2）《信息技術計算機視覺術語》：是全國信標委SC24研制的國家標準。定義計算

機視覺領域的術語。但不含有本文件相關的面向計算機視覺系統(tǒng)的可信賴技術要求和測試方

法。本文件的術語與《信息技術計算機視覺術語》標準保持一致。

3）《信息安全技術人工智能模型評估》：是TC260在編的針對深度學習模型的安全

評估標準，其中基于人工智能生命周期提出提升模型安全能力的建議及評估方法。不針對視

覺系統(tǒng)。該標準，也不面向人工智能可信賴。

七、與現(xiàn)行相關法律、法規(guī)、規(guī)章及相關標準的協(xié)調(diào)性

本標準與現(xiàn)行法律、法規(guī)、強制性國家標準，特別與信息技術相關的《網(wǎng)絡安全法》、

《數(shù)據(jù)安全法》、《個人信息保護法》無沖突；

中國電子工業(yè)標準化技術協(xié)會

《中華人民共和國國民經(jīng)濟和社會發(fā)展第十四個五年規(guī)劃和2035年遠景目標綱要》提出

“十四五”期間將通過一批具有前瞻性、戰(zhàn)略性的國家重大科技項目，帶動產(chǎn)業(yè)界逐步突破

前沿基礎理論和算法，研發(fā)專用芯片，構(gòu)建深度學習框架等開源算法平臺，并在學習推理決

策、圖像圖形、語音視頻、自然語言識別處理等領域創(chuàng)新與迭代應用。推進