DB37-T4844-2025人工智能系統(tǒng)的服務(wù)連續(xù)性 治理要求

Q/LB.□XXXXX-XXXXDB37/T4844—2025目次TOC\o"1-1"\h\t"標(biāo)準(zhǔn)文件_一級條標(biāo)題,2,標(biāo)準(zhǔn)文件_附錄一級條標(biāo)題,2,"前言 II1范圍 12規(guī)范性引用文件 13術(shù)語和定義 14縮略語 15訓(xùn)練數(shù)據(jù) 26算法模型 27算力中心 28推理平臺 39系統(tǒng)運(yùn)維 310保障機(jī)制 5參考文獻(xiàn) 6前言本文件按照GB/T1.1—2020《標(biāo)準(zhǔn)化工作導(dǎo)則第1部分：標(biāo)準(zhǔn)化文件的結(jié)構(gòu)和起草規(guī)則》的規(guī)定起草。請注意本文件的某些內(nèi)容可能涉及專利。本文件的發(fā)布機(jī)構(gòu)不承擔(dān)識別專利的責(zé)任。本文件由山東省工業(yè)和信息化廳提出并組織實施。本文件由山東省人工智能標(biāo)準(zhǔn)化技術(shù)委員會歸口。人工智能系統(tǒng)的服務(wù)連續(xù)性治理要求范圍本文件規(guī)定了人工智能系統(tǒng)在訓(xùn)練數(shù)據(jù)、算法模型、算力中心、推理平臺、系統(tǒng)運(yùn)維，以及保障機(jī)制等方面為實現(xiàn)服務(wù)連續(xù)性遵循的基本要求，描述了對應(yīng)的治理方法。本文件適用于規(guī)范人工智能系統(tǒng)的規(guī)劃、設(shè)計、開發(fā)、運(yùn)行和維護(hù)。規(guī)范性引用文件下列文件中的內(nèi)容通過文中的規(guī)范性引用而構(gòu)成本文件必不可少的條款。其中，注日期的引用文件，僅該日期對應(yīng)的版本適用于本文件；不注日期的引用文件，其最新版本（包括所有的修改單）適用于本文件。GB/T20984信息安全技術(shù)信息安全風(fēng)險評估方法GB/T20988信息安全技術(shù)信息系統(tǒng)災(zāi)難恢復(fù)規(guī)范GB/T31722信息技術(shù)安全技術(shù)信息安全風(fēng)險管理GB/T36957信息安全技術(shù)災(zāi)難恢復(fù)服務(wù)要求術(shù)語和定義下列術(shù)語和定義適用于本文件。

人工智能artificialintelligence；AI<學(xué)科>人工智能系統(tǒng)相關(guān)機(jī)制和應(yīng)用的研究和開發(fā)。[來源：GB/T41867—2022，3.1.2]

人工智能系統(tǒng)artificialintelligencesystem針對人類定義的給定目標(biāo)，產(chǎn)生諸如內(nèi)容、預(yù)測、推薦或決策等輸出的一類工程系統(tǒng)。該工程系統(tǒng)使用人工智能相關(guān)的多種技術(shù)和方法，開發(fā)表征數(shù)據(jù)、知識、過程等的模型，用于執(zhí)行任務(wù)。人工智能系統(tǒng)具備不同的自動化級別。[來源：GB/T41867—2022，3.1.8]

服務(wù)連續(xù)性servicecontinuity能夠不間斷地提供服務(wù)，或按計劃和約定提供一致的可用性。[來源：ISO/IEC/IEEE24765:2017,3.3711]縮略語下列縮略語適用于本文件。RPO：恢復(fù)點目標(biāo)（RecoveryPointObject）RTO：恢復(fù)時間目標(biāo)（RecoveryTimeObjective）訓(xùn)練數(shù)據(jù)人工智能系統(tǒng)訓(xùn)練數(shù)據(jù)的治理要求應(yīng)包括但不限于以下內(nèi)容。數(shù)據(jù)安全：數(shù)據(jù)來源可靠性，包括但不限于傳感器、數(shù)據(jù)采集卡等設(shè)備不受信息攻擊等安全威脅，避免數(shù)據(jù)采集中斷；采取加密措施保證數(shù)據(jù)的可靠傳輸，降低敏感數(shù)據(jù)泄漏風(fēng)險；數(shù)據(jù)存儲在具有強(qiáng)大數(shù)據(jù)保護(hù)功能的冗余環(huán)境中，以實現(xiàn)可用性、服務(wù)連續(xù)性和快速恢復(fù)；設(shè)置數(shù)據(jù)備份系統(tǒng)，數(shù)據(jù)備份系統(tǒng)符合GB/T36957和GB/T20988的規(guī)定；設(shè)置備用數(shù)據(jù)處理系統(tǒng)，包括備用的計算機(jī)、外圍設(shè)備和軟件等；在中斷事件發(fā)生后及時核對重要數(shù)據(jù)，追補(bǔ)丟失數(shù)據(jù)。數(shù)據(jù)質(zhì)量：數(shù)據(jù)在時間序列上的連貫性，避免數(shù)據(jù)中斷或缺失，確保數(shù)據(jù)的連續(xù)性；收集到的數(shù)據(jù)包含所有必要的特征和信息，避免遺漏重要數(shù)據(jù)，確保數(shù)據(jù)的完整性；數(shù)據(jù)能夠真實反映實際情況，對模型訓(xùn)練產(chǎn)生積極影響，對數(shù)據(jù)進(jìn)行適當(dāng)?shù)念A(yù)處理，以提高數(shù)據(jù)質(zhì)量，確保數(shù)據(jù)的有效性；采用高精度的數(shù)據(jù)收集方法和技術(shù)，使用抽樣檢測與全部檢測相結(jié)合的方式，檢驗數(shù)據(jù)是否能準(zhǔn)確表示其所描述的實際對象，無誤差或偏差，確保數(shù)據(jù)的準(zhǔn)確性。算法模型人工智能系統(tǒng)算法模型的治理要求應(yīng)包括但不限于以下內(nèi)容。算法模型設(shè)計：通過人工智能算法和模型調(diào)優(yōu)，智能識別代碼沖突與惡意代碼；使用模型加密、代碼混淆等防止模型被逆向的技術(shù)手段，提高模型的防逆向性，避免被逆向出模型參數(shù)文件以及代碼文件；基于特定開源框架或第三方庫開發(fā)的模型在框架或第三方庫更新時，及時做出相應(yīng)調(diào)整；保證人工智能系統(tǒng)的迭代速率滿足用戶需求。算法模型應(yīng)用：在應(yīng)用前編制并備份算法邏輯、體系及結(jié)構(gòu)等技術(shù)文檔；在應(yīng)用前進(jìn)行風(fēng)險評估和測試，針對可能出現(xiàn)的風(fēng)險制定應(yīng)對措施；對算法使用情況及算法結(jié)果進(jìn)行監(jiān)管，動態(tài)監(jiān)測算法的實際運(yùn)行情況，發(fā)現(xiàn)算法漏洞并及時處理，降低由于算法不可驗證、算法問題解決方案復(fù)雜等特性可能導(dǎo)致的中斷風(fēng)險。算力中心人工智能系統(tǒng)算力中心的治理要求應(yīng)包括但不限于以下內(nèi)容。物理基礎(chǔ)設(shè)施要求：具備穩(wěn)定的電力供應(yīng)和網(wǎng)絡(luò)連接，包括配置應(yīng)急電力設(shè)施，以及可靠的網(wǎng)絡(luò)設(shè)備等；關(guān)鍵設(shè)備采用冗余配置，如雙路供電、冗余冷卻系統(tǒng)等，以確保在設(shè)備故障時能夠迅速切換至備用設(shè)備，保障服務(wù)的連續(xù)性；機(jī)柜、線纜、光纖、消防安防等物理基礎(chǔ)設(shè)施安全可靠，提供安全穩(wěn)定的物理環(huán)境，防止因物理損壞導(dǎo)致服務(wù)中斷。技術(shù)與系統(tǒng)要求：配置高可用性和容災(zāi)設(shè)備，如負(fù)載均衡器、緩存設(shè)備、容災(zāi)備份系統(tǒng)等，在發(fā)生故障時迅速恢復(fù)服務(wù)，減少業(yè)務(wù)中斷時間；部署監(jiān)控與管理系統(tǒng)對算力中心的運(yùn)行狀態(tài)進(jìn)行實時監(jiān)控和管理，及時發(fā)現(xiàn)并處理潛在故障。推理平臺人工智能系統(tǒng)推理平臺的治理要求應(yīng)包括但不限于以下內(nèi)容。平臺性能要求：推理性能：采用經(jīng)過深度優(yōu)化的推理算法和引擎，利用先進(jìn)的計算技術(shù)和加速庫，提升推理速度和效率，確保在低延遲和高吞吐量下穩(wěn)定運(yùn)行；動態(tài)資源分配：具備基于需求動態(tài)調(diào)整資源的能力，根據(jù)推理任務(wù)的負(fù)載、優(yōu)先級和實時性要求調(diào)度計算資源，確保資源高效利用和服務(wù)連續(xù)性；預(yù)推理：基于歷史數(shù)據(jù)和用戶行為模式，預(yù)測潛在的問題或需求，并進(jìn)行相應(yīng)的預(yù)處理和決策準(zhǔn)備，增強(qiáng)系統(tǒng)的適應(yīng)性和魯棒性，確保平臺持續(xù)穩(wěn)定地提供服務(wù)；緩存機(jī)制：通過存儲經(jīng)常訪問的數(shù)據(jù)或計算結(jié)果（如模型參數(shù)、中間計算結(jié)果等），以便在后續(xù)請求時快速響應(yīng)，減少重復(fù)計算和訪問原始數(shù)據(jù)源的時間，提升系統(tǒng)的推理速度，從而在面臨高并發(fā)請求或復(fù)雜計算任務(wù)時，能夠保持服務(wù)的連續(xù)性和高效性。故障快速恢復(fù)：建立自動故障檢測和恢復(fù)機(jī)制，一旦發(fā)現(xiàn)故障，立即啟動恢復(fù)程序，包括數(shù)據(jù)恢復(fù)、服務(wù)重啟等步驟，確保服務(wù)的快速恢復(fù)和穩(wěn)定性；對于無法自動恢復(fù)的故障，提供清晰的手動恢復(fù)指南和工具，指導(dǎo)運(yùn)維人員快速完成恢復(fù)操作；采用冗余設(shè)計，如部署多個副本、使用負(fù)載均衡等，確保在部分節(jié)點故障時，其他節(jié)點能夠接管任務(wù)，繼續(xù)提供服務(wù)。用戶機(jī)制：關(guān)注用戶體驗，提供友好、直觀的用戶界面和操作流程；實施用戶身份驗證、權(quán)限管理、數(shù)據(jù)加密等措施，防止未經(jīng)授權(quán)的訪問和數(shù)據(jù)泄露；定期對用戶數(shù)據(jù)進(jìn)行備份和恢復(fù)工作，確保數(shù)據(jù)的完整性和安全性；建立完善的用戶服務(wù)機(jī)制，提供及時、專業(yè)的技術(shù)支持服務(wù)，持續(xù)改進(jìn)推理服務(wù)的質(zhì)量和用戶體驗。系統(tǒng)運(yùn)維人工智能系統(tǒng)運(yùn)維的治理要求應(yīng)包括但不限于以下內(nèi)容。風(fēng)險評估：按照GB/T20984和GB/T31722規(guī)定的風(fēng)險評估要求，定期開展面向人工智能系統(tǒng)服務(wù)連續(xù)性的風(fēng)險評估，對人工智能系統(tǒng)服務(wù)及其依賴資源的中斷風(fēng)險進(jìn)行識別、分析和評估；根據(jù)風(fēng)險評估結(jié)果制定人工智能系統(tǒng)服務(wù)連續(xù)性計劃，包括預(yù)防、處置、恢復(fù)等內(nèi)容，并對計劃定期進(jìn)行更新維護(hù)和評估改進(jìn)；收集來自監(jiān)管機(jī)構(gòu)、公共服務(wù)機(jī)構(gòu)、供應(yīng)商、業(yè)務(wù)關(guān)聯(lián)機(jī)構(gòu)等發(fā)布的預(yù)警信息，并及時采取措施預(yù)防可能發(fā)生的服務(wù)中斷事件。系統(tǒng)使用：提供人工智能系統(tǒng)的服務(wù)應(yīng)用說明并確保使用通俗易懂的語言，包括系統(tǒng)的功能、使用方法、配置信息、管理員信息、常見故障的解決方法等內(nèi)容；考慮用戶操作的可能性，避免用戶操作多樣化導(dǎo)致服務(wù)中斷；在人工智能系統(tǒng)使用過程中實時監(jiān)測異常流量，發(fā)現(xiàn)并阻止設(shè)備或網(wǎng)絡(luò)攻擊，提高人工智能系統(tǒng)網(wǎng)絡(luò)安全水平；提供應(yīng)急聯(lián)系途徑，接收來自用戶或其他相關(guān)方的服務(wù)中斷事件投訴或通知信息，對這些信息進(jìn)行記錄，通知相關(guān)部門進(jìn)行核實和處置。資源保障：人工智能系統(tǒng)相關(guān)供應(yīng)商的服務(wù)連續(xù)性；設(shè)置備用網(wǎng)絡(luò)系統(tǒng)，包含備用網(wǎng)絡(luò)通信設(shè)備和備用數(shù)據(jù)通信線路。備用網(wǎng)絡(luò)系統(tǒng)的要求符合GB/T36957的要求；識別并備份恢復(fù)系統(tǒng)服務(wù)所需的最低資源保障，包括系統(tǒng)、數(shù)據(jù)、基礎(chǔ)設(shè)施、辦公場所、通訊設(shè)施、保障設(shè)施、人員、供應(yīng)商、文檔等；根據(jù)需要，與相關(guān)機(jī)構(gòu)簽訂協(xié)議，以便在服務(wù)中斷事件發(fā)生后可獲取所需的資源或服務(wù)。更新維護(hù)：對人工智能系統(tǒng)發(fā)起的計劃內(nèi)服務(wù)更新維護(hù)，提前告知用戶可能影響的系統(tǒng)功能及維護(hù)時間；人工智能系統(tǒng)的計劃內(nèi)服務(wù)更新維護(hù)，選擇服務(wù)使用率較低時計劃維護(hù)；人工智能系統(tǒng)因計劃外事件而影響服務(wù)交付時，告知用戶可能影響的系統(tǒng)功能及預(yù)計恢復(fù)時間。事前規(guī)劃：設(shè)計和部署備用系統(tǒng)，確保在主系統(tǒng)不可用時能夠迅速切換，保持業(yè)務(wù)持續(xù)運(yùn)行，定期進(jìn)行備用系統(tǒng)的測試和演練，確保其可用性和可靠性；確定人工智能系統(tǒng)恢復(fù)的RTO和RPO，服務(wù)恢復(fù)優(yōu)先級別和資源需求等；制定并實施定期數(shù)據(jù)備份計劃，將重要數(shù)據(jù)存儲在安全的地方，在發(fā)生災(zāi)難時，利用備份數(shù)據(jù)快速恢復(fù)系統(tǒng)和業(yè)務(wù)操作；明確故障排查的步驟和方法，制定故障修復(fù)流程，包括臨時解決方案的采用，以保證業(yè)務(wù)在修復(fù)期間的可用性；部署實時監(jiān)控工具，對人工智能系統(tǒng)的運(yùn)行狀態(tài)進(jìn)行持續(xù)監(jiān)控，設(shè)置預(yù)警機(jī)制，當(dāng)系統(tǒng)性能出現(xiàn)異?；蚣磳⑦_(dá)到閾值時，及時發(fā)出預(yù)警通知。事后審查：在影響人工智能系統(tǒng)服務(wù)連續(xù)性的計劃外事件解決后進(jìn)行審查并編制審查報告，包括用戶體驗和影響、事件開始和結(jié)束日期/時間、影響和解決措施的詳細(xì)時間表，根本原因分析和為持續(xù)改進(jìn)而采取的行動等；審查應(yīng)急響應(yīng)團(tuán)隊在中斷事件中的表現(xiàn)，包括響應(yīng)速度、協(xié)調(diào)能力、資源調(diào)配等，分析應(yīng)急響應(yīng)流程的有效性，識別流程中的瓶頸和不足之處；評估恢復(fù)策略的實施效果，包括備用系統(tǒng)的切換速度、數(shù)據(jù)恢復(fù)的準(zhǔn)確性等，分析恢復(fù)過程中遇到的挑戰(zhàn)和解決方案，為后續(xù)改進(jìn)提供參考；將中斷事件的事后審查結(jié)果納入組織的知識管理體系，供組織內(nèi)部分享；識別服務(wù)中斷可能造成的經(jīng)濟(jì)損失、非經(jīng)濟(jì)影響等。保障機(jī)制人工智能系統(tǒng)服務(wù)連續(xù)性的保障機(jī)制要求應(yīng)包括但不限于以下內(nèi)容。組織管理：明確人工智能系統(tǒng)服務(wù)連續(xù)性管理的組織架構(gòu)，確定各層級人員在服務(wù)連續(xù)性管理過程中的職責(zé)和分工；制定服務(wù)連續(xù)性管理制度和計劃，或在相關(guān)制度中說明與人工智能服務(wù)連續(xù)性管理有關(guān)的要求；服務(wù)連續(xù)性計劃中一般規(guī)定保障服務(wù)連續(xù)性的措施，以及如何有效應(yīng)對服務(wù)中斷事件，通常包括對更詳細(xì)的恢復(fù)計劃的引用，以及將系統(tǒng)恢復(fù)到工作狀態(tài)的具體說明。定期管理和維護(hù)服務(wù)連續(xù)性制度和計劃，開展人工智能系統(tǒng)服務(wù)連續(xù)性計劃演練。人員管理：為人員提供人工智能系統(tǒng)服務(wù)連續(xù)性管理培訓(xùn)和專業(yè)技能培訓(xùn)；為關(guān)鍵崗位安排備份人員；為關(guān)鍵操作程序安排交叉復(fù)核人員；制定人員繼任計劃；分散核心能力以減少中斷事件的影響，如設(shè)立多個技術(shù)系統(tǒng)運(yùn)營團(tuán)隊、多地辦公等；建立保留知識和經(jīng)驗的文檔；提升開發(fā)人員、運(yùn)維人員等利益相關(guān)者的服務(wù)連續(xù)性意識，協(xié)同配合開展多元主體共治，將人工智能系統(tǒng)服務(wù)連續(xù)性治理融入到日常工作中。參考文獻(xiàn)[1]GB/T30146—2023安全與韌