T/BECC 002-2024智算中心技術(shù)要求和評估方法

ICS35040

CCSI6.540

團體標準

T/BECC002—2024

智算中心技術(shù)要求和評估方法

Technicalrequirementsandevaluationmethodofartificial

intelligencecomputingcenter

2024-03-28發(fā)布2024-04-02實施

北京電子商會發(fā)布

中國標準出版社出版

T/BECC002—2024

目次

前言

…………………………Ⅲ

引言

…………………………Ⅳ

范圍

1………………………1

規(guī)范性引用文件

2…………………………1

術(shù)語和定義

3………………1

縮略語

4……………………1

智算中心總體要求

5………………………2

智算中心服務(wù)分類

5.1…………………2

智算中心功能架構(gòu)

5.2…………………2

智算中心通用要求

5.3…………………3

智算基礎(chǔ)設(shè)施

6……………5

機房

6.1IDC……………5

網(wǎng)絡(luò)交換機

6.2…………………………9

智算算力服務(wù)器

6.3……………………11

通用計算服務(wù)器

6.4……………………12

存儲服務(wù)器

6.5…………………………12

安全服務(wù)器

6.6…………………………13

智算基礎(chǔ)平臺

7……………13

算力服務(wù)

7.1……………13

容器服務(wù)

7.2……………13

容器鏡像服務(wù)

7.3………………………13

網(wǎng)絡(luò)服務(wù)

7.4……………14

存儲服務(wù)

7.5……………14

安全服務(wù)

7.6……………14

機器學習平臺

8……………15

總體要求

8.1……………15

數(shù)據(jù)預(yù)處理

8.2…………………………15

模型開發(fā)

8.3……………16

模型訓(xùn)練

8.4……………16

模型推理

8.5……………16

模型優(yōu)化

8.6……………17

模型評估

8.7……………17

模型納管

8.8……………17

Ⅰ

T/BECC002—2024

模型部署

8.9……………18

大模型智算平臺

9…………………………18

總體要求

9.1……………18

數(shù)據(jù)采集

9.2……………19

大模型訓(xùn)練

9.3…………………………19

大模型微調(diào)

9.4…………………………19

大模型推理

9.5…………………………20

大模型多模納管

9.6……………………20

統(tǒng)一監(jiān)控運營平臺

10……………………20

平臺業(yè)務(wù)流程

10.1……………………20

統(tǒng)一門戶

10.2…………………………21

用戶控制臺

10.3………………………21

資源管理

10.4…………………………21

運營管理

10.5…………………………22

運維管理

10.6…………………………22

融合多租戶管理

10.7…………………22

統(tǒng)一安全管理

10.8……………………23

自動化安裝部署

10.9…………………23

通用基礎(chǔ)平臺

10.10……………………23

機器學習平臺和大模型智算平臺的運營

10.11………23

智算中心評估方法

11……………………23

評估原則

11.1…………………………23

評估內(nèi)容與指標

11.2…………………24

評估方法

11.3…………………………24

評估結(jié)論與判定

11.4…………………24

附錄資料性智算中心典型場景案例

A()………………25

附錄資料性智算中心統(tǒng)一監(jiān)控運營平臺相關(guān)能力

B()………………32

參考文獻

……………………36

Ⅱ

T/BECC002—2024

前言

本文件按照標準化工作導(dǎo)則第部分標準化文件的結(jié)構(gòu)和起草規(guī)則的規(guī)定

GB/T1.1—2020《1:》

起草

。

請注意本文件的某些內(nèi)容可能涉及專利本文件的發(fā)布機構(gòu)不承擔識別專利的責任

,。

本文件由北京電子商會提出并歸口

。

本文件起草單位北京電子控股有限責任公司北京電子數(shù)智科技有限責任公司阿里云計算有限

:、、

公司新華三集團首都信息發(fā)展股份有限公司中國軟件評測中心北京電子城數(shù)智科技有限公司

、、、、、

中國電信股份有限公司北京分公司中電云計算技術(shù)有限公司浪潮北京電子信息產(chǎn)業(yè)有限公司

、、()。

本文件主要起草人王琳楊坤徐文星陸海翔劉如冰王磊魏詩雅郭磊師宇楊鑫孫東明

:、、、、、、、、、、、

李輝于波徐高杰楊景劉小健劉俊偉馬輝蘭文麗趙德智郝杰

、、、、、、、、、。

技術(shù)審查專家吳志剛張群張東于鐵強蔡春久胡良霖曹建彤朱大培陳玉峰張雅彬

:、、、、、、、、、、

馬福忠

。

Ⅲ

T/BECC002—2024

引言

智算中心是開展算力資源服務(wù)支撐各領(lǐng)域開展數(shù)據(jù)運營的重要基礎(chǔ)設(shè)施之一目前智算中心存

,。,

在能力等級不清晰度量指標不統(tǒng)一服務(wù)商的服務(wù)能力不明確等問題亟待解決的典型問題包括

、、。:

對于中等復(fù)雜模型算力預(yù)訓(xùn)練微調(diào)檢驗回歸測試全流程的效率較低

a),、、、;

算力隔離問題號稱支持多個隔離與實際效果不符缺乏隔離評價機制

b),CPU,;

如何保障存儲算力負載全鏈路的高效可靠

c)、、。

因此急需制定本文件從用戶對算力服務(wù)的不同需求數(shù)據(jù)應(yīng)用服務(wù)的不同環(huán)節(jié)采集傳輸交互

,,、(、、

加工處理分析建模應(yīng)用服務(wù)等出發(fā)明確算力服務(wù)類別功能性能要求和評估方法等作為智算中心

、、),、,

建設(shè)評估參考依據(jù)

/:

便于用戶依據(jù)應(yīng)用場景資金預(yù)算對算力服務(wù)的選型參考

a)、;

為算力服務(wù)供應(yīng)鏈各方的產(chǎn)品研發(fā)和統(tǒng)一對接提供參考標準實現(xiàn)高效高質(zhì)量高性價比的

b),、、

算力服務(wù)

;

為政府企事業(yè)單位等各類算力用戶第三方評估機構(gòu)開展算力服務(wù)評價提供參考依據(jù)

c)、/。

Ⅳ

T/BECC002—2024

智算中心技術(shù)要求和評估方法

1范圍

本文件規(guī)定了智算中心的服務(wù)分類功能架構(gòu)通用要求智算基礎(chǔ)設(shè)施智算基礎(chǔ)平臺機器學習

、、、、、

平臺大模型智算平臺統(tǒng)一監(jiān)控運營平臺的技術(shù)要求和評估方法

、、。

本文件適用于指導(dǎo)智算中心的研發(fā)設(shè)計建設(shè)和運營

、、。

2規(guī)范性引用文件

下列文件中的內(nèi)容通過文中的規(guī)范性引用而構(gòu)成本文件必不可少的條款其中注日期的引用文

。,

件僅該日期對應(yīng)的版本適用于本文件不注日期的引用文件其最新版本包括所有的修改單適用于

,;,()

本文件

。

潔凈廠房設(shè)計規(guī)范

GB50073—2013

火災(zāi)自動報警系統(tǒng)設(shè)計規(guī)范

G