數(shù)據(jù)中心端網(wǎng)協(xié)同的擁塞控制技術(shù)報(bào)告 2024

[編號(hào)ODCC-2024-0B002]開(kāi)放數(shù)據(jù)中心標(biāo)準(zhǔn)推進(jìn)委員會(huì)2024.08發(fā)布版權(quán)聲明轉(zhuǎn)載、摘編或利用其它方式使用ODCC成果中的文字或者觀點(diǎn)的，應(yīng)注明I編寫組 I 1 1 2 2 2 2 4（二）發(fā)送端設(shè)備的動(dòng)態(tài)調(diào)控與網(wǎng)絡(luò)適應(yīng) 5（三）智能決策機(jī)制的實(shí)時(shí)分析與自適應(yīng)優(yōu)化 5 6 6 7 8 8 8 9（二）智算訓(xùn)練網(wǎng)絡(luò)中的數(shù)據(jù)傳輸優(yōu)化 （三）智算推理網(wǎng)絡(luò)中的實(shí)時(shí)響應(yīng)保障 12 14 141心行業(yè)的技術(shù)趨勢(shì)逐漸轉(zhuǎn)向通過(guò)統(tǒng)一融合的網(wǎng)絡(luò)架構(gòu)和協(xié)議來(lái)承載2本白皮書提出的C-AQM技術(shù)架構(gòu)圍繞數(shù)據(jù)中心網(wǎng)絡(luò)中常見(jiàn)的擁），3發(fā)能力是目標(biāo)出隊(duì)列或出端口在特定時(shí)間段內(nèi)的最大轉(zhuǎn)發(fā)數(shù)據(jù)量上45本報(bào)告提出了多項(xiàng)關(guān)鍵技術(shù)以解決數(shù)據(jù)中心網(wǎng)絡(luò)中面臨的擁塞6數(shù)據(jù)中心端網(wǎng)協(xié)同的擁塞控制技術(shù)報(bào)告C2024-0n24）根據(jù)當(dāng)前隊(duì)列深度等因素進(jìn)行調(diào)整，確保計(jì)算結(jié)果準(zhǔn)確反映2）標(biāo)記信息：如果空閑轉(zhuǎn)發(fā)能力小于調(diào)整請(qǐng)求的值，且在一定7零隊(duì)列管理依賴于空閑轉(zhuǎn)發(fā)能力的實(shí)時(shí)計(jì)算以及智能決策機(jī)制傳統(tǒng)的擁塞控制算法，如DCQCN和TCP原生Cubic擁塞控制8在RDMA場(chǎng)景中，業(yè)務(wù)對(duì)丟包極為敏感，小流對(duì)延遲敏感，大流則對(duì)吞吐量要求較高。DCQCN通過(guò)使用2位的ECN標(biāo)記來(lái)指示網(wǎng)絡(luò)的擁塞程度，源端設(shè)備根據(jù)收到的CNP報(bào)文數(shù)量來(lái)決定升速或在TCP場(chǎng)景中，TCP協(xié)議通過(guò)慢啟動(dòng)機(jī)制，逐步增加發(fā)送速率率的增長(zhǎng)。然而，當(dāng)TCP檢測(cè)到丟包時(shí)，會(huì)迅速降低發(fā)送速率，這足將直接影響業(yè)務(wù)數(shù)據(jù)的傳輸性能。此外，由于TCP在丟包發(fā)生前C-AQM算法在上述RDMA和TCP場(chǎng)景中，成功解以下在存儲(chǔ)和智能計(jì)算場(chǎng)景舉例C-AQM擁塞算法的實(shí)際應(yīng)用。讀寫需求，這些請(qǐng)求既包括對(duì)網(wǎng)絡(luò)帶寬有高需求的大流量I/O，也包9一種是基于TCP協(xié)議的傳輸方式，即NVMeoverTCP；另一種是基于RDMA協(xié)議的傳輸方式，即NVMeo大流量還是小流量的I/O請(qǐng)求，都可以得到快速響應(yīng)。此外，智能決和處理的網(wǎng)絡(luò)。在AI場(chǎng)景中，通常采用RDMA協(xié)議進(jìn)行數(shù)據(jù)傳輸，中保障網(wǎng)絡(luò)的無(wú)損性，通常會(huì)部署優(yōu)先級(jí)流控（PFC）。同時(shí)，AI至目的地。這種高效的網(wǎng)絡(luò)管理技術(shù)對(duì)于AI模型的快速訓(xùn)練和部署時(shí)數(shù)據(jù)處理和響應(yīng)，首個(gè)token的生成速率和后續(xù)token的刷新速率數(shù)據(jù)中心端網(wǎng)協(xié)同的擁塞控制技術(shù)報(bào)告C2024-0n2種方式，智算推理網(wǎng)絡(luò)能夠始終保持高效運(yùn)行，確保AI應(yīng)用能夠?qū)嵢鐖D2所示，為開(kāi)啟C-AQM后兩個(gè)數(shù)據(jù)流的擁塞窗口(cwnd)隨上的排隊(duì)時(shí)延對(duì)比結(jié)果，長(zhǎng)尾時(shí)延可以反映出應(yīng)用的最長(zhǎng)完成時(shí)間，長(zhǎng)尾時(shí)延越低，應(yīng)用的處理效率越高?？梢钥吹?，與ECN-LD