算網(wǎng)一體定義算力網(wǎng)絡(luò)未來_第1頁
算網(wǎng)一體定義算力網(wǎng)絡(luò)未來_第2頁
算網(wǎng)一體定義算力網(wǎng)絡(luò)未來_第3頁
算網(wǎng)一體定義算力網(wǎng)絡(luò)未來_第4頁
算網(wǎng)一體定義算力網(wǎng)絡(luò)未來_第5頁
已閱讀5頁,還剩13頁未讀 繼續(xù)免費(fèi)閱讀

下載本文檔

版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請(qǐng)進(jìn)行舉報(bào)或認(rèn)領(lǐng)

文檔簡介

算網(wǎng)一體定義算力網(wǎng)絡(luò)未來段曉東中國移動(dòng)通信網(wǎng)絡(luò)正加速向新型信息通信網(wǎng)絡(luò)演變通信網(wǎng)絡(luò)新型信息通信網(wǎng)絡(luò)算力為核心的信息數(shù)據(jù)處理網(wǎng)絡(luò)為核心的信息交換提供語音、短信、移動(dòng)寬帶等通信服務(wù)提供計(jì)算、感知、智能、安全等一體化的新一代信息通信服務(wù)架構(gòu)范式技術(shù)范式資源范式產(chǎn)業(yè)范式2中國移動(dòng)算力網(wǎng)絡(luò)發(fā)展歷程中國移動(dòng)深刻把握算力時(shí)代發(fā)展脈搏,發(fā)揮運(yùn)營商網(wǎng)絡(luò)領(lǐng)先優(yōu)勢,以網(wǎng)強(qiáng)算提出“算力網(wǎng)絡(luò)”全新理念。兩年來,繼往開來、開拓創(chuàng)新,全力推進(jìn)算力網(wǎng)絡(luò)發(fā)展組建新戰(zhàn)隊(duì)構(gòu)建新裝置算力網(wǎng)絡(luò)是以算為中心、打造新平臺(tái)算力網(wǎng)絡(luò)子鏈組建開創(chuàng)新方向發(fā)布《算力網(wǎng)絡(luò)科技創(chuàng)新成果》,CFITI試驗(yàn)網(wǎng)與中國算力網(wǎng)、中科院信息高鐵聯(lián)合打造科學(xué)裝置網(wǎng)為根基

,網(wǎng)、云、數(shù)、智

、

、

鏈(ABCDNETS)等深度融合、提供一體化服務(wù)的新型信息基礎(chǔ)設(shè)施。融入新戰(zhàn)略14支攻關(guān)戰(zhàn)隊(duì)聯(lián)合攻關(guān)產(chǎn)業(yè)問題啟動(dòng)算力網(wǎng)絡(luò)試驗(yàn)網(wǎng)CFITI1.0,發(fā)布算網(wǎng)服務(wù)體系1.0發(fā)布新理念發(fā)布《算力網(wǎng)絡(luò)技術(shù)白皮書》,提出十大技術(shù)方向成為“5G+算力網(wǎng)絡(luò)+能力中臺(tái)”新型信息基礎(chǔ)設(shè)施的關(guān)鍵一環(huán)提出新概念發(fā)布中國移動(dòng)《算力網(wǎng)絡(luò)白皮書》和發(fā)展倡議楊杰董事長提出“算力網(wǎng)絡(luò)”概念與愿景5G算力網(wǎng)絡(luò)智慧中臺(tái)——中國移動(dòng)《算力網(wǎng)絡(luò)白皮書》3算力與網(wǎng)絡(luò)跨學(xué)科交叉融合創(chuàng)新算為核心,網(wǎng)為根基,算力與網(wǎng)絡(luò)的融合體現(xiàn)在“以算促網(wǎng)”和“以網(wǎng)強(qiáng)算”兩個(gè)方面,二者“雙向驅(qū)動(dòng)”,算網(wǎng)交叉融合創(chuàng)新成為發(fā)展新范式算力發(fā)展需求網(wǎng)絡(luò)演進(jìn)需求?

從通信服務(wù)向新型信息通信服務(wù)轉(zhuǎn)變?

性能代際提升對(duì)算力提出更高要求?

單一速率范式制約網(wǎng)絡(luò)規(guī)模發(fā)展?

摩爾定律下單點(diǎn)算力面臨性能瓶頸?

多樣性算力需要異構(gòu)融通、互補(bǔ)協(xié)同?

泛在算力閑散分布,需要高效集約利用研判:算和網(wǎng)已經(jīng)呈現(xiàn)雙向驅(qū)動(dòng)趨勢,為了進(jìn)一步呈現(xiàn)整體的能效、性能和利用率優(yōu)勢,需要算網(wǎng)一體化的系統(tǒng)思維和多學(xué)科交叉創(chuàng)新能效算網(wǎng)一體=F(Computing,Network)必要條件:Network,Computing互相影響充分條件:F(Computing,Network)>=F(Computing)+F(Network)限制條件:有限的Computing資源,和有限的Network資源優(yōu)化目標(biāo):

=G(能效、性能、利用率)網(wǎng)絡(luò)算力利用率性能4算網(wǎng)一體是算力網(wǎng)絡(luò)的發(fā)展目標(biāo)走過算力網(wǎng)絡(luò)“泛在協(xié)同”的重要階段,邁入“融合統(tǒng)一”的發(fā)展新階段跨越:一體內(nèi)生發(fā)展:融合統(tǒng)一起步:泛在協(xié)同一體服務(wù),模式創(chuàng)新融合服務(wù)、統(tǒng)一運(yùn)營一站服務(wù)、協(xié)同運(yùn)營智慧內(nèi)生算網(wǎng)一體算網(wǎng)融合智能編排協(xié)同編排網(wǎng)隨算動(dòng)5算網(wǎng)一體主要特征算網(wǎng)一體原創(chuàng)技術(shù)深度賦能算網(wǎng)基礎(chǔ)設(shè)施、編排管理、運(yùn)營服務(wù)多層次一體化發(fā)展設(shè)備一體協(xié)議一體架構(gòu)一體服務(wù)一體網(wǎng)絡(luò)和計(jì)算服務(wù)統(tǒng)一入口,通過能力的相互補(bǔ)充和調(diào)用,面向用戶提供無感知的網(wǎng)絡(luò)和計(jì)算服務(wù)以外掛或內(nèi)嵌/內(nèi)生的方式,形成“算力感知”、“網(wǎng)絡(luò)感知”或“轉(zhuǎn)發(fā)即計(jì)算”的計(jì)算形態(tài),構(gòu)建異構(gòu)融合的設(shè)備硬件支持算力、網(wǎng)絡(luò)、應(yīng)用等多維資源感知和調(diào)度的新協(xié)議,可通過網(wǎng)絡(luò)協(xié)議擴(kuò)展并攜帶計(jì)算信息,或者定義新型協(xié)議構(gòu)建統(tǒng)一編程范式和異構(gòu)算力抽象機(jī)制,形成一體編譯鏈接、跨架構(gòu)動(dòng)態(tài)運(yùn)行的基礎(chǔ)軟件架構(gòu),實(shí)現(xiàn)應(yīng)用跨架構(gòu)無感遷移6算網(wǎng)一體發(fā)展需要原創(chuàng)技術(shù)創(chuàng)新算力網(wǎng)絡(luò)是算網(wǎng)交叉學(xué)科創(chuàng)新的重大契機(jī)。為構(gòu)筑算力網(wǎng)絡(luò)發(fā)展源動(dòng)力,開創(chuàng)算網(wǎng)一體原創(chuàng)技術(shù)體系,已形成一批標(biāo)志性的原創(chuàng)技術(shù)總線互聯(lián)算力路由數(shù)據(jù)快遞全調(diào)度以太新一代SD-WAN算力并網(wǎng)卡間高速通信Under與Overlay協(xié)同實(shí)現(xiàn)算力供給側(cè)改革突破互聯(lián)網(wǎng)架構(gòu)協(xié)議突破廣域傳輸性能瓶頸突破無損以太性能瓶頸算力智能內(nèi)生移動(dòng)算力算力原生存算一體算力度量在網(wǎng)計(jì)算計(jì)算要素創(chuàng)智能服務(wù)5G、6G新增計(jì)算面突破馮氏架構(gòu)打破單維算力指標(biāo)實(shí)現(xiàn)應(yīng)用跨架構(gòu)遷移打破算網(wǎng)邊界隱私計(jì)算算力卸載400G/800GG-SRv6空芯光纖算力解構(gòu)安全數(shù)據(jù)分析計(jì)算多算力形態(tài)統(tǒng)一底座統(tǒng)一IP承載協(xié)議新型光纖介質(zhì)與系統(tǒng)應(yīng)用模塊化解構(gòu)部署超高速大容量全光網(wǎng)絡(luò)50GPON+FTTR云原生OTN光電聯(lián)動(dòng)全光接入應(yīng)用感知空天地一體新型接入網(wǎng)架構(gòu)敏捷高效體系新型全光網(wǎng)架構(gòu)新型接入網(wǎng)架構(gòu)應(yīng)用類型識(shí)別突破異構(gòu)算網(wǎng)融合算網(wǎng)一體“5顆珍珠”:算力原生、全調(diào)度以太、算力路由、在網(wǎng)計(jì)算、數(shù)據(jù)快遞7算網(wǎng)一體需要解決的核心技術(shù)問題面向網(wǎng)絡(luò)和計(jì)算的聯(lián)合優(yōu)化問題基于互聯(lián)網(wǎng)協(xié)議體系,在路由中引入算力因子,開創(chuàng)算力路由協(xié)議,實(shí)現(xiàn)距離向量和計(jì)算向量在路由技術(shù)的疊加,滿足新型業(yè)務(wù)網(wǎng)絡(luò)和計(jì)算的時(shí)延需求。1①算力路由CATS突破互聯(lián)網(wǎng)架構(gòu)協(xié)議構(gòu)筑新型智算中心的問題23②全調(diào)度以太GSE傳統(tǒng)無損以太存在性能天花板,網(wǎng)絡(luò)技術(shù)成為AI算力瓶頸,通過創(chuàng)新以太網(wǎng)轉(zhuǎn)發(fā)機(jī)制,以網(wǎng)強(qiáng)算構(gòu)建無阻塞、高帶寬、低時(shí)延的新型智算中心網(wǎng)絡(luò)。突破無損以太性能瓶頸大規(guī)模數(shù)據(jù)廣域高效傳輸?shù)膯栴}針對(duì)傳統(tǒng)協(xié)議吞吐隨著傳輸距離、丟包率增加而急劇下降問題,設(shè)計(jì)新型可靠傳輸協(xié)議,實(shí)現(xiàn)長肥網(wǎng)絡(luò)下超高吞吐數(shù)據(jù)傳輸。③數(shù)據(jù)快遞GSN突破廣域傳輸性能瓶頸81、算力路由CATS(1/3)算力路由將算力因子引入路由域,實(shí)現(xiàn)網(wǎng)絡(luò)和計(jì)算的聯(lián)合優(yōu)化,克服面向邊緣計(jì)算的“性能反轉(zhuǎn)”問題,滿足時(shí)延和計(jì)算敏感新型業(yè)務(wù)需求典型場景2:Computing-AwareV2X典型場景1:Computing-AwareAR/VRAR/VR時(shí)延需要低于20ms保障用戶體驗(yàn),包括:?

傳感器采樣延遲:<1.5ms(客戶端)?

顯示刷新延遲:≈7.9ms(客戶端)?

GPU的幀渲染計(jì)算延遲≈5.5ms(服務(wù)器)?

網(wǎng)絡(luò)延遲(預(yù)算)=20-1.5-7.9-5.5=5.1ms(網(wǎng)絡(luò))?

觀察1:計(jì)算延遲和網(wǎng)絡(luò)時(shí)延在同量級(jí)?

通過算力路由在本地優(yōu)先處理低時(shí)延業(yè)務(wù)(如輔助駕駛業(yè)務(wù)),保證其用戶體驗(yàn)和可用性?

觀察2:僅根據(jù)網(wǎng)絡(luò)或計(jì)算負(fù)載選擇服務(wù)節(jié)點(diǎn),總時(shí)延無法滿足?

觀察3:根據(jù)兩者選擇邊緣站點(diǎn)3,總延遲≈19.4ms?

將時(shí)延不敏感業(yè)務(wù)(如車載娛樂業(yè)務(wù))從本地調(diào)度到遠(yuǎn)端結(jié)論:需要同時(shí)考慮網(wǎng)絡(luò)和計(jì)算資源狀態(tài),進(jìn)行路由協(xié)議層面的聯(lián)合優(yōu)化91、算力路由CATS(2/3)算力路由需要解決算力擴(kuò)展、算力信息通告、多因子路由求解等多方面的問題,實(shí)現(xiàn)基于網(wǎng)絡(luò)因子和計(jì)算因子的聯(lián)合路由技術(shù)方向:簡單高效的算力信息封裝問題1:算力度量問題統(tǒng)一量綱,使用與網(wǎng)絡(luò)和業(yè)務(wù)相同的度量維度信息,應(yīng)用于路由調(diào)度,例如通過BGPPathAttribution擴(kuò)展封裝計(jì)算時(shí)延信息算力信息維度較多,需要定義面向路由調(diào)度的高可用性計(jì)算信息,兼顧報(bào)文封裝成本以及可用性技術(shù)方向:自適應(yīng)的算力通告問題2:合理的算力信息通告問題提出分域通告、分類通告,約束算力信息更新的范圍,減少算力信息的無效通告。通過仿真建模量化分析算力信息通告信令開銷的影響通告頻率越高,算力信息越實(shí)時(shí),但開銷越大,如何找到通告信令開銷與信息實(shí)時(shí)性的平衡點(diǎn)技術(shù)方向:新型算網(wǎng)多因子算路算法問題3:路由求解,多維因子路由優(yōu)化問題構(gòu)建算力路由信息表(CA-RIB),考慮距離因子、算力因子以及權(quán)重,生成算網(wǎng)cost=w1*網(wǎng)絡(luò)cost+w2*算力cost在距離矢量上疊加算力向量,改變選路方法,影響路由決策。簡單疊加將導(dǎo)致路由不收斂EEE算力節(jié)點(diǎn)狀態(tài)通告算力節(jié)點(diǎn)能力通告BBBAC連接算力的網(wǎng)絡(luò)節(jié)點(diǎn)AC連接算力的網(wǎng)絡(luò)節(jié)點(diǎn)AC網(wǎng)絡(luò)節(jié)點(diǎn)網(wǎng)絡(luò)節(jié)點(diǎn)網(wǎng)絡(luò)節(jié)點(diǎn)算力網(wǎng)絡(luò)節(jié)點(diǎn)拓?fù)渌懔W(wǎng)絡(luò)狀態(tài)拓?fù)渚W(wǎng)絡(luò)拓?fù)?01、算力路由CATS(3/3)歷經(jīng)4年,中國移動(dòng)在IETF發(fā)起成立算力路由工作組(CATS,Computing-AwareTrafficSteering),中國移動(dòng)擔(dān)任主席,是IETF路由域近20年由中國高校/公司牽頭成立的兩個(gè)工作組之一2023年3月CATSWG成立暨首次會(huì)議,是路由域最受歡迎的工作組之一2019~2022年5次研討會(huì)完成場景和需求立項(xiàng)完成實(shí)驗(yàn)系統(tǒng),驗(yàn)證全局時(shí)延優(yōu)化上約30%的性能提升推動(dòng)面向AI大模型的算力路由場景寫入CATSWG標(biāo)準(zhǔn)基于CATS的分布式推理基于CATS+AI的內(nèi)容獲取AI-basedMediaDistributionandTrafficSteering合力攻關(guān)算力路由技術(shù),圍繞IETFCATS構(gòu)建標(biāo)準(zhǔn)體系,推動(dòng)產(chǎn)業(yè)生態(tài)加速構(gòu)筑領(lǐng)先優(yōu)勢112、全調(diào)度以太GSE(1/3)AI大模型以GPU集群分布式訓(xùn)練為基礎(chǔ),帶來大量節(jié)點(diǎn)間通信消耗,網(wǎng)絡(luò)成為AI算力“瓶頸”智算中心建設(shè)進(jìn)入快車道,網(wǎng)絡(luò)技術(shù)發(fā)展已滯后于AI模型演進(jìn),新型AI網(wǎng)絡(luò)方案成為業(yè)界創(chuàng)新焦點(diǎn)集群有效算力∝{GPU單卡算力*總卡數(shù)*線性加速比*有效運(yùn)行時(shí)}網(wǎng)絡(luò)設(shè)備能力決定GPU集群組網(wǎng)規(guī)模網(wǎng)絡(luò)性能決定GPU集群算力加速比網(wǎng)絡(luò)可用性決定GPU集群穩(wěn)定性2%的丟包就會(huì)使RDMA吞吐率下降為0芯片容量提升2倍,組網(wǎng)規(guī)模提高4倍GPU集群性能≠

單GPU性能*N隨著GPU單卡算力受限,獲得同等算力的難度持續(xù)增加,以網(wǎng)強(qiáng)算成為提升大模型訓(xùn)練效率的關(guān)鍵122、全調(diào)度以太GSE(2/3)中國移動(dòng)提出全調(diào)度以太網(wǎng)(GSE)技術(shù)架構(gòu),最大限度兼容以太網(wǎng)生態(tài),創(chuàng)新基于報(bào)文容器(PKTC)的轉(zhuǎn)發(fā)及調(diào)度機(jī)制,構(gòu)建無阻塞、高帶寬、低時(shí)延的新型智算中心網(wǎng)絡(luò),形成標(biāo)準(zhǔn)開放的技術(shù)體系,助力AI產(chǎn)業(yè)發(fā)展創(chuàng)新以太網(wǎng)轉(zhuǎn)發(fā)機(jī)制,實(shí)現(xiàn)三大核心機(jī)制轉(zhuǎn)變從“流”分發(fā)到“報(bào)文”分發(fā)從盲發(fā)+被動(dòng)控制到感知+主動(dòng)控制從“局部”決策到“全局”調(diào)度從被動(dòng)擁塞控制,到基于“授權(quán)請(qǐng)求和響應(yīng)機(jī)制”的主動(dòng)流控,最大限度避免網(wǎng)絡(luò)擁塞產(chǎn)生將業(yè)務(wù)流拆分到不同“報(bào)文容器”轉(zhuǎn)發(fā),提供逐“報(bào)文容器”負(fù)載均衡機(jī)制,提升帶寬利用率全局視野的轉(zhuǎn)發(fā)調(diào)度機(jī)制,實(shí)現(xiàn)集中式管理運(yùn)維、分布式控制轉(zhuǎn)發(fā),提高網(wǎng)絡(luò)可用性Spine擁塞33322211133222111332211源leafSpineSpine目的leaf丟包當(dāng)前:逐流負(fù)載,鏈路利用率低、發(fā)生擁塞被動(dòng)降速未來:逐報(bào)文容器轉(zhuǎn)發(fā),鏈路負(fù)載均衡,全局調(diào)度,避免擁塞132、全調(diào)度以太GSE(3/3)中國移動(dòng)攜手中國信通院,聯(lián)合國內(nèi)外三十余家主流互聯(lián)網(wǎng),設(shè)備商、芯片商、高校院所聯(lián)合發(fā)起GSE推進(jìn)計(jì)劃,推動(dòng)智算中心網(wǎng)絡(luò)技術(shù)創(chuàng)新、標(biāo)準(zhǔn)完善和產(chǎn)業(yè)應(yīng)用,打造高速無損、開放兼容的新型智算中心網(wǎng)絡(luò)技術(shù)體系2023.52023.62023.82023.92023.11云網(wǎng)智聯(lián)大會(huì)發(fā)布CCSA成功立項(xiàng)中國算力大會(huì)正式啟動(dòng)中國網(wǎng)絡(luò)大會(huì)發(fā)布ODCC冬季全會(huì)GSE工作組成立及第一次工作組會(huì)議《全調(diào)度以太網(wǎng)技術(shù)架構(gòu)》白皮書

《全調(diào)度以太網(wǎng)總體技術(shù)要求》

全調(diào)度以太網(wǎng)(GSE)推進(jìn)計(jì)劃業(yè)界首款GSE原型系統(tǒng)全調(diào)度以太網(wǎng)(GSE)特設(shè)組研究范疇全調(diào)度以太網(wǎng)(GSE)合作伙伴改進(jìn)的RDMA、新型擁塞控制協(xié)議、網(wǎng)絡(luò)多路徑能力、亂序重排、選擇性重傳等運(yùn)維和管理體系傳輸協(xié)議層中國移動(dòng),中國信息通信研究院,中國廣電、華為、盛科、中興、銳捷、新華三、浪潮信息、Intel、Broadcom、清華大學(xué)、上海交通大學(xué)、鵬城實(shí)驗(yàn)室、紫金山實(shí)驗(yàn)室、北京郵電大學(xué)、中科院計(jì)算機(jī)網(wǎng)絡(luò)信息中心、中信科、Spirent、是德科技、云合智網(wǎng)、楠菲微電子、燧原科技、昆侖芯、邁普,星云智聯(lián)、云脈芯聯(lián)、中科馭數(shù)、云豹智能、大禹智芯、中盈優(yōu)創(chuàng)等四十余家產(chǎn)學(xué)研機(jī)構(gòu)及廠商網(wǎng)絡(luò)層新型網(wǎng)絡(luò)拓?fù)?、新型路由協(xié)議、新型組播協(xié)議等端到端網(wǎng)絡(luò)可視化、可調(diào)試能力、部署/運(yùn)維/變更/故障恢復(fù)等多維自動(dòng)化能力改進(jìn)的PFC、GSE高級(jí)調(diào)度技術(shù)、鏈路級(jí)安全、鏈路級(jí)容錯(cuò)等數(shù)據(jù)鏈路層低延遲FEC、光交換、故障快速檢測、400G/800G以及更高速率接口物理層擴(kuò)展等物理層143、數(shù)據(jù)快遞GSN(1/2)算力分布的不均衡以及智算、超算業(yè)務(wù)的蓬勃發(fā)展對(duì)廣域數(shù)據(jù)傳輸提出更高要求,中國移動(dòng)提出“數(shù)據(jù)快遞”技術(shù)體系,充分利用高帶寬網(wǎng)絡(luò)實(shí)現(xiàn)高吞吐數(shù)據(jù)傳輸數(shù)據(jù)量大傳輸距離遠(yuǎn)網(wǎng)絡(luò)復(fù)雜多樣單次傳輸在TB級(jí)別天文觀測:幾十TB/次屬于長肥網(wǎng)絡(luò)(LFN)帶寬時(shí)延積(BDP)大網(wǎng)絡(luò)傳輸帶寬:>10Gbps傳輸時(shí)延:20ms~50ms設(shè)備異構(gòu)、拓?fù)鋸?fù)雜,難以無損鏈路層誤碼率不可避免基因測序:TB~100TB/次影視渲染:10TB~100TB/節(jié)目大象流負(fù)載不均,存在擁塞丟包多流競爭,存在微突發(fā)丟包傳統(tǒng)TCP協(xié)議在數(shù)據(jù)快遞中吞吐受限,有效吞吐與鏈路時(shí)延、丟包率成反比單流傳輸時(shí),時(shí)延由1ms增加到10ms時(shí),吞吐下降約10倍使用多流傳輸會(huì)使單流吞吐下降,且受主機(jī)CPU性能限制,同樣存在吞吐瓶頸1.22*MSSTCP網(wǎng)絡(luò)吞吐=

——————RTT*

Sqrt(L)RFC3649:HighSpeedTCPforLargeCongestionWindows8條流并發(fā)傳輸,單流吞吐下降7%153、數(shù)據(jù)快遞GSN(2/2)基于新型傳輸協(xié)議,構(gòu)建“數(shù)據(jù)快遞”技術(shù)體系,實(shí)現(xiàn)超長距廣域網(wǎng)環(huán)境下的超高吞吐數(shù)據(jù)傳輸基于UDP協(xié)議設(shè)計(jì)新型可靠傳輸協(xié)議貴州到北京“數(shù)據(jù)快遞”測試應(yīng)用層API編程接口廣域長肥網(wǎng)絡(luò)廣域擁塞控制機(jī)制新型可靠傳輸協(xié)議丟包快速恢復(fù)丟包精確重傳貴州FAST北京國家天文臺(tái)多路徑傳輸傳輸距離遠(yuǎn)

鏈路時(shí)延長

鏈路帶寬大2200km

RTT≈4

溫馨提示

  • 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請(qǐng)下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請(qǐng)聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會(huì)有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 人人文庫網(wǎng)僅提供信息存儲(chǔ)空間,僅對(duì)用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對(duì)用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對(duì)任何下載內(nèi)容負(fù)責(zé)。
  • 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請(qǐng)與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶因使用這些下載資源對(duì)自己和他人造成任何形式的傷害或損失。

最新文檔

評(píng)論

0/150

提交評(píng)論