版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請進行舉報或認領(lǐng)
文檔簡介
金融業(yè)隱私計算互聯(lián)互通技術(shù)研究報告I主編單位:參編單位:V 1 3 3 5 6 7 13 13 16 17 20 22 23 26 31 34 37 44 49 50 56 63 69 76 83 87 96 123一、隱私計算互聯(lián)互通當(dāng)前發(fā)展情況(一)發(fā)展背景及意義當(dāng)前金融行業(yè)關(guān)于數(shù)據(jù)安全及隱私保護的需要加快推動了隱私計算42.互聯(lián)互通的意義和價值5(二)行業(yè)驅(qū)動力6(三)難點與挑戰(zhàn)7(四)金融行業(yè)探索實踐1.行業(yè)級互聯(lián)互通的內(nèi)涵892.行業(yè)級互聯(lián)互通實現(xiàn)思路作、合力共進。其中,各方宜采用“實踐+標(biāo)準(zhǔn)”雙輪驅(qū)動模式開展互聯(lián)3.金科聯(lián)盟互聯(lián)互通課題組織北京金融科技產(chǎn)業(yè)聯(lián)盟秘書處北京百度網(wǎng)訊科技有限公司北京八分量信息科技有限公司北京沖量在線科技有限公司北京火山引擎科技有限公司北京數(shù)牘科技有限公司北京銀聯(lián)金卡科技有限公司北京原語科技有限公司成方金融信息技術(shù)服務(wù)有限公司度小滿科技(北京)有限公司復(fù)旦大學(xué)光大科技有限公司海光信息技術(shù)股份有限公司杭州趣鏈科技有限公司華控清交信息科技(北京)有限公司華為技術(shù)有限公司華夏銀行股份有限公司建信金融科技有限責(zé)任公司交通銀行股份有限公司金融信息化研究所京東科技信息技術(shù)有限公司藍象智聯(lián)(杭州)科技有限公司聯(lián)易融數(shù)字科技集團有限公司螞蟻科技集團股份有限公司上海富數(shù)科技有限公司上海光之樹科技有限公司上海浦東發(fā)展銀行股份有限公司上海榮數(shù)信息技術(shù)有限公司神譜科技(上海)有限公司深圳前海微眾銀行股份有限公司深圳市洞見智慧科技有限公司深圳壹賬通智能科技有限公司深圳致星科技有限公司深圳微言科技有限責(zé)任公司神州融安數(shù)字科技(北京)有限公司騰訊云計算(北京)有限責(zé)任公司同盾科技有限公司興業(yè)銀行股份有限公司銀聯(lián)商務(wù)股份有限公司招商銀行股份有限公司浙商銀行股份有限公司中國電信股份有限公司中國工商銀行股份有限公司中國民生銀行股份有限公司中國農(nóng)業(yè)銀行股份有限公司中國銀行股份有限公司中國銀聯(lián)股份有限公司中國郵政儲蓄銀行股份有限公司中金金融認證中心有限公司中國信息通信研究院中國移動股份有限公司二、金融業(yè)隱私計算互聯(lián)互通框架設(shè)計(一)框架設(shè)計考量因素1.行業(yè)需求因素2.技術(shù)實現(xiàn)因素隱私計算系統(tǒng)各層級進行合理解析,再對各層的關(guān)鍵應(yīng)用程序編程接口涉隱私計算系統(tǒng)層級的情況下為接口外各層級模塊的靈活實現(xiàn)預(yù)留空(二)總體框架設(shè)計),(三)框架組成解析私計算平臺間(東西向)的API標(biāo)準(zhǔn)化是相對可行的,至于隱私計算算法層面在東西向的API則難以通過一致性抽象的方式來形成標(biāo)準(zhǔn)化定義。為層間各定義一層接口(圖4中高亮色圓柱形接口),即可實現(xiàn)一個初步版日志、度量等一些接口。此外,可信執(zhí)行環(huán)(四)框架功能特色l全面覆蓋隱私計算的主流技術(shù)路線,兼容多方安全計算(MPC)、l管理面與數(shù)據(jù)面低耦合切分,整體互通架構(gòu)更為清晰。l各層的解耦以及標(biāo)準(zhǔn)化,有利于形成隱私計算的良性生態(tài)。三、互聯(lián)互通技術(shù)分解研究流程調(diào)度接安全算子接口與服務(wù)化傳輸接口與異構(gòu)算法協(xié)(一)管理面元素與接口研究2.研究目標(biāo)3.研究內(nèi)容慮不同平臺間協(xié)同計算的兼容問題、標(biāo)準(zhǔn)化流程DAG及作業(yè)CONF結(jié)構(gòu),支4.設(shè)計原則5.研究思路管理面元素與接口研究的實現(xiàn)路徑從“提煉最小組件編排和作業(yè)的參數(shù)配置這兩個具體計算執(zhí)行時依賴的靜態(tài)描述信息(二)流程調(diào)度接口與算法容器加載研究需要制定統(tǒng)一的算法鏡像構(gòu)建標(biāo)準(zhǔn)與接口并定義一套規(guī)范的鏡像加載機2.研究目標(biāo)業(yè)運行過程中調(diào)度方對作業(yè)與任務(wù)的控制與任務(wù)組件的加載過程提供參3.研究內(nèi)容4.設(shè)計原則5.研究思路流程調(diào)度與算法容器加載可拆分為調(diào)度核心流程設(shè)計與算法容器加流程調(diào)度與算法容器加載的實現(xiàn)路徑從隱私計算過程中作業(yè)的調(diào)度(三)安全算子接口與服務(wù)化研究2.研究目標(biāo)3.研究內(nèi)容4.設(shè)計原則5.研究思路本子課題是從互聯(lián)互通中算法算子難以協(xié)商的問題以及AI技術(shù)與以金融行業(yè)異構(gòu)隱私計算平臺項目為抓手,以“實踐+標(biāo)準(zhǔn)”的雙輪驅(qū)動(四)傳輸接口與報文研究2.研究目標(biāo)3.研究內(nèi)容4.設(shè)計原則5.研究思路于傳輸安全和業(yè)務(wù)安全得到保障的前提下進/異步兼容的設(shè)計模式,并基于規(guī)范化的報文頭結(jié)構(gòu)定義了標(biāo)準(zhǔn)報文傳輸(五)異構(gòu)算法協(xié)議研究異構(gòu)平臺開放算法協(xié)議的互聯(lián)互通是指通過定義算法執(zhí)行流程中交現(xiàn)基于平臺自有算法的互聯(lián)互通。以基于同一算法不同算法流程的LR為例,雖然基于同態(tài)及秘密分享技術(shù)的LR(HESS-LR)與基于聯(lián)邦學(xué)習(xí)的LR(Hetero-LR)都是邏輯回歸算法,但在算法流程和細粒度的交互細節(jié)上遵循了開放的算法互通協(xié)議,那么對Alice來說,不需要重新審核廠商不同算法參與方的效果/性能進行直接驗證和評價。若合作過程中出現(xiàn)某2.研究目標(biāo)布出來的算法。再例如秘密分享較為廣泛使用的協(xié)議有spdz-semi2k、ABY3等,那也會考慮選擇一個更為常用的協(xié)議來擬訂。3.研究內(nèi)容多數(shù)遠程過程調(diào)用編程框架支持類Actor模式),計算和通信解耦,適4.設(shè)計原則考慮到隱私計算算法及實現(xiàn)的多樣性,需要保障各廠商的實現(xiàn)成本盡l算法本地實現(xiàn)開放:在滿足開放算法協(xié)議一致的前提下,對于本5.研究思路HeteroLR[4]:https過分片全部代理到計算集群再由底層的通用密態(tài)協(xié)議具體負責(zé)算法流程l算法定制工作量大。開放算法協(xié)議需要對目前行業(yè)中對于隱私計算算法的實現(xiàn)有很多變種,若要滿足行業(yè)全部需本子課題將在PSI、聯(lián)邦為主的專有算法流程,以及通用密態(tài)算法流(六)TEE互聯(lián)互通技術(shù)研究TEE互聯(lián)互通技術(shù)研究致力于不同TEE方案之間互聯(lián)互通的實現(xiàn)方2.研究目標(biāo)TEE互聯(lián)互通技術(shù)研究主要致力于探索如何屏蔽不同TEE技術(shù)架構(gòu)和現(xiàn)方案中共存的基本安全特性來總結(jié)提煉面向互聯(lián)互通TEE系統(tǒng)的基本3.研究內(nèi)容4.設(shè)計原則5.研究思路l異構(gòu)體系結(jié)構(gòu):表明不同TEE實現(xiàn)方案的硬件體系結(jié)構(gòu)基礎(chǔ),從l統(tǒng)一遠程證明:用于屏蔽不同TEE方案的遠程證明細節(jié),為互聯(lián)l互聯(lián)互通信道:基于統(tǒng)一遠程證明,用于TEE系統(tǒng)之間互聯(lián)互通l應(yīng)用互聯(lián)互通:基于安全信道的應(yīng)用層面互聯(lián)互通相關(guān)細節(jié)要四、互聯(lián)互通關(guān)鍵技術(shù)點攻關(guān)(一)管理面最小必要元素設(shè)計l數(shù)據(jù)集(Dataset):可供參與隱私計算的數(shù)據(jù)資源。l項目(Project):面向特定目標(biāo)的,提供一項獨特產(chǎn)品、服務(wù)或l組件(Component):獨立執(zhí)行隱私計算任務(wù)的模塊單元,其經(jīng)過l模型(Model指通過隱私計算技術(shù)訓(xùn)練完成,可用于進一步推層組件對應(yīng)的算法資源進而執(zhí)行任務(wù),生成模型、報告等隱私計算其中,每個組件都是獨立的算法模塊,例如PSI、LR等,組件可以按照度和運行相應(yīng)資源,生成對應(yīng)結(jié)果。節(jié)點互通管理流程約定不同隱私計算平臺間如何互相發(fā)現(xiàn)節(jié)點、建數(shù)據(jù)集互通管理流程約定不同隱私計算平臺間的如何互相發(fā)現(xiàn)數(shù)據(jù)(二)多方資源訪問控制協(xié)同策略l靈活性:面向隱私計算的各種資源訪問控制的策略可以靈活訂制;l可維護性:可滿足安全需求的變化,提供安全策略的維護、升級、l確保了計算執(zhí)行階段能,能夠?qū)Y源訪問控制進行檢查;級別資源類型1節(jié)點2數(shù)據(jù)集、模型3項目4流程5作業(yè)6任務(wù)4、計算執(zhí)行階段令牌有效性校驗,資源持有方源的方案完成鑒權(quán),并根據(jù)控制面協(xié)調(diào)的任務(wù)編號,建立關(guān)聯(lián)會話編號(三)DAG&CONF的通用化設(shè)計因此有必要形成一套業(yè)內(nèi)統(tǒng)一且標(biāo)準(zhǔn)的作業(yè)配置以及作業(yè)流程的描述形輸出數(shù)據(jù)由[{"type":"${type}","key":"${key}"}]表示,其中在role字段中,每一個元素代表一種角色以及承擔(dān)這個角色的node_id。每個角色的node_id以列表形式存在,因為一個任務(wù)可能涉及l(fā)模型id,當(dāng)作業(yè)類型為predict時必選l模型version,當(dāng)作業(yè)類型為predict時必選l任務(wù)申請的總CPU核數(shù)上限l任務(wù)申請的總內(nèi)存數(shù)上限l任務(wù)超時時間,單位秒l任務(wù)失敗自動重試最大次數(shù)(四)流程調(diào)度互通設(shè)計在流程調(diào)度環(huán)節(jié),隱私計算參與方分為兩類角色(見表5角色名角色定義調(diào)度方負責(zé)協(xié)調(diào)所有參與方任務(wù)的角色,調(diào)度方可以為獨立的第三方節(jié)點,也可以為其中一個參與方節(jié)點,在任務(wù)創(chuàng)建時選擇對應(yīng)節(jié)點來確定。參與方通常代表一個隱私計算節(jié)點,在某個隱私計算任務(wù)中提供計算能力的角色。程調(diào)度層,然后由調(diào)度方向各個參與方主動查詢?nèi)蝿?wù)的回調(diào)結(jié)果(見圖將該失敗狀態(tài)同步給調(diào)度方,然后由調(diào)度方再發(fā)起停止作業(yè)請求(見圖(五)組件容器化加載方案l常駐形態(tài):組件經(jīng)過加載后,形成組件實例將持續(xù)存在系統(tǒng)中,l單次形態(tài):組件隨著任務(wù)的執(zhí)行開始而啟動,隨著任務(wù)的執(zhí)行完下面進一步描述標(biāo)準(zhǔn)組件加載管理機制,由組件管理服務(wù)和組件支l組件管理服務(wù)ComponentManagementService:用于管理組件及l(fā)組件支撐服務(wù)ComponentSupportService:用于向組件提供基a.鏡像命名:基本格式為/<developer>/<image-nam),):l防篡改:比對鏡像的sha256摘要值與開發(fā)者提供的是否一致l前綴:互通標(biāo)準(zhǔn)前綴l版本:接口版本l類型:子接口類型l名稱:接口的名稱UNLOADED能力。以K8S為例,containerm(六)基于最小化約束的算法容器設(shè)計態(tài)則由于需要從更多接口和交互流程上進行定義,流程較為復(fù)雜。因此,l容器內(nèi)可包含一個或者多個算法組件;l容器以瞬時形態(tài)(即用即銷毀)進行運行;l系統(tǒng)與容器的交互以內(nèi)存數(shù)據(jù)為主,落地文件為輔的方式進行。(七)隱私計算安全算子服務(wù)設(shè)計隱私計算安全算子服務(wù)設(shè)計擬采用算子服務(wù)化的方法將算法和算子術(shù)融合的需要。安全算子(簡稱算子是指基于多1.安全算子服務(wù)接口設(shè)計著發(fā)起方p0的算法;fi(,y)代表著參與方pi的算法;,表示是外部參與方pi的算法;g(x,)表示發(fā)起方p0所使用的算子;g(,y)表示參與方pi所p0每次啟動一個算法,將生成一個唯一的taskId,并通過算法間調(diào)用,將taskId分發(fā)給pi。taskId的目的是能夠使算子、算法之間實現(xiàn)計算的協(xié)同和對接,通過taskId對接算子、算法的上下文,實現(xiàn)相互識別的,區(qū)別在于參數(shù)上,即g(x,)與g(,y),算子根據(jù)參數(shù)的識別構(gòu)造計mvm(x,Y)matmul(X,Y)務(wù)在啟動的過程中,需要將算子服務(wù)的本地容器地址向傳輸模塊進行注2.安全算子服務(wù)系統(tǒng)建設(shè)指南a.在安全算子服務(wù)遷移時,隱私計算平臺需能夠核對b.隱私計算平臺需能支持自開發(fā)或借助掃該框架設(shè)計主要參考于應(yīng)用較多的分布式計算框架,如圖中所示,(八)傳輸層同步異步兼容設(shè)計1.組網(wǎng)結(jié)構(gòu)2.安全要求數(shù)據(jù)完整性主要通過哈希(Hash)或消息驗證碼(MAC)技術(shù)進行實查看權(quán)限控制指對隱私計算平臺數(shù)據(jù)市場中可對合作方展示的數(shù)據(jù)源進任務(wù)權(quán)限控制主要對隱私計算互聯(lián)互通合作方可具體發(fā)起的任務(wù)類3.標(biāo)準(zhǔn)傳輸協(xié)議頭字段編碼頭字段名稱頭字段說明version版本協(xié)議版本號tech-provider-code廠商編碼互聯(lián)互通統(tǒng)一廠商編碼trace-idtraceId用于追蹤token令牌認證令牌source-node-id發(fā)送方節(jié)點ID發(fā)送端的節(jié)點IDtarget-node-id接收端節(jié)點ID接收端的節(jié)點IDsource-inst-id發(fā)送端機構(gòu)ID發(fā)送端業(yè)務(wù)實體IDtarget-inst-id接收端機構(gòu)ID接收端業(yè)務(wù)實體IDtask-session-id用于需要建立有狀態(tài)會話的通信時使用,一般情況下,算法和算子的通信,都需要建立會話,通過任務(wù)會話ID來建立計算執(zhí)行容器的路由,除此之外,對token鑒權(quán)的時候,需要聯(lián)合task-session-id,對token的有效性進行驗證(九)異構(gòu)平臺開放算法協(xié)議設(shè)計1.握手原則多種實現(xiàn)路徑,但是不同的實現(xiàn)路徑都應(yīng)允許指定結(jié)果獲取方是誰等和2.同構(gòu)算法的分類和設(shè)計3.基于隱私路由的異構(gòu)算法互聯(lián)互通在該實現(xiàn)方案下,每個隱私平臺無需關(guān)注其他平臺的內(nèi)部實現(xiàn)細節(jié)所有密碼運算技術(shù)產(chǎn)生的中間結(jié)果統(tǒng)一轉(zhuǎn)化為秘密分享的兩個隨機數(shù)分(十)TEE統(tǒng)一遠程證明流程設(shè)計lUAR:統(tǒng)一的遠程證明報告格式(UnifiedRemoteAttestationlUAI:統(tǒng)一的遠程證明報告接口(UnifiedRemoteAttestation):1.統(tǒng)一遠程證明報告格式(UAR)設(shè)計統(tǒng)一遠程證明報告格式(UAR)如下:統(tǒng)一的遠程證明報告格式是為Base64encoded告中詳細列舉了常用IntelSGX1、IntelSGX2、螞2.統(tǒng)一遠程證明校驗(UAP)規(guī)則抽象根據(jù)UnifiedRemoteAttestationAttr3.統(tǒng)一的遠程證明報告接口(UAI)抽象API封裝(見圖51和圖52)都使用C-ABI語法定義。4.中心化的遠程證明代理驗證服務(wù)設(shè)計(UAS)成,驗證結(jié)果由統(tǒng)一證明服務(wù)進行背書確認,并且也封裝為UAR格式,方通過引入基于中心化的證明服務(wù),可以將N(N個節(jié)點)*N(N套遠程統(tǒng)一證明服務(wù)的TEE節(jié)點注冊流程是為了實現(xiàn)TEE節(jié)點向UAS注冊,獲lUAS返回自己的根證書以及簽發(fā)的ak.crt給TEE節(jié)點(為了保證lTEE節(jié)點提前獲取用于驗證UAS簽名的公鑰,內(nèi)置于可信代碼中。l后續(xù)TEE節(jié)點或者挑戰(zhàn)者都可以通過AccessKey+UAR請求UAS提供的a)護照模式報告轉(zhuǎn)換為UAS格式報告(見圖53b)背調(diào)模式報告轉(zhuǎn)換為UAS格式報告(見圖54統(tǒng)一驗證服務(wù)的返回報告格式也是UnifiedAttestationRepor五、隱私計算互聯(lián)互通生態(tài)展望隱私計算互聯(lián)互通生態(tài)研究建立在本子課題所提出的隱私計算互聯(lián)(一)生態(tài)建設(shè)目標(biāo)1.形成數(shù)據(jù)流通網(wǎng)絡(luò)2.構(gòu)建互通新業(yè)態(tài)3.延伸生態(tài)逐步實現(xiàn)生態(tài)循環(huán)通過隱私計算互聯(lián)互通生態(tài)延展加快推動生態(tài)參與方之間的技術(shù)兼(二)生態(tài)藍圖隱私計算互聯(lián)互通生態(tài)將在各參與方商定的治理機制和規(guī)范的引領(lǐng)1.生態(tài)參與方的角色定位產(chǎn)業(yè)生態(tài)中的業(yè)務(wù)需求方是指通過發(fā)起隱私計算任務(wù)獲取多方數(shù)據(jù)監(jiān)管審計方是指產(chǎn)業(yè)生態(tài)中負責(zé)對跨機構(gòu)隱私計算應(yīng)用中的業(yè)務(wù)合性進行監(jiān)督管理,基于《個人信息保護法》[產(chǎn)業(yè)生態(tài)中的可信存證方是指將生態(tài)建設(shè)業(yè)務(wù)合作的過程中對于各2.生態(tài)發(fā)展藍圖互聯(lián)互通整個生態(tài)的構(gòu)建和發(fā)展應(yīng)建立在比較健全的標(biāo)準(zhǔn)和治理體數(shù)據(jù)面提出了整體互聯(lián)互通技術(shù)框架實現(xiàn)方案以及具體的落地實現(xiàn)技術(shù)備隱私計算+區(qū)塊鏈、知識圖譜隱私互聯(lián)、隱私物聯(lián)網(wǎng)環(huán)境等多技術(shù)互聯(lián)私計算平臺之間建立一套算法和算子相互協(xié)作全鏈路的通信相關(guān)規(guī)范和隱私計算互聯(lián)互通生態(tài)配套檢測及認證項目將依據(jù)生態(tài)標(biāo)準(zhǔn)體系中隱私計算技術(shù)能夠互聯(lián)互通需要基于各個參與方對于生態(tài)治理的共開源治理是隱私計算跨平臺互聯(lián)互通如果要做到具有規(guī)模化的生產(chǎn)區(qū)塊鏈在聯(lián)邦學(xué)習(xí)上的應(yīng)用可以夯實數(shù)據(jù)擁有者數(shù)據(jù)的隱私性和系(三)生態(tài)主要建設(shè)路徑可以通過互聯(lián)互通統(tǒng)一管控平臺(見圖59)將多個廠商的產(chǎn)品接入互聯(lián)互通統(tǒng)一管控平臺具有的特點包括統(tǒng)一管控平臺凌駕于各家平基于隱私路由的互聯(lián)互通實現(xiàn)方案保留各隱私計算平臺的內(nèi)部自治僅需要接入隱私路由并實現(xiàn)自身的中間結(jié)果與某一種特定數(shù)據(jù)格式的轉(zhuǎn)2.技術(shù)驗證技術(shù)驗證是在已有互聯(lián)互通技術(shù)框架的基礎(chǔ)上進一步驗證技術(shù)的實隱私計算互聯(lián)互通技術(shù)驗證在實踐中根據(jù)業(yè)務(wù)需求和業(yè)務(wù)形態(tài)有不
溫馨提示
- 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
- 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
- 5. 人人文庫網(wǎng)僅提供信息存儲空間,僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護處理,對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對任何下載內(nèi)容負責(zé)。
- 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請與我們聯(lián)系,我們立即糾正。
- 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時也不承擔(dān)用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。
最新文檔
- 保險理賠調(diào)解協(xié)議書
- 馬陸灼傷病因介紹
- (范文)石子項目立項報告
- (2024)洗煤機項目可行性研究報告寫作范本(一)
- 2023年網(wǎng)絡(luò)監(jiān)控系統(tǒng)項目融資計劃書
- 2023年LMDPE項目融資計劃書
- 2024秋新滬科版物理八年級上冊教學(xué)課件 第五章 質(zhì)量 第二節(jié) 測量:物體的質(zhì)量
- 2023年氣門嘴項目籌資方案
- 2023年聚烯烴類線纜項目融資計劃書
- 國際物流模擬練習(xí)題與答案
- 義務(wù)教育勞動課程標(biāo)準(zhǔn)2022年版考試題庫及答案5
- 《社會調(diào)查研究與方法》形成性考核冊及參考答案
- 腫瘤所治療所致血小板減少癥診療指南
- 中考英語詞匯
- 《Java程序設(shè)計基礎(chǔ)與應(yīng)用》全套教學(xué)課件
- 2024年山東省濟南市地理高一上學(xué)期試卷及解答
- 3.3 場域與對話-公共空間里的雕塑 課件-高中美術(shù)人美版(2019)美術(shù)鑒賞
- 廣東省深圳市2024年九年級中考提分訓(xùn)練《六選五》專題練習(xí)
- 2024年永州職業(yè)技術(shù)學(xué)院單招職業(yè)技能測試題庫及答案解析
- 注射相關(guān)感染預(yù)防與控制(全文)
- SMP-10-003-00 藥品上市后風(fēng)險管理規(guī)程
評論
0/150
提交評論