版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請進(jìn)行舉報(bào)或認(rèn)領(lǐng)
文檔簡介
數(shù)據(jù)治理體系目 錄HYPERLINK1. 范疇 1HYPERLINK2. 規(guī)范性引用文獻(xiàn) 1HYPERLINK3. 術(shù)語、定義和縮略語 5HYPERLINK4. 總體闡明 8HYPERLINK4.1. 概述 8HYPERLINK4.2. 目的 9HYPERLINK4.3. 原則 9HYPERLINK5. 數(shù)據(jù)治理體系 10HYPERLINK5.1. 總體框架 10HYPERLINK5.2. 組織架構(gòu) 11HYPERLINK 組織構(gòu)成 11HYPERLINK 角色職責(zé) 12HYPERLINK5.3. 系統(tǒng)架構(gòu) 12HYPERLINK 系統(tǒng)功效框架 12HYPERLINK 系統(tǒng)模塊流程 14HYPERLINK5.4. 系統(tǒng)邊界 15HYPERLINK 與公司級省大數(shù)據(jù)平臺關(guān)系 16HYPERLINK 與對外能力開放平臺關(guān)系 16HYPERLINK 與平臺運(yùn)維系統(tǒng)關(guān)系 16HYPERLINK6. 數(shù)據(jù)治理核心模塊 17HYPERLINK6.1. 數(shù)據(jù)原則管理 17HYPERLINK 背景 17HYPERLINK 18HYPERLINK 目的及原則 19HYPERLINK 業(yè)務(wù)分類和定義 19HYPERLINK 技術(shù)功效規(guī)定 23HYPERLINK 本期建設(shè)范疇及內(nèi)容 26HYPERLINK 實(shí)施規(guī)定 27HYPERLINK6.2. 元數(shù)據(jù)管理 27HYPERLINK 背景和定義 27HYPERLINK 元數(shù)據(jù)運(yùn)行模式 29HYPERLINK 元模型原則 29HYPERLINK 元數(shù)據(jù)運(yùn)維 33HYPERLINK 本期重點(diǎn)建設(shè)內(nèi)容 34HYPERLINK6.3. 數(shù)據(jù)質(zhì)量管理 34HYPERLINK 與傳統(tǒng)經(jīng)營分析系統(tǒng)的區(qū)別 34HYPERLINK 范疇和原則 35HYPERLINK 與其它功效模塊的關(guān)系 36HYPERLINK 本期數(shù)據(jù)質(zhì)量功效需求 38HYPERLINK 本期數(shù)據(jù)質(zhì)量運(yùn)維規(guī)定 39HYPERLINK6.4. 數(shù)據(jù)資產(chǎn)管理 40HYPERLINK 數(shù)據(jù)資產(chǎn)概述 40HYPERLINK 數(shù)據(jù)資產(chǎn)范疇 41HYPERLINK 與其它功效模塊的關(guān)系 42HYPERLINK 本期數(shù)據(jù)資產(chǎn)功效需求 42HYPERLINK 本期建設(shè)內(nèi)容 45HYPERLINK6.5. 數(shù)據(jù)安全管理 45HYPERLINK 數(shù)據(jù)安全概述 45HYPERLINK 建設(shè)原則 46HYPERLINK 建設(shè)內(nèi)容 46HYPERLINK 邊界關(guān)系 46HYPERLINK 技術(shù)功效 47HYPERLINK 管理規(guī)定 48HYPERLINK7. 數(shù)據(jù)治理場景 52HYPERLINK7.1. 背景描述 52HYPERLINK7.2. 場景一:銀行偽卡交易鑒別 52HYPERLINK 背景介紹 52HYPERLINK 場景描述 53HYPERLINK7.3. 場景二:銀行手機(jī)貸業(yè)務(wù) 54HYPERLINK 背景介紹 54HYPERLINK 場景描述 54HYPERLINK8. 附錄 55HYPERLINK附錄一:數(shù)據(jù)原則框架 55HYPERLINK附錄二:數(shù)據(jù)原則體系定義內(nèi)容示例 56
前 言本規(guī)范的制訂是為了更加好地實(shí)現(xiàn)中國移動公司級省大數(shù)據(jù)平臺數(shù)據(jù)治理子系統(tǒng)的建設(shè)和管理,為省大數(shù)據(jù)平臺上的各類基礎(chǔ)技術(shù)和應(yīng)用提供支撐,加強(qiáng)省大數(shù)據(jù)平臺上數(shù)據(jù)的管控力度,增強(qiáng)數(shù)據(jù)治理子系統(tǒng)本身管理能力。本規(guī)范重要涉及下列幾方面的內(nèi)容:總體闡明、數(shù)據(jù)治理體系、數(shù)據(jù)治理核心模塊、數(shù)據(jù)治理場景等。本規(guī)范是中國移動公司級大數(shù)據(jù)平臺系列規(guī)范之一。該系列規(guī)范的構(gòu)造、名稱或預(yù)計(jì)的名稱以下:序號原則編號原則名稱[1]QB-Y-***-中國移動公司級大數(shù)據(jù)平臺目的架構(gòu)[2]QB-Y-***-中國移動公司級省大數(shù)據(jù)平臺技術(shù)規(guī)范總冊[3]QB-Y-***-中國移動公司級省大數(shù)據(jù)平臺技術(shù)規(guī)范分冊[4]QB-Y-***-中國移動公司級省大數(shù)據(jù)平臺技術(shù)規(guī)范技術(shù)方案分冊[5]QB-Y-***-中國移動公司級省大數(shù)據(jù)平臺技術(shù)規(guī)范數(shù)據(jù)模型分冊[6]QB-Y-***-中國移動公司級省大數(shù)據(jù)平臺技術(shù)規(guī)范外部接口分冊[7]QB-Y-***-中國移動公司級省大數(shù)據(jù)平臺技術(shù)規(guī)范服務(wù)開放分冊[8]QB-Y-***-中國移動公司級省大數(shù)據(jù)平臺技術(shù)規(guī)范服務(wù)開放技術(shù)方案分冊[9]QB-Y-***-中國移動公司級省大數(shù)據(jù)平臺技術(shù)規(guī)范數(shù)據(jù)治理分冊[10]QB-Y-***-中國移動公司級省大數(shù)據(jù)平臺技術(shù)規(guī)范數(shù)據(jù)治理技術(shù)方案分冊[11]QB-Y-***-中國移動公司級省大數(shù)據(jù)平臺技術(shù)規(guī)范運(yùn)行維護(hù)分冊[12]QB-Y-***-中國移動公司級省大數(shù)據(jù)平臺技術(shù)規(guī)范安全管理技術(shù)方案本規(guī)范由中移技﹝××﹞××印發(fā)。本規(guī)范由中國移動通信集團(tuán)公司業(yè)務(wù)支撐系統(tǒng)部提出,集團(tuán)公司技術(shù)部歸口。本規(guī)范起草單位:中國移動通信集團(tuán)公司業(yè)務(wù)支撐系統(tǒng)部。本規(guī)范重要起草人:段云峰、汪新勇、趙靜、周立、、任怡健、王保強(qiáng)、潘剛、劉童桐、王金金、陶濤、劉虹、張紅星、魏春輝。范疇本規(guī)范規(guī)定了中國移動公司級省大數(shù)據(jù)平臺數(shù)據(jù)治理子系統(tǒng)的建設(shè)內(nèi)容,合用于中國移動各?。ㄖ陛犑?、自治區(qū))公司公司級省大數(shù)據(jù)平臺數(shù)據(jù)治理子系統(tǒng)的建設(shè)。規(guī)范性引用文獻(xiàn)下列文獻(xiàn)中的條款通過本規(guī)范的引用而成為本規(guī)范的條款。但凡標(biāo)注日期的引用文獻(xiàn),其隨即全部的修改單(不涉及勘誤的內(nèi)容)或修訂版均不合用于本規(guī)范。然而,激勵(lì)根據(jù)本規(guī)范達(dá)成合同的各方對與否使用這些文獻(xiàn)的最新版本進(jìn)行研究。但凡不標(biāo)注日期的引用文獻(xiàn),其最新版本合用于本規(guī)范。[1]《中國移動省級經(jīng)營分析系統(tǒng)業(yè)務(wù)規(guī)范(v1.0)》中國移動通信有限公司[2]《中國移動省級經(jīng)營分析系統(tǒng)技術(shù)規(guī)范(v1.0)》中國移動通信有限公司[3]QB-J-010-《中國移動省級經(jīng)營分析系統(tǒng)數(shù)據(jù)質(zhì)量管理系統(tǒng)建設(shè)方案(v1.5)》中國移動通信有限公司[4]QB-J-006-《中國移動省級經(jīng)營分析系統(tǒng)數(shù)據(jù)倉庫邏輯數(shù)據(jù)模型闡明(v1.5)》中國移動通信有限公司[5]QB-J-007-《中國移動省級經(jīng)營分析系統(tǒng)數(shù)據(jù)集市業(yè)務(wù)技術(shù)規(guī)范(v1.5)》中國移動通信有限公司[6]QB-J-008-《中國移動省級經(jīng)營分析系統(tǒng)與源系統(tǒng)接口規(guī)范(v1.5)》中國移動通信有限公司[7]QB-J-009-《中國移動省級經(jīng)營分析系統(tǒng)與BOSS系統(tǒng)互動技術(shù)規(guī)范(v1.5)》中國移動通信有限公司[8]QB-J-003-《中國移動省級經(jīng)營分析系統(tǒng)業(yè)務(wù)規(guī)范(v1.5)—基礎(chǔ)業(yè)務(wù)分冊》中國移動通信有限公司[9]QB-J-004-《中國移動省級經(jīng)營分析系統(tǒng)業(yè)務(wù)規(guī)范(v1.5)—數(shù)據(jù)業(yè)務(wù)分冊》中國移動通信有限公司[10]QB-J-005-《中國移動省級經(jīng)營分析系統(tǒng)業(yè)務(wù)規(guī)范(v1.5)—集團(tuán)客戶分冊》中國移動通信有限公司[11]QB-J-001-《中國移動業(yè)務(wù)運(yùn)行支撐系統(tǒng)(BOSS)業(yè)務(wù)技術(shù)規(guī)范營銷資源管理分冊(2.0版)》中國移動通信有限公司[12]QB-J-001-《中國移動業(yè)務(wù)運(yùn)行支撐系統(tǒng)(BOSS)業(yè)務(wù)技術(shù)規(guī)范客服信息分冊(2.0版)》中國移動通信有限公司[13]QB-J-001-《中國移動業(yè)務(wù)運(yùn)行支撐系統(tǒng)(BOSS)業(yè)務(wù)技術(shù)規(guī)范(2.0版)》中國移動通信有限公司[14]QB-J-021-《中國移動省級經(jīng)營分析系統(tǒng)數(shù)據(jù)倉庫邏輯數(shù)據(jù)模型規(guī)范(v2.0)》中國移動通信有限公司[15]QB-J-020-《中國移動省級經(jīng)營分析系統(tǒng)與源數(shù)據(jù)接口規(guī)范(v2.0)》中國移動通信有限公司[16]QB-J-022-《中國移動省級經(jīng)營分析系統(tǒng)數(shù)據(jù)集市業(yè)務(wù)技術(shù)規(guī)范(v2.0)》中國移動通信有限公司[17]QB-J-019-《中國移動省級經(jīng)營分析系統(tǒng)業(yè)務(wù)規(guī)范渠道運(yùn)行管理分析監(jiān)控分冊(v1.0)》中國移動通信有限公司[18]QB-J-018-《中國移動省級經(jīng)營分析系統(tǒng)業(yè)務(wù)規(guī)范客戶服務(wù)分冊(v2.0)》中國移動通信有限公司[19]QB-J-017-《中國移動省級經(jīng)營分析系統(tǒng)業(yè)務(wù)規(guī)范集團(tuán)客戶分冊(v2.0》中國移動通信有限公司[20]QB-J-016-《中國移動省級經(jīng)營分析系統(tǒng)數(shù)據(jù)質(zhì)量管理系統(tǒng)業(yè)務(wù)技術(shù)規(guī)范(V2.0)》中國移動通信有限公司[21]《中國移動業(yè)務(wù)支撐網(wǎng)4A安全技術(shù)規(guī)范》中國移動通信有限公司[22]《中國移動省級經(jīng)營分析系統(tǒng)技術(shù)規(guī)范總冊(v2.0全量版)》中國移動通信有限公司[23]《中國移動省級經(jīng)營分析系統(tǒng)技術(shù)規(guī)范邏輯模型分冊(v2.0全量版)》中國移動通信有限公司[24]《中國移動省級經(jīng)營分析系統(tǒng)技術(shù)規(guī)范數(shù)據(jù)集市分冊(v2.0全量版)》中國移動通信有限公司[25]《中國移動省級經(jīng)營分析系統(tǒng)技術(shù)規(guī)范數(shù)據(jù)質(zhì)量管理子系統(tǒng)分冊(v2.0全量版)》中國移動通信有限公司[26]《中國移動省級經(jīng)營分析系統(tǒng)業(yè)務(wù)規(guī)范(v2.0全量版)》中國移動通信有限公司[27]《中國移動省級經(jīng)營分析系統(tǒng)技術(shù)規(guī)范源系統(tǒng)接口分冊(v2.0全量版)》中國移動通信有限公司[28]QB-J-002-《中國移動省級NG1-BASS技術(shù)規(guī)范總冊(v1.0)》中國移動通信集團(tuán)公司[29]QB-J-003-《中國移動省級NG1-BASS技術(shù)規(guī)范數(shù)據(jù)集市分冊(v1.0)》中國移動通信集團(tuán)公司[30]QB-J-004-《中國移動省級NG1-BASS技術(shù)規(guī)范邏輯模型分冊(v1.0)》中國移動通信集團(tuán)公司[31]QB-J-005-《中國移動省級NG1-BASS技術(shù)規(guī)范源系統(tǒng)接口分冊(v1.0)》中國移動通信集團(tuán)公司[32]QB-J-006-《中國移動省級NG1-BASS技術(shù)規(guī)范元數(shù)據(jù)管理分冊(v1.0)》中國移動通信集團(tuán)公司[33]QB-J-007-《中國移動省級NG1-BASS技術(shù)規(guī)范數(shù)據(jù)質(zhì)量管理子系統(tǒng)分冊(v1.0)》中國移動通信集團(tuán)公司[34]QB-J-008-《中國移動省級NG1-BASS業(yè)務(wù)技術(shù)規(guī)范客戶分析及運(yùn)行分冊(v1.0)》中國移動通信集團(tuán)公司[35]QB-J-001-《中國移動省級NG1-BASS業(yè)務(wù)規(guī)范(v1.0)》中國移動通信集團(tuán)公司[36]QB-Y-003-《中國移動省級NG1-BASS技術(shù)規(guī)范總冊(v2.0)》中國移動通信集團(tuán)公司[37]QB-Y-004-《中國移動省級NG1-BASS技術(shù)規(guī)范數(shù)據(jù)集市分冊(v2.0)》中國移動通信集團(tuán)公司[38]QB-Y-005-《中國移動省級NG1-BASS技術(shù)規(guī)范邏輯模型分冊(v2.0)》中國移動通信集團(tuán)公司[39]QB-Y-006-《中國移動省級NG1-BASS技術(shù)規(guī)范外部接口分冊(v2.0)》中國移動通信集團(tuán)公司[40]QB-Y-007-《中國移動省級NG1-BASS技術(shù)規(guī)范元數(shù)據(jù)管理分冊(v2.0)》中國移動通信集團(tuán)公司[41]QB-Y-008-《中國移動省級NG1-BASS技術(shù)規(guī)范數(shù)據(jù)質(zhì)量管理子系統(tǒng)分冊(v2.0)》中國移動通信集團(tuán)公司[42]QB-Y-002-《中國移動省級NG1-BASS業(yè)務(wù)規(guī)范(v2.0)》中國移動通信集團(tuán)公司[43]QB-Y-052-《中國移動省級NG2-BASS(v3.0)業(yè)務(wù)規(guī)范》中國移動通信集團(tuán)公司[44]QB-Y-053-《中國移動省級NG2-BASS(v3.0)技術(shù)規(guī)范總冊》中國移動通信集團(tuán)公司[45]QB-Y-054-《中國移動省級NG2-BASS(v3.0)技術(shù)規(guī)范數(shù)據(jù)集市分冊》中國移動通信集團(tuán)公司[46]QB-Y-055-《中國移動省級NG2-BASS(v3.0)技術(shù)規(guī)范邏輯模型分冊》中國移動通信集團(tuán)公司[47]QB-Y-056-《中國移動省級NG2-BASS(v3.0)技術(shù)規(guī)范外部接口分冊》中國移動通信集團(tuán)公司[48]QB-Y-057-《中國移動省級NG2-BASS(v3.0)技術(shù)規(guī)范元數(shù)據(jù)管理分冊》中國移動通信集團(tuán)公司[49]QB-Y-058-《中國移動省級NG2-BASS(v3.0)技術(shù)規(guī)范數(shù)據(jù)質(zhì)量管理子系統(tǒng)分冊》中國移動通信集團(tuán)公司[50]QB-Y-059-《中國移動省級NG2-BASS(v3.0)技術(shù)規(guī)范多OP能力交互分冊》中國移動通信集團(tuán)公司[51]QB-Y-060-《中國移動省級增值業(yè)務(wù)綜合運(yùn)行平臺業(yè)務(wù)規(guī)范(v1.0)》中國移動通信集團(tuán)公司[52]QB-Y-061-《中國移動省級增值業(yè)務(wù)綜合運(yùn)行平臺技術(shù)規(guī)范(v1.0)》中國移動通信集團(tuán)公司[53]QB-Y-062-《中國移動省級增值業(yè)務(wù)綜合運(yùn)行平臺技術(shù)規(guī)范-數(shù)據(jù)管理分冊(v1.0)》中國移動通信集團(tuán)公司[54]QB-Y-063-《中國移動省級增值業(yè)務(wù)綜合運(yùn)行平臺接口規(guī)范》中國移動通信集團(tuán)公司[55]QB-Y-039-《中國移動省級NG2-BASS(v3.5)業(yè)務(wù)規(guī)范》中國移動通信集團(tuán)公司[56]QB-Y-038-《中國移動省級NG2-BASS(v3.5)技術(shù)規(guī)范總冊》中國移動通信集團(tuán)公司[57]QB-Y-040-《中國移動省級NG2-BASS(v3.5)技術(shù)規(guī)范數(shù)據(jù)集市分冊》中國移動通信集團(tuán)公司[58]QB-Y-041-《中國移動省級NG2-BASS(v3.5)技術(shù)規(guī)范邏輯模型分冊》中國移動通信集團(tuán)公司[59]QB-Y-042-《中國移動省級NG2-BASS(v3.5)技術(shù)規(guī)范外部接口分冊》中國移動通信集團(tuán)公司[60]QB-Y-043-《中國移動省級NG2-BASS(v3.5)技術(shù)規(guī)范元數(shù)據(jù)管理分冊》中國移動通信集團(tuán)公司[61]QB-Y-044-《中國移動省級NG2-BASS(v3.5)技術(shù)規(guī)范數(shù)據(jù)質(zhì)量管理子系統(tǒng)分冊》中國移動通信集團(tuán)公司[62]QB-Y-045-《中國移動省級NG2-BASS(v3.5)技術(shù)規(guī)范OP能力交互分冊》中國移動通信集團(tuán)公司[63]QB-Y-046-《中國移動省級增值業(yè)務(wù)綜合運(yùn)行平臺業(yè)務(wù)規(guī)范(v1.5)》中國移動通信集團(tuán)公司[64]QB-Y-047-《中國移動省級增值業(yè)務(wù)綜合運(yùn)行平臺技術(shù)規(guī)范(v1.5)》中國移動通信集團(tuán)公司[65]QB-Y-048-《中國移動省級NG2-BASS技術(shù)規(guī)范系統(tǒng)安全管理分冊(v1.5)》中國移動通信集團(tuán)公司[66]QB-Y-044-《中國移動省級NG2-BASS(v4.0)業(yè)務(wù)規(guī)范》中國移動通信集團(tuán)公司[67]QB-Y-045-《中國移動省級NG2-BASS(v4.0)技術(shù)規(guī)范總冊》中國移動通信集團(tuán)公司[68]QB-Y-045.1-《中國移動省級NG2-BASS(v4.0)技術(shù)規(guī)范數(shù)據(jù)集市分冊》中國移動通信集團(tuán)公司[69]QB-Y-045.2-《中國移動省級NG2-BASS(v4.0)技術(shù)規(guī)范邏輯模型分冊》中國移動通信集團(tuán)公司[70]QB-Y-045.3-《中國移動省級NG2-BASS(v4.0)技術(shù)規(guī)范外部接口分冊》中國移動通信集團(tuán)公司[72]QB-Y-045.4-《中國移動省級NG2-BASS(v4.0)技術(shù)規(guī)范元數(shù)據(jù)管理分冊》中國移動通信集團(tuán)公司[73]QB-Y-045.5-《中國移動省級NG2-BASS(v4.0)技術(shù)規(guī)范數(shù)據(jù)質(zhì)量管理子系統(tǒng)分冊》中國移動通信集團(tuán)公司[74]QB-Y-046-《中國移動省級增值業(yè)務(wù)綜合運(yùn)行平臺業(yè)務(wù)規(guī)范V2.0.0》中國移動通信集團(tuán)公司[75]QB-Y-047-《中國移動省級增值業(yè)務(wù)綜合運(yùn)行平臺技術(shù)規(guī)范V2.0.0》中國移動通信集團(tuán)公司[76]QB-Y-047.1-《中國移動省級增值業(yè)務(wù)綜合運(yùn)行平臺技術(shù)規(guī)范數(shù)據(jù)管理分冊V2.0.0》中國移動通信集團(tuán)公司[77]QB-Y-044-《中國移動省級NG2-BASS(v4.5)業(yè)務(wù)規(guī)范》中國移動通信集團(tuán)公司[78]QB-Y-045-《中國移動省級NG2-BASS(v4.5)技術(shù)規(guī)范總冊》中國移動通信集團(tuán)公司[79]QB-Y-045.1-《中國移動省級NG2-BASS(v4.5)技術(shù)規(guī)范數(shù)據(jù)集市分冊》中國移動通信集團(tuán)公司[80]QB-Y-045.2-《中國移動省級NG2-BASS(v4.5)技術(shù)規(guī)范邏輯模型分冊》中國移動通信集團(tuán)公司[81]QB-Y-045.3-《中國移動省級NG2-BASS(v4.5)技術(shù)規(guī)范外部接口分冊》中國移動通信集團(tuán)公司[82]QB-Y-045.4-《中國移動省級NG2-BASS(v4.5)技術(shù)規(guī)范元數(shù)據(jù)管理分冊》中國移動通信集團(tuán)公司[83]QB-Y-045.5-《中國移動省級NG2-BASS(v4.5)技術(shù)規(guī)范數(shù)據(jù)質(zhì)量管理子系統(tǒng)分冊》中國移動通信集團(tuán)公司[84]QB-Y-045.6-《中國移動省級NG2-BASS(v4.5)技術(shù)規(guī)范安全管理技術(shù)方案》中國移動通信集團(tuán)公司[85]QB-Y-046-《中國移動省級增值業(yè)務(wù)綜合運(yùn)行平臺業(yè)務(wù)規(guī)范V2.5.0》中國移動通信集團(tuán)公司[86]QB-Y-047-《中國移動省級增值業(yè)務(wù)綜合運(yùn)行平臺技術(shù)規(guī)范V2.5.0》中國移動通信集團(tuán)公司[87]QB-Y-047.1-《中國移動省級增值業(yè)務(wù)綜合運(yùn)行平臺技術(shù)規(guī)范數(shù)據(jù)管理分冊V2.5.0》中國移動通信集團(tuán)公司術(shù)語、定義和縮略語下列術(shù)語、定義合用于本規(guī)范:字母名詞解釋CCWMCWM原則是OMG組織定義的數(shù)據(jù)倉庫和有關(guān)系統(tǒng)的國際元數(shù)據(jù)原則,給出了多個(gè)元數(shù)據(jù)構(gòu)造的原則定義。CWM原則的目的在于:使數(shù)據(jù)倉庫和商業(yè)智能軟件的元數(shù)據(jù)在異構(gòu)的數(shù)據(jù)分析工具、數(shù)據(jù)倉庫平臺、元數(shù)據(jù)存儲庫等系統(tǒng)之間進(jìn)行交互。EETL特指從數(shù)據(jù)源系統(tǒng)到大數(shù)據(jù)平臺的數(shù)據(jù)抽取、轉(zhuǎn)換和加載。G管理元數(shù)據(jù)描述大數(shù)據(jù)平臺中管理領(lǐng)域有關(guān)概念、關(guān)系、規(guī)則的數(shù)據(jù),重要涉及人員角色、崗位職責(zé)、管理流程等信息。H核心元模型大數(shù)據(jù)平臺核心元模型是以CWM為基礎(chǔ)擴(kuò)展形成的,針對大數(shù)據(jù)平臺的物理模型、邏輯模型、數(shù)據(jù)解決過程、接口單元、指標(biāo)和維度編碼等重要實(shí)體進(jìn)行精擬定義,并規(guī)定各省大數(shù)據(jù)平臺統(tǒng)一遵照的元模型。定義核心元模型的目的是建立大數(shù)據(jù)平臺的統(tǒng)一元數(shù)據(jù)管理原則,為元數(shù)據(jù)管理的功效層與應(yīng)用層解耦、為公司級總部大數(shù)據(jù)平臺和公司級省大數(shù)據(jù)平臺的元數(shù)據(jù)交換和互相理解提供統(tǒng)一的語義基礎(chǔ)。H核心元模型參考表核心元模型參考表是對核心元模型中的枚舉類型屬性進(jìn)行枚舉值定義的編碼表。參考表為枚舉類型屬性的每個(gè)枚舉值定義了唯一的編碼,并明確該編碼的語義,是核心元模型原則化定義的重要構(gòu)成部分。J技術(shù)元數(shù)據(jù)描述大數(shù)據(jù)平臺中技術(shù)領(lǐng)域有關(guān)概念、關(guān)系、規(guī)則的數(shù)據(jù)。重要涉及對數(shù)據(jù)構(gòu)造、數(shù)據(jù)解決方面的特性描述,覆蓋大數(shù)據(jù)平臺數(shù)據(jù)源接口、數(shù)據(jù)倉庫、ETL、OLAP、數(shù)據(jù)挖掘、前端呈現(xiàn)等全部數(shù)據(jù)解決環(huán)節(jié)。S數(shù)據(jù)解決過程數(shù)據(jù)從數(shù)據(jù)源系統(tǒng)到大數(shù)據(jù)平臺前端使用的整個(gè)解決過程,包含大數(shù)據(jù)平臺數(shù)據(jù)倉庫內(nèi)部的數(shù)據(jù)抽取、轉(zhuǎn)換和加載。S數(shù)據(jù)采集點(diǎn)覆蓋大數(shù)據(jù)平臺數(shù)據(jù)解決環(huán)節(jié)的、獲取每個(gè)環(huán)節(jié)運(yùn)行狀態(tài)的實(shí)體。該實(shí)體能夠是程序?qū)嶓w也能夠是任務(wù)實(shí)體S數(shù)據(jù)質(zhì)量報(bào)告數(shù)據(jù)質(zhì)量報(bào)告是對數(shù)據(jù)質(zhì)量日常監(jiān)控以及質(zhì)量評定等過程累積的多個(gè)信息進(jìn)行匯總、梳理、統(tǒng)計(jì)和分析,形成的統(tǒng)計(jì)報(bào)告S數(shù)據(jù)質(zhì)量監(jiān)控通過獲取大數(shù)據(jù)平臺各環(huán)節(jié)的數(shù)據(jù)質(zhì)量監(jiān)控信息,結(jié)合元數(shù)據(jù)庫中的有關(guān)檢查規(guī)則,對各個(gè)環(huán)節(jié)的數(shù)據(jù)質(zhì)量狀況進(jìn)行判斷,并及時(shí)向數(shù)據(jù)質(zhì)量監(jiān)控人員報(bào)告。S數(shù)據(jù)質(zhì)量規(guī)則庫數(shù)據(jù)質(zhì)量規(guī)則庫是對數(shù)據(jù)質(zhì)量管理活動所用到的多個(gè)判斷及校驗(yàn)規(guī)則進(jìn)行歸類和寄存的存儲構(gòu)造,存儲的內(nèi)容涉及采集規(guī)則、監(jiān)控規(guī)則、告警規(guī)則和審計(jì)規(guī)則等S數(shù)據(jù)質(zhì)量信息庫數(shù)據(jù)質(zhì)量管理子系統(tǒng)存儲層上的存儲構(gòu)造,用于存儲數(shù)據(jù)質(zhì)量信息采集程序采集的數(shù)據(jù)質(zhì)量信息、質(zhì)量評定信息、問題解決方案和問題解決流程信息等S省公司中國移動通信集團(tuán)各?。ㄖ陛犑?、自治區(qū))移動通信有限公司。SSQL腳本自動解析SQL腳本自動解析指通過對SQL腳本的詞法、語法和語義進(jìn)行分析,自動生成滿足CWM規(guī)范規(guī)定的數(shù)據(jù)解決過程的技術(shù)元數(shù)據(jù)的功效。Y業(yè)務(wù)元數(shù)據(jù)描述大數(shù)據(jù)平臺中業(yè)務(wù)領(lǐng)域有關(guān)概念、關(guān)系、規(guī)則的數(shù)據(jù)。重要涉及業(yè)務(wù)術(shù)語、信息分類、指標(biāo)定義(指標(biāo)口徑)、業(yè)務(wù)規(guī)則等信息。Y元模型元模型是描述元數(shù)據(jù)的基礎(chǔ)模型構(gòu)造,用于闡明元數(shù)據(jù)對象的多個(gè)屬性、構(gòu)造和關(guān)系。Y元數(shù)據(jù)元數(shù)據(jù)是描述數(shù)據(jù)間關(guān)系的數(shù)據(jù)。大數(shù)據(jù)平臺中元數(shù)據(jù)泛指描述數(shù)據(jù)概念(Concepts)、數(shù)據(jù)間關(guān)系(Roles)、數(shù)據(jù)解決規(guī)則(Rules)的數(shù)據(jù),其中,領(lǐng)域語義(Semantics)和知識(Knowledge)也屬于元數(shù)據(jù)的范疇。D數(shù)據(jù)原則指在中國移動臺公司級省大數(shù)據(jù)平臺下為了使公司內(nèi)外部使用和交換的數(shù)據(jù)是一致和精確的,經(jīng)協(xié)商一致制訂并由大數(shù)據(jù)治理委員會主管機(jī)構(gòu)同意,含有行業(yè)特點(diǎn)且共同使用和重復(fù)使用的一種規(guī)范性約束。D數(shù)據(jù)原則體系指數(shù)據(jù)原則按照中國移動公司級省大數(shù)據(jù)平臺需求對數(shù)據(jù)進(jìn)行原則化的劃分歸類。D數(shù)據(jù)原則內(nèi)容按照數(shù)據(jù)原則體系劃分的規(guī)定分別給出各數(shù)據(jù)原則制訂的規(guī)范內(nèi)容。D行業(yè)參考模型實(shí)體中國移動規(guī)范中原定義或新增加的邏輯數(shù)據(jù)模型LDM實(shí)體。D公共代碼原則需要引用外部公共原則機(jī)構(gòu)的原則。如:世界各國和地區(qū)名稱代碼等。下列略縮語合用于本規(guī)范:縮寫英文描述中文描述ASTAbstractSyntaxTree抽象語法樹BOSSBusinessOperationSupportSystem業(yè)務(wù)運(yùn)行支撐系統(tǒng)CWMCommonWarehouseMetamodel公共倉庫元模型ETLExtractionTransformationLoading抽取、轉(zhuǎn)換和加載OLAPOn-lineAnalysisProcess在線分析解決XMIXMLMetadataInterchangeXML元數(shù)據(jù)交換BIBusinessIntelligence商務(wù)智能RESTRepresentationalStateTransfer表述性狀態(tài)轉(zhuǎn)移總體闡明概述本規(guī)范用于指導(dǎo)公司級省大數(shù)據(jù)平臺數(shù)據(jù)治理子系統(tǒng)建設(shè),規(guī)定了省大數(shù)據(jù)平臺數(shù)據(jù)治理的范疇和規(guī)定,明確了數(shù)據(jù)治理子系統(tǒng)的體系構(gòu)造,制訂了數(shù)據(jù)治理子系統(tǒng)的功效和解決流程。數(shù)據(jù)治理子系統(tǒng)包含數(shù)據(jù)原則管理、元數(shù)據(jù)管理、數(shù)據(jù)質(zhì)量管理、數(shù)據(jù)資產(chǎn)管理、數(shù)據(jù)安全管理等功效模塊。本方案借鑒資產(chǎn)管理的辦法理論來管理數(shù)據(jù),將數(shù)據(jù)作為一種特殊的資產(chǎn),對進(jìn)入平臺的數(shù)據(jù)進(jìn)行原則化的規(guī)范約束,并以元數(shù)據(jù)作為驅(qū)動,連接數(shù)據(jù)的原則管理、數(shù)據(jù)質(zhì)量管理、數(shù)據(jù)數(shù)據(jù)安全管理的各個(gè)階段,形成統(tǒng)一、完善的數(shù)據(jù)治理體系,以解決實(shí)際業(yè)務(wù)問題為導(dǎo)向,增強(qiáng)數(shù)據(jù)治理子系統(tǒng)對業(yè)務(wù)發(fā)展的支撐能力。目的數(shù)據(jù)治理子系統(tǒng)的建設(shè)為數(shù)據(jù)治理工作提供強(qiáng)有力的系統(tǒng)支撐。本期規(guī)范建設(shè)目的是以元數(shù)據(jù)為驅(qū)動,建立省大數(shù)據(jù)平臺完整的數(shù)據(jù)治理體系。從組織架構(gòu)、系統(tǒng)功效等方面增強(qiáng)數(shù)據(jù)宏觀管控,并實(shí)現(xiàn)精細(xì)化管理,具體涉及:數(shù)據(jù)治理組織架構(gòu)管理:定義數(shù)據(jù)治理所需人員組織上的崗位和職責(zé),從管理角度支撐數(shù)據(jù)治理工作的落地和執(zhí)行。數(shù)據(jù)原則管理:建立公司級省大數(shù)據(jù)平臺數(shù)據(jù)原則體系,并制訂數(shù)據(jù)原則運(yùn)維管控制度和流程。元數(shù)據(jù)管理:減少元數(shù)據(jù)使用難度、提高顧客體驗(yàn),使大數(shù)據(jù)平臺各類顧客均能參加到元數(shù)據(jù)運(yùn)行維護(hù)當(dāng)中。數(shù)據(jù)質(zhì)量管理:為內(nèi)、外部顧客提供平臺化的數(shù)據(jù)質(zhì)量監(jiān)控;通過擴(kuò)充和優(yōu)化公共規(guī)則庫、確保數(shù)據(jù)的完整性、一致性、精確性、及時(shí)性、正當(dāng)性,提高顧客使用感知;并提供數(shù)據(jù)質(zhì)量應(yīng)用滿足個(gè)性化需求。數(shù)據(jù)資產(chǎn)管理:重點(diǎn)建設(shè)從規(guī)劃、注冊、運(yùn)維到注銷的全流程管理體系,使數(shù)據(jù)資產(chǎn)管理系統(tǒng)化、可視化。數(shù)據(jù)安全管理:建立體系化的數(shù)據(jù)安全管控方略,通過顧客安全管理、數(shù)據(jù)安全管理實(shí)現(xiàn)全方位數(shù)據(jù)安全管控機(jī)制,通過技術(shù)手段與管理方法相結(jié)合的方式貫徹?cái)?shù)據(jù)安全,做到事前可管、事中可控、事后可查。原則公司級省大數(shù)據(jù)平臺數(shù)據(jù)治理子系統(tǒng)建設(shè)應(yīng)遵照下列基本原則:?有效性原則體現(xiàn)大數(shù)據(jù)平臺數(shù)據(jù)治理過程中數(shù)據(jù)的原則、質(zhì)量、價(jià)值、管控的有效性、高效性。價(jià)值化原則體現(xiàn)數(shù)據(jù)治理過程中以數(shù)據(jù)資產(chǎn)為價(jià)值核心,最大化大數(shù)據(jù)平臺的數(shù)據(jù)價(jià)值。?統(tǒng)一性原則體現(xiàn)大數(shù)據(jù)平臺架構(gòu)統(tǒng)一、原則統(tǒng)一、元數(shù)據(jù)統(tǒng)一、質(zhì)量流程統(tǒng)一、資產(chǎn)價(jià)值統(tǒng)一的一體化管控平臺體系。開放性原則體現(xiàn)平臺化、開放性運(yùn)維思想,實(shí)現(xiàn)人人參加數(shù)據(jù)治理、人人參加數(shù)據(jù)運(yùn)維。產(chǎn)品化原則體現(xiàn)大數(shù)據(jù)平臺數(shù)據(jù)治理能力的顯性化,通過產(chǎn)品化互聯(lián)網(wǎng)思維服務(wù)大數(shù)據(jù)平臺數(shù)據(jù)生態(tài)圈顧客。安全性原則體現(xiàn)安全的重要性、必要性,保障大數(shù)據(jù)平臺數(shù)據(jù)安全和數(shù)據(jù)治理過程中數(shù)據(jù)的安全可控。數(shù)據(jù)治理體系總體框架數(shù)據(jù)治理總體框架涉及組織架構(gòu)、數(shù)據(jù)治理模塊、數(shù)據(jù)運(yùn)維三部分。通過組織架構(gòu)建立管理方法,制訂工作流程,擬定角色職責(zé)。數(shù)據(jù)治理模塊重要涉及數(shù)據(jù)原則管理、元數(shù)據(jù)管理、數(shù)據(jù)質(zhì)量管理、數(shù)據(jù)資產(chǎn)管理、數(shù)據(jù)安全管理,各模塊協(xié)同運(yùn)行,確保大數(shù)據(jù)平臺的數(shù)據(jù)一致、安全、有效。數(shù)據(jù)運(yùn)維貫穿整個(gè)數(shù)據(jù)治理體系的流程中,實(shí)現(xiàn)平臺化的運(yùn)維管理思路。數(shù)據(jù)治理總體框架如圖51所示:核心領(lǐng)域大數(shù)據(jù)平臺核心領(lǐng)域大數(shù)據(jù)平臺數(shù)據(jù)治理工具數(shù)據(jù)安全管理數(shù)據(jù)資產(chǎn)管理元數(shù)據(jù)管理數(shù)據(jù)質(zhì)量管理數(shù)據(jù)原則管理組織架構(gòu)組織架構(gòu)定義角色與職責(zé)規(guī)劃和方略管理方法數(shù)據(jù)運(yùn)維質(zhì)量運(yùn)維管控運(yùn)維資產(chǎn)運(yùn)維組織架構(gòu)適宜嗎圖STYLEREF1\s5SEQ圖\*ARABIC\s11數(shù)據(jù)治理體系框架組織架構(gòu)與否含糊化,簡要說一下數(shù)據(jù)治理需要由專人、專職負(fù)責(zé),不明說建立專業(yè)機(jī)構(gòu)。與否含糊化,簡要說一下數(shù)據(jù)治理需要由專人、專職負(fù)責(zé),不明說建立專業(yè)機(jī)構(gòu)。數(shù)據(jù)治理組織的構(gòu)建旨在通過建立數(shù)據(jù)治理組織架構(gòu)明確各級角色和職責(zé),保障數(shù)據(jù)治理的各項(xiàng)管理方法、工作流程的實(shí)施,推送數(shù)據(jù)治理工作的有序開展。組織構(gòu)成數(shù)據(jù)治理組織架構(gòu)重要由數(shù)據(jù)治理委員會、數(shù)據(jù)治理中心和各業(yè)務(wù)部門構(gòu)成。組織架構(gòu)劃分和角色設(shè)定如圖52所示:圖STYLEREF1\s5SEQ圖\*ARABIC\s12數(shù)據(jù)治理組織架構(gòu)圖角色職責(zé)組織責(zé)任體系是數(shù)據(jù)治理責(zé)任落地的保障,數(shù)據(jù)治理組織架構(gòu)通過明確各角色職責(zé),實(shí)施認(rèn)責(zé)制度,讓數(shù)據(jù)治理工作更加好的融入到數(shù)據(jù)日常使用和有關(guān)的工作中,從而推動數(shù)據(jù)運(yùn)維自治的實(shí)現(xiàn),如REFOLE_LINK11\h表5-1。表5-1數(shù)據(jù)治理組織架構(gòu)角色職責(zé)定義內(nèi)容組織構(gòu)造角色角色描述角色重要職責(zé)數(shù)據(jù)治理委員會數(shù)據(jù)管理決策者由公司主管領(lǐng)導(dǎo)和各業(yè)務(wù)部門領(lǐng)導(dǎo)構(gòu)成負(fù)責(zé)牽頭數(shù)據(jù)治理工作;制訂數(shù)據(jù)治理的政策、原則、規(guī)則、流程,協(xié)調(diào)認(rèn)責(zé)沖突;對數(shù)據(jù)事實(shí)治理,確保數(shù)據(jù)的質(zhì)量和隱私;在數(shù)據(jù)出現(xiàn)質(zhì)量問題時(shí)負(fù)責(zé)仲裁工作。數(shù)據(jù)治理中心數(shù)據(jù)平臺運(yùn)行者數(shù)據(jù)管理中心機(jī)構(gòu)的平臺運(yùn)行人員負(fù)責(zé)提交數(shù)據(jù)原則的規(guī)定及數(shù)據(jù)質(zhì)量規(guī)則和業(yè)務(wù)規(guī)范,解釋數(shù)據(jù)的業(yè)務(wù)規(guī)則和含義;監(jiān)督各項(xiàng)數(shù)據(jù)規(guī)則和規(guī)范的約束的貫徹狀況;負(fù)責(zé)數(shù)據(jù)治理平臺中整體數(shù)據(jù)的管控流程制訂和平臺功效系統(tǒng)支撐的實(shí)施;負(fù)責(zé)平臺的整體運(yùn)行、組織、協(xié)調(diào)。各業(yè)務(wù)部門數(shù)據(jù)提供者有關(guān)數(shù)據(jù)開發(fā)提供人員負(fù)責(zé)數(shù)據(jù)及有關(guān)系統(tǒng)的開發(fā),有責(zé)任執(zhí)行數(shù)據(jù)原則和數(shù)據(jù)質(zhì)量內(nèi)容;負(fù)責(zé)從技術(shù)角度解決數(shù)據(jù)質(zhì)量問題;作為數(shù)據(jù)出現(xiàn)質(zhì)量問題時(shí)的重要責(zé)任者。數(shù)據(jù)維護(hù)者數(shù)據(jù)維護(hù)人員制訂有關(guān)數(shù)據(jù)原則、數(shù)據(jù)制度和規(guī)則;恪守和執(zhí)行數(shù)據(jù)原則管控有關(guān)的流程,根據(jù)數(shù)據(jù)原則規(guī)定提供有關(guān)數(shù)據(jù)規(guī)范;作為數(shù)據(jù)出現(xiàn)質(zhì)量問題時(shí)的次要責(zé)任者。數(shù)據(jù)消費(fèi)者數(shù)據(jù)使用人員,包含內(nèi)部顧客和外部顧客作為數(shù)據(jù)治理平臺數(shù)據(jù)管控流程的最后參加使用者;是數(shù)據(jù)資產(chǎn)價(jià)值的獲益人;作為數(shù)據(jù)治理平臺數(shù)據(jù)閉環(huán)流程的發(fā)起人。系統(tǒng)架構(gòu)系統(tǒng)功效框架數(shù)據(jù)治理功效框架明確了數(shù)據(jù)治理在公司級省大數(shù)據(jù)平臺中的定位,并以合理的功效層次劃分指導(dǎo)數(shù)據(jù)治理系統(tǒng)有關(guān)功效建設(shè)。系統(tǒng)功效框架如REFOLE_LINK12\h圖53所示。圖STYLEREF1\s5SEQ圖\*ARABIC\s13數(shù)據(jù)治理功效框架圖公司級省大數(shù)據(jù)平臺門戶:公司級省大數(shù)據(jù)平臺統(tǒng)一的訪問接口,供公司內(nèi)、外部顧客、第三方獨(dú)立開發(fā)者訪問及使用數(shù)據(jù)治理有關(guān)產(chǎn)品或功效,并負(fù)責(zé)統(tǒng)一訪問認(rèn)證及日志統(tǒng)計(jì)。能力開放平臺:公司級省大數(shù)據(jù)平臺統(tǒng)一的對外服務(wù)層,數(shù)據(jù)治理有關(guān)的產(chǎn)品及應(yīng)用均通過這個(gè)層次進(jìn)行注冊、公布,并對內(nèi)、外部開放。數(shù)據(jù)治理系統(tǒng):數(shù)據(jù)原則:在數(shù)據(jù)原則管理組織架構(gòu)推動和指導(dǎo)下,遵照協(xié)商一致制訂的數(shù)據(jù)原則規(guī)范,借助原則化管控流程得以實(shí)施數(shù)據(jù)原則化的整個(gè)過程。元數(shù)據(jù):采用集中式管理模式進(jìn)行元數(shù)據(jù)管理,全公司元數(shù)據(jù)邏輯集中,即元數(shù)據(jù)管理模塊作為公司元數(shù)據(jù)的統(tǒng)一公布源,集中管理元數(shù)據(jù),提供元數(shù)據(jù)集中創(chuàng)立、維護(hù)、查詢功效。數(shù)據(jù)質(zhì)量:對數(shù)據(jù)從計(jì)劃、獲取、存儲、共享、維護(hù)、應(yīng)用、消亡生命周期的每個(gè)階段里可能引發(fā)的各類數(shù)據(jù)質(zhì)量問題,進(jìn)行識別、度量、監(jiān)控、預(yù)警等一系列管理活動,并通過改善和提高組織的管理水平使得數(shù)據(jù)質(zhì)量獲得進(jìn)一步提高。數(shù)據(jù)資產(chǎn):規(guī)劃、控制、提供數(shù)據(jù)及信息資產(chǎn)的一組業(yè)務(wù)職能,涉及開發(fā)、執(zhí)行和監(jiān)督有關(guān)數(shù)據(jù)的計(jì)劃、政策、方案、項(xiàng)目、流程、辦法和程序,從而控制、保護(hù)、提高數(shù)據(jù)資產(chǎn)的價(jià)值。數(shù)據(jù)安全:通過計(jì)劃、制訂、執(zhí)行數(shù)據(jù)安全政策和安全方略方法,為公司級大數(shù)據(jù)平臺的數(shù)據(jù)和信息提供行之有效的認(rèn)證、授權(quán)、訪問和審計(jì)。數(shù)據(jù)運(yùn)維在左側(cè)目錄里缺少一種模塊:涉及數(shù)據(jù)資產(chǎn)運(yùn)維、數(shù)據(jù)質(zhì)量運(yùn)維,借鑒互聯(lián)網(wǎng)思維,通過產(chǎn)品化運(yùn)維工具來整體提高公司在左側(cè)目錄里缺少一種模塊公司級省大數(shù)據(jù)平臺:大數(shù)據(jù)基礎(chǔ)平臺,負(fù)責(zé)數(shù)據(jù)的接入、存儲、管理、應(yīng)用及有關(guān)基礎(chǔ)功效支撐。系統(tǒng)模塊流程圖STYLEREF1\s5SEQ圖\*ARABIC\s14數(shù)據(jù)治理系統(tǒng)功效各模塊關(guān)系圖 如圖54所示,數(shù)據(jù)治理系統(tǒng)各模塊之間,根據(jù)數(shù)據(jù)操作的流程產(chǎn)生互有關(guān)聯(lián),各模塊業(yè)務(wù)流程關(guān)系闡明以下:L1:數(shù)據(jù)原則管理模塊將原則定義映射到元數(shù)據(jù)信息上,實(shí)現(xiàn)數(shù)據(jù)原則的規(guī)范規(guī)定落地。L2:元數(shù)據(jù)管理模塊為數(shù)據(jù)資產(chǎn)管理模塊提供存儲模型、屬性信息查詢服務(wù)。L3:元數(shù)據(jù)管理模塊為數(shù)據(jù)質(zhì)量管理模塊提供元數(shù)據(jù)有關(guān)屬性信息。L4:顧客通過元數(shù)據(jù)定義大數(shù)據(jù)平臺的數(shù)據(jù)構(gòu)造。L5:數(shù)據(jù)質(zhì)量管理模塊根據(jù)采集需求從大數(shù)據(jù)平臺采集數(shù)據(jù)。L6:數(shù)據(jù)質(zhì)量管理模塊將數(shù)據(jù)質(zhì)量問題反饋給大數(shù)據(jù)平臺。L7:數(shù)據(jù)質(zhì)量管理模塊向資產(chǎn)模塊提交數(shù)據(jù)質(zhì)量評定成果。L8:元數(shù)據(jù)管理模塊為數(shù)據(jù)安全管理模塊提供隱私級別定義服務(wù)。L9:數(shù)據(jù)資產(chǎn)管理模塊發(fā)起資產(chǎn)訪問申請,由數(shù)據(jù)安全管理模塊控制顧客訪問權(quán)限,控制數(shù)據(jù)資產(chǎn)的增加、刪除、變更操作權(quán)限,對訪問的數(shù)據(jù)內(nèi)容、數(shù)據(jù)屬性等操作進(jìn)行管控。L10:數(shù)據(jù)安全管理模塊為大數(shù)據(jù)平臺提供數(shù)據(jù)訪問權(quán)限方略。系統(tǒng)邊界公司級省大數(shù)據(jù)平臺數(shù)據(jù)治理子系統(tǒng)與其它子系統(tǒng)之間存在數(shù)據(jù)交互、功效調(diào)用、流程穿插等關(guān)聯(lián)。數(shù)據(jù)治理子系統(tǒng)與大數(shù)據(jù)平臺系統(tǒng)內(nèi)其它子系統(tǒng)的關(guān)系示意如REFOLE_LINK13\h圖55所示:數(shù)據(jù)治理元數(shù)據(jù)管理數(shù)據(jù)治理元數(shù)據(jù)管理數(shù)據(jù)原則管理數(shù)據(jù)質(zhì)量管理數(shù)據(jù)資產(chǎn)管理數(shù)據(jù)安全管理數(shù)據(jù)服務(wù)平臺公司級省大數(shù)據(jù)平臺平臺運(yùn)維圖STYLEREF1\s5SEQ圖\*ARABIC\s15數(shù)據(jù)治理子系統(tǒng)與各子系統(tǒng)邊界圖與公司級省大數(shù)據(jù)平臺關(guān)系公司級省大數(shù)據(jù)平臺上的數(shù)據(jù)資產(chǎn)是數(shù)據(jù)治理的重要對象;數(shù)據(jù)治理為公司級省大數(shù)據(jù)平臺提供數(shù)據(jù)原則指導(dǎo)、元數(shù)據(jù)定義、數(shù)據(jù)質(zhì)量監(jiān)控、數(shù)據(jù)安全等方面的全方面支撐,使大數(shù)據(jù)平臺上的數(shù)據(jù)資產(chǎn)清晰、有序、安全、可控。與對外能力開放平臺關(guān)系數(shù)據(jù)治理為對外能力開放平臺提供元數(shù)據(jù)查詢、數(shù)據(jù)安全管理支持;對外能力開放平臺為數(shù)據(jù)治理提供統(tǒng)一的數(shù)據(jù)治理產(chǎn)品及功效注冊、公布、使用服務(wù)。與平臺運(yùn)維系統(tǒng)關(guān)系數(shù)據(jù)治理子系統(tǒng)支撐大數(shù)據(jù)平臺的數(shù)據(jù)管控流程,并與平臺運(yùn)維交互協(xié)調(diào),共同支撐大數(shù)據(jù)平臺整體的安全運(yùn)維、數(shù)據(jù)運(yùn)維和管理運(yùn)維。數(shù)據(jù)治理核心模塊數(shù)據(jù)原則管理背景中國移動公司級省大數(shù)據(jù)平臺數(shù)據(jù)原則是在經(jīng)營分析系統(tǒng)數(shù)據(jù)管控規(guī)定基礎(chǔ)之上,借鑒互聯(lián)網(wǎng)公司數(shù)據(jù)治理的經(jīng)驗(yàn)而提出的。數(shù)據(jù)原則是指在中國移動公司級省大數(shù)據(jù)平臺下,保障公司內(nèi)外部使用和交換數(shù)據(jù)的一致性和精確性,含有行業(yè)特點(diǎn)且共同使用的一種規(guī)范性約束。數(shù)據(jù)原則是公司級省大數(shù)據(jù)平臺數(shù)據(jù)治理的基礎(chǔ)性工作,是數(shù)據(jù)治理建設(shè)中的首要環(huán)節(jié)。首先,數(shù)據(jù)原則為公司級省大數(shù)據(jù)平臺提供統(tǒng)一的數(shù)據(jù)原則定義和平臺邏輯模型。另一方面,數(shù)據(jù)原則是公司級省大數(shù)據(jù)平臺進(jìn)行數(shù)據(jù)治理的根據(jù)和根本。再次,數(shù)據(jù)原則是衡量公司級省大數(shù)據(jù)平臺數(shù)據(jù)資產(chǎn)運(yùn)行和管理的評定根據(jù)。最后,中國移動通過數(shù)據(jù)原則管理的實(shí)施,實(shí)現(xiàn)對公司級省大數(shù)據(jù)平臺全網(wǎng)數(shù)據(jù)的統(tǒng)一運(yùn)行管理。公司級省大數(shù)據(jù)平臺數(shù)據(jù)治理體系中數(shù)據(jù)原則管理如圖61所示,涉及制訂數(shù)據(jù)原則的規(guī)范性文獻(xiàn)、進(jìn)行數(shù)據(jù)原則化管控及數(shù)據(jù)原則管理組織。圖STYLEREF1\s6SEQ圖\*ARABIC\s11數(shù)據(jù)原則管理內(nèi)容公司級省大數(shù)據(jù)平臺數(shù)據(jù)原則管理與原經(jīng)營分析系統(tǒng)數(shù)據(jù)管控的區(qū)別以下表61所示:表STYLEREF1\s6SEQ表\*ARABIC\s11公司級省大數(shù)據(jù)平臺數(shù)據(jù)原則管理與原經(jīng)營分析系統(tǒng)數(shù)據(jù)管控區(qū)別公司級省大數(shù)據(jù)平臺數(shù)據(jù)原則管理原經(jīng)營分析系統(tǒng)數(shù)據(jù)管控?cái)?shù)據(jù)范疇涉及公司內(nèi)外部數(shù)據(jù)運(yùn)行有關(guān)的數(shù)據(jù),包含BOM三域數(shù)據(jù)、外部數(shù)據(jù)。數(shù)據(jù)僅限于市場經(jīng)營活動的B域和部分O,M域數(shù)據(jù)。業(yè)務(wù)應(yīng)用模式以數(shù)據(jù)原則為基礎(chǔ)的數(shù)據(jù)治理體系,實(shí)現(xiàn)數(shù)據(jù)的資產(chǎn)化,貫穿整個(gè)數(shù)據(jù)運(yùn)行的全流程,形成以中國移動大數(shù)據(jù)平臺為核心的大數(shù)據(jù)生態(tài)圈,服務(wù)于公司內(nèi)外部客戶。以支撐公司內(nèi)部經(jīng)營分析為主。服務(wù)對象服務(wù)于整個(gè)大數(shù)據(jù)生態(tài)圈。原經(jīng)營分析系統(tǒng)使用人員。目的及原則 數(shù)據(jù)原則管理的總體目的:通過統(tǒng)一的數(shù)據(jù)原則制訂和公布,結(jié)合制度約束、系統(tǒng)控制等手段,實(shí)現(xiàn)中國移動公司級省大數(shù)據(jù)平臺數(shù)據(jù)的完整性、有效性、一致性、規(guī)范性、開放性和共享性管理,提高公司級省大數(shù)據(jù)平臺數(shù)據(jù)治理水平。 數(shù)據(jù)原則制訂的原則:開放性:原則制訂人人參加。共享性:數(shù)據(jù)原則化信息在大數(shù)據(jù)生態(tài)圈共享使用。完整性:涵蓋客戶、產(chǎn)品、服務(wù)、帳務(wù)、資源、網(wǎng)絡(luò)等全部重要數(shù)據(jù)信息。有效性:信息精確度高、理解上不存在歧義。一致性:做到“五統(tǒng)一”,定義統(tǒng)一、口徑統(tǒng)一、名稱統(tǒng)一、來源統(tǒng)一、參考統(tǒng)一。規(guī)范性:制度規(guī)范、流程控制、系統(tǒng)管理等。業(yè)務(wù)分類和定義數(shù)據(jù)原則體系分類數(shù)據(jù)原則制訂如REFOLE_LINK14\h圖62所示,涉及數(shù)據(jù)原則體系劃分和數(shù)據(jù)原則內(nèi)容制訂,數(shù)據(jù)原則體系可分為基礎(chǔ)類數(shù)據(jù)原則和指標(biāo)類數(shù)據(jù)原則。圖STYLEREF1\s62數(shù)據(jù)原則體系劃分?jǐn)?shù)據(jù)原則內(nèi)容制訂數(shù)據(jù)原則內(nèi)容的制訂按照數(shù)據(jù)原則體系分類的規(guī)定分別給出數(shù)據(jù)原則制訂的規(guī)范規(guī)定。1、基礎(chǔ)類數(shù)據(jù)原則基礎(chǔ)類數(shù)據(jù)原則是通過多個(gè)業(yè)務(wù)解決產(chǎn)生或各類渠道采集的基礎(chǔ)性數(shù)據(jù),在全國范疇內(nèi)必須是唯一定義的,如“顧客品牌”、“歸屬地市”?;A(chǔ)類數(shù)據(jù)原則分為行業(yè)參考模型實(shí)體原則和公共代碼原則。行業(yè)參考模型實(shí)體原則指按照行業(yè)需求和中國移動省級數(shù)據(jù)邏輯模型實(shí)體規(guī)范規(guī)定,繼承以往數(shù)據(jù)邏輯模型實(shí)體規(guī)范,將各域的邏輯模型實(shí)體定義抽象為模型實(shí)體原則規(guī)定。行業(yè)參考模型實(shí)體數(shù)據(jù)原則體系定義內(nèi)容如表62所示。表STYLEREF1\s6SEQ表\*ARABIC\s12行業(yè)參考模型實(shí)體數(shù)據(jù)原則體系定義內(nèi)容行業(yè)參考模型實(shí)體原則原則體系屬性闡明數(shù)據(jù)原則編碼根據(jù)數(shù)據(jù)原則編碼命名規(guī)則進(jìn)行編寫。原則主題數(shù)據(jù)原則歸屬主題原則子類數(shù)據(jù)原則歸屬類型中文名稱數(shù)據(jù)原則中文名稱。英文名稱數(shù)據(jù)原則英文名稱。實(shí)體編號根據(jù)行業(yè)參考模型實(shí)體編號命名規(guī)則進(jìn)行編寫。實(shí)體名稱根據(jù)行業(yè)參考模型實(shí)體名稱命名規(guī)則進(jìn)行編寫。數(shù)據(jù)版本該數(shù)據(jù)原則的版本信息。數(shù)據(jù)體系分類根據(jù)數(shù)據(jù)分類規(guī)則對數(shù)據(jù)進(jìn)行分類,以確保數(shù)據(jù)體系的易用性,以及符合顧客查找習(xí)慣。重要級別集團(tuán)規(guī)范定義的數(shù)據(jù)為一級,省公司定義的數(shù)據(jù)為二級,其它慣用的數(shù)據(jù)為三級。數(shù)據(jù)提供部門該數(shù)據(jù)原則定義數(shù)據(jù)的提供部門。數(shù)據(jù)提供部門負(fù)責(zé)人該數(shù)據(jù)原則定義數(shù)據(jù)提供負(fù)責(zé)人。數(shù)據(jù)維護(hù)部門該數(shù)據(jù)原則定義數(shù)據(jù)維護(hù)部門。數(shù)據(jù)維護(hù)部門負(fù)責(zé)人該數(shù)據(jù)原則定義數(shù)據(jù)維護(hù)負(fù)責(zé)人。業(yè)務(wù)主管部門該數(shù)據(jù)原則定義數(shù)據(jù)業(yè)務(wù)主管部門,該部門對數(shù)據(jù)口徑、編碼取值和有關(guān)專業(yè)術(shù)語有決定權(quán)。業(yè)務(wù)主管部門負(fù)責(zé)人該數(shù)據(jù)原則定義數(shù)據(jù)業(yè)務(wù)負(fù)責(zé)人。數(shù)據(jù)來源系統(tǒng)如:BOSS,CRM,ERP等重要根據(jù)有關(guān)指標(biāo)的解釋和描述文獻(xiàn)。如集團(tuán)規(guī)范、省公司規(guī)范、業(yè)務(wù)部門制訂等等。業(yè)務(wù)定義指標(biāo)的業(yè)務(wù)描述口徑,普通由業(yè)務(wù)部門使用業(yè)務(wù)語言制訂。 具體行業(yè)參考模型實(shí)體數(shù)據(jù)原則體系定義內(nèi)容示例參見《附錄二:數(shù)據(jù)原則體系定義內(nèi)容示例》。公共代碼原則,指對于某些共享程度較高、內(nèi)容相對比較穩(wěn)定的編碼,普通能夠組織力量一次性地編制出來,其中有某些需要引用外部公共原則機(jī)構(gòu)的原則,例如:世界各國和地區(qū)名稱代碼等。公共代碼原則體系定義內(nèi)容如表63所示。表STYLEREF1\s6SEQ表\*ARABIC\s13公共代碼原則體系定義內(nèi)容公共代碼原則原則體系屬性闡明數(shù)據(jù)原則編碼根據(jù)數(shù)據(jù)原則編碼命名規(guī)則進(jìn)行編寫。公共原則號引入外部公共原則號中文原則名稱數(shù)據(jù)原則中文名稱英文原則名稱數(shù)據(jù)原則英文名稱。原則狀態(tài)該原則的狀態(tài),如現(xiàn)行、停止。公共原則機(jī)構(gòu)名稱引入該公共原則的機(jī)構(gòu)名稱。數(shù)據(jù)原則體系根據(jù)數(shù)據(jù)分類規(guī)則對數(shù)據(jù)進(jìn)行分類,以確保數(shù)據(jù)體系的易用性,以及符合顧客查找習(xí)慣。重要級別集團(tuán)規(guī)范定義的數(shù)據(jù)為一級,省公司定義的數(shù)據(jù)為二級,其它慣用的數(shù)據(jù)為三級。數(shù)據(jù)原則引入部門該數(shù)據(jù)原則引入和維護(hù)部門。數(shù)據(jù)原則引入部門負(fù)責(zé)人該數(shù)據(jù)原則引入和數(shù)據(jù)維護(hù)負(fù)責(zé)人。數(shù)據(jù)上報(bào)系統(tǒng)最后對數(shù)據(jù)進(jìn)行計(jì)算和公布的系統(tǒng),也是各部門唯一獲取指標(biāo)數(shù)據(jù)的來源系統(tǒng)。具體行業(yè)參考模型實(shí)體數(shù)據(jù)原則體系定義內(nèi)容示例參見《附錄二:數(shù)據(jù)原則體系定義內(nèi)容示例》。2、指標(biāo)類數(shù)據(jù)原則指標(biāo)類數(shù)據(jù)原則是數(shù)據(jù)基礎(chǔ)上按照一定業(yè)務(wù)規(guī)則加工匯總的數(shù)據(jù),如KPI指標(biāo)數(shù)據(jù)。指標(biāo)類數(shù)據(jù)又可分為基礎(chǔ)指標(biāo)和計(jì)算指標(biāo)?;A(chǔ)指標(biāo)普通不含維度信息,且含有特定業(yè)務(wù)和經(jīng)濟(jì)含義。計(jì)算指標(biāo)普通由兩個(gè)以上基礎(chǔ)指標(biāo)計(jì)算出。指標(biāo)類數(shù)據(jù)原則體系定義內(nèi)容如表64所示。表STYLEREF1\s6SEQ表\*ARABIC\s14指標(biāo)類數(shù)據(jù)原則體系定義內(nèi)容指標(biāo)類原則闡明基礎(chǔ)屬性數(shù)據(jù)原則編碼根據(jù)數(shù)據(jù)原則編碼命名規(guī)則進(jìn)行編寫。中文名稱數(shù)據(jù)原則中文名稱。英文名稱數(shù)據(jù)原則英文名稱。應(yīng)用場景該指標(biāo)合用于什么場景。數(shù)據(jù)版本該數(shù)據(jù)原則的版本信息。數(shù)據(jù)體系分類根據(jù)數(shù)據(jù)分類規(guī)則對數(shù)據(jù)進(jìn)行分類,以確保數(shù)據(jù)體系的易用性,以及符合顧客查找習(xí)慣。重要級別集團(tuán)規(guī)范定義的數(shù)據(jù)為一級,省公司定義的數(shù)據(jù)為二級,其它慣用的數(shù)據(jù)為三級。管理屬性數(shù)據(jù)提供部門該數(shù)據(jù)原則定義數(shù)據(jù)的提供部門。數(shù)據(jù)提供部門負(fù)責(zé)人該數(shù)據(jù)原則定義數(shù)據(jù)提供負(fù)責(zé)人。數(shù)據(jù)維護(hù)部門該數(shù)據(jù)原則定義數(shù)據(jù)維護(hù)部門。數(shù)據(jù)維護(hù)部門負(fù)責(zé)人該數(shù)據(jù)原則定義數(shù)據(jù)維護(hù)負(fù)責(zé)人。業(yè)務(wù)主管部門該數(shù)據(jù)原則定義數(shù)據(jù)業(yè)務(wù)主管部門,該部門對數(shù)據(jù)口徑、編碼取值和有關(guān)專業(yè)術(shù)語有決定權(quán)。業(yè)務(wù)主管部門負(fù)責(zé)人該數(shù)據(jù)原則定義數(shù)據(jù)業(yè)務(wù)負(fù)責(zé)人。數(shù)據(jù)上報(bào)系統(tǒng)最后對數(shù)據(jù)進(jìn)行計(jì)算和公布的系統(tǒng),也是各部門唯一獲取指標(biāo)數(shù)據(jù)的來源系統(tǒng)。數(shù)據(jù)生成系統(tǒng)生成數(shù)據(jù)所需的數(shù)據(jù)所在的來源系統(tǒng),如BOSS系統(tǒng)。數(shù)據(jù)上游系統(tǒng)數(shù)據(jù)生成后上報(bào)給哪個(gè)系統(tǒng),如ERP系統(tǒng)。業(yè)務(wù)屬性重要根據(jù)有關(guān)指標(biāo)的解釋和描述文獻(xiàn)。如集團(tuán)規(guī)范、省公司規(guī)范、業(yè)務(wù)部門制訂等等。業(yè)務(wù)定義指標(biāo)的業(yè)務(wù)描述口徑,普通由業(yè)務(wù)部門使用業(yè)務(wù)語言制訂。計(jì)算流程/算法用來描述指標(biāo)具體的計(jì)算過程。指標(biāo)類型根據(jù)管理需要能夠?qū)⒅笜?biāo)分為基礎(chǔ)指標(biāo)、計(jì)算指標(biāo)兩類。計(jì)算指標(biāo)公式用于描述有關(guān)指標(biāo)間的平衡關(guān)系,可用于指標(biāo)數(shù)據(jù)審核過程中,能有效地確保指標(biāo)數(shù)據(jù)質(zhì)量。技術(shù)屬性計(jì)量單位數(shù)據(jù)使用單位如:“戶”、“分鐘”、“MB”、“元”、“次”、“%”等等。統(tǒng)計(jì)精度指標(biāo)統(tǒng)計(jì)數(shù)值精確到小數(shù)還是整數(shù)。數(shù)據(jù)值域數(shù)據(jù)的合理取值范疇。統(tǒng)計(jì)周期數(shù)據(jù)統(tǒng)計(jì)周期如“日”、“周”、“月”、“季度”、“六個(gè)月”、“年”等等。統(tǒng)計(jì)粒度數(shù)據(jù)統(tǒng)計(jì)粒度如:“顧客級”、“區(qū)縣級”、“地市級”等。統(tǒng)計(jì)維度數(shù)據(jù)統(tǒng)計(jì)維度如:“地區(qū)”、“品牌”、“在網(wǎng)時(shí)長”、“客戶等級”等。指標(biāo)出數(shù)表指標(biāo)數(shù)據(jù)來源于哪張物理表。指標(biāo)出數(shù)代碼指標(biāo)數(shù)據(jù)來源于物理表的哪個(gè)。 具體行業(yè)參考模型實(shí)體數(shù)據(jù)原則體系定義內(nèi)容示例參見《附錄二:數(shù)據(jù)原則體系定義內(nèi)容示例》。技術(shù)功效規(guī)定數(shù)據(jù)原則制訂數(shù)據(jù)原則的制訂按照本冊中數(shù)據(jù)原則管理的業(yè)務(wù)分類和定義規(guī)范指導(dǎo)規(guī)定,基于各公司級省大數(shù)據(jù)平臺的數(shù)據(jù)管控需求進(jìn)行數(shù)據(jù)原則規(guī)范的制訂。其制訂的數(shù)據(jù)原則規(guī)范內(nèi)容在全省進(jìn)行公布和告知,規(guī)定公司級省大數(shù)據(jù)平臺系統(tǒng)按照該原則規(guī)范進(jìn)行統(tǒng)一的數(shù)據(jù)管理。數(shù)據(jù)原則制訂涉及數(shù)據(jù)原則的編制、數(shù)據(jù)原則的審查、數(shù)據(jù)原則的公布。數(shù)據(jù)原則化管理組織將數(shù)據(jù)原則以正式發(fā)文的方式在全公司范疇內(nèi)進(jìn)行公布,并在公布后將數(shù)據(jù)原則、版本闡明保存?zhèn)浒?。最后將公布的?shù)據(jù)原則更新至數(shù)據(jù)原則管理模塊中,如REFOLE_LINK22\h圖63所示。圖STYLEREF1\s63改為圖6-4數(shù)據(jù)原則管理的編制、審查、公布流程圖改為圖6-4數(shù)據(jù)原則的編制、審查和公布通過數(shù)據(jù)原則管理模塊開發(fā)實(shí)現(xiàn),其流程如REFOLE_LINK15\h圖63示:1、數(shù)據(jù)原則管理組織協(xié)調(diào)者組織數(shù)據(jù)提供者和執(zhí)行者參加數(shù)據(jù)原則屬性的收集和整頓工作,并按照協(xié)商一致的原則形成數(shù)據(jù)原則初稿。2、數(shù)據(jù)原則初稿進(jìn)行多次的討論和豐富后,形成數(shù)據(jù)原則送審稿提交給數(shù)據(jù)原則管理決策者。3、通過數(shù)據(jù)原則管理決策者的討論審核后,由數(shù)據(jù)原則管理組織協(xié)調(diào)者再次進(jìn)行數(shù)據(jù)原則的修改完善,并完畢數(shù)據(jù)原則的公布。數(shù)據(jù)原則執(zhí)行數(shù)省公司和各部門、分公司統(tǒng)一按照所制訂的數(shù)據(jù)原則實(shí)施數(shù)據(jù)原則管理,數(shù)據(jù)原則的執(zhí)行流程如圖64所示。圖STYLEREF1\s6SEQ圖\*ARABIC\s14數(shù)據(jù)原則管理的執(zhí)行流程圖 數(shù)據(jù)原則執(zhí)行的流程環(huán)節(jié)以下: 1、數(shù)據(jù)原則制訂公布后,將數(shù)據(jù)原則錄入到數(shù)據(jù)原則管理模塊。2、數(shù)據(jù)原則管理執(zhí)行者按照公布的數(shù)據(jù)原則,制訂和公布數(shù)據(jù)原則接口。3、數(shù)據(jù)原則管理模塊將原則規(guī)定提供應(yīng)數(shù)據(jù)質(zhì)量管理根據(jù)已錄入系統(tǒng)的數(shù)據(jù)原則形成稽查規(guī)則,對數(shù)據(jù)原則管理執(zhí)行者制訂和公布的數(shù)據(jù)原則接口中的內(nèi)容進(jìn)行有關(guān)的原則稽核監(jiān)控。4、將原則稽核成果發(fā)送給數(shù)據(jù)原則管理模塊,并反饋給數(shù)據(jù)原則管理決策者和數(shù)據(jù)原則管理執(zhí)行者。數(shù)據(jù)原則維護(hù)數(shù)據(jù)原則的維護(hù)指數(shù)據(jù)原則建立后,根據(jù)業(yè)務(wù)需求的發(fā)展變化或外部數(shù)據(jù)原則規(guī)定不一致時(shí),對數(shù)據(jù)原則的內(nèi)容進(jìn)行變更和版本管理,如REFOLE_LINK23\h圖65所示。圖STYLEREF1\s65數(shù)據(jù)原則管理的變更流程圖 數(shù)據(jù)原則管理的變更通過數(shù)據(jù)原則管理系統(tǒng)開發(fā)實(shí)現(xiàn)落地,其流程如REFOLE_LINK16\h圖65所示: 1、對執(zhí)行的有關(guān)數(shù)據(jù)原則進(jìn)行變更請求的申請,組織該數(shù)據(jù)原則有關(guān)執(zhí)行層和各數(shù)據(jù)運(yùn)維者進(jìn)行討論和變更需求匯總。 2、由數(shù)據(jù)原則管理組織協(xié)調(diào)機(jī)構(gòu)進(jìn)行原則變更的審核。 3、討論審議數(shù)據(jù)原則項(xiàng)的變更內(nèi)容,并形成原則變更需求審批表提交給數(shù)據(jù)原則管理決策層進(jìn)行審批。 4、決策層將審批成果反饋給原則管理組織協(xié)調(diào)者,并由其進(jìn)行數(shù)據(jù)原則公布及版本維護(hù)。數(shù)據(jù)原則監(jiān)控?cái)?shù)據(jù)原則監(jiān)控實(shí)現(xiàn)對數(shù)據(jù)原則執(zhí)行過程的監(jiān)控,涉及對數(shù)據(jù)原則的執(zhí)行、效果、問題進(jìn)行監(jiān)控管理,為后期數(shù)據(jù)原則維護(hù)管理提供根據(jù)。數(shù)據(jù)原則的監(jiān)控通過數(shù)據(jù)原則管理和元數(shù)據(jù)管理、數(shù)據(jù)質(zhì)量管理協(xié)同實(shí)現(xiàn)落地,監(jiān)控流程如REFOLE_LINK17\h圖66所示:圖STYLEREF1\s66數(shù)據(jù)原則管理監(jiān)控流程圖 數(shù)據(jù)原則管理監(jiān)控流程以下:數(shù)據(jù)管理者錄入數(shù)據(jù)原則和元數(shù)據(jù)信息。根據(jù)數(shù)據(jù)原則制訂數(shù)據(jù)原則接口。根據(jù)數(shù)據(jù)原則生成的稽核規(guī)則,進(jìn)行前向稽核,稽核正常進(jìn)行下一流程,稽核非正常返回錯(cuò)誤文獻(xiàn)統(tǒng)計(jì)給數(shù)據(jù)管理者做數(shù)據(jù)原則的更新。數(shù)據(jù)提供者將數(shù)據(jù)提交到公司級大數(shù)據(jù)平臺,并且完畢對元數(shù)據(jù)的采集。對數(shù)據(jù)提供者數(shù)據(jù)進(jìn)行后向稽核,稽核正常則數(shù)據(jù)可提供數(shù)據(jù)消費(fèi)者正常使用,稽核非正常返回錯(cuò)誤信息統(tǒng)計(jì)給數(shù)據(jù)提供者做數(shù)據(jù)修訂。本期建設(shè)范疇及內(nèi)容本期數(shù)據(jù)原則管理建設(shè)范疇規(guī)定涉及公司級省大數(shù)據(jù)平臺中數(shù)據(jù)原則內(nèi)容,但不在全集團(tuán)范疇內(nèi)強(qiáng)制統(tǒng)一數(shù)據(jù)原則規(guī)范。 本期具體建設(shè)內(nèi)容涉及:1、數(shù)據(jù)原則規(guī)范內(nèi)容涵蓋:行業(yè)參考模型實(shí)體原則指標(biāo)數(shù)據(jù)原則公共代碼原則2、數(shù)據(jù)原則化管控內(nèi)容涵蓋:建立數(shù)據(jù)原則化管理組織架構(gòu)。搭建數(shù)據(jù)原則管理模塊。實(shí)現(xiàn)數(shù)據(jù)原則管理流程的功效系統(tǒng)化,并銜接元數(shù)據(jù)管理、數(shù)據(jù)質(zhì)量管理和數(shù)據(jù)資產(chǎn)管理形成數(shù)據(jù)治理的閉環(huán)運(yùn)維。提供具數(shù)據(jù)原則產(chǎn)品,如數(shù)據(jù)原則查詢APP等。實(shí)施規(guī)定數(shù)據(jù)原則管理實(shí)施規(guī)定涉及:1、數(shù)據(jù)原則統(tǒng)一規(guī)劃。按照公司級省大數(shù)據(jù)平臺的數(shù)據(jù)治理規(guī)定,結(jié)合數(shù)據(jù)原則規(guī)范指導(dǎo)內(nèi)容,構(gòu)建適應(yīng)公司級省大數(shù)據(jù)平臺的數(shù)據(jù)原則體系,并制訂數(shù)據(jù)原則實(shí)施方案。2、建立數(shù)據(jù)原則管理的支撐體系。規(guī)定涉及數(shù)據(jù)原則管理組織架構(gòu)、數(shù)據(jù)原則管理方法和制度流程,以及數(shù)據(jù)原則管理支撐工具。3、實(shí)現(xiàn)中國移動公司級省大數(shù)據(jù)平臺中數(shù)據(jù)業(yè)務(wù)口徑和技術(shù)口徑有效協(xié)同統(tǒng)一。4、支撐中國移動公司級省大數(shù)據(jù)平臺的平臺化、產(chǎn)品化和數(shù)據(jù)資產(chǎn)運(yùn)行的需求。5、支撐新增公司級省大數(shù)據(jù)平臺數(shù)據(jù)接口內(nèi)容的原則化定義。6、滿足原有數(shù)據(jù)可逐步進(jìn)行數(shù)據(jù)原則規(guī)范的遷移和統(tǒng)一。元數(shù)據(jù)管理背景元數(shù)據(jù)管理模塊是大數(shù)據(jù)平臺數(shù)據(jù)治理體系的重要構(gòu)成部分。IT研究與顧問咨詢公司Gartner公布的《十大戰(zhàn)略性技術(shù)趨勢》中對于公司戰(zhàn)略性大數(shù)據(jù)的描述以下:將多個(gè)系統(tǒng),涉及內(nèi)容管理、數(shù)據(jù)倉庫、數(shù)據(jù)集市和專門的文獻(xiàn)系統(tǒng)等與數(shù)據(jù)服務(wù)和元數(shù)據(jù)互相結(jié)合,組合為“邏輯的”公司數(shù)據(jù)倉庫。通過對這個(gè)“邏輯的數(shù)據(jù)倉庫”的有效治理,為公司后續(xù)的數(shù)據(jù)資產(chǎn)運(yùn)行、增值以及數(shù)據(jù)服務(wù)提供有效支撐。中國移動公司級省大數(shù)據(jù)平臺是這種邏輯的公司數(shù)據(jù)倉庫的一種具體落地實(shí)現(xiàn),元數(shù)據(jù)管理的建設(shè)將貫穿大數(shù)據(jù)平臺建設(shè)、使用、運(yùn)行、維護(hù)的全過程,并發(fā)揮下列作用:提供公司級數(shù)據(jù)字典,便于內(nèi)外部客戶更加好地理解公司數(shù)據(jù)概況;提供全局元數(shù)據(jù)查詢檢索,便于顧客快速定位元數(shù)據(jù);提供元數(shù)據(jù)具體描述,使顧客理解數(shù)據(jù)構(gòu)成、構(gòu)造及數(shù)據(jù)流向;提供血緣/影響分析功效,便于顧客進(jìn)行分析判斷、問題定位;提供元數(shù)據(jù)接口服務(wù),便于其它系統(tǒng)或模塊使用元數(shù)據(jù)服務(wù);提供元數(shù)據(jù)應(yīng)用,方便終端顧客使用元數(shù)據(jù);提供統(tǒng)一的基于元數(shù)據(jù)描述的API管理產(chǎn)品,集中管理平臺開放的內(nèi)外部API。大數(shù)據(jù)平臺的元數(shù)據(jù)管理方面,與傳統(tǒng)經(jīng)分相比,重要有下列不同點(diǎn):管理范疇不同:新增集群NameNode節(jié)點(diǎn)的管理元數(shù)據(jù);新增集群DataNode節(jié)點(diǎn)的業(yè)務(wù)/技術(shù)元數(shù)據(jù);新增大數(shù)據(jù)平臺內(nèi)部以及其與DW、MPP等跨工具/產(chǎn)品的復(fù)雜數(shù)據(jù)流元數(shù)據(jù)。管理制度方面:管理流程:新增跨部門、跨系統(tǒng)的多層次交互式的元數(shù)據(jù)注冊、維護(hù)、管理、使用流程,同時(shí)需要針對不同顧客提供有針對性的元數(shù)據(jù)產(chǎn)品支持。角色權(quán)限:管理上更加細(xì)致的分工,不同部門需新增對應(yīng)的元數(shù)據(jù)查詢、管理、維護(hù)角色;工具支撐方面:需支持大數(shù)據(jù)平臺新增元數(shù)據(jù)范疇地獲取、存儲與管理;需支持大數(shù)據(jù)平臺海量元數(shù)據(jù)的獲取、存儲、管理及應(yīng)用;需提供原則化定義,并支持管理集群節(jié)點(diǎn)快速獲取分節(jié)點(diǎn)的運(yùn)行元數(shù)據(jù)信息;需對大數(shù)據(jù)平臺的文獻(xiàn)、語音、圖片等非構(gòu)造化數(shù)據(jù)的標(biāo)記元數(shù)據(jù),即大數(shù)據(jù)有關(guān)的詞庫元數(shù)據(jù)進(jìn)行管理,并提供檢索查詢等應(yīng)用支持;需通過元數(shù)據(jù)對大數(shù)據(jù)平臺的新增數(shù)據(jù)進(jìn)行敏感定義及標(biāo)記;需為終端顧客提供簡樸易用的元數(shù)據(jù)產(chǎn)品,減少使用成本。元數(shù)據(jù)運(yùn)行模式本期規(guī)范規(guī)定,在提高元數(shù)據(jù)顧客使用體驗(yàn)的同時(shí),著重改善元數(shù)據(jù)管理的運(yùn)行模式,重點(diǎn)建設(shè)前向的元數(shù)據(jù)管控機(jī)制,并逐步探索集中的大數(shù)據(jù)平臺元數(shù)據(jù)管理方式。本期規(guī)范中,除元數(shù)據(jù)基礎(chǔ)功效外,對元數(shù)據(jù)管理的運(yùn)行維護(hù)提出下列規(guī)定:對于集團(tuán)統(tǒng)一原則規(guī)范的元數(shù)據(jù),嚴(yán)格按照集團(tuán)提供元數(shù)據(jù)原則落地;對于大數(shù)據(jù)平臺的集群NameNode、文獻(xiàn)目錄等部分元數(shù)據(jù),通過互通機(jī)制訂期按集團(tuán)規(guī)定格式上報(bào)。元模型原則有關(guān)元數(shù)據(jù)原則的元模型部分,將在經(jīng)分規(guī)范的核心元模型基礎(chǔ)上,根據(jù)大數(shù)據(jù)平臺新增數(shù)據(jù)構(gòu)造特點(diǎn)進(jìn)行擴(kuò)充,以滿足這部分元數(shù)據(jù)獲取、存儲、管理及應(yīng)用規(guī)定。重要涉及集群節(jié)點(diǎn)的namenode元數(shù)據(jù)及Hadoop的文獻(xiàn)/目錄元數(shù)據(jù)。本期規(guī)范需要上報(bào)的元數(shù)據(jù)信息,重要涉及集群NameNode元數(shù)據(jù),涉及集群的運(yùn)行監(jiān)控信息及文獻(xiàn)/目錄元數(shù)據(jù)。圖STYLEREF1\s67總部集群與省集群節(jié)點(diǎn)的元數(shù)據(jù)上報(bào)關(guān)系示意 REFOLE_LINK18\h圖67為集團(tuán)總控節(jié)點(diǎn)與省集群節(jié)點(diǎn)的元數(shù)據(jù)上報(bào)關(guān)系示意圖。集群節(jié)點(diǎn)定時(shí)上報(bào)其本身的NameNode階段運(yùn)行信息及數(shù)據(jù)節(jié)點(diǎn)的數(shù)據(jù)信息,供集團(tuán)理解省分節(jié)點(diǎn)運(yùn)行、存儲狀況,為后續(xù)的統(tǒng)一管控提供基礎(chǔ)支撐。集群監(jiān)控類 對于集群NameNode節(jié)點(diǎn)的運(yùn)行監(jiān)控類元數(shù)據(jù),屬于ApacheHadoop的私有定義,暫無法使用或在CWM規(guī)范基礎(chǔ)上擴(kuò)充。故直接引用ApacheHadoop的有關(guān)定義,并對其進(jìn)行適宜規(guī)范。本期對NameNode節(jié)點(diǎn)的元數(shù)據(jù)上報(bào)信息規(guī)定以下:英文名中文名類型備注ConfiguredCapacity配備容量doublePresentCapacity現(xiàn)在總?cè)萘縟oubleDFSRemaining剩余容量doubleDFSUsed已用容量doubleDFSUsed%使用率double小數(shù)點(diǎn)后4位Underreplicatedblocks待復(fù)制數(shù)據(jù)塊doubleBlockswithcorruptreplicas中斷復(fù)制數(shù)據(jù)塊doubleMissingblocks丟失數(shù)據(jù)塊doubleDatanodesavailable可用節(jié)點(diǎn)數(shù)doubleDatanodesNonavailable不可用節(jié)點(diǎn)數(shù)double需要上報(bào)的作業(yè)監(jiān)控信息以下:英文名中文名類型備注Name名稱textDescription描述textLastModified更新時(shí)間dateSteps環(huán)節(jié)doubleStatus狀態(tài)textOwner擁有人textDatanode節(jié)點(diǎn)需要上報(bào)的元數(shù)據(jù)信息以下:英文名中文名類型備注Name節(jié)點(diǎn)名稱textHostname主機(jī)名textRack所屬機(jī)架textDecommissionStatus可用狀態(tài)textConfiguredCapacity配備容量doubleDFSUsed已用容量doubleNonDFSUsed非DFS使用容量doubleDFSRemaining剩余容量doubleDFSUsed%已用容量double小數(shù)點(diǎn)后4位DFSRemaining%使用率double小數(shù)點(diǎn)后4位ConfiguredCacheCapacity配備緩存容量doubleCacheUsed緩存使用量doubleCacheRemaining緩存剩余量doubleCacheUsed%緩存使用率double小數(shù)點(diǎn)后4位CacheRemaining%緩存剩余率double小數(shù)點(diǎn)后4位Lastcontact近來檢查時(shí)間date數(shù)據(jù)節(jié)點(diǎn)類為支持大數(shù)據(jù)平臺下文獻(xiàn)、目錄、Hbase、Hive有關(guān)元數(shù)據(jù)的集中存儲,本期規(guī)范將CWM核心元模型的Table、Column、View類進(jìn)行擴(kuò)展,同時(shí)新增模型包,里邊包含目錄(Directory)和文獻(xiàn)(File)兩個(gè)實(shí)體及有關(guān)屬性。有關(guān)經(jīng)分系統(tǒng)核心元模型及參考表,元模型原則CWM的有關(guān)定義,請參考《中國移動省級NG2-BASS(v5.0)技術(shù)規(guī)范核心元模型規(guī)范》中的有關(guān)章節(jié)描述。修訂內(nèi)容以下:1、需要修改的元模型涉及:Table類增加下列屬性:location:String闡明:存儲大數(shù)據(jù)平臺上該表對應(yīng)的HDFS文獻(xiàn)目錄信息。createTime:String闡明:該表的創(chuàng)立時(shí)間。creator:String闡明:該表的創(chuàng)立人。Column類增加下列屬性:partitionColumnId:String闡明:Hive表對應(yīng)的分區(qū)字段編號。View類增加下列屬性:createTime:String闡明:該視圖的創(chuàng)立時(shí)間。creator:String闡明:該視圖的創(chuàng)立人。2、需要增加的元模型涉及:ColumnFamily類有以下屬性:name:String闡明:Hbase對應(yīng)的列簇名稱。File類有以下屬性:name:String闡明:文獻(xiàn)名稱。path:String闡明:文獻(xiàn)途徑信息。compressorType:String闡明:壓縮類型。size:String闡明:文獻(xiàn)大小。type:String闡明:文獻(xiàn)類型。permission:String闡明:權(quán)限。owner:String闡明:全部者。group:String闡明:所屬顧客組。Directory類有以下屬性:name:String闡明:目錄名稱。path:String闡明:途徑信息。permission:String闡明:權(quán)限。owner:String闡明:全部者。group:String闡明:所屬顧客組。3、需要增加的元模型關(guān)系涉及:添加TableToDirectory關(guān)系;添加ColumnFamilyToDirecitry關(guān)系。元數(shù)據(jù)運(yùn)維在前期元數(shù)據(jù)運(yùn)行維護(hù)規(guī)定的基礎(chǔ)上,滿足本期大數(shù)據(jù)平臺的數(shù)據(jù)治理規(guī)定,對元數(shù)據(jù)的維護(hù)提出下列補(bǔ)充規(guī)定:強(qiáng)化元數(shù)據(jù)管理制度規(guī)定,每個(gè)元數(shù)據(jù)均需將所屬部門、負(fù)責(zé)人信息補(bǔ)充完整;為加強(qiáng)數(shù)據(jù)安全及隱私保護(hù),每個(gè)元數(shù)據(jù)需提供對應(yīng)的數(shù)據(jù)隱私級別信息;細(xì)化元數(shù)據(jù)分類,在前期技術(shù)、業(yè)務(wù)、管理大分類的基礎(chǔ)上,增加從系統(tǒng)所屬部門、系統(tǒng)及模塊角度標(biāo)記每個(gè)元數(shù)據(jù);嚴(yán)控元數(shù)據(jù)版本,對于每次變更需具體統(tǒng)計(jì)變更因素、時(shí)間、人員等核心信息;細(xì)化元數(shù)據(jù)權(quán)限,對于不同的部門、人員、角色,僅授予工作所需的最小權(quán)限,對于權(quán)限變化要嚴(yán)格審批。本期重點(diǎn)建設(shè)內(nèi)容基于大數(shù)據(jù)平臺“邏輯集中、物理分散”的最后目的原則,元數(shù)據(jù)管理的建設(shè)也將按此目的分步實(shí)現(xiàn)。在本期規(guī)范中,強(qiáng)調(diào)元數(shù)據(jù)的運(yùn)維管理及產(chǎn)品化支撐,元數(shù)據(jù)產(chǎn)品要簡樸易用、顧客體驗(yàn)不停提高。重要建設(shè)下列內(nèi)容:元數(shù)據(jù)之家產(chǎn)品?;诖髷?shù)據(jù)平臺數(shù)據(jù)治理及改善顧客體驗(yàn)規(guī)定,建設(shè)一種方便內(nèi)外部顧客使用的元數(shù)據(jù)產(chǎn)品。重要涉及下列模塊:集中分類呈現(xiàn);多樣化檢索;詳情多樣化展示;收藏與評價(jià);統(tǒng)計(jì)分析;知識庫;權(quán)限審批。元數(shù)據(jù)應(yīng)用產(chǎn)品:查詢類APP,面對業(yè)務(wù)人員及大數(shù)據(jù)平臺分析人員。輔助開發(fā)產(chǎn)品:團(tuán)結(jié)幫API管理產(chǎn)品,對OpenAPI進(jìn)行元數(shù)據(jù)構(gòu)造化描述,用于對大數(shù)據(jù)平臺開放API進(jìn)行注冊、公布、訂閱及使用管理。數(shù)據(jù)質(zhì)量管理與傳統(tǒng)經(jīng)營分析系統(tǒng)的區(qū)別數(shù)據(jù)質(zhì)量為數(shù)據(jù)的“合用性(fitnessforuse)”,即數(shù)據(jù)滿足使用需要的適宜程度。數(shù)據(jù)質(zhì)量通過完整性、一致性、精確性、及時(shí)性、正當(dāng)性等多類維度對數(shù)據(jù)進(jìn)行度量。在大數(shù)據(jù)平臺上,數(shù)據(jù)質(zhì)量為其提供干凈、構(gòu)造清晰的數(shù)據(jù),是大數(shù)據(jù)平臺開發(fā)數(shù)據(jù)產(chǎn)品、提供數(shù)據(jù)服務(wù)、發(fā)揮大數(shù)據(jù)價(jià)值的必要前提,是公司數(shù)據(jù)資產(chǎn)管理的核心因素。大數(shù)據(jù)平臺數(shù)據(jù)質(zhì)量和傳統(tǒng)經(jīng)營分析系統(tǒng)的區(qū)別如表65所示。表STYLEREF1\s6SEQ表\*ARABIC\s15大數(shù)據(jù)平臺數(shù)據(jù)質(zhì)量和傳統(tǒng)經(jīng)營分析系統(tǒng)的區(qū)別大數(shù)據(jù)平臺數(shù)據(jù)質(zhì)量經(jīng)營分析系統(tǒng)數(shù)據(jù)質(zhì)量監(jiān)控?cái)?shù)據(jù)的類型能夠?qū)Ψ?半構(gòu)造化數(shù)據(jù)中指定信息項(xiàng)進(jìn)行監(jiān)控,例如Gn日志中的終端信息等僅監(jiān)控構(gòu)造化數(shù)據(jù)數(shù)據(jù)倉庫的類型支持傳統(tǒng)數(shù)據(jù)倉庫、MPP和Hadoop。僅支持傳統(tǒng)數(shù)據(jù)倉庫。使用者數(shù)據(jù)資產(chǎn)的全部者及其授權(quán)顧客、數(shù)據(jù)應(yīng)用開發(fā)者、租戶等將成為大數(shù)據(jù)平臺數(shù)據(jù)質(zhì)量管理模塊的重要使用者,負(fù)責(zé)監(jiān)控規(guī)則的設(shè)立和監(jiān)控成果的解決。經(jīng)分運(yùn)維人員和數(shù)據(jù)質(zhì)量管理員為重要使用者,負(fù)責(zé)將業(yè)務(wù)人員的需求在數(shù)據(jù)質(zhì)量模塊上實(shí)現(xiàn)。運(yùn)維工作運(yùn)維人員重要負(fù)責(zé)保障數(shù)據(jù)質(zhì)量功效模塊的正常運(yùn)行和規(guī)則庫的擴(kuò)充,規(guī)則配備、執(zhí)行和成果解決等實(shí)際工作由顧客自行負(fù)責(zé)。數(shù)據(jù)質(zhì)量運(yùn)維人員的工作范疇涵蓋數(shù)據(jù)質(zhì)量監(jiān)控的全流程,涉及采集、規(guī)則配備、告警、成果查看和解決。監(jiān)控模式由事后監(jiān)控向事中、事后監(jiān)控相結(jié)合轉(zhuǎn)化,顧客/應(yīng)用設(shè)立數(shù)據(jù)質(zhì)量監(jiān)控規(guī)則后,能夠在計(jì)算執(zhí)行過程中調(diào)用數(shù)據(jù)質(zhì)量監(jiān)控作業(yè),無需等待成果出來后再進(jìn)行監(jiān)控。顧客僅能在成果出來后才干進(jìn)行監(jiān)控。質(zhì)量保障數(shù)據(jù)質(zhì)量功效模塊是大數(shù)據(jù)平臺接受源數(shù)據(jù)的屏障,保障全部接受的源數(shù)據(jù)均符合大數(shù)據(jù)平臺的規(guī)定;數(shù)據(jù)質(zhì)量還是大數(shù)據(jù)平臺數(shù)據(jù)資產(chǎn)評定的重要構(gòu)成部分,定時(shí)運(yùn)行平臺數(shù)據(jù)資產(chǎn)的有關(guān)質(zhì)量規(guī)則,為數(shù)據(jù)資產(chǎn)評定提供輸入。未明確規(guī)定數(shù)據(jù)質(zhì)量為其它功效模塊提供服務(wù)。范疇和原則大數(shù)據(jù)平臺數(shù)據(jù)質(zhì)量的管理范疇,涵蓋從源數(shù)據(jù)接入大數(shù)據(jù)平臺到應(yīng)用輸出的全過程。大數(shù)據(jù)平臺數(shù)據(jù)質(zhì)量管理的原則涉及:以顧客需求為中心:數(shù)據(jù)質(zhì)量模塊旨在為大數(shù)據(jù)平臺全部顧客提供服務(wù),平臺功效的增加和增強(qiáng)始終圍繞著顧客的實(shí)際使用需求;界面設(shè)計(jì)需要充足考慮不同類型顧客的需求,既要滿足業(yè)務(wù)顧客簡樸易懂的需要,也要允許技術(shù)顧客實(shí)現(xiàn)個(gè)性化的監(jiān)控需求。全員參加:大數(shù)據(jù)平臺的顧客涉及數(shù)據(jù)提供者、數(shù)據(jù)開發(fā)者、數(shù)據(jù)管理者、數(shù)據(jù)消費(fèi)者,均要參加平臺的數(shù)據(jù)質(zhì)量管理;過程控制:數(shù)據(jù)質(zhì)量監(jiān)控不僅是在成果輸出后,還涉及對計(jì)算過程中質(zhì)量監(jiān)控,一旦發(fā)現(xiàn)問題,能夠及時(shí)終止進(jìn)程;持續(xù)改善:數(shù)據(jù)質(zhì)量的提高是一種持續(xù)的過程,需要定時(shí)對發(fā)現(xiàn)的問題進(jìn)行評定,提出改善意見;也涉及數(shù)據(jù)質(zhì)量模塊本身功效的提高和規(guī)則庫的完善。與其它功效模塊的關(guān)系與元數(shù)據(jù)模塊的關(guān)系數(shù)據(jù)質(zhì)量模塊將與元數(shù)據(jù)模塊通過接口互通,根據(jù)需求獲取有關(guān)元數(shù)據(jù)信息。顧客檢索監(jiān)控對象時(shí),能夠檢索監(jiān)控對象的名稱、闡明或者其它元數(shù)據(jù)的屬性信息,數(shù)據(jù)質(zhì)量模塊通過接口將檢索條件傳輸?shù)皆獢?shù)據(jù)模塊,元數(shù)據(jù)模塊將檢索成果反饋給數(shù)據(jù)質(zhì)量模塊,如REFOLE_LINK19\h圖68所示。圖STYLEREF1\s68數(shù)據(jù)質(zhì)量模塊與元數(shù)據(jù)模塊交互流程顧客對監(jiān)控對象配備監(jiān)控規(guī)則,數(shù)據(jù)質(zhì)量功效模塊由元數(shù)據(jù)管理模塊自動獲取該監(jiān)控對象的物理地址,按照顧客需求自動生成采集規(guī)則。顧客如果需要在監(jiān)控對象血統(tǒng)的有關(guān)節(jié)點(diǎn)上配備監(jiān)控規(guī)則,則能夠跳轉(zhuǎn)到元數(shù)據(jù)平臺上查看監(jiān)控對象的血統(tǒng)圖,找到對應(yīng)節(jié)點(diǎn)的名稱,然后按照監(jiān)控對象的配備方式進(jìn)行配備。與數(shù)據(jù)資產(chǎn)模塊的關(guān)系源數(shù)據(jù)接入大數(shù)據(jù)平臺,需要進(jìn)行接受稽核,滿足稽核規(guī)則的源數(shù)據(jù)才干接入大數(shù)據(jù)平臺。源數(shù)據(jù)初次申請進(jìn)入大數(shù)據(jù)平臺時(shí),即需要配備其稽核規(guī)則,此后該源數(shù)據(jù)每次提交數(shù)據(jù)到大數(shù)據(jù)平臺,均需要按照設(shè)定的規(guī)則進(jìn)行稽核,并將稽核成果反饋給數(shù)據(jù)資產(chǎn)模塊,如REFOLE_LINK20\h圖69所示。圖STYLEREF1\s69數(shù)據(jù)質(zhì)量模塊與數(shù)據(jù)資產(chǎn)模塊交互流程(資產(chǎn)接受)數(shù)據(jù)質(zhì)量模塊對大數(shù)據(jù)平臺上全部資產(chǎn)進(jìn)行定時(shí)的監(jiān)控,并將監(jiān)控成果反饋給數(shù)據(jù)資產(chǎn)模塊,為數(shù)據(jù)資產(chǎn)評定提供支持,如REFOLE_LINK24\h圖610所示。圖STYLEREF1\s610數(shù)據(jù)質(zhì)量模塊與數(shù)據(jù)資產(chǎn)模塊交互流程(資產(chǎn)評定)本期數(shù)據(jù)質(zhì)量功效需求本期數(shù)據(jù)質(zhì)量模塊的目的是為內(nèi)、外部顧客提供平臺化的數(shù)據(jù)質(zhì)量監(jiān)控;通過擴(kuò)充和優(yōu)化公共規(guī)則庫、增強(qiáng)后臺對不同類型數(shù)據(jù)倉庫和非構(gòu)造化數(shù)據(jù)的兼容性,提高顧客使用感受;并提供數(shù)據(jù)質(zhì)量應(yīng)用滿足個(gè)性化需求。平臺化數(shù)據(jù)質(zhì)量監(jiān)控為外部顧客提供數(shù)據(jù)質(zhì)量監(jiān)控界面,顧客能夠在界面上完畢監(jiān)控對象選擇、規(guī)則配備、告警及成果查看、問題解決等數(shù)據(jù)質(zhì)量全流程監(jiān)控。監(jiān)控對象選擇靈活,能夠通過多個(gè)檢索條件進(jìn)行檢索;規(guī)則配備界面和諧,顧客通過選擇規(guī)則模板直接進(jìn)行配備;后臺自行適配多個(gè)數(shù)據(jù)倉庫,根據(jù)監(jiān)控對象的不同,自動生成適配的作業(yè);設(shè)立好的監(jiān)控規(guī)則作為單獨(dú)的作業(yè),顧客能夠在計(jì)算執(zhí)行過程中或計(jì)算完畢后進(jìn)行調(diào)用。對內(nèi)質(zhì)量服務(wù)為大數(shù)據(jù)平臺內(nèi)部提供數(shù)據(jù)質(zhì)量支撐,涉及兩方面:資產(chǎn)接受稽核:獲取接入源數(shù)據(jù)的元數(shù)據(jù)和數(shù)據(jù)原則信息,配備對應(yīng)的監(jiān)控規(guī)則,不滿足稽核規(guī)則的源數(shù)據(jù)則告知數(shù)據(jù)資產(chǎn)模塊,不予接受;數(shù)據(jù)資產(chǎn)評定支撐:對大數(shù)據(jù)平臺中的數(shù)據(jù)資產(chǎn)進(jìn)行定時(shí)的監(jiān)控,將監(jiān)控成果輸入到數(shù)據(jù)資產(chǎn)模塊,作為數(shù)據(jù)資產(chǎn)評定的一部分。規(guī)則庫數(shù)據(jù)質(zhì)量功效模塊將《中國移動公司大數(shù)據(jù)平臺規(guī)范數(shù)據(jù)原則分冊》及本分冊中數(shù)據(jù)原則、數(shù)據(jù)安全等有關(guān)規(guī)定轉(zhuǎn)化為對應(yīng)質(zhì)量監(jiān)控規(guī)則,內(nèi)置于規(guī)則庫中,并將其它慣用數(shù)據(jù)質(zhì)量監(jiān)控規(guī)則也納入規(guī)則庫中。規(guī)則庫按照使用場景劃分為不同等級,如文獻(xiàn)級、字段級、數(shù)據(jù)級等,便于顧客選擇。數(shù)據(jù)質(zhì)量功效模塊可覺得已經(jīng)擬定的場景,設(shè)定規(guī)則包,例如數(shù)據(jù)資產(chǎn)評定,顧客能夠直接使用,無需任何配備,也允許顧客根據(jù)實(shí)際狀況對規(guī)則包中的內(nèi)容進(jìn)行修改。后臺支撐數(shù)據(jù)質(zhì)量功效模塊需要為數(shù)據(jù)原則、元數(shù)據(jù)、數(shù)據(jù)資產(chǎn)、告警告知等提供接口。數(shù)據(jù)質(zhì)量功效模塊后臺需要自動適配不同類型數(shù)據(jù)倉庫,確保采集和規(guī)則配備的兼容性。數(shù)據(jù)質(zhì)量功效模塊對規(guī)則和成果的存儲需要滿足大數(shù)據(jù)平臺的需求。數(shù)據(jù)質(zhì)量應(yīng)用數(shù)據(jù)質(zhì)量功效模塊為一線人員提供數(shù)據(jù)質(zhì)量應(yīng)用,涉及:績效監(jiān)控:顧客能夠在該應(yīng)用上設(shè)立規(guī)則、查看成果以及進(jìn)行成果的進(jìn)一步剖析;體檢中心:通過運(yùn)行該應(yīng)用,對公司的數(shù)據(jù)質(zhì)量進(jìn)行了一次全方面的體檢,并即時(shí)輸出體檢報(bào)告,讓公司時(shí)刻理解本身數(shù)據(jù)系統(tǒng)的健康狀況。本期數(shù)據(jù)質(zhì)量運(yùn)維規(guī)定本期數(shù)據(jù)質(zhì)量運(yùn)維著重體現(xiàn)“平臺化”、“全員參加”的理念,通過平臺化數(shù)據(jù)質(zhì)量監(jiān)控和規(guī)則庫的配合,讓大數(shù)據(jù)平臺的全部顧客能夠?qū)ψ约禾峁┗蛳M(fèi)的數(shù)據(jù)進(jìn)行數(shù)據(jù)質(zhì)量管理,能夠在數(shù)據(jù)質(zhì)量模塊上方便自如的配備需要的監(jiān)控規(guī)則、查看成果并進(jìn)行后續(xù)解決。數(shù)據(jù)資產(chǎn)管理數(shù)據(jù)資產(chǎn)概述背景數(shù)據(jù)資產(chǎn)化將以資產(chǎn)的角度開展數(shù)據(jù)管理工作變?yōu)榭赡?,將有助于多角度、全方位開展數(shù)據(jù)的管理,明確數(shù)據(jù)安全級別,貫徹資產(chǎn)責(zé)任管理,是實(shí)現(xiàn)數(shù)據(jù)變現(xiàn)的必要前提。數(shù)據(jù)資產(chǎn)化包含了數(shù)據(jù)資產(chǎn)梳理盤點(diǎn)和數(shù)據(jù)價(jià)值評定的過程。數(shù)據(jù)資產(chǎn)是指公司及組織擁有或控制,能給公司及組織帶來將來經(jīng)濟(jì)利益的數(shù)據(jù)資源。數(shù)據(jù)有可能成為資產(chǎn),但不是全部數(shù)據(jù)都能含有資產(chǎn)的屬性。數(shù)據(jù)資產(chǎn)包含著以下幾個(gè)要素:1)被公司擁有和控制;2)能夠用貨幣來計(jì)量;3)能為公司帶來經(jīng)濟(jì)利益。數(shù)據(jù)的價(jià)值根據(jù)其有關(guān)性的不同而各不相似,而數(shù)據(jù)有關(guān)性又因數(shù)據(jù)使用者而異。對某個(gè)人群沒有價(jià)值的數(shù)據(jù),可能對另外一種人群相稱有用;在某個(gè)時(shí)間段內(nèi)沒有價(jià)值的數(shù)據(jù),可能在另一種時(shí)間段內(nèi)相稱有用。例如:顧客十年前的入網(wǎng)信息,在幾年前是沒有什么價(jià)值,但隨著“十年移動”等營銷活動開展,這類信息又非常有價(jià)值。系統(tǒng)框架圖STYLEREF1\s611數(shù)據(jù)資產(chǎn)架構(gòu)圖如REFOLE_LINK25\h圖611所示,數(shù)據(jù)資產(chǎn)管理系統(tǒng)涉及六個(gè)部分:注冊管理:支持多個(gè)方式(采集器、在線維護(hù)、提供自助注冊接口)注冊數(shù)據(jù)資產(chǎn),并提供審核及版本控制等功效;變更管理:支持已注冊數(shù)據(jù)資產(chǎn)信息的變更、審核和更新功效;審計(jì)管理:支持對數(shù)據(jù)資產(chǎn)的盤點(diǎn),以及對數(shù)據(jù)資產(chǎn)訪問統(tǒng)計(jì)的審計(jì);資產(chǎn)統(tǒng)計(jì)分析:支持?jǐn)?shù)據(jù)資產(chǎn)的評定,涉及數(shù)據(jù)質(zhì)量、訪問狀況等信息的采集,根據(jù)這些信息對數(shù)據(jù)資產(chǎn)進(jìn)行綜合評定打分;權(quán)限管理:對接數(shù)據(jù)安全管理模塊,除了同時(shí)數(shù)據(jù)安全管理模塊中顧客賬戶信息及權(quán)限外,還會將顧客對數(shù)據(jù)資產(chǎn)訪問的申請信息發(fā)送給數(shù)據(jù)安全管理模塊進(jìn)行解決;接口管理:與元數(shù)據(jù)管理模塊、數(shù)據(jù)質(zhì)量管理模塊、數(shù)據(jù)安全管理模塊對接,收集有關(guān)模塊的基礎(chǔ)數(shù)據(jù),用于完畢數(shù)據(jù)資產(chǎn)的注冊、稽核及安全管理等工作數(shù)據(jù)資產(chǎn)化后,將解決現(xiàn)在普遍存在的需求分散重復(fù)、口徑含糊等問題,實(shí)現(xiàn)成果和經(jīng)驗(yàn)的共享和積累,方便實(shí)現(xiàn)應(yīng)用和數(shù)據(jù)的生命周期的自動化管理。明確的數(shù)據(jù)資產(chǎn)信息,將有效支撐公司內(nèi)部知識系統(tǒng)和資源管理的建設(shè),為業(yè)務(wù)人員能更快捷、有序、便利地提供資產(chǎn)使用的方式和途徑,支撐數(shù)據(jù)分析、開發(fā)、運(yùn)維的自治。數(shù)據(jù)資產(chǎn)范疇數(shù)據(jù)資產(chǎn)的范疇和形式應(yīng)包含公司擁有的各類數(shù)據(jù),如表、視圖、接口、程序等。同時(shí),隨著大數(shù)據(jù)的發(fā)展,還應(yīng)納入多個(gè)非/半構(gòu)造化的數(shù)據(jù)形式,如日志、網(wǎng)頁、圖片、音視頻等。數(shù)據(jù)資產(chǎn)標(biāo)記是一種有業(yè)務(wù)含義、分段式、全局唯一的字符串,用來辨別識別數(shù)據(jù)資產(chǎn)的標(biāo)簽。資產(chǎn)標(biāo)記包含有資產(chǎn)所屬業(yè)務(wù)域、資產(chǎn)類型、提供者等信息。資產(chǎn)標(biāo)記規(guī)范為五段式構(gòu)造,每段以點(diǎn)分隔。具體格式如REFOLE_LINK26\h圖612所示:圖STYLEREF1\s612數(shù)據(jù)資產(chǎn)標(biāo)記規(guī)范{根前綴}:指數(shù)據(jù)資產(chǎn)全局前綴,以常量表達(dá)。其值為com.cmcc.xxx{業(yè)務(wù)域}:指數(shù)據(jù)資產(chǎn)所歸屬的業(yè)務(wù)系統(tǒng)類別域。其值為BSS,OSS,MSS等{資產(chǎn)類型}:指數(shù)據(jù)資產(chǎn)模型類別。其值為表、文獻(xiàn)、圖片、音頻等{提供者/租戶}:指數(shù)據(jù)資產(chǎn)的生產(chǎn)者,或者是數(shù)據(jù)資產(chǎn)的全部者。其值普通是生產(chǎn)者或者全部者的標(biāo)記。其值為MKT(市場)、GRP(集團(tuán))、BASS(經(jīng)分)等{資產(chǎn)名稱}:指數(shù)據(jù)資產(chǎn)的簡短命名。其值普通是資產(chǎn)對象的名稱或編碼。數(shù)據(jù)資產(chǎn)標(biāo)記示例:table.YWB.application_log二維碼如REFOLE_LINK33\h圖613所示。圖STYLEREF1\s613數(shù)據(jù)資產(chǎn)標(biāo)記二維碼與其它功效模塊的關(guān)系數(shù)據(jù)資產(chǎn)管理模塊將與元數(shù)據(jù)、數(shù)據(jù)質(zhì)量、數(shù)據(jù)安全模塊通過接口互通,根據(jù)需求獲取元數(shù)據(jù),數(shù)據(jù)稽核和交互賬號權(quán)限等信息。在資產(chǎn)注冊、變更時(shí),需要從元數(shù)據(jù)模塊獲取表、字段、口徑、程序等元數(shù)據(jù)信息,用于數(shù)據(jù)資產(chǎn)信息的登記和更新。在資產(chǎn)運(yùn)維時(shí),需要從數(shù)據(jù)質(zhì)量模塊獲取數(shù)據(jù)質(zhì)量監(jiān)控、稽核的成果,用于資產(chǎn)評定。同時(shí),消費(fèi)者申請?jiān)L問數(shù)據(jù)資產(chǎn),需要從數(shù)據(jù)安全模塊中獲取賬號信息,有關(guān)數(shù)據(jù)訪問申請也需要發(fā)送給數(shù)據(jù)安全模塊進(jìn)行解決。本期數(shù)據(jù)資產(chǎn)功效需求管理過程數(shù)據(jù)資產(chǎn)管理過程是一種資產(chǎn)全生命周期的管理過程,資產(chǎn)全生命周期管理以數(shù)據(jù)資產(chǎn)作為管理對象,以資產(chǎn)戰(zhàn)略和資產(chǎn)方略為導(dǎo)向,從系統(tǒng)整體目的出發(fā),統(tǒng)籌考慮資產(chǎn)的規(guī)劃、投資、設(shè)計(jì)、建設(shè)、運(yùn)行、維護(hù)、稽核、變更、注銷的全過程,在滿足安全、效能的前提下有效管理與監(jiān)控?cái)?shù)據(jù)資產(chǎn)的生產(chǎn)和使用狀況,不停優(yōu)化數(shù)據(jù)資產(chǎn)質(zhì)量,實(shí)現(xiàn)數(shù)據(jù)資產(chǎn)的業(yè)務(wù)價(jià)值。其管理過程如REFOLE_LIN
溫馨提示
- 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
- 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
- 5. 人人文庫網(wǎng)僅提供信息存儲空間,僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對任何下載內(nèi)容負(fù)責(zé)。
- 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請與我們聯(lián)系,我們立即糾正。
- 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。
最新文檔
- 專業(yè)電腦交易協(xié)議格式(2024年)版A版
- 2025年度跨境電商平臺產(chǎn)品區(qū)域代理合同協(xié)議書4篇
- 科技前沿:資金驅(qū)動創(chuàng)新
- 2025年度倉儲物流場地租賃保證金三方服務(wù)協(xié)議4篇
- 2025年度柴油運(yùn)輸合同書(智能化物流服務(wù))4篇
- 2025年度綠色環(huán)保型鏟車租賃合作協(xié)議4篇
- 2025年智能餐飲連鎖店合作協(xié)議范本3篇
- 2025年度特色面館連鎖品牌加盟管理規(guī)范合同范本3篇
- 2025年度商業(yè)地產(chǎn)項(xiàng)目場地合作運(yùn)營協(xié)議4篇
- 專業(yè)電線電纜供應(yīng)協(xié)議模板2024版
- 【公開課】同一直線上二力的合成+課件+2024-2025學(xué)年+人教版(2024)初中物理八年級下冊+
- 高職組全國職業(yè)院校技能大賽(嬰幼兒照護(hù)賽項(xiàng))備賽試題庫(含答案)
- 2024年公安部直屬事業(yè)單位招聘筆試參考題庫附帶答案詳解
- NB-T 47013.15-2021 承壓設(shè)備無損檢測 第15部分:相控陣超聲檢測
- 裝飾工程施工技術(shù)ppt課件(完整版)
- SJG 05-2020 基坑支護(hù)技術(shù)標(biāo)準(zhǔn)-高清現(xiàn)行
- 汽車維修價(jià)格表
- 10KV供配電工程施工組織設(shè)計(jì)
- 終端攔截攻略
- 藥物外滲處理及預(yù)防【病房護(hù)士安全警示教育培訓(xùn)課件】--ppt課件
評論
0/150
提交評論