集團主大數(shù)據(jù)管理系統(tǒng)平臺解決方案設計

1、標準文檔集團主數(shù)據(jù)管理解決方案1. 基本概念主數(shù)據(jù)：是用來描述企業(yè)核心業(yè)務實體的數(shù)據(jù)，例如客戶、供應商、物 料、產(chǎn)品、員工、組織等。主數(shù)據(jù)是具有高業(yè)務價值的，應在企業(yè)內(nèi)跨 越各個業(yè)務部門被重復使用的數(shù)據(jù)， 并且存在于多個異構的應用系統(tǒng)中。 主數(shù)據(jù)管理：包含一整套用于生成和維護主數(shù)據(jù)的規(guī)范、技術，完整的 平臺包括元數(shù)據(jù)管理，信息系統(tǒng)集成、ETL技術、數(shù)據(jù)倉庫/分析、ESB等組件和技術。ESB（企業(yè)服務總線）：將不同系統(tǒng)的業(yè)務抽象成事件或服務，以基 于消息內(nèi)容的形式，通過協(xié)議轉換、消息過濾、事件路由，對多個 系統(tǒng)不同的事件進行整合。2. 需求概述為滿足集團業(yè)務發(fā)展，提高集團信息化管理水平，為核心業(yè)

2、務系統(tǒng)搭建基礎 的主數(shù)據(jù)管理平臺，有效解決異構系統(tǒng)間的主數(shù)據(jù)唯一性、一致性和共享性 問題。3. 現(xiàn)狀描述現(xiàn)目前公司的核心業(yè)務主數(shù)據(jù)存儲于多套不同的業(yè)務系統(tǒng)中，包括 AJX、HR、金蝶財務等等，導致的問題主要有以下幾個方面：1）沒有規(guī)范的管理要求：導致不同系統(tǒng)使用時達不到管理要求，甚至重復 管理同一數(shù)據(jù)（組織，客戶、人員等） ；2）沒有標準的規(guī)則定義：主數(shù)據(jù)到了不同的系統(tǒng)可能就變了名字或編碼， 直接導致不同業(yè)務系統(tǒng)的數(shù)據(jù)無法共享；3）沒有統(tǒng)一的共享平臺：系統(tǒng)與系統(tǒng)間建立點對點的連接，當系統(tǒng)增多的 時候，這樣的關系結構會更加混亂，如下圖：*實線表示已實現(xiàn)自動同步，虛線表示人工添加、導入。以上3點，

3、直接影響新建信息系統(tǒng)時，沒有統(tǒng)一的接口標準可以調用主數(shù)據(jù)， 而新系統(tǒng)要么手工維護多個系統(tǒng)相同的數(shù)據(jù)， 要么單獨為每套系統(tǒng)開發(fā)接口 去適配。4. 解決方案4.1. 實現(xiàn)思路基于現(xiàn)狀分析，可通過搭建主數(shù)據(jù)倉庫，利用ESB平臺建立各業(yè)務系統(tǒng)間的連接，實現(xiàn)主數(shù)據(jù)的CRU管理。主數(shù)據(jù)倉庫報表服 務器H R分公司AJXAJXCTTZ 分公司AJXESB（協(xié)議轉換、消息處理、服務注冊）分公司AJX實用文案主數(shù)據(jù)倉庫：主要涉及以下幾方面作用1）匯總、存儲分公司AJX主數(shù)據(jù)；2）建立分公司AJX主數(shù)據(jù)的對應關系；3）建立系統(tǒng)間主數(shù)據(jù)的對應關系；倉庫中存儲的主數(shù)據(jù)并不涉及其它業(yè)務系統(tǒng)的主數(shù)據(jù)，此處僅匯總分公司 A

4、JX系統(tǒng)的主數(shù)據(jù)，并建立與其它業(yè)務系統(tǒng)的主數(shù)據(jù)對應關系。ESB平臺：負責主數(shù)據(jù)倉庫的 CRUD隹護；創(chuàng)建接入系統(tǒng)的資源公共接口 （WebService、REST數(shù)據(jù)庫等），供系統(tǒng)之間的資源調用；確保主數(shù)據(jù)在各系 統(tǒng)間的唯一性。4.1.1. 主數(shù)據(jù)評估從數(shù)據(jù)的關鍵性、共享程度、應用范圍等方面，建立主數(shù)據(jù)的特性評估流 程。凡符合主數(shù)據(jù)特性的業(yè)務對象，均納入主數(shù)據(jù)倉庫管理。4.1.2. 初始數(shù)據(jù)導入根據(jù)定義好的主數(shù)據(jù)對象和特征字段（可識別的關鍵字段，其中來源公司、 來源系統(tǒng)為必須字段），使用ETL從各分公司AJX業(yè)務系統(tǒng)中抽取，并以 不同的業(yè)務對象分類存儲。由于以往各分公司的主數(shù)據(jù)獨立，在此過程中還

5、需要處理以下問題：a）在倉庫中新增不同對象的編碼規(guī)則，并與該對象所在公司、原有編碼 做對應；b）根據(jù)主數(shù)據(jù)的字段結構，合并不同公司的相同數(shù)據(jù)記錄，將相同數(shù)據(jù) 的原有編碼與新的編碼做多對一關聯(lián)；其它系統(tǒng)的數(shù)據(jù)可根據(jù)前面定義的主數(shù)據(jù)特性評估，以決定是否需要納入 主數(shù)據(jù)倉庫管理，例如HR系統(tǒng)的人員信息。4.1.3. 共享平臺搭建主要工作在ESB與各系統(tǒng)的接口處理，可分為兩個階段的工作內(nèi)容： 階段一連接應用系統(tǒng)創(chuàng)建資源訪問接口對外發(fā)布接口階段一：建立與各應用系統(tǒng)的連接，梳理業(yè)務涉及的數(shù)據(jù)庫邏輯，并根據(jù) 系統(tǒng)自身提供的接口（或直連數(shù)據(jù)庫），將系統(tǒng)的資源或業(yè)務抽象成可供 外部調用的API。協(xié)議轉換/消息處

6、理階段二建立事件路由階段二：以基于業(yè)務的形式創(chuàng)建事件流程，包括流程各節(jié)點與不同業(yè)務系 統(tǒng)的接口連接，涉及的協(xié)議轉換和消息內(nèi)容處理。4.1.4.維護更新平臺建立之后，后續(xù)主要工作集中在：1）對新增主數(shù)據(jù)的編碼規(guī)則、字段建立，映射關系導入；2）業(yè)務調整后，業(yè)務系統(tǒng)邏輯梳理及 ESB平臺接口、流程修改;3）新增業(yè)務系統(tǒng)，ESB平臺的接口實現(xiàn)；4.2. 應用場景421.離職員工賬號以公司0A系統(tǒng)流程為例，當有員工離職的流程審批通過后，ESB平臺接收到該離職員工的特征信息消息，根據(jù)預先定義的事件流程，訪問接入的 AJX金蝶、報表服務器等系統(tǒng) API，停用離職員工在該系統(tǒng)的賬號（需 先建立該員工主數(shù)據(jù)庫記

7、錄與各系統(tǒng)的記錄對應關系）。無法接入的系統(tǒng)（VPN賬號，0A流程申請關聯(lián)員工是否有賬號），可通過 ESB平臺調用消息接口（短信、微信等）或觸發(fā) 0A流程，通知相關人員 處理。4.2.2.客戶資料管理a）歷史客戶導入使用ETL從AJX系統(tǒng)導入客戶特征信息到主數(shù)據(jù)倉庫，并新增唯一的 主數(shù)據(jù)編碼與原編號做對應關系，不同公司相同客戶建多對一關系， 但只在客戶庫中存儲一條記錄。如其它系統(tǒng)也收集客戶資料，同樣使用ETL導入主數(shù)據(jù)倉庫，已存在 的客戶僅增加對應關系；不存在的則增加主數(shù)據(jù)編碼及對應關系。b）客戶新增無論從哪套系統(tǒng)增加客戶（能統(tǒng)一入口最好），都可以使用ESB平臺 獲取該系統(tǒng)增加的客戶資料（如無接

8、口推送消息，則只能使用ESB定 期拉?。?，與主數(shù)據(jù)庫匹配：已存在：增加對應關系，（有需要）可通過ESB平臺主動獲取相 關系統(tǒng)的該客戶信息（銷量等更多信息），刷新本系統(tǒng)，不用再 去重復收集；不存在：增加主數(shù)據(jù)編碼和對應關系，同時通過ESB平臺推送該 客戶資料到其它系統(tǒng)中（如需要）?？蛻簟T工（員工賬號）、產(chǎn)品管理的架構基本一致（見下表）：多套系統(tǒng) 可同時維護同一主數(shù)據(jù)對象，但相同對象只在主數(shù)據(jù)倉庫中存有一條記錄， 該記錄與多個系統(tǒng)建立有對應關系，從而 ESB平臺才可根據(jù)該對應關系， 按業(yè)務需求對相應系統(tǒng)的記錄做 CRU管理。主數(shù)據(jù)表：客戶MDh編碼客戶姓名身份證號碼其它特征字段10000001張

9、三55010011110000002李四221000120客戶對應關系MDM編碼來源系統(tǒng)來源公司對應特征碼10000001系統(tǒng)編號1101公司編號101120110000001系統(tǒng)編號1109公司編號101A100910000002系統(tǒng)編號1101公司編號1011333310000002系統(tǒng)編號1107公司編號10113333如能限制主數(shù)據(jù)對象的新增入口 （某套系統(tǒng)或統(tǒng)一平臺），則對應關系的 維護要簡單得多。423.多維度數(shù)據(jù)分析基于ESB平臺維護的對應關系，在 ESB創(chuàng)建根據(jù)MDM ID獲取員工指定 月份、系統(tǒng)的數(shù)據(jù)接口，使用該接口可取出某個員工在所有業(yè)務系統(tǒng)的 數(shù)據(jù)，例如對某個員工的取數(shù)結果如下表：某銷售員，某月數(shù)據(jù)統(tǒng)計MD漏號姓名職位入職時 間薪等薪 級報銷金額銷量拜訪客戶數(shù)量其中涉及的API接口和系統(tǒng)如下表（參數(shù)均為 MDM API日期）：字段來源系統(tǒng)ESD API （假設）參數(shù)姓名 職位 入職時間HR系統(tǒng)獲取員工基本信息接口Mdm api薪等薪級報表服務 器系統(tǒng)獲取銷售員最新薪等薪級 接口Mdm api報銷金額0A系統(tǒng)獲取銷售員指定時間差旅 費報銷金額合計接口Mdm api、日期銷量AJX系統(tǒng)獲取銷售員指定時間銷量 接口Mdm api、日期