數(shù)據(jù)集成解決方案-2_第1頁(yè)
數(shù)據(jù)集成解決方案-2_第2頁(yè)
數(shù)據(jù)集成解決方案-2_第3頁(yè)
數(shù)據(jù)集成解決方案-2_第4頁(yè)
數(shù)據(jù)集成解決方案-2_第5頁(yè)
已閱讀5頁(yè),還剩41頁(yè)未讀, 繼續(xù)免費(fèi)閱讀

下載本文檔

版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請(qǐng)進(jìn)行舉報(bào)或認(rèn)領(lǐng)

文檔簡(jiǎn)介

數(shù)據(jù)集成解決方案PAGE18PAGE數(shù)據(jù)集成數(shù)據(jù)集成系統(tǒng)現(xiàn)狀企事業(yè)內(nèi)部有不少的應(yīng)用系統(tǒng),比如財(cái)務(wù)系統(tǒng)、人力資源系統(tǒng)、工程管理系統(tǒng)(項(xiàng)目管理、采購(gòu)管理、庫(kù)存管理)、管理數(shù)據(jù)統(tǒng)計(jì)系統(tǒng)和企業(yè)信息門戶。這些系統(tǒng)一般都有不同供應(yīng)商提供,他們之間的信息有重疊和不一致顯現(xiàn)存在。因此很容易產(chǎn)生下列的問題:基礎(chǔ)數(shù)據(jù)多頭管理,系統(tǒng)間數(shù)據(jù)一致性差對(duì)于同樣的問題,每個(gè)不同的系統(tǒng)都維護(hù)有自身的數(shù)據(jù)結(jié)構(gòu),例如在工程管理系統(tǒng)中存在供應(yīng)商數(shù)據(jù),而在物資系統(tǒng)中也存在供應(yīng)商數(shù)據(jù),這兩個(gè)系統(tǒng)對(duì)同一個(gè)供應(yīng)商可能存在不同的編號(hào)、不同的命名等等。這就導(dǎo)致了兩個(gè)系統(tǒng)間沒有數(shù)據(jù)標(biāo)準(zhǔn),在工程管理系統(tǒng)中更新了供應(yīng)商數(shù)據(jù)后,物資系統(tǒng)無法依據(jù)指定的規(guī)則進(jìn)行同步更新,造成了企業(yè)主數(shù)據(jù)的混亂局面,難以滿足快速支撐精確管理的需要,使得企業(yè)的運(yùn)營(yíng)效率和管理水平難以進(jìn)一步提升。接口沒有實(shí)現(xiàn)統(tǒng)一的接口平臺(tái)由于沒有統(tǒng)一的企業(yè)主數(shù)據(jù),目前系統(tǒng)接口均采用點(diǎn)對(duì)點(diǎn)方式,技術(shù)實(shí)現(xiàn)方式多種多樣,例如最多的方式是數(shù)據(jù)庫(kù)直接存取,接口雙方需要明確知道對(duì)方的底層數(shù)據(jù)結(jié)構(gòu),這導(dǎo)致了完成和維護(hù)這些接口是一項(xiàng)非常艱巨的任務(wù),并且在不同的供應(yīng)商之間難于明確自身的責(zé)任,出現(xiàn)問題之后相互推諉。企業(yè)內(nèi)部信息難以完整統(tǒng)一和共享由于現(xiàn)在的應(yīng)用系統(tǒng)是由不同的供應(yīng)商提供,基礎(chǔ)數(shù)據(jù)難以同步更新,各自產(chǎn)生的數(shù)據(jù)信息,都成了一個(gè)個(gè)的信息孤島,彼此之間的數(shù)據(jù)難以共享。企業(yè)不容易獲取匯總信息。數(shù)據(jù)集成需求分析接下來我們從業(yè)務(wù)和系統(tǒng)兩個(gè)方面來分析數(shù)據(jù)集成的需求:業(yè)務(wù)需求統(tǒng)一用戶視圖的提供及展示企事業(yè)應(yīng)用系統(tǒng)給用戶提供各種服務(wù),需要在各個(gè)應(yīng)用系統(tǒng)上提供及展現(xiàn)統(tǒng)一用戶視圖信息,通過數(shù)據(jù)集成實(shí)現(xiàn)統(tǒng)一用戶視圖信息的共享,支撐多個(gè)層面快速準(zhǔn)確地獲取用戶和產(chǎn)品信息,提升用戶感知。比如在營(yíng)銷、銷售、服務(wù)中,提供營(yíng)銷人員營(yíng)銷活動(dòng)所需的市場(chǎng)統(tǒng)計(jì)數(shù)據(jù)和目標(biāo)用戶數(shù)據(jù),以便進(jìn)行精確化營(yíng)銷;提供銷售人員單一用戶視圖信息及其統(tǒng)計(jì)數(shù)據(jù)的即席查詢,以發(fā)現(xiàn)用戶需求,增加銷售機(jī)會(huì);提供服務(wù)人員跨系統(tǒng)數(shù)據(jù)的支撐,以進(jìn)行用戶分等級(jí)服務(wù)、用戶增值業(yè)務(wù),訂購(gòu)信息快速查詢和退定等工作。統(tǒng)一企業(yè)運(yùn)營(yíng)報(bào)表的提供和展示CRM、計(jì)費(fèi)等生產(chǎn)系統(tǒng)分別按照本系統(tǒng)的自有數(shù)據(jù)向外提供運(yùn)營(yíng)報(bào)表,不同部門對(duì)數(shù)據(jù)的時(shí)間和業(yè)務(wù)概念理解不一致,造成不同系統(tǒng)的報(bào)表有差異,同時(shí)手工進(jìn)行報(bào)表拼湊也會(huì)造成差異,于是產(chǎn)生了不同部門有差異,不同組織層級(jí)有差異,而且大量按需的對(duì)外報(bào)表提供對(duì)生產(chǎn)系統(tǒng)性能影響很大,不利于生產(chǎn)系統(tǒng)對(duì)其核心事務(wù)處理的穩(wěn)定運(yùn)行。因此通過數(shù)據(jù)集成,統(tǒng)一企業(yè)運(yùn)營(yíng)報(bào)表的數(shù)據(jù)源,形成統(tǒng)一的指標(biāo)體系,并通過統(tǒng)一的企業(yè)數(shù)據(jù)應(yīng)用門戶,實(shí)現(xiàn)企業(yè)運(yùn)營(yíng)報(bào)表的統(tǒng)一提供和展示,實(shí)現(xiàn)多緯度的報(bào)表需求,以支撐精確化管理需要。支撐企業(yè)運(yùn)營(yíng)過程的統(tǒng)計(jì)、監(jiān)控和考核全過程的營(yíng)銷支撐需要對(duì)市場(chǎng)計(jì)劃、營(yíng)銷活動(dòng)、銷售活動(dòng)等各項(xiàng)工作事前預(yù)期,事中監(jiān)控,通過數(shù)據(jù)集成,基于從各生產(chǎn)系統(tǒng)搜集到市場(chǎng)營(yíng)銷與銷售的相關(guān)信息,對(duì)市場(chǎng)營(yíng)銷與銷售業(yè)績(jī)完成情況進(jìn)行統(tǒng)計(jì),并通過用戶發(fā)展、業(yè)務(wù)量、收入等關(guān)鍵績(jī)效指標(biāo)和實(shí)際完成狀況的關(guān)聯(lián),完成對(duì)各部門、團(tuán)隊(duì)或渠道的KPI指標(biāo)進(jìn)行監(jiān)控與考核。支撐企業(yè)運(yùn)營(yíng)過程所需跨系統(tǒng)數(shù)據(jù)的批量計(jì)算為了更好地支企事業(yè)工作的開展,提升用戶管理能力,需要建立用戶積分、信用度等用戶評(píng)價(jià)體系;為了實(shí)現(xiàn)用戶品牌維度,對(duì)相關(guān)量收指標(biāo)進(jìn)行統(tǒng)計(jì);為了,發(fā)展優(yōu)質(zhì)用戶,需要復(fù)雜、完善的渠道傭金計(jì)算支持;隨著產(chǎn)品為中心向用戶為中心的轉(zhuǎn)型,越來越多運(yùn)營(yíng)過程所需的跨系統(tǒng)、大量細(xì)節(jié)數(shù)據(jù)的批量計(jì)算需求都需要統(tǒng)一的數(shù)據(jù)集成中心提供相關(guān)數(shù)據(jù)。數(shù)據(jù)集成中心作為企業(yè)運(yùn)營(yíng)數(shù)據(jù)共享平臺(tái),收斂企業(yè)各業(yè)務(wù)系統(tǒng)中的運(yùn)營(yíng)數(shù)據(jù),按照企業(yè)數(shù)據(jù)模型進(jìn)行數(shù)據(jù)整合,提供運(yùn)營(yíng)數(shù)據(jù)共享,支撐跨系統(tǒng)數(shù)據(jù)的應(yīng)用,提升數(shù)據(jù)質(zhì)量。系統(tǒng)需求實(shí)現(xiàn)數(shù)據(jù)統(tǒng)一數(shù)據(jù)集成中心在對(duì)企業(yè)數(shù)據(jù)的整合過程中能夠?qū)崿F(xiàn)以下三個(gè)統(tǒng)一:統(tǒng)一數(shù)據(jù)模型由數(shù)據(jù)集成中心承載企業(yè)數(shù)據(jù)模型(EDM),促進(jìn)企業(yè)各域數(shù)據(jù)邏輯模型的統(tǒng)一。在企事業(yè)內(nèi)新建或改造的系統(tǒng),其數(shù)據(jù)模型應(yīng)向數(shù)據(jù)集成中心所承載的企業(yè)數(shù)據(jù)模型靠攏。數(shù)據(jù)模型是各個(gè)系統(tǒng)及應(yīng)用間交互的基礎(chǔ),通過數(shù)據(jù)模型的統(tǒng)一,減少系統(tǒng)及應(yīng)用間復(fù)雜的轉(zhuǎn)換,提高系統(tǒng)、應(yīng)用、接口的效率。統(tǒng)一數(shù)據(jù)標(biāo)準(zhǔn)數(shù)據(jù)集成中心中建立標(biāo)準(zhǔn)的數(shù)據(jù)編碼目錄,源系統(tǒng)數(shù)據(jù)依據(jù)標(biāo)準(zhǔn)的數(shù)據(jù)編碼目錄,經(jīng)過整合后進(jìn)入數(shù)據(jù)集成中心存儲(chǔ),實(shí)現(xiàn)企業(yè)數(shù)據(jù)的標(biāo)準(zhǔn)化與統(tǒng)一存儲(chǔ)。統(tǒng)一數(shù)據(jù)視圖基于數(shù)據(jù)集成中心所存儲(chǔ)的數(shù)據(jù),支撐實(shí)現(xiàn)統(tǒng)一數(shù)據(jù)視圖,使企業(yè)在用戶、資源等視角獲取到的信息是一致的,提升用戶、以及企業(yè)內(nèi)部的管理人員與分析人員對(duì)系統(tǒng)的感知。實(shí)現(xiàn)數(shù)據(jù)共享數(shù)據(jù)集成中心為企業(yè)各業(yè)務(wù)系統(tǒng)提供統(tǒng)一共享數(shù)據(jù)接口,減少系統(tǒng)間相互接口的重復(fù)性,降低接口的復(fù)雜程度,提高系統(tǒng)間接口效率與質(zhì)量;為跨系統(tǒng)數(shù)據(jù)應(yīng)用提供數(shù)據(jù)支撐。數(shù)據(jù)集成中心作為企業(yè)運(yùn)營(yíng)數(shù)據(jù)共享平臺(tái),是各業(yè)務(wù)部門和企業(yè)管理層獲取統(tǒng)計(jì)數(shù)據(jù)的唯一來源。數(shù)據(jù)集成中心可將某個(gè)生產(chǎn)系統(tǒng)的數(shù)據(jù)以準(zhǔn)實(shí)時(shí)地方式存儲(chǔ)轉(zhuǎn)發(fā)至其它對(duì)數(shù)據(jù)實(shí)時(shí)性要求不高的生產(chǎn)系統(tǒng),以減少生產(chǎn)系統(tǒng)間的網(wǎng)狀接口。數(shù)據(jù)集成中心以實(shí)時(shí)的查詢服務(wù)或準(zhǔn)實(shí)時(shí)批量的數(shù)據(jù)提供的方式將數(shù)據(jù)集成中心內(nèi)整合或計(jì)算好的數(shù)據(jù)向外部系統(tǒng)提供,以配合外部系統(tǒng)支撐統(tǒng)一用戶視圖查詢、用戶服務(wù)流程等功能。實(shí)現(xiàn)數(shù)據(jù)應(yīng)用數(shù)據(jù)集成中心利用自身系統(tǒng)的數(shù)據(jù)提供以下幾類功能:查詢應(yīng)用 實(shí)現(xiàn)查詢條件不固定的按需查詢功能。用戶可以根據(jù)關(guān)心的維度查詢數(shù)據(jù)集成中心內(nèi)整合好的360度業(yè)務(wù)全貌數(shù)據(jù),如,為渠道經(jīng)理提供完整用戶視圖信息的查詢,為用戶提供完整用戶視圖查詢、用戶賬單查詢等。固定報(bào)表應(yīng)用固定報(bào)表是維度和指標(biāo)固定的統(tǒng)計(jì)結(jié)果的展示,在數(shù)據(jù)集成中心內(nèi)對(duì)于實(shí)時(shí)性要求高的報(bào)表采用即時(shí)生成的模式,而對(duì)于實(shí)時(shí)性要求不高的報(bào)表,基于性能影響和資源開銷兩方面的考慮,應(yīng)采用后臺(tái)通過作業(yè)的方式先自動(dòng)生成,在需要時(shí)可以立即展現(xiàn)結(jié)果。報(bào)表展現(xiàn)應(yīng)支持多種圖表方式,如餅圖、柱圖、線圖等;支持報(bào)表數(shù)據(jù)導(dǎo)出為其他文件類型,如EXCEL、CSV、XML、PDF、WEB存檔文件等;支持報(bào)表精確打印控制。動(dòng)態(tài)報(bào)表應(yīng)用基于數(shù)據(jù)集成中心整合好的數(shù)據(jù),可以利用報(bào)表工具,按關(guān)心的維度和指標(biāo)對(duì)數(shù)據(jù)進(jìn)行主題性的統(tǒng)計(jì),動(dòng)態(tài)報(bào)表應(yīng)用中,維度和指標(biāo)不固定,可在數(shù)據(jù)模型支持的范圍內(nèi)變換。在數(shù)據(jù)集成中心上可實(shí)現(xiàn)多種動(dòng)態(tài)報(bào)表。計(jì)算應(yīng)用數(shù)據(jù)集成中心可基于整合好的數(shù)據(jù)按照設(shè)定好的業(yè)務(wù)規(guī)則進(jìn)行部分屬性數(shù)據(jù)計(jì)算,計(jì)算結(jié)果并不在數(shù)據(jù)集成中心內(nèi)直接更新,而是由數(shù)據(jù)集成中心返回到該屬性數(shù)據(jù)的屬主生產(chǎn)系統(tǒng),由屬主生產(chǎn)系統(tǒng)完成該屬性數(shù)據(jù)的更新后,再通過數(shù)據(jù)抽取、加載過程進(jìn)入數(shù)據(jù)集成中心之后更新。實(shí)現(xiàn)數(shù)據(jù)質(zhì)量管控?cái)?shù)據(jù)集成中心在數(shù)據(jù)收斂的過程中,能完成以下數(shù)據(jù)質(zhì)量管控工作:1.數(shù)據(jù)質(zhì)量校驗(yàn)根據(jù)規(guī)則對(duì)數(shù)據(jù)集成中心所存儲(chǔ)的數(shù)據(jù)進(jìn)行一致性、完整性、正確性的校驗(yàn),形成數(shù)據(jù)校驗(yàn)結(jié)果并交付源業(yè)務(wù)系統(tǒng)進(jìn)行修正。2.數(shù)據(jù)質(zhì)量管控通過建立企業(yè)數(shù)據(jù)的質(zhì)量標(biāo)準(zhǔn)、數(shù)據(jù)管控的組織、數(shù)據(jù)管控的流程,對(duì)數(shù)據(jù)質(zhì)量進(jìn)行統(tǒng)一管控,達(dá)到數(shù)據(jù)質(zhì)量逐步完善。數(shù)據(jù)集成目標(biāo)通過數(shù)據(jù)集成,數(shù)據(jù)集成中心應(yīng)該能達(dá)到以下幾個(gè)目標(biāo):建立規(guī)范統(tǒng)一的指標(biāo)體系根據(jù)企業(yè)的業(yè)務(wù)實(shí)際情況,建立面向企業(yè)指標(biāo)體系的數(shù)據(jù)接口,用于收集企業(yè)各系統(tǒng)間的指標(biāo)數(shù)據(jù),同時(shí)為企業(yè)各系統(tǒng)提供所需的指標(biāo)數(shù)據(jù),成為溝通企業(yè)現(xiàn)有系統(tǒng)和未來系統(tǒng)之間各種關(guān)鍵業(yè)務(wù)指標(biāo)數(shù)據(jù)的信息橋梁。統(tǒng)一的數(shù)據(jù)采集接口建立統(tǒng)一的數(shù)據(jù)采集接口,根據(jù)企業(yè)實(shí)際業(yè)務(wù)需要,定義符合企業(yè)需要的數(shù)據(jù)采集指標(biāo),通過企業(yè)數(shù)據(jù)業(yè)務(wù)平臺(tái)統(tǒng)一的進(jìn)行數(shù)據(jù)采集,改變?cè)袑訉酉逻_(dá)參數(shù),再層層匯總、層層過濾,時(shí)效性和準(zhǔn)確性亦難以保證的問題。統(tǒng)一的數(shù)據(jù)存儲(chǔ)中心通過企業(yè)規(guī)范的指標(biāo)體系,收集和整合相應(yīng)指標(biāo)數(shù)據(jù),存儲(chǔ)到數(shù)據(jù)集成中心。按照統(tǒng)一指標(biāo)、統(tǒng)一統(tǒng)計(jì)口徑和統(tǒng)一數(shù)據(jù)概念的要求,存儲(chǔ)指標(biāo)數(shù)據(jù)和建立數(shù)據(jù)存儲(chǔ)中心,滿足不同系統(tǒng)之間相互獲取數(shù)據(jù)的要求,同時(shí)為數(shù)據(jù)的綜合分析和歷史回溯奠定數(shù)據(jù)基礎(chǔ)。歷史數(shù)據(jù)的回溯分析基于規(guī)范性與靈活性相結(jié)合的原則,通過對(duì)數(shù)據(jù)存儲(chǔ)中心的歷史數(shù)據(jù)進(jìn)行提取和加工整理,采取分級(jí)用戶具有分級(jí)權(quán)限,在權(quán)限范圍內(nèi)靈活使用數(shù)據(jù),進(jìn)行分析和查詢,可以為管理決策者在生產(chǎn)管理和經(jīng)營(yíng)決策上提供科學(xué)有效的歷史數(shù)據(jù)依據(jù)。建立數(shù)據(jù)應(yīng)用接口企業(yè)在生產(chǎn)經(jīng)營(yíng)決策過程中,通常迫切需要了解企業(yè)外部的實(shí)際情況,所以需要打通企業(yè)與外部的數(shù)據(jù)壁壘,實(shí)現(xiàn)彼此之間數(shù)據(jù)共享。這種需求通過建立企業(yè)與外部之間特定的數(shù)據(jù)應(yīng)用接口,一方面,從外部抽取企業(yè)需要的特定商業(yè)指標(biāo)數(shù)據(jù),另一方面,提供外部所需的企業(yè)指標(biāo)數(shù)據(jù)。通過二者數(shù)據(jù)之間的充分對(duì)比分析,實(shí)現(xiàn)數(shù)據(jù)之間的數(shù)據(jù)共享,提高現(xiàn)有系統(tǒng)的數(shù)據(jù)使用率和有效地提高數(shù)據(jù)支撐能力,為管理層的經(jīng)營(yíng)決策提供堅(jiān)實(shí)可靠的依據(jù)。建立統(tǒng)一的決策分析管理平臺(tái)通過對(duì)采集的基礎(chǔ)數(shù)據(jù)信息的提取和加工整理,本著規(guī)范化與靈活性相結(jié)合的原則,設(shè)定不同的使用權(quán)限(組織和人員),靈活使用數(shù)據(jù),進(jìn)行分析和查詢。系統(tǒng)統(tǒng)一下發(fā)固定報(bào)表模板,同時(shí)用戶可根據(jù)個(gè)性化需求靈活定制報(bào)表,提供決策支持。數(shù)據(jù)集成思路通過前面的需求分析,我們可以整理出我們的數(shù)據(jù)集成思路,從而設(shè)計(jì)合理的數(shù)據(jù)集成方案。數(shù)據(jù)集成系統(tǒng)對(duì)于企事業(yè)的長(zhǎng)遠(yuǎn)發(fā)展來說,應(yīng)該是處于企業(yè)應(yīng)用系統(tǒng)與企業(yè)數(shù)據(jù)倉(cāng)庫(kù)系統(tǒng)之間的。企業(yè)的一系列數(shù)據(jù)中,一部分是實(shí)時(shí)性要求非常高的,必須要求能實(shí)時(shí)的更改存放在多處的同一份數(shù)據(jù);而有一些數(shù)據(jù)則實(shí)時(shí)性的要求不高,不需要實(shí)時(shí)地進(jìn)行修改而是定時(shí)進(jìn)行相應(yīng)的同步即可。ODS的思想結(jié)合ETL與ESB等相關(guān)技術(shù),實(shí)現(xiàn)這一套數(shù)據(jù)集成系統(tǒng)是比較合適的。通用ODS架構(gòu)分析ODS(OperationalDataStore),運(yùn)營(yíng)數(shù)據(jù)存儲(chǔ)或者操作型數(shù)據(jù)存儲(chǔ),存儲(chǔ)了運(yùn)營(yíng)系統(tǒng)(OLTP,聯(lián)機(jī)事務(wù)處理系統(tǒng))近實(shí)時(shí)的詳細(xì)數(shù)據(jù)。ODS是企業(yè)數(shù)據(jù)架構(gòu)中最為復(fù)雜的一種形態(tài),它既要滿足數(shù)據(jù)事務(wù)操作要求,又要滿足數(shù)據(jù)分析要求。它是“一個(gè)面向主題的、集成的、可變的、當(dāng)前的細(xì)節(jié)數(shù)據(jù)集合,用于支持企業(yè)對(duì)于即時(shí)性的、操作性的、集成的全體信息的需求”,常常被作為數(shù)據(jù)倉(cāng)庫(kù)的過渡,也是數(shù)據(jù)倉(cāng)庫(kù)項(xiàng)目的可選項(xiàng)之一。ODS的引入是為了尋找能滿足快速加載和數(shù)據(jù)整合的性能要求,并且減少面向分析的需求的變更和擴(kuò)充對(duì)業(yè)務(wù)系統(tǒng)的影響的解決方案。這一解決方案是在業(yè)務(wù)系統(tǒng)和EDW中的按主題存儲(chǔ)的歷史數(shù)據(jù)存儲(chǔ)層之間增加一個(gè)數(shù)據(jù)整合層(也叫做數(shù)據(jù)緩沖層)。數(shù)據(jù)整合層的作用主要體現(xiàn)在以下兩個(gè)方面:數(shù)據(jù)結(jié)構(gòu)和處理流程是以快速?gòu)臉I(yè)務(wù)系統(tǒng)中加載和整合數(shù)據(jù)為目的設(shè)計(jì)實(shí)現(xiàn)的,因此盡量減少?gòu)?fù)雜的數(shù)據(jù)轉(zhuǎn)換,只對(duì)原始數(shù)據(jù)進(jìn)行清理和整合,這樣,可以滿足快速加載和數(shù)據(jù)整合的性能要求。另一方面,當(dāng)面向分析的業(yè)務(wù)需求變更和擴(kuò)充需要對(duì)數(shù)據(jù)倉(cāng)庫(kù)中的歷史數(shù)據(jù)進(jìn)行主題重組或增加新的數(shù)據(jù)時(shí),所需數(shù)據(jù)將會(huì)先從數(shù)據(jù)整合層中提取,只有數(shù)據(jù)整合層也不能滿足其數(shù)據(jù)需求時(shí),才會(huì)從業(yè)務(wù)系統(tǒng)中提取數(shù)據(jù),這樣就減少了分析需求變更和擴(kuò)充對(duì)業(yè)務(wù)系統(tǒng)的影響,數(shù)據(jù)整合層起到了一個(gè)數(shù)據(jù)緩沖的作用,同時(shí)提高了數(shù)據(jù)倉(cāng)庫(kù)系統(tǒng)對(duì)于需求廣度和深度擴(kuò)展的適應(yīng)性。我們認(rèn)為,ODS(OperationalDataStore)是數(shù)據(jù)倉(cāng)庫(kù)體系結(jié)構(gòu)中的一個(gè)可選部分,ODS具備數(shù)據(jù)倉(cāng)庫(kù)的部分特征和OLTP系統(tǒng)的部分特征,它是“面向主題的、集成的、當(dāng)前或接近當(dāng)前的、不斷變化的”數(shù)據(jù)。一般在帶有ODS的系統(tǒng)體系結(jié)構(gòu)中,ODS都設(shè)計(jì)為如下幾個(gè)作用:在業(yè)務(wù)系統(tǒng)和數(shù)據(jù)倉(cāng)庫(kù)之間形成一個(gè)隔離層。一般的數(shù)據(jù)倉(cāng)庫(kù)應(yīng)用系統(tǒng)都具有非常復(fù)雜的數(shù)據(jù)來源,這些數(shù)據(jù)存放在不同的地理位置、不同的數(shù)據(jù)庫(kù)、不同的應(yīng)用之中,從這些業(yè)務(wù)系統(tǒng)對(duì)數(shù)據(jù)進(jìn)行抽取并不是一件容易的事。因此,ODS用于存放從業(yè)務(wù)系統(tǒng)直接抽取出來的數(shù)據(jù),這些數(shù)據(jù)從數(shù)據(jù)結(jié)構(gòu)、數(shù)據(jù)之間的邏輯關(guān)系上都與業(yè)務(wù)系統(tǒng)基本保持一致,因此在抽取過程中極大降低了數(shù)據(jù)轉(zhuǎn)化的復(fù)雜性,而主要關(guān)注數(shù)據(jù)抽取的接口、數(shù)據(jù)量大小、抽取方式等方面的問題。轉(zhuǎn)移一部分業(yè)務(wù)系統(tǒng)細(xì)節(jié)查詢的功能在數(shù)據(jù)倉(cāng)庫(kù)建立之前,大量的報(bào)表、分析是由業(yè)務(wù)系統(tǒng)直接支持的,在一些比較復(fù)雜的報(bào)表生成過程中,對(duì)業(yè)務(wù)系統(tǒng)的運(yùn)行產(chǎn)生相當(dāng)大的壓力。ODS的數(shù)據(jù)從粒度、組織方式等各個(gè)方面都保持了與業(yè)務(wù)系統(tǒng)的一致,那么原來由業(yè)務(wù)系統(tǒng)產(chǎn)生的報(bào)表、細(xì)節(jié)數(shù)據(jù)的查詢自然能夠從ODS中進(jìn)行,從而降低業(yè)務(wù)系統(tǒng)的查詢壓力。完成數(shù)據(jù)倉(cāng)庫(kù)中不能完成的一些功能。一般來說,帶有ODS的數(shù)據(jù)倉(cāng)庫(kù)體系結(jié)構(gòu)中,DW層所存儲(chǔ)的數(shù)據(jù)都是進(jìn)行匯總過的數(shù)據(jù),并不存儲(chǔ)每筆交易產(chǎn)生的細(xì)節(jié)數(shù)據(jù),但是在某些特殊的應(yīng)用中,可能需要對(duì)交易細(xì)節(jié)數(shù)據(jù)進(jìn)行查詢,這時(shí)就需要把細(xì)節(jié)數(shù)據(jù)查詢的功能轉(zhuǎn)移到ODS來完成,而且ODS的數(shù)據(jù)模型按照面向主題的方式進(jìn)行存儲(chǔ),可以方便地支持多維分析等查詢功能。在一個(gè)沒有ODS層的數(shù)據(jù)倉(cāng)庫(kù)應(yīng)用系統(tǒng)體系結(jié)構(gòu)中,數(shù)據(jù)倉(cāng)庫(kù)中存儲(chǔ)的數(shù)據(jù)粒度是根據(jù)需要而確定的,但一般來說,最為細(xì)節(jié)的業(yè)務(wù)數(shù)據(jù)也是需要保留的,實(shí)際上也就相當(dāng)于ODS,但與ODS所不同的是,這時(shí)的細(xì)節(jié)數(shù)據(jù)不是“當(dāng)前、不斷變化的”數(shù)據(jù),而是“歷史的,不再變化的”數(shù)據(jù)。目前市場(chǎng)上沒有成熟的MDM(MasterDataManagement)產(chǎn)品,并且在微軟的技術(shù)路線中,數(shù)據(jù)庫(kù)元數(shù)據(jù)的概念已經(jīng)被廢除,現(xiàn)在推薦的方式仍然是以合理的方式建立數(shù)據(jù)庫(kù)表或者視圖的方式來滿足ODS數(shù)據(jù)結(jié)構(gòu)的定義,最終的數(shù)據(jù)結(jié)構(gòu)是否靈活好用依賴于詳細(xì)的設(shè)計(jì),其中需要考慮地問題包括如下幾個(gè)方面:規(guī)范性在ODS系統(tǒng)中,對(duì)同一個(gè)概念的對(duì)象必須按企業(yè)領(lǐng)域的標(biāo)準(zhǔn)方式處理,比如,區(qū)別供應(yīng)商必須按照他們的稅務(wù)登記號(hào),而不是名稱。靈活性當(dāng)業(yè)務(wù)需求發(fā)生變動(dòng)時(shí),ODS主數(shù)據(jù)結(jié)構(gòu)應(yīng)該能夠快速的適應(yīng)這種變化。比如:可以為一個(gè)員工建立基本的員工信息字段,當(dāng)員工信息增加時(shí)就相應(yīng)地增加員工表的字段;也可以在一開始就為員工信息表多創(chuàng)建一個(gè)XML字段用來保存今后可能產(chǎn)品的員工信息增長(zhǎng)的情況。兩種不同的設(shè)計(jì)方式必須根據(jù)實(shí)際的應(yīng)用情境進(jìn)行選擇。關(guān)聯(lián)性同一業(yè)務(wù)對(duì)象在不同的系統(tǒng)中將被關(guān)聯(lián)到不同的業(yè)務(wù)對(duì)象,ODS必須建立完備的數(shù)據(jù)結(jié)構(gòu)用于存儲(chǔ)一個(gè)對(duì)象與其它對(duì)象發(fā)生的所有關(guān)聯(lián)。例如,員工在人力資源系統(tǒng)中被關(guān)聯(lián)到部門,而在物資系統(tǒng)中被關(guān)聯(lián)到采購(gòu)管理員角色,新的需求是取得某部門的采購(gòu)管理員。ODS的數(shù)據(jù)結(jié)構(gòu)設(shè)計(jì)必須能夠滿足新出現(xiàn)的類似需求。通用ESB架構(gòu)分析基于SO思想的A企業(yè)服務(wù)總線(ESB),是傳統(tǒng)中間件技術(shù)與XML、Web服務(wù)等技術(shù)相互結(jié)合的產(chǎn)物,用于實(shí)現(xiàn)企業(yè)應(yīng)用不同消息和信息的準(zhǔn)確、高效和安全傳遞。ESB的出現(xiàn)改變了傳統(tǒng)的軟件架構(gòu),可以提供比傳統(tǒng)中間件產(chǎn)品更為廉價(jià)的解決方案,同時(shí)它還可以消除不同應(yīng)用之間的技術(shù)差異,讓不同的應(yīng)用服務(wù)協(xié)調(diào)運(yùn)作,實(shí)現(xiàn)不同服務(wù)之間的通信與整合。ESB在不同領(lǐng)域具有非常廣泛的用途:電信領(lǐng)域ESB能夠在全方位支持電信行業(yè)OSS的應(yīng)用整合概念。是理想的電信級(jí)應(yīng)用軟件承載平臺(tái)。電力領(lǐng)域ESB能夠在全方位支持電力行業(yè)EMS的數(shù)據(jù)整合概念,是理想的SCADA系統(tǒng)數(shù)據(jù)交換平臺(tái)。金融領(lǐng)域ESB能夠在全方位支持銀企間業(yè)務(wù)處理平臺(tái)的流程整合概念,是理想的B2B交易支撐平臺(tái)。電子政務(wù)ESB能夠在全方位支持電子政務(wù)應(yīng)用軟件業(yè)務(wù)基礎(chǔ)平臺(tái)、信息共享交換平臺(tái)、決策分析支撐平臺(tái)和政務(wù)門戶的平臺(tái)化實(shí)現(xiàn)。ESB提供了一種開放的、基于標(biāo)準(zhǔn)的消息機(jī)制,通過簡(jiǎn)單的標(biāo)準(zhǔn)適配器和接口,來完成粗粒度應(yīng)用(服務(wù))和其他組件之間的互操作,能夠滿足大型異構(gòu)企業(yè)環(huán)境的集成需求。它可以在不改變現(xiàn)有基礎(chǔ)結(jié)構(gòu)的情況下讓幾代技術(shù)實(shí)現(xiàn)互操作。ESB專門用于異構(gòu)環(huán)境,既可以幫助企業(yè)遷移到SOA,又能夠讓企業(yè)繼續(xù)利用現(xiàn)有的已部署的軟件投資。通過使用ESB,以一種無縫的非侵入方式使企業(yè)已有的系統(tǒng)具有全新的服務(wù)接口,并能夠在部署環(huán)境中支持任何標(biāo)準(zhǔn)。更重要的是,充當(dāng)“緩沖器”的ESB(負(fù)責(zé)在諸多服務(wù)之間轉(zhuǎn)換業(yè)務(wù)邏輯和數(shù)據(jù)格式)與服務(wù)邏輯相分離,從而使得不同的應(yīng)用程序可以同時(shí)使用同一服務(wù),用不著在應(yīng)用程序或者數(shù)據(jù)發(fā)生變化時(shí),改動(dòng)服務(wù)代碼。進(jìn)行數(shù)據(jù)的集成,一般按以下三個(gè)階段來進(jìn)行:把原有應(yīng)用系統(tǒng)需要進(jìn)行集成的業(yè)務(wù)功能先進(jìn)行標(biāo)準(zhǔn)的封裝,如采用webservice進(jìn)行封裝,然后以標(biāo)準(zhǔn)的結(jié)構(gòu)文檔,如XSD,確定接口輸入輸出的數(shù)據(jù)格式.部署ESB中間件產(chǎn)品,并進(jìn)行ESB上相關(guān)功能調(diào)用的開發(fā),把原有應(yīng)用系統(tǒng)封裝好的接口,接入到ESB中,形成一種服務(wù)。門戶或外部的系統(tǒng),通過調(diào)用ESB上的服務(wù)與后臺(tái)應(yīng)用系統(tǒng)進(jìn)行交互,從而完成特定的功能。數(shù)據(jù)集成階段劃分通常一種比較理想的方式是建立一份統(tǒng)一的企業(yè)主數(shù)據(jù)(MasterData),它兼容現(xiàn)有的系統(tǒng)和可預(yù)見的系統(tǒng)的建設(shè)需求,并使之在不同的系統(tǒng)間共享。這個(gè)過程分為三個(gè)步驟:建立企業(yè)主數(shù)據(jù)結(jié)構(gòu),即ODS的基礎(chǔ)數(shù)據(jù)結(jié)構(gòu);第二步,基于ETL平臺(tái),建立數(shù)據(jù)抽取任務(wù),從現(xiàn)有的系統(tǒng)中抽取必要的數(shù)據(jù)(并清洗)填充ODS數(shù)據(jù)庫(kù),有需要的話也可將ODS數(shù)據(jù)推送到各個(gè)業(yè)務(wù)系統(tǒng)中;基于ESB平臺(tái),暴露ODS數(shù)據(jù)對(duì)外的訪問接口,并不斷的建設(shè)各個(gè)系統(tǒng)之間的接口。數(shù)據(jù)集成效果主數(shù)據(jù)整合,通過ODS(共享管控?cái)?shù)據(jù)集成中心)、ESB(企業(yè)服務(wù)總線)基礎(chǔ)平臺(tái)的搭建,規(guī)范系統(tǒng)主數(shù)據(jù),實(shí)現(xiàn)企事業(yè)內(nèi)各系統(tǒng)、以及EDW間的數(shù)據(jù)交互和共享,保證數(shù)據(jù)一致性;統(tǒng)一系統(tǒng)接口,通過ESB與多個(gè)核心平臺(tái)搭建接口,實(shí)現(xiàn)核心系統(tǒng)接口統(tǒng)一。主數(shù)據(jù)管理,提供對(duì)主數(shù)據(jù)變更、維護(hù)功能。業(yè)務(wù)數(shù)據(jù)抽取整合,并提供數(shù)據(jù)管理、查詢、分析、統(tǒng)計(jì)等應(yīng)用功能。使得企業(yè)數(shù)據(jù)倉(cāng)庫(kù)逐步改為從ODS取數(shù)。所有的統(tǒng)計(jì)分析需求按其涉及數(shù)據(jù)范圍大小和復(fù)雜程度高低,分別由應(yīng)用系統(tǒng)、ODS和數(shù)據(jù)倉(cāng)庫(kù)提供支撐,盡可能向ODS和數(shù)據(jù)倉(cāng)庫(kù)集中。數(shù)據(jù)集成方案ODS系統(tǒng)設(shè)計(jì)現(xiàn)階段ODS系統(tǒng)設(shè)計(jì)如上圖所示,我們?cè)O(shè)計(jì)的ODS系統(tǒng)中,主要有ETL模塊和ODS模塊2部分組成,ODS系統(tǒng)根據(jù)通過Trigger、應(yīng)用、批處理、Queue等手段從各MSS應(yīng)用系統(tǒng)中獲得數(shù)據(jù),并通過ETL應(yīng)用對(duì)數(shù)據(jù)進(jìn)行抽取、轉(zhuǎn)換、清洗、并裝載到ODS數(shù)據(jù)庫(kù)中。而一般通過TriggerUpdates的方式來將一些ODS數(shù)據(jù)返回更新各MSS應(yīng)用的數(shù)據(jù)庫(kù)。ETL模塊這里的ETL模塊主要是數(shù)據(jù)抽取、轉(zhuǎn)換和加載,這是數(shù)據(jù)由數(shù)據(jù)源系統(tǒng)向ODS加載的主要方法數(shù)據(jù)抽取從數(shù)據(jù)源系統(tǒng)抽取數(shù)據(jù)倉(cāng)庫(kù)系統(tǒng)所需的數(shù)據(jù),數(shù)據(jù)抽取采用統(tǒng)一的接口,可以從數(shù)據(jù)庫(kù)抽取數(shù)據(jù),也可以從文件抽取。對(duì)于不同數(shù)據(jù)平臺(tái)、源數(shù)據(jù)形式、性能要求的業(yè)務(wù)系統(tǒng),以及不同數(shù)據(jù)量的源數(shù)據(jù),可能采用的接口方式不同,為保證抽取效率,減少對(duì)生產(chǎn)運(yùn)營(yíng)的影響,對(duì)于大數(shù)據(jù)量的抽取,采取數(shù)據(jù)分割、縮短抽取周期的原則,對(duì)于直接的數(shù)據(jù)庫(kù)抽取,采取協(xié)商接口表的方式,保障生產(chǎn)系統(tǒng)數(shù)據(jù)庫(kù)的安全。數(shù)據(jù)轉(zhuǎn)換數(shù)據(jù)轉(zhuǎn)換是指對(duì)抽取的源數(shù)據(jù)根據(jù)數(shù)據(jù)倉(cāng)庫(kù)系統(tǒng)模型的要求,進(jìn)行數(shù)據(jù)的轉(zhuǎn)換、清洗、拆分、匯總等,保證來自不同系統(tǒng)、不同格式的數(shù)據(jù)和信息模型具有一致性和完整性,并按要求裝入數(shù)據(jù)倉(cāng)庫(kù)。數(shù)據(jù)加載數(shù)據(jù)加載是將轉(zhuǎn)換后的數(shù)據(jù)加載到數(shù)據(jù)倉(cāng)庫(kù)中,可以采用數(shù)據(jù)加載工具,也可以采用API編程進(jìn)行數(shù)據(jù)加載。ODS數(shù)據(jù)庫(kù)模塊操作數(shù)據(jù)存儲(chǔ)ODS(OperationDataStorage)是一個(gè)集成了來自不同數(shù)據(jù)庫(kù)數(shù)據(jù)的環(huán)境。其目的是為終端用戶提供一致的企業(yè)數(shù)據(jù)集成視圖。它可以幫助用戶輕松應(yīng)對(duì)跨多個(gè)商業(yè)功能的操作挑戰(zhàn),是面向主題的、集成的、近實(shí)時(shí)的數(shù)據(jù)存儲(chǔ)。設(shè)計(jì)ODS層的目的在于改善了對(duì)關(guān)鍵操作數(shù)據(jù)庫(kù)的存取,獲得收益、用戶等主題的企業(yè)級(jí)完整視圖,有利于更好地通觀全局。近實(shí)時(shí)的數(shù)據(jù)存儲(chǔ)提供了查詢與服務(wù)能力,并以更高的性能生成操作報(bào)告。設(shè)計(jì)ODS的核心是實(shí)現(xiàn)焦點(diǎn)主題全局試圖應(yīng)用,如企業(yè)的用戶管理系統(tǒng),可以建立以用戶為中心的ODS用戶主題視圖,向上層提供高效的服務(wù)。因此,在現(xiàn)有設(shè)計(jì)中,我們將配置2個(gè)服務(wù)器分別運(yùn)行ETL應(yīng)用和ODS數(shù)據(jù)庫(kù),由于ODS數(shù)據(jù)庫(kù)即具有數(shù)據(jù)倉(cāng)庫(kù)的功能,也具有一定OLTP應(yīng)用的特征,對(duì)性能要求較高,因此我們建議配置1個(gè)6CPU的PC服務(wù)器作為ODS數(shù)據(jù)庫(kù)服務(wù)器,另一個(gè)4CPU的PC服務(wù)器作為ETL服務(wù)器。從高可靠性出發(fā),這2個(gè)服務(wù)器將作HA高可靠性冗余。相關(guān)數(shù)據(jù)將放在SAN網(wǎng)路存儲(chǔ)中,冗余后的邏輯大小為3TB。未來ODS系統(tǒng)設(shè)計(jì)對(duì)于未來的ODS系統(tǒng)設(shè)計(jì),我們認(rèn)為可以引入MDM的設(shè)計(jì),但通過ODS來自動(dòng)修改的數(shù)據(jù)庫(kù)結(jié)構(gòu)也應(yīng)該僅針對(duì)新開發(fā)的應(yīng)用,即根據(jù)新開發(fā)應(yīng)用的需來對(duì)數(shù)據(jù)庫(kù)的結(jié)構(gòu)進(jìn)行修改。而不應(yīng)對(duì)一個(gè)正常運(yùn)行的應(yīng)用系統(tǒng)進(jìn)行任何的改變。0DS系統(tǒng)架構(gòu)ODS系統(tǒng)是介于DW和OLTP系統(tǒng)之間的系統(tǒng)。歷史事實(shí)證明,只有將各個(gè)系統(tǒng)的數(shù)據(jù)綜合在一起才能真正反映出企業(yè)管理需要的數(shù)據(jù)或者報(bào)表,而對(duì)這些數(shù)據(jù)的要求是近乎實(shí)時(shí)的。通過整合現(xiàn)有系統(tǒng)的數(shù)據(jù)和流程。使ODS系統(tǒng)作為所有應(yīng)用系統(tǒng)交互的平臺(tái),通過ETL和ESB兩種技術(shù)對(duì)現(xiàn)有數(shù)據(jù)進(jìn)行整合:各個(gè)應(yīng)用竹編,如人力資源、財(cái)務(wù)管理等將通過企業(yè)服務(wù)總線平臺(tái)(ESB)進(jìn)行交互,ESB也作為其它可能與應(yīng)用系統(tǒng)交互的統(tǒng)一接口;另一方面,數(shù)據(jù)抽取傳送平臺(tái)(ETL)負(fù)責(zé)將各個(gè)子系統(tǒng)的數(shù)據(jù)抽取出來(拆分、合并、映射)裝入到ODS系統(tǒng)中,那么ODS系統(tǒng)在具備了各個(gè)子系統(tǒng)的近實(shí)時(shí)數(shù)據(jù)之后,就可以作為獨(dú)立數(shù)據(jù)源對(duì)外提供數(shù)據(jù)服務(wù),它可以作為數(shù)據(jù)報(bào)表和分析的數(shù)據(jù)源,也可以作為其它子系統(tǒng)相互同步的數(shù)據(jù)源。這樣做有兩個(gè)好處:轉(zhuǎn)移了本屬于各系統(tǒng)的信息查詢負(fù)載到ODS系統(tǒng),使各系統(tǒng)的壓力降低,提高了整體性能。OMS由于擁有了完整的主數(shù)據(jù),它為面向主題的分析提供了必須的數(shù)據(jù)基礎(chǔ)。ODS數(shù)據(jù)模型ODS終極目標(biāo)是為了提供非戰(zhàn)略性的中層決策支持,我們認(rèn)為ODS的數(shù)據(jù)模型可以參考數(shù)據(jù)倉(cāng)庫(kù)(DW,DataWarehouse)的基礎(chǔ)模型,即將數(shù)據(jù)分為事實(shí)數(shù)據(jù)和緯度數(shù)據(jù)。事實(shí)數(shù)據(jù)一般代表的是業(yè)務(wù)變動(dòng)記錄,在MSS中我們稱為業(yè)務(wù)數(shù)據(jù),而緯度數(shù)據(jù)則存放事實(shí)數(shù)據(jù)中業(yè)務(wù)發(fā)生的對(duì)象主體信息,緯度數(shù)據(jù)稱為主數(shù)據(jù)。事實(shí)數(shù)據(jù)和緯度數(shù)據(jù)的關(guān)系是通過關(guān)鍵字來關(guān)聯(lián)的,在數(shù)據(jù)庫(kù)中它們都體現(xiàn)為數(shù)據(jù)表的形式。以下為ODS的數(shù)據(jù)模型圖:圖表SEQ圖表\*ARABIC13ODS數(shù)據(jù)模型在上圖中緯度是維持各系統(tǒng)數(shù)據(jù)的一致性描述,而事實(shí)表則是提供分析使用的基礎(chǔ)數(shù)據(jù)。在確立了基本的數(shù)據(jù)模型之后,如何確定數(shù)據(jù)的采集的范圍呢?首先從構(gòu)建企業(yè)全局視圖出發(fā)(即面向主題的分析),查出每個(gè)主題需要哪些數(shù)據(jù),這些數(shù)據(jù)分別分布在哪些系統(tǒng)中,當(dāng)這一切確定之后,那么整個(gè)ODS數(shù)據(jù)模型牽涉到的數(shù)據(jù)范圍就基本確定了。接著需要通過ETL工具將各系統(tǒng)中的業(yè)務(wù)數(shù)據(jù)轉(zhuǎn)換后裝入到ODS數(shù)據(jù)庫(kù)中,轉(zhuǎn)換方式大致分為四種:遷移:一般性的數(shù)據(jù)拷貝方式,源和目標(biāo)的數(shù)據(jù)屬性和值完全相同。組合:例如將供應(yīng)商所處的省份、市、街道組合為ODS中的地址字段。拆分:例如將員工姓名拆分為單獨(dú)的姓和名字段。映射:例如將合同的“完成”狀態(tài)映射為“OK”態(tài)。當(dāng)數(shù)據(jù)從MSS子系統(tǒng)轉(zhuǎn)換到ODS系統(tǒng)時(shí),數(shù)據(jù)質(zhì)量依賴于ETL平臺(tái),ETL平臺(tái)提供完整的事務(wù)、容錯(cuò)、補(bǔ)償、容錯(cuò)和日志功能用于控制數(shù)據(jù)轉(zhuǎn)換的質(zhì)量。0DS數(shù)據(jù)交互方式我們已經(jīng)確定了ESB作為ODS的數(shù)據(jù)交互機(jī)制,它允許多個(gè)應(yīng)用程序以去耦合或松散耦合的方式結(jié)合在一起。在一個(gè)軟件“總線”上,應(yīng)用程序的添加和刪除對(duì)同在總線上的其他應(yīng)用程序造成的影響非常小。也可以認(rèn)為ESB實(shí)現(xiàn)了調(diào)度程序/路由器模式,因?yàn)樗鉀Q了消息在使用ESB的應(yīng)用程序之間的路由選擇問題。ESB是服務(wù)基礎(chǔ)架構(gòu)的核心,它支持在異構(gòu)環(huán)境中以高度動(dòng)態(tài)的方式對(duì)服務(wù)進(jìn)行注冊(cè)、發(fā)現(xiàn)和調(diào)度。ESB本身可看作是企業(yè)實(shí)現(xiàn)和擁有的架構(gòu)模式。ODS從來不直接與各系統(tǒng)或數(shù)據(jù)倉(cāng)庫(kù)直接交互,無論系統(tǒng)訪問ODS系統(tǒng),還是ODS發(fā)送消息各系統(tǒng),它們總是通過調(diào)用服務(wù)總線中的組件來完成數(shù)據(jù)交互的。并且,ESB不僅是為ODS提供數(shù)據(jù)服務(wù),ESB是作企業(yè)應(yīng)用集成環(huán)境(EAI)中核心的數(shù)據(jù)交互機(jī)制為所有的信息整合提供數(shù)據(jù)服務(wù)。下圖為ESB的邏輯模型:對(duì)于ESB的設(shè)計(jì)原則,我們主要參照以下幾點(diǎn):強(qiáng)調(diào)性能,增加系統(tǒng)并發(fā)能力,避免出現(xiàn)任何由局部的堵塞造成整個(gè)ESB平臺(tái)堵塞的情況。必要情況下要將長(zhǎng)消息流用隊(duì)列斷開為多條可并行的消息流以增強(qiáng)系統(tǒng)并發(fā)能力。避免單點(diǎn)故障,使用雙ESB,多執(zhí)行組,多消息流配置,HA高可靠性集群等方式來杜絕單點(diǎn)故障,提高系統(tǒng)的總體可用性。提高可重用性??芍赜眯园ùa可重用性,以及在運(yùn)行時(shí)的可重用服務(wù)。前者要求使用統(tǒng)一報(bào)文格式,統(tǒng)一編碼規(guī)則開發(fā)可備重用的標(biāo)準(zhǔn)Template,后者要求使用開放的標(biāo)準(zhǔn)定義服務(wù)及發(fā)布服務(wù)。增強(qiáng)可維護(hù)性及靈活性。盡量避免新增的功能對(duì)原有代碼的改動(dòng),改動(dòng)盡量能做成由配置驅(qū)動(dòng),而不是涉及代碼改動(dòng)。ESB須提供日志(Audit)功能以備各種比對(duì)要求和延遲計(jì)算。系統(tǒng)必須能提供在流入及流出ESB的節(jié)點(diǎn)日志?;贓SB構(gòu)建的ODS數(shù)據(jù)交互方式描述如下:各系統(tǒng)以消息訂閱者的身份注冊(cè)到ESB平臺(tái),監(jiān)聽進(jìn)入ESB信道的各種消息,根據(jù)一定的規(guī)則選擇對(duì)某些消息做出響應(yīng);同時(shí)每個(gè)子系統(tǒng)也可以消息發(fā)布者的身份向ESB發(fā)送特定的消息,期望得到其它子系統(tǒng)的相應(yīng)。通過這種模式也可以看出,ESB實(shí)際上是一個(gè)面向服務(wù)的消息調(diào)度平臺(tái)。ODS數(shù)據(jù)安全性控制從上文的系統(tǒng)架構(gòu)設(shè)計(jì)可以看出,ODS作為數(shù)據(jù)集成中心,可以被各個(gè)系統(tǒng)通過不同的途徑讀取或者改寫,最主要三種方式是:各系統(tǒng)直接讀取ODS的數(shù)據(jù)結(jié)構(gòu);各系統(tǒng)通過ETL平臺(tái)讀取或者改寫ODS系統(tǒng)數(shù)據(jù);各系統(tǒng)通過ESB平臺(tái)發(fā)出請(qǐng)求消息,導(dǎo)致ODS的數(shù)據(jù)被請(qǐng)求或者改寫;對(duì)于這樣一個(gè)龐大的系統(tǒng)的數(shù)據(jù)安全控制,我們認(rèn)為最重要的是先創(chuàng)建一份安全審計(jì)的規(guī)則表,即通常所說的CRUD(C,Create;R,Read;U,Update;D,Delete)權(quán)限矩陣,下表為矩陣的模版:ODS實(shí)體屬性計(jì)劃建設(shè)系統(tǒng)物質(zhì)系統(tǒng)財(cái)務(wù)系統(tǒng)…供應(yīng)商編號(hào)R(ETL)CRU(DB)R(ESB)名稱R(ETL)CRU(DB)R(ESB)上表演示了ODS系統(tǒng)中的關(guān)于供應(yīng)商實(shí)體數(shù)據(jù)在不同的系統(tǒng)中發(fā)起的各種操作的情況下,所能執(zhí)行的數(shù)據(jù)訪問權(quán)限。具體的CRUD權(quán)限矩陣將根據(jù)實(shí)際的業(yè)務(wù)需求制定。數(shù)據(jù)管理由于用戶的需求和場(chǎng)景是經(jīng)常變化的,因此滿足個(gè)性化的定制將變的非常重要。目前數(shù)據(jù)應(yīng)用在個(gè)性戶定制方面主要表現(xiàn)在:雖然定義了模型,但模型不完整,效果不好。這樣用戶在使用時(shí),不能根據(jù)其需求動(dòng)態(tài)的調(diào)整后端的業(yè)務(wù)規(guī)則和運(yùn)行環(huán)境,不利于用戶的使用。所以需要提供一個(gè)靈活的數(shù)據(jù)模型管理,以及業(yè)務(wù)規(guī)則管理,來應(yīng)對(duì)系統(tǒng)的變化。數(shù)據(jù)模型管理提供可視化的數(shù)據(jù)模型編輯工具,支持以下幾種數(shù)據(jù)模型抽取模式。主擴(kuò)展模式通常用來將幾個(gè)相似的對(duì)象的共有屬性抽取出來,形成一個(gè)“公共屬性表”。例如:一個(gè)員工的基本信息由角色信息、組織信息、崗位信息等部分組成。主從模式描述兩個(gè)表之間的主從關(guān)系,從而形成的“一對(duì)多”關(guān)系。例如:一個(gè)項(xiàng)目對(duì)應(yīng)多個(gè)計(jì)劃階段。多對(duì)多模式描述對(duì)象相互不分主次、地位,互為一對(duì)多的關(guān)系。例如:一種器材可以對(duì)應(yīng)多個(gè)領(lǐng)料單,一個(gè)領(lǐng)料單也可以對(duì)應(yīng)多種器材。流程、規(guī)則管理提供可視化的流程編輯工具、流程定義和流程監(jiān)控功能。提供函數(shù)集提供常用規(guī)則方法,以及規(guī)則定義語(yǔ)言描述規(guī)則。提供基本規(guī)則:直接映射原來是什么就是什么,原封不動(dòng)照搬過來,對(duì)這樣的規(guī)則,如果數(shù)據(jù)源字段和目標(biāo)字段長(zhǎng)度或精度不符,需要特別注意看是否真的可以直接映射還是需要做一些簡(jiǎn)單運(yùn)算。數(shù)學(xué)運(yùn)算數(shù)據(jù)源的一個(gè)或多個(gè)字段進(jìn)行數(shù)學(xué)運(yùn)算得到的目標(biāo)字段,比如:合同里的支付計(jì)劃由多個(gè)時(shí)間段和支付比例組成,由此得出其總的合同支付時(shí)間和支付金額,這種規(guī)則一般對(duì)數(shù)值型字段而言。參照轉(zhuǎn)換在轉(zhuǎn)換中通常要用數(shù)據(jù)源的一個(gè)或多個(gè)字段作為Key,去一個(gè)關(guān)聯(lián)數(shù)組中去搜索特定值,而且應(yīng)該只能得到唯一值。這個(gè)關(guān)聯(lián)數(shù)組使用Hash算法實(shí)現(xiàn)是比較合適也是最常見的,在整個(gè)ETL開始之前,它就裝入內(nèi)存,對(duì)性能提高的幫助非常大。字符串處理從數(shù)據(jù)源某個(gè)字符串字段中經(jīng)??梢垣@取特定信息,例如身份證號(hào)。而且,經(jīng)常會(huì)有數(shù)值型值,以字符串形式體現(xiàn)。對(duì)字符串的操作通常有類型轉(zhuǎn)換、字符串截取等。但是由于字符類型字段的隨意性也造成了臟數(shù)據(jù)的隱患,所以在處理這種規(guī)則的時(shí)候,一定要加上異常處理??罩蹬袛鄬?duì)于空值的處理是數(shù)據(jù)倉(cāng)庫(kù)中一個(gè)常見問題,是將它作為臟數(shù)據(jù)還是作為特定一種維成員?這恐怕還要看應(yīng)用的情況,也是需要進(jìn)一步探求的。但是無論怎樣,對(duì)于可能有NULL值的字段,不要采用“直接映射”的規(guī)則類型,必須對(duì)空值進(jìn)行判斷,目前我們的建議是將它轉(zhuǎn)換成特定的值。日期轉(zhuǎn)換在數(shù)據(jù)倉(cāng)庫(kù)中日期值一般都會(huì)有特定的,不同于日期類型值的表示方法,例如使用8位整型20040801表示日期。而在數(shù)據(jù)源中,這種字段基本都是日期類型的,所以對(duì)于這樣的規(guī)則,需要一些共通函數(shù)來處理將日期轉(zhuǎn)換為8位日期值、6位月份值等。日期運(yùn)算基于日期,我們通常會(huì)計(jì)算日差、月差、時(shí)長(zhǎng)等。一般數(shù)據(jù)庫(kù)提供的日期運(yùn)算函數(shù)都是基于日期型的,而在數(shù)據(jù)倉(cāng)庫(kù)中采用特定類型來表示日期的話,必須有一套自己的日期運(yùn)算函數(shù)集。聚集運(yùn)算對(duì)于事實(shí)表中的度量字段,他們通常是通過數(shù)據(jù)源一個(gè)或多個(gè)字段運(yùn)用聚集函數(shù)得來的,這些聚集函數(shù)為SQL標(biāo)準(zhǔn)中,包括sum,count,avg,min,max。既定取值這種規(guī)則和以上各種類型規(guī)則的差別就在于它不依賴于數(shù)據(jù)源字段,對(duì)目標(biāo)字段取一個(gè)固定的或是依賴系統(tǒng)的值主數(shù)據(jù)管理我們的系統(tǒng)必須要能保證基礎(chǔ)數(shù)據(jù)的數(shù)據(jù)模型、編碼規(guī)范的穩(wěn)定性。這樣才能為其他各個(gè)系統(tǒng)提供準(zhǔn)確統(tǒng)一的數(shù)據(jù)。但是即使在穩(wěn)定的數(shù)據(jù)也有會(huì)發(fā)生變更的可能性,甚至?xí)灰髣h除。但是如果直接變更或是刪除,會(huì)影響到各個(gè)業(yè)務(wù)系統(tǒng)的使用。所以必須采取一定的措施來避免這樣的問題。主數(shù)據(jù)變更在與相關(guān)部門溝通協(xié)調(diào)后,如果主數(shù)據(jù)仍然需要變更。我們將把主數(shù)據(jù)更新成新的版本,并同時(shí)通知各個(gè)業(yè)務(wù)系統(tǒng),同時(shí)將繼續(xù)在一定時(shí)間內(nèi)維持舊數(shù)據(jù)的版本。使各個(gè)系統(tǒng)有時(shí)間來變更和接受新的主數(shù)據(jù)。當(dāng)變更完成后,舊的主數(shù)據(jù)版本將會(huì)被移除。如下所示:項(xiàng)目信息主數(shù)據(jù)(舊版本)項(xiàng)目信息主數(shù)據(jù)(舊版本)項(xiàng)目信息主數(shù)據(jù)(新版本)計(jì)劃建設(shè)系統(tǒng)項(xiàng)目信息主數(shù)據(jù)(舊版本)項(xiàng)目信息主數(shù)據(jù)(舊版本)項(xiàng)目信息主數(shù)據(jù)(新版本)計(jì)劃建設(shè)系統(tǒng)項(xiàng)目信息主數(shù)據(jù)(新版本)項(xiàng)目信息主數(shù)據(jù)(新版本)計(jì)劃建設(shè)系統(tǒng)主數(shù)據(jù)刪除在與相關(guān)部門溝通協(xié)調(diào)后,如果主數(shù)據(jù)仍然需要?jiǎng)h除。系統(tǒng)將會(huì)通知引用該主數(shù)據(jù)的系統(tǒng)。直至所有引用該主數(shù)據(jù)系統(tǒng)全部不使用該主數(shù)據(jù)時(shí),系統(tǒng)將對(duì)此主數(shù)據(jù)進(jìn)行刪除。項(xiàng)目信息主數(shù)據(jù)項(xiàng)目信息主數(shù)據(jù)計(jì)劃建設(shè)系統(tǒng)項(xiàng)目信息主數(shù)據(jù)項(xiàng)目信息主數(shù)據(jù)計(jì)劃建設(shè)系統(tǒng)計(jì)劃建設(shè)系統(tǒng)計(jì)劃建設(shè)系統(tǒng)報(bào)表功能數(shù)據(jù)倉(cāng)庫(kù)概念的提出也把數(shù)據(jù)處理劃分為了操作型處理和分析型處理兩種不同類型,從而建立起了DB-DW的兩層體系結(jié)構(gòu)。但是有很多情況,DB-DW的兩層體系結(jié)構(gòu)并不能涵蓋企業(yè)所有的數(shù)據(jù)處理要求,比如有些實(shí)時(shí)性決策問題,它要求獲取數(shù)據(jù)周期不能太長(zhǎng),而且也需要一定程度的匯總。這樣的問題可以借助于DB-DW的中間層ODS(操作數(shù)據(jù)存儲(chǔ))來解決。它象DW一樣是一種面向主題,集成的數(shù)據(jù)環(huán)境,又像操作型DB一樣包含著全局一致的,細(xì)節(jié)的當(dāng)前的數(shù)據(jù)。我們看下常用的幾種系統(tǒng)應(yīng)用集成需求:一級(jí)干線工程信息查詢?。▽?shí)時(shí)監(jiān)控)重點(diǎn)供應(yīng)商往來情況分析?。Q策支持)小靈通設(shè)備折舊年限改為七年的折舊差異測(cè)算!(預(yù)測(cè))建設(shè)單位管理費(fèi)占工程支出的比例分析2006年7月DDN、分組交換、微波、PDH在網(wǎng)資產(chǎn)情況提供事實(shí)的全局信息進(jìn)行實(shí)時(shí)監(jiān)控與臨時(shí)決策要滿足上面所有的需求,不管是傳統(tǒng)的OLTP系統(tǒng)還是已經(jīng)集成的數(shù)據(jù)倉(cāng)庫(kù),都是很難完成任務(wù)的。由于這些原因,ODS應(yīng)運(yùn)而生。ODS可以看作是圍繞主題進(jìn)行動(dòng)態(tài)整合的一種應(yīng)用型體系結(jié)構(gòu),它有如下一些特點(diǎn):從OLTP系統(tǒng)獲取數(shù)據(jù)提供幾乎精確到每秒的企業(yè)整體應(yīng)用狀態(tài)數(shù)據(jù)一旦過期就將轉(zhuǎn)入DW實(shí)時(shí)決策與預(yù)警提示使用者多為前端業(yè)務(wù)人員在企業(yè)領(lǐng)域中,我們可以通過下表的梳理方式來選擇我們所要切入的分析主題報(bào)表:主數(shù)據(jù)集團(tuán)統(tǒng)一單位編碼、集團(tuán)會(huì)計(jì)科目編號(hào)、集團(tuán)用戶、集團(tuán)供應(yīng)商在建工程:專業(yè)類別、建設(shè)性質(zhì)、管理關(guān)系、項(xiàng)目屬性資產(chǎn):資產(chǎn)類別、資產(chǎn)歸屬、資產(chǎn)狀態(tài)、折舊狀態(tài)財(cái)務(wù)輔助系統(tǒng):物資類別、網(wǎng)絡(luò)元素、產(chǎn)品類別、各種費(fèi)用明細(xì)分類等業(yè)務(wù)數(shù)據(jù)應(yīng)收明細(xì)、應(yīng)付明細(xì)、一級(jí)干線工程基礎(chǔ)數(shù)據(jù)表、一級(jí)干線工程合同信息數(shù)據(jù)表、一級(jí)干線工程計(jì)劃下達(dá)信息數(shù)據(jù)表、一級(jí)干線工程核算數(shù)據(jù)表財(cái)務(wù)輔助系統(tǒng)報(bào)銷單明細(xì)數(shù)據(jù):領(lǐng)料單,修理費(fèi),營(yíng)銷費(fèi),代辦手續(xù)費(fèi),差旅費(fèi),會(huì)議費(fèi),綜合費(fèi)用多維匯總數(shù)據(jù)科目余額表、在建工程統(tǒng)計(jì)、資產(chǎn)統(tǒng)計(jì)報(bào)表關(guān)聯(lián)交易匯總表、應(yīng)收賬款匯總表、應(yīng)付賬款匯總表、在建工程決算信息一覽表、工程預(yù)、決偏離信息表、已決算工程項(xiàng)目費(fèi)用構(gòu)成情況表、固定資產(chǎn)詳情表、折舊預(yù)測(cè)表功能特點(diǎn)先進(jìn)的技術(shù)與支持多種數(shù)據(jù)庫(kù)信息化建設(shè)過程中,業(yè)務(wù)需求是逐步發(fā)展的,這樣就要求系統(tǒng)總體結(jié)構(gòu)的設(shè)計(jì)有完善、先進(jìn)、穩(wěn)定、可靠的軟件架構(gòu)。采用基于XMLWeb服務(wù)(WebService)的.NET技術(shù)開發(fā)ODS系統(tǒng),是項(xiàng)目成功的有利保證。提供靈活方便的自定義業(yè)務(wù)流程的功能。以圖形化的形式繪制各類業(yè)務(wù)流程,并可在該業(yè)務(wù)發(fā)生變更時(shí)很方便地進(jìn)行維護(hù)。對(duì)于簡(jiǎn)單的業(yè)務(wù),可不需進(jìn)行程序代碼的變更,完全通過自定義的方式定義出該業(yè)務(wù)種類的各個(gè)環(huán)節(jié)以及其權(quán)限處理、權(quán)限控制和業(yè)務(wù)處理方法。面向用戶角色的設(shè)計(jì)。系統(tǒng)設(shè)計(jì)方案在構(gòu)想初期就從ODS系統(tǒng)管理所要求的層次:操作層和管理層全盤考慮,充分了解不同級(jí)別的人員所關(guān)心的問題,務(wù)求能夠?yàn)橛脩艚鉀Q在ODS系統(tǒng)應(yīng)用中的實(shí)際問題。產(chǎn)品的高度靈活性、開放性和可擴(kuò)展性市場(chǎng)唯一不變的法則就是永遠(yuǎn)在變。企業(yè)發(fā)展的可拓展性,作為企業(yè)的決策者,企業(yè)發(fā)展的可持續(xù)性、可拓展性已是一個(gè)不可忽略和怠慢的話題。作為ODS系統(tǒng)的一種管理理念,這種企業(yè)拓展性發(fā)展已被融入其中。ODS系統(tǒng)為了更好的方便企業(yè)對(duì)于拓展性的要求,并使企業(yè)決策者在考慮拓展企業(yè)時(shí)無需為大量的信息投資所困擾。集成與開放體現(xiàn)在兩個(gè)方面:一是系統(tǒng)自身模塊的集成;二是與外部其它系統(tǒng)的集成。科大訊飛的研發(fā)人員在開發(fā)ODS系統(tǒng)管理系統(tǒng)時(shí)就充分考慮到用戶的這種需求,將系統(tǒng)設(shè)計(jì)成開放性的系統(tǒng),預(yù)留數(shù)據(jù)庫(kù)和系統(tǒng)接口,保證了與其它系統(tǒng)的無縫鏈接。ODS系統(tǒng)管理系統(tǒng)優(yōu)良的可升級(jí)性能,使用戶用最低的成本,滿足了當(dāng)前和未來的資源需求。服務(wù)器管理及監(jiān)控系統(tǒng)為了能使用戶對(duì)于公文處理和事務(wù)審批系統(tǒng)更好的使用,我們需要對(duì)應(yīng)用服務(wù)器系統(tǒng)進(jìn)行統(tǒng)一的管理監(jiān)控。通過對(duì)應(yīng)用服務(wù)器運(yùn)行狀況的監(jiān)控管理,可以提高用戶的體驗(yàn)水平,增強(qiáng)系統(tǒng)的可用性。系統(tǒng)管理及監(jiān)控系統(tǒng)主要是為了達(dá)成此目的而建設(shè)。整個(gè)系統(tǒng)對(duì)服務(wù)器的監(jiān)控管理,實(shí)時(shí)接收采集各種時(shí)間信息,對(duì)服務(wù)器運(yùn)行狀態(tài)進(jìn)行評(píng)估,保證系統(tǒng)穩(wěn)定運(yùn)行。服務(wù)器監(jiān)控管理功能1、服務(wù)器監(jiān)控管理功能通過對(duì)Windows平臺(tái)和Windows平臺(tái)上應(yīng)用系統(tǒng)的事件、健康情況、性能狀況的監(jiān)控,可以實(shí)現(xiàn)對(duì)管理范圍內(nèi)的重要事件信息的捕獲、評(píng)估并及時(shí)呈現(xiàn)給系統(tǒng)管理員,讓系統(tǒng)管理員可以及時(shí)做出反應(yīng),盡快解決各種潛在的隱患,不至于影響關(guān)鍵應(yīng)用的正常運(yùn)行。同時(shí)管理系統(tǒng)通過內(nèi)置的職能知識(shí)庫(kù)系統(tǒng)幫助系統(tǒng)管理員根據(jù)發(fā)生的事件盡快診斷出問題所在,以便對(duì)癥下藥,解決問題。還可以不斷完善、豐富知識(shí)庫(kù)內(nèi)的內(nèi)容,以提高IT管理的水平。2、系統(tǒng)采用精密的多層體系結(jié)構(gòu),支持負(fù)載平衡,可以以伸縮的方式滿足大型企業(yè)的需求。中心管理站點(diǎn)可以接收從代理程序收集來的信息。通過合并器進(jìn)行合并執(zhí)行由處理規(guī)則指定的中央操作,如,運(yùn)行一個(gè)腳本或批處理文件,或?qū)z測(cè)到的情況通知操作員。合并器還向數(shù)據(jù)訪問服務(wù)器(DAS)發(fā)送信息。3、系統(tǒng)可以通過統(tǒng)一的操作管理平臺(tái)對(duì)所有的事件進(jìn)行處理。4、管理員可以定義規(guī)則,可以通過預(yù)先設(shè)定好的操作對(duì)指定的時(shí)間進(jìn)行處理反映。并可和微軟知識(shí)庫(kù)進(jìn)行集成,直接得到錯(cuò)誤事件的序列號(hào),方便操作人員查詢。5、當(dāng)管理系統(tǒng)捕獲、評(píng)估各種事件后,可以通過預(yù)先配置的手段及時(shí)報(bào)警,通知系統(tǒng)管理員。報(bào)警的手段可以是多種多樣的,像呼機(jī)、手機(jī)、短信等,非常靈活。6、系統(tǒng)可以設(shè)置監(jiān)控主要的性能閥值??梢宰远x規(guī)則或添加新規(guī)則,對(duì)系統(tǒng)和應(yīng)用程序性能趨勢(shì)進(jìn)行監(jiān)控,以用于歷史記錄報(bào)告和能力規(guī)劃。此外,還可以對(duì)本地閥值和集合閥值進(jìn)行設(shè)置,以在系統(tǒng)或應(yīng)用程序的性能發(fā)生變化,需要進(jìn)行管理干預(yù)時(shí)做出適當(dāng)?shù)姆磻?yīng),發(fā)出警告并執(zhí)行適當(dāng)?shù)牟僮鳌?、MicrosoftOperationsManager2005中,管理員創(chuàng)建的規(guī)則可使系統(tǒng)自動(dòng)對(duì)入站消息流做出反應(yīng),也就是使用預(yù)定義的操作對(duì)特定的錯(cuò)誤方案做出反應(yīng),或是將消息合并到更有意義或更明顯的事件中。這些規(guī)則可使MicrosoftOperationsManager對(duì)事件做出智能反應(yīng)并預(yù)見事件的發(fā)生模式,觸發(fā)操作或管理警告。規(guī)則還能夠?qū)⑹录蛄墟溄拥健癕icrosoft知識(shí)庫(kù)”文章中,不斷向操作人員提供指導(dǎo),指明可能導(dǎo)致錯(cuò)誤的原因、允許對(duì)特定問題做出的反應(yīng),以及指向其他信息的鏈接。8、系統(tǒng)提供各類管理軟件包,管理軟件包由預(yù)配置的規(guī)則集合和知識(shí)庫(kù)文章組成,用于為特定范圍內(nèi)的應(yīng)用程序或服務(wù)提供規(guī)則。這些“管理軟件包”由專家開發(fā)和提煉,除提供完整的現(xiàn)成解決方案外,還為高級(jí)管理員提供了一個(gè)堅(jiān)實(shí)的基礎(chǔ),使他們可以自定義和擴(kuò)展解決方案。管理軟件包包括Windows2000、ActiveDirectory?服務(wù)、FileReplication服務(wù)(FRS)、DNS、WindowsInternetNameService(WINS)、InternetInformationServices(IIS)、DynamicHostConfigurationProtocol(DHCP)、RoutingandRemoteAccess、MicrosoftTransactionService(MTS)、MicrosoftMessageQueuing(也被稱為MSMQ)MicrosoftDistributedTransactionCoordinator(MSDTC)、SystemsManagementServer、MicrosoftOperationsManager、TerminalServer、MicrosoftWindowsNT?4.0操作MicrosoftExchangeServer2000、MicrosoftSQLServer?2000和BackOffice應(yīng)用程序套件(Exchange5.5、SQLServer7.0Microsoft、SiteServer3.0、MicrosoftProxyServer2.0和SNAServer4.0)等。通過這些專門定制的工具包可以對(duì)應(yīng)用系統(tǒng)進(jìn)行完善的監(jiān)控,保證系統(tǒng)內(nèi)部所有功能單元的可用性。9、使用本系統(tǒng)可以訪問大量的預(yù)配置報(bào)告和圖表。生成的報(bào)告允許管理員檢查網(wǎng)絡(luò)中系統(tǒng)和服務(wù)的狀態(tài),并基于性能和可用性數(shù)據(jù)對(duì)基礎(chǔ)設(shè)施實(shí)施更改??稍谙到y(tǒng)中添加一些來自Microsoft或其他供應(yīng)商“管理軟件包”的其他報(bào)告,以進(jìn)一步豐富管理員可用的報(bào)表資源。10、對(duì)于已生成的報(bào)告,MicrosoftOperationsManager2005可為其生成基于超文本標(biāo)記語(yǔ)言(HTML)的快照。然后,這些快照可以導(dǎo)出到Web服務(wù)器,以供Web瀏覽器及MicrosoftOperationsManager2000、Microsoft管理控制臺(tái)(MMC)和Web控制臺(tái)訪問。服務(wù)器監(jiān)控管理模塊管理包選擇設(shè)計(jì)Microsoft針對(duì)不同的產(chǎn)品和功能模塊提供多個(gè)預(yù)定義的系統(tǒng)管理的解決方案,稱為管理包模塊?,F(xiàn)成的管理包模塊可直接用于系統(tǒng)監(jiān)控、管理特定用途,如活動(dòng)目錄、DNS、WINS服務(wù)以及MicrosoftSMS2003Server應(yīng)用環(huán)境。管理包模塊提供如下功能:特定的處理規(guī)則組,計(jì)算機(jī)組和處理規(guī)則,如過濾器、警報(bào)、性能采樣和閾值原則。預(yù)定義的計(jì)算機(jī)屬性、提供者、腳本和知識(shí)庫(kù),以及公共視圖和默認(rèn)通告組。設(shè)定MOM如何收集、處理、響應(yīng)信息。按照本項(xiàng)目的系統(tǒng)運(yùn)行管理需求,管理包的選擇如下:活動(dòng)目錄管理包組策略管理包FRS管理包DNS管理包DHCP管理包(選擇使用)WINS管理包IIS管理包WindowsOS管理包WindowsSharePointService管理包SMS2003管理包MOM2005管理包SQL2005管理包RMS管理包ISA2006管理包服務(wù)器監(jiān)控管理模塊報(bào)表設(shè)計(jì)在服務(wù)器監(jiān)控管理模塊中報(bào)表是一項(xiàng)很重要的功能,它對(duì)于幫助管理人員管理維護(hù)整個(gè)系統(tǒng)具有重要的作用。MOM根據(jù)MOM服務(wù)器中所存儲(chǔ)的信息使用MicrosoftAccess生成報(bào)告,之后可將這些報(bào)告發(fā)布至Web服務(wù)器并且可使用MOMWeb控制臺(tái)瀏覽。MOMReporting通過MicrosoftAccess運(yùn)行報(bào)告及訪問MOM數(shù)據(jù)庫(kù),Access與數(shù)據(jù)庫(kù)之間利用ODBC而不是MOM數(shù)據(jù)服務(wù)器進(jìn)行通訊。為了獲取儲(chǔ)存在MOM數(shù)據(jù)庫(kù)中的信息,MOMReporting利用MicrosoftAccess生成報(bào)告,Access利用經(jīng)Windows操作系統(tǒng)認(rèn)證的ODBC連接從MicrosoftSQL

Server數(shù)據(jù)庫(kù)獲取數(shù)據(jù)。多項(xiàng)MOMReporting可連接至單一MOM數(shù)據(jù)庫(kù)并利用其數(shù)據(jù)生成報(bào)告,此項(xiàng)功能有助于不同的管理員監(jiān)視MOM的不同方面,例如:一個(gè)管理員可生成性能及容量的報(bào)告,而另一個(gè)管理員可生成有關(guān)操作的報(bào)告。單項(xiàng)MOMReporting也可連接至多個(gè)MOM數(shù)據(jù)庫(kù)并根據(jù)其數(shù)據(jù)生成報(bào)告。對(duì)于一臺(tái)計(jì)算機(jī)的多配置組生成報(bào)告此項(xiàng)功能十分有用。MOMReporting可一次從單個(gè)數(shù)據(jù)庫(kù)生成報(bào)告。 報(bào)告服務(wù)器策略運(yùn)行MOM報(bào)告服務(wù)器需要下列軟件:MicrosoftAccess2000及以后的版本-至少啟動(dòng)一次Access供MOM安裝程序檢測(cè)MicrosoftAccessSnap-shotviewer-與Access一起安裝MicrosoftOfficeGraphMicrosoftDataAccessComponent2.6及以后的版本Printer–用于存儲(chǔ)HTML格式的報(bào)告如需頻繁生成報(bào)告,請(qǐng)勿將MOMReporting安裝在MOM數(shù)據(jù)庫(kù)服務(wù)器上,否則將導(dǎo)致由于生成報(bào)告所需的CPU和內(nèi)存占用影響MOM數(shù)據(jù)庫(kù)的性能;將MOMReporting安裝在單獨(dú)的計(jì)算機(jī)上,報(bào)告生成次數(shù)的增加僅與網(wǎng)絡(luò)延遲有關(guān),而不會(huì)影響到MOM服務(wù)器的性能。在本期工程中建議將中MOMReporting將安裝在MOM/網(wǎng)管服務(wù)器上,為了能在本地運(yùn)行報(bào)告,Access報(bào)告引擎也被安裝于該服務(wù)器上。如上所述,運(yùn)行MOMReporting需要占用CPU和內(nèi)存,因此建議不要在正常辦公時(shí)間運(yùn)行報(bào)表生成程序,應(yīng)在非正常工作時(shí)間生成報(bào)表以避免與日常備份工作沖突。建議:在每天凌晨?jī)牲c(diǎn)至六點(diǎn)生成日?qǐng)?bào)表;在周六或周日白天生成周報(bào)表或月報(bào)表;報(bào)告發(fā)布生成的報(bào)表,將被發(fā)布至web服務(wù)器,要完成此項(xiàng)操作需將MOMWeb控制臺(tái)安裝在DCAM服務(wù)器上。存儲(chǔ)HTML格式報(bào)表的缺省位置為:x:\ProgramFiles\MicrosoftOperationsManager2000\Event\Reports。安裝過程中,會(huì)在MOM服務(wù)器生成一個(gè)名為Reporting的虛擬目錄。此虛擬目錄使用Windows認(rèn)證,缺省權(quán)限為只讀(ReadOnly)。由于MOM報(bào)告中部分?jǐn)?shù)據(jù)的保密性,需要采取如下所述的安全加強(qiáng)措施:取消網(wǎng)絡(luò)共享:缺省情況下,安裝過程中會(huì)生成一個(gè)名為Reports的網(wǎng)絡(luò)共享。此共享可被刪除而不會(huì)影響MOM的功能。設(shè)置NTFS許可:報(bào)告目錄缺省的ACLs設(shè)置賦予本地Users組只讀權(quán)限。建議作如下改變:1、取消對(duì)本地Users組的訪問權(quán)限2、添加并賦予本地OnePointReporting組的只讀權(quán)限系統(tǒng)技術(shù)特點(diǎn)為實(shí)現(xiàn)安徽電信ODS系統(tǒng)管理系統(tǒng)的業(yè)務(wù)處理、資源共享、信息交流,采用了面向?qū)ο蟆⑾f(xié)作、動(dòng)態(tài)工作流和組件等先進(jìn)技術(shù),架構(gòu)層次清晰,緊密結(jié)合行業(yè)特點(diǎn),注重易用性、個(gè)性化,與同類產(chǎn)品相比,本系統(tǒng)在先進(jìn)性、安全性、開放性、高效性、擴(kuò)展性、靈活性、易用性、規(guī)范性、實(shí)用性等方面均達(dá)到較高的水準(zhǔn),具有以下突出優(yōu)勢(shì):先進(jìn)性.NET平臺(tái)支持業(yè)內(nèi)各種高級(jí)應(yīng)用、接口技術(shù)和標(biāo)準(zhǔn),使系統(tǒng)平臺(tái)具有良好的開放性和互集成性。同時(shí),作為主流應(yīng)用平臺(tái)之一,.NET也是業(yè)內(nèi)的事實(shí)工業(yè)標(biāo)準(zhǔn),是其他技術(shù)、系統(tǒng)、應(yīng)用支持的主要對(duì)象之一,可以確保系統(tǒng)在未來相當(dāng)長(zhǎng)的時(shí)間內(nèi)完全適應(yīng)審計(jì)信息化的發(fā)展。.NET平臺(tái)支持業(yè)內(nèi)各種高級(jí)應(yīng)用、接口技術(shù)和標(biāo)準(zhǔn),使系統(tǒng)平臺(tái)具有良好的開放性和互集成性。同時(shí),作為主流應(yīng)用平臺(tái)之一,.NET也是業(yè)內(nèi)的事實(shí)工業(yè)標(biāo)準(zhǔn),是其他技術(shù)、系統(tǒng)、應(yīng)用支持的主要對(duì)象之一,可以確保系統(tǒng)在未來相當(dāng)長(zhǎng)的時(shí)間內(nèi)完全適應(yīng)業(yè)務(wù)發(fā)展需要?;赬ML的WebService技術(shù),具有跨平臺(tái)的可互操作性,支持各專業(yè)之間信息交換。開放性和標(biāo)準(zhǔn)化本系統(tǒng)采用各種技術(shù),包括系統(tǒng)平臺(tái)、數(shù)據(jù)庫(kù),都完全符合各種國(guó)際標(biāo)準(zhǔn)和國(guó)家電子政務(wù)標(biāo)準(zhǔn)化指南要求,如XML、WebService等。高效性本系統(tǒng)在技術(shù)選型、功能、架構(gòu)設(shè)計(jì)過程中,一直以“實(shí)用”、“高效”為衡量基準(zhǔn)。例如,工作流引擎/業(yè)務(wù)模式、ASP.NET機(jī)制、數(shù)據(jù)壓縮存儲(chǔ)與傳輸、應(yīng)用系統(tǒng)Cache機(jī)制等提高系統(tǒng)運(yùn)行效率。靈活性與擴(kuò)展性本系統(tǒng)中所有流程處理過程所采用的“工作流/業(yè)務(wù)”模式,基于角色的組織架構(gòu)管理與應(yīng)用,在審計(jì)業(yè)務(wù)發(fā)生變化時(shí),可以通過簡(jiǎn)單的定制,使系統(tǒng)快速的適應(yīng)變化。隨著業(yè)務(wù)優(yōu)化進(jìn)一步加深,部門之間都存在信息共享、交換和互動(dòng)。系統(tǒng)采用ASP.NET技術(shù)架構(gòu)、先進(jìn)的MVC模式、工作流/業(yè)務(wù)模式、完全的XML與WebService應(yīng)用,可以方便地在各個(gè)層次上實(shí)現(xiàn)系統(tǒng)的擴(kuò)展,保證前期投資的有效和后期投入的接續(xù),最大限度的保證其繼承性和經(jīng)濟(jì)性。較高的性價(jià)比,降低總成本通過采用.NET技術(shù)進(jìn)行系統(tǒng)開發(fā),可以最大程度地重用了系統(tǒng)資源,避免了重復(fù)投資。例如,對(duì)服務(wù)器端系統(tǒng)軟件環(huán)境的要求就是:在Windows2003Server系統(tǒng)上免費(fèi)升級(jí)Mircosoft.NETFramework即可,無需其他第三方平臺(tái)軟件。因采用B/S系統(tǒng)架構(gòu),則無需配置用戶端軟件,這樣將大大節(jié)省安裝、維護(hù)、二次開發(fā)等總體擁有成本(TCO),總體費(fèi)用將降低20%以上。在系統(tǒng)管理與維護(hù)方面,通過對(duì)系統(tǒng)功能、用戶角色及其權(quán)限進(jìn)行個(gè)性化的定制,操作簡(jiǎn)單方便,使得系統(tǒng)能充分滿足業(yè)務(wù)管理的實(shí)際需求,而且系統(tǒng)安全性高。系統(tǒng)平臺(tái)方案硬件平臺(tái)設(shè)計(jì)對(duì)于硬件設(shè)計(jì),我們?cè)谠O(shè)計(jì)中主要遵循以下一些原則,并輔以對(duì)應(yīng)的設(shè)計(jì):高性能設(shè)計(jì)在設(shè)計(jì)中,我們將不同功能的服務(wù)器在物理上分開,從而保證應(yīng)用不互相影響性能;此外,對(duì)于性能壓力較大的ODS服務(wù)器我們配置了6CPU的高端PC服務(wù)器,從而有效保證了ODS數(shù)據(jù)庫(kù)服務(wù)器的性能,以滿足接近實(shí)時(shí)的數(shù)據(jù)抽取及分析等工作。而ESB系統(tǒng)更注重在業(yè)務(wù)的實(shí)現(xiàn),對(duì)性能要求沒有ODS高,因此我們將配置2-4CPU的服務(wù)器作為ESB系統(tǒng)各運(yùn)行模塊的服務(wù)器平臺(tái)。高可靠性對(duì)于ODS和ESB系統(tǒng)來說,高可靠性稍有不同,ODS是用于后端分析的,而不是聯(lián)機(jī)在線系統(tǒng),因此可靠性要求沒有其它那些在線系統(tǒng)高,而ESB系統(tǒng)是各系統(tǒng)之間的橋梁,一旦ESB投入運(yùn)營(yíng),則ESB系統(tǒng)的可靠性就很重要了。在本次設(shè)計(jì)中,我們對(duì)2個(gè)系統(tǒng)都采用了高可靠性的設(shè)計(jì)。其中ODS系統(tǒng)的3個(gè)服務(wù)器ETL和ODS數(shù)據(jù)庫(kù)服務(wù)器相互作冗余。而ESB系統(tǒng)的前端應(yīng)用服務(wù)器采用了2個(gè)BizTalk服務(wù)器,實(shí)現(xiàn)ESB的均衡負(fù)載及高可靠性,而后端的SQL數(shù)據(jù)庫(kù)服務(wù)器則被另外一個(gè)備份服務(wù)器所備份。因此,在這2個(gè)系統(tǒng)中,都沒有單點(diǎn)的故障,具有高可靠性。此外,對(duì)于BizTalk服務(wù)器采用均衡負(fù)載的設(shè)計(jì)可以保證當(dāng)任意一個(gè)服務(wù)器發(fā)生故障是,業(yè)務(wù)不會(huì)受到任何的影響和中斷,這種設(shè)計(jì)要優(yōu)于HA高可靠性集群。其他系統(tǒng)采用高可靠性集群的原因是因?yàn)閿?shù)據(jù)庫(kù)的單一性和一致性,只能采用HA高可靠性集群來實(shí)現(xiàn)系統(tǒng)的高可靠性。此外,SAN存儲(chǔ)設(shè)計(jì)中,我們采用了雙SAN交換機(jī)和磁盤陣列,這些設(shè)計(jì)可以保證存儲(chǔ)物單點(diǎn)故障。高可用性及可服務(wù)性在整個(gè)硬件設(shè)計(jì)中,我們采用了SAN網(wǎng)絡(luò)存儲(chǔ)的設(shè)計(jì),采用SAN網(wǎng)絡(luò)存儲(chǔ)的設(shè)計(jì),這種設(shè)計(jì)使存儲(chǔ)硬件和服務(wù)器在物理上分離,未來服務(wù)器或存儲(chǔ)設(shè)備上的任何硬件改動(dòng)都不會(huì)影響其它設(shè)備的正常工作。而這些設(shè)備又都支持熱插拔,這也大大提高了系統(tǒng)的高可服務(wù)性。而從架構(gòu)設(shè)計(jì)中,在ESB系統(tǒng)采用了2個(gè)并行的BizTalk服務(wù)器,主要是利用了其橫向擴(kuò)展的特點(diǎn),當(dāng)任何一個(gè)服務(wù)器需要服務(wù)時(shí),只需要將其拿走,而業(yè)務(wù)會(huì)轉(zhuǎn)移到另一個(gè)服務(wù)器上,不會(huì)受到影響,同樣當(dāng)需要增加BizTalk服務(wù)器時(shí),也只要在業(yè)務(wù)進(jìn)行時(shí)將其加入,這都體現(xiàn)了系統(tǒng)的高可服務(wù)性。可擴(kuò)展性在硬件設(shè)計(jì)中,我們利用了應(yīng)用服務(wù)器適合橫向擴(kuò)展、數(shù)據(jù)庫(kù)服務(wù)器適合縱向擴(kuò)展的特點(diǎn),對(duì)所有的數(shù)據(jù)庫(kù)服務(wù)器的設(shè)計(jì)配置都高于相應(yīng)的應(yīng)用服務(wù)器,這樣的話,即使未來業(yè)務(wù)需求超過本次需求的話,也不需要更換任何服務(wù)器。而BizTalk服務(wù)器因?yàn)榭梢詸M向擴(kuò)展,所以將來業(yè)務(wù)量超過本次需求時(shí),即使不夠的話也只需要添加新的服務(wù)器,和現(xiàn)有的服務(wù)器共同分擔(dān)業(yè)務(wù)壓力。通用性、易用性及經(jīng)濟(jì)性由于我們的設(shè)計(jì)是基于.net平臺(tái)和windowsserver2003基礎(chǔ)上的,這就最大程度地保證了系統(tǒng)的通用性和易用性,而這些平臺(tái)運(yùn)行在PC服務(wù)器上,設(shè)備成本和運(yùn)行成本遠(yuǎn)低于其它的操作系統(tǒng)計(jì)服務(wù)器,性價(jià)比極高。而且微軟公司擁有全球最大的用戶群,這可以保證未來技術(shù)能力的持續(xù)。下圖為網(wǎng)絡(luò)拓樸圖ETL服務(wù)器服務(wù)器作用主要負(fù)責(zé)數(shù)據(jù)的抽取(Extract),轉(zhuǎn)換(Transform)和裝載(Load),將分布在各業(yè)務(wù)系統(tǒng)的數(shù)據(jù)按照數(shù)據(jù)建模的要求對(duì)源數(shù)據(jù)進(jìn)行篩選整合,并將整合后的數(shù)據(jù)裁載到數(shù)據(jù)庫(kù)服務(wù)器中。計(jì)算測(cè)算依據(jù) 每個(gè)應(yīng)用系統(tǒng)與ETL的連接操作次數(shù)大約為120次/秒,峰值大約為300次/秒。這些操作次數(shù)會(huì)直接影響到ETL的整個(gè)操作過程。 ETL服務(wù)主要會(huì)涉及到以下操作:從應(yīng)用系統(tǒng)(目前一共6個(gè)主要系統(tǒng))中獲取源數(shù)據(jù);將獲取到的數(shù)據(jù)進(jìn)行抽取(Extract),轉(zhuǎn)換(Transform)和裝載(Load);最后將處理好的數(shù)據(jù)存放到運(yùn)營(yíng)數(shù)據(jù)庫(kù)中。衡量指標(biāo)指標(biāo)描述考核目的TPC-C單位為tpmc它的定義是每分鐘內(nèi)系統(tǒng)處理的事務(wù)個(gè)數(shù)。能夠并行執(zhí)行多種具有一定復(fù)雜度的事務(wù),強(qiáng)調(diào)服務(wù)器在一定時(shí)間限制范圍內(nèi)的事務(wù)處理能力。計(jì)算結(jié)果計(jì)算因素?cái)?shù)據(jù)值(峰值)數(shù)據(jù)值(均值)單次消耗tpmc個(gè)數(shù)描述應(yīng)用系統(tǒng)2100操作/秒720操作/秒0.5ETL讀取數(shù)據(jù)MSS系統(tǒng)的數(shù)據(jù)ETL2100操作/秒720操作/秒1對(duì)源數(shù)據(jù)進(jìn)行篩選整合主數(shù)據(jù)庫(kù)2100操作/秒720操作/秒0.5將整合后的數(shù)據(jù)載入到數(shù)據(jù)庫(kù)服務(wù)器中合計(jì):2100*0.5*60+2100*1*60+2100*0.5*60=252000tpmc 由于在通常情況下需要有30%的冗余,以保證系統(tǒng)的穩(wěn)定運(yùn)行,所以最終的計(jì)算結(jié)果應(yīng)為:252000/70%=360000tpmc。選擇結(jié)果由于需要和多個(gè)應(yīng)用服務(wù)器進(jìn)行交互,這里可以選擇三臺(tái)做為ETL服務(wù)器,每個(gè)ETL服務(wù)器與負(fù)責(zé)2個(gè)以上的應(yīng)用系統(tǒng),即每臺(tái)要求的tcmp值為120000。HPDL380G5可以滿足這個(gè)要求,同時(shí)性價(jià)比也是最好的。^

HardwareVendorSystemtpmCPrice/tpmCSystemAvailabilityHP

HPProLiantDL380G5QC

138,979

2.12

US$03/26/07

HP

HPProLiantBL25p/2.6GHz/DC

110,615

3.34

US$05/04/06

HP

HPProLiantML370G5SAS3.0GHz/4MBDC

169,360

2.93

US$11/22/06

運(yùn)營(yíng)數(shù)據(jù)庫(kù)服務(wù)器作用用于存儲(chǔ)經(jīng)過ETL的數(shù)據(jù)。向各個(gè)系統(tǒng)提供數(shù)據(jù)實(shí)時(shí)查詢、采集、同步應(yīng)用。向分析數(shù)據(jù)庫(kù)提供數(shù)據(jù),同步周期為1天。計(jì)算測(cè)算依據(jù)由于系統(tǒng)的數(shù)據(jù)被ETL處理后,會(huì)直接被存放于運(yùn)營(yíng)數(shù)據(jù)庫(kù)。所以運(yùn)營(yíng)數(shù)據(jù)庫(kù)的操作直接受到MSS數(shù)據(jù)的影響。因此可以測(cè)算出每個(gè)ETL與運(yùn)營(yíng)數(shù)據(jù)庫(kù)的連接操作次數(shù)大約為240次/秒,峰值大約為700次/秒。這些操作次數(shù)會(huì)直接影響到ETL的整個(gè)操作過程。 運(yùn)營(yíng)數(shù)據(jù)庫(kù)主要會(huì)涉及到以下操作:接受ETL處理后的數(shù)據(jù)(間接從MSS系統(tǒng)(目前一共6個(gè)主要系統(tǒng))中獲取源數(shù)據(jù));向各個(gè)應(yīng)用系統(tǒng)(大約15個(gè)左右)提供數(shù)據(jù)實(shí)時(shí)查詢、采集、同步應(yīng)用;向分析數(shù)據(jù)庫(kù)提供數(shù)據(jù);BizTalk進(jìn)行數(shù)據(jù)操作。衡量指標(biāo)指標(biāo)描述考核目的TPC-C單位為tpmc它的定義是每分鐘內(nèi)系統(tǒng)處理的事務(wù)個(gè)數(shù)。能夠并行執(zhí)行多種具有一定復(fù)雜度的事務(wù),強(qiáng)調(diào)服務(wù)器在一定時(shí)間限制范圍內(nèi)的事務(wù)處理能力。計(jì)算結(jié)果計(jì)算因素?cái)?shù)據(jù)值(峰值)數(shù)據(jù)值(均值)單次消耗tpmc個(gè)數(shù)描述應(yīng)用系統(tǒng)2100操作/秒1260操作/秒1.5進(jìn)行數(shù)據(jù)實(shí)時(shí)查詢、采集、同步應(yīng)用ETL2100操作/秒1260操作/秒0.5將整合后的數(shù)據(jù)載入到數(shù)據(jù)庫(kù)服務(wù)器中分析數(shù)據(jù)庫(kù)2100操作/秒1260操作/秒0.5將運(yùn)營(yíng)數(shù)據(jù)同步至分析數(shù)據(jù)庫(kù)BizTalk1000操作/秒400操作/秒0.5數(shù)據(jù)的操作合計(jì):2100*1.5*60+2100*0.5*60+2100*0.5*60+1000*0.5*60=345000tpmc由于通常情況下需要有30%的冗余,以保證系統(tǒng)的穩(wěn)定運(yùn)行,所以最終的結(jié)果應(yīng)為:345000/70%=492900tpmc。4.選擇結(jié)果為了保證數(shù)據(jù)庫(kù)系統(tǒng)的高可用性,需要使用兩臺(tái)數(shù)據(jù)庫(kù)服務(wù)器做群集。每個(gè)需要492900tpmc值。HPRx8640具有50萬的tpmc值,所以可以選擇這個(gè)服務(wù)器。50萬tpmc(12*1.4GhzCPU/36G內(nèi)存/2*146G硬盤/2*HBA卡)HPRx8640分析數(shù)據(jù)庫(kù)服務(wù)器作用與運(yùn)營(yíng)數(shù)據(jù)庫(kù)間同步周期為1天;向EDW輸出數(shù)據(jù);面向前臺(tái)的查詢統(tǒng)計(jì)報(bào)表類應(yīng)用。計(jì)算測(cè)算依據(jù)分析主要是每天同步運(yùn)營(yíng)數(shù)據(jù)庫(kù)中的數(shù)據(jù),然后將這些數(shù)據(jù)根據(jù)前臺(tái)報(bào)表的需求生成報(bào)表,輸出到用戶端。同時(shí)也可以將數(shù)據(jù)輸出到EDW。分析數(shù)據(jù)庫(kù)會(huì)牽涉到以下操作:從運(yùn)營(yíng)數(shù)據(jù)庫(kù)中同步數(shù)據(jù);為前臺(tái)生成報(bào)表;向EDW輸出數(shù)據(jù)。衡量指標(biāo)指標(biāo)描述考核目的TPC-C單位為tpmc它的定義是每分鐘內(nèi)系統(tǒng)處理的事務(wù)個(gè)數(shù)。能夠并行執(zhí)行多種具有一定復(fù)雜度的事務(wù),強(qiáng)調(diào)服務(wù)器在一定時(shí)間限制范圍內(nèi)的事務(wù)處理能力。計(jì)算結(jié)果計(jì)算因素?cái)?shù)據(jù)值(峰值)數(shù)據(jù)值(均值)單次消耗tpmc個(gè)數(shù)描述應(yīng)用系統(tǒng)300操作/秒50操作/秒5ETL讀取數(shù)據(jù)MSS系統(tǒng)的數(shù)據(jù)運(yùn)營(yíng)數(shù)據(jù)庫(kù)2100操作/秒1260操作/秒0.5從運(yùn)營(yíng)數(shù)據(jù)庫(kù)中同步數(shù)據(jù)EDW500操作/秒200操作/秒5向EDW輸出數(shù)據(jù)合計(jì):300*5*60+2100*0.5*60+500*5*60=303000tpmc由于通常情況下需要有30%的冗余,以保證系統(tǒng)的穩(wěn)定運(yùn)行,所以最終的結(jié)果應(yīng)為:303000/70%=432900tpmc。.選擇結(jié)果分析數(shù)據(jù)庫(kù)所要的tpmc值為432900,可以采用和運(yùn)營(yíng)服務(wù)器同樣的配置。HPRx8640具有50萬的tpmc值,所以可以選擇這個(gè)服務(wù)器。50萬tpmc(12*1.4GhzCPU/36G內(nèi)存/2*146G硬盤/2*HBA卡)HPRx8640存儲(chǔ)容量運(yùn)營(yíng)數(shù)據(jù)庫(kù)主要存儲(chǔ)從各個(gè)系統(tǒng)中提取的主數(shù)據(jù),以及主業(yè)務(wù)單等。源數(shù)據(jù)項(xiàng)計(jì)算依據(jù)容量(G)單位人力資源員工、組織、崗位、角色等相關(guān)信息0.1日財(cái)務(wù)系統(tǒng)會(huì)計(jì)科目及其相關(guān)主數(shù)據(jù)現(xiàn)金流量項(xiàng)目及其相關(guān)主數(shù)據(jù)資產(chǎn)及其相關(guān)主數(shù)據(jù)關(guān)聯(lián)交易類型及其相關(guān)主數(shù)據(jù)成本中心及其相關(guān)主數(shù)據(jù)預(yù)算中心及其相關(guān)主數(shù)據(jù)網(wǎng)絡(luò)元素及其相關(guān)主數(shù)據(jù)用戶類型及其相關(guān)主數(shù)據(jù)產(chǎn)品類型及其相關(guān)主數(shù)據(jù)作業(yè)類型及其相關(guān)主數(shù)據(jù)……0.4日計(jì)劃建設(shè)系統(tǒng)工程項(xiàng)目及其相關(guān)主數(shù)據(jù)專業(yè)類別及其相關(guān)主數(shù)據(jù)供應(yīng)商及其相關(guān)主數(shù)據(jù)……0.4日物資管理系統(tǒng)物資主數(shù)據(jù)及其相關(guān)主數(shù)據(jù)庫(kù)存地點(diǎn)及其相關(guān)主數(shù)據(jù)……0.5日綜合審批系統(tǒng)合同及其相關(guān)主數(shù)據(jù)……0.3日固定資產(chǎn)系統(tǒng)資產(chǎn)及其相關(guān)主數(shù)據(jù)……0.3日存儲(chǔ)內(nèi)容計(jì)算依據(jù)容量(G)源數(shù)據(jù)每日數(shù)據(jù)量*24*30(兩年的估算時(shí)間)1440歷史數(shù)據(jù)各個(gè)系統(tǒng)中已有的數(shù)據(jù)400ETL中轉(zhuǎn)表源數(shù)據(jù)*10%144中間表源數(shù)據(jù)*25%360聚合事實(shí)數(shù)據(jù)源數(shù)據(jù)*50%720聚合維度數(shù)據(jù)2多維立方數(shù)據(jù)聚合事實(shí)數(shù)據(jù)*30%432數(shù)據(jù)挖掘數(shù)據(jù)100系統(tǒng)自身占用100冗余空間400小計(jì)

溫馨提示

  • 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請(qǐng)下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請(qǐng)聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁(yè)內(nèi)容里面會(huì)有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 人人文庫(kù)網(wǎng)僅提供信息存儲(chǔ)空間,僅對(duì)用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對(duì)用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對(duì)任何下載內(nèi)容負(fù)責(zé)。
  • 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請(qǐng)與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶因使用這些下載資源對(duì)自己和他人造成任何形式的傷害或損失。

評(píng)論

0/150

提交評(píng)論