綜合管理：工程項(xiàng)目實(shí)施中的數(shù)據(jù)管理問(wèn)題

1、綜合管理：工程項(xiàng)目實(shí)施中的數(shù)據(jù)管理問(wèn)題 管理信息系統(tǒng)實(shí)施成功三大因素依次為：人、數(shù)據(jù)、技術(shù)，也許有些人不 完全認(rèn)同，但是數(shù)據(jù)的重要性是大家不可否認(rèn)的。 1.數(shù)據(jù)管理的組織機(jī)構(gòu)的建立 為了更好的進(jìn)行軟件系統(tǒng)的數(shù)據(jù)管理，應(yīng)該從組織機(jī)構(gòu)角度來(lái)做考慮，建立單 獨(dú)的組織機(jī)構(gòu)來(lái)管理數(shù)據(jù)相關(guān)工作，或者在實(shí)施小組里面專(zhuān)人總負(fù)責(zé)。軟件開(kāi)發(fā)商和客戶(hù)核心的業(yè)務(wù)骨干一起制定數(shù)據(jù)規(guī)范，客戶(hù)提供符合規(guī)范 的業(yè)務(wù)數(shù)據(jù)，只有符合規(guī)范的數(shù)據(jù)才能進(jìn)入系統(tǒng)。2. 數(shù)據(jù)管理的原則強(qiáng)調(diào)客戶(hù)和軟件開(kāi)發(fā)商的 2 方項(xiàng)目組成員做到 “不能有我 以為'的思想”，一旦有如此思想，很容易陷入閉門(mén)造車(chē)，項(xiàng)目需求很容易走樣， 因?yàn)榭蛻?hù)d所有的

2、客戶(hù)，也是在 我以為'項(xiàng)目組要想做到控制住需求，一定要 拋開(kāi)自己的設(shè)想。所以任何一個(gè)項(xiàng)目組成員，句話(huà)就告訴他，不要有 “我以為” 的想法。把 我以為 '變成客戶(hù)認(rèn)為 '（是客戶(hù)和軟件提供商一致認(rèn)為），這才是 重要的。3. 數(shù)據(jù)入口的單一性同一數(shù)據(jù)必須一次、一處進(jìn)入系統(tǒng)，保證其準(zhǔn)確性，及 時(shí)性和完整性和入口的單一性。管理控制一體化是系統(tǒng)的目的，如果一個(gè)數(shù)據(jù) 在多個(gè)地方存儲(chǔ)，很容易造成數(shù)據(jù)的不一致。4. 數(shù)據(jù)副本管理 /數(shù)據(jù)版本管理雖然上面提到了數(shù)據(jù)存儲(chǔ)的單一性，但是有 些時(shí)候也需要存儲(chǔ)副本數(shù)據(jù)。存儲(chǔ)這些副本數(shù)據(jù)的目的就是為了在使用數(shù)據(jù)副 本的地方不受到數(shù)據(jù)源的變化的影響。

3、例如：數(shù)據(jù)1在業(yè)務(wù)A進(jìn)入系統(tǒng)，業(yè)務(wù)B使用到了數(shù)據(jù)1,但是為了避免 在業(yè)務(wù)B使用了數(shù)據(jù)1后，業(yè)務(wù)A又把數(shù)據(jù)1的修改影響到業(yè)務(wù)B，那就需要 業(yè)務(wù) B 在使用數(shù)據(jù) 1 時(shí)候保存副本。比如：城市拆遷資源計(jì)劃系統(tǒng)的拆遷合同在使用房源業(yè)務(wù)錄入的房源房屋 面積信息時(shí)，就使用了副本機(jī)制，在合同使用房屋面積時(shí)候，把面積信息存儲(chǔ) 下來(lái)，當(dāng)合同構(gòu)筑完成時(shí)候，如果相應(yīng)的房屋面積信息發(fā)生了變動(dòng)，就用另外 的業(yè)務(wù)來(lái)處理這個(gè)數(shù)據(jù)變動(dòng)的相應(yīng)處理（比如，使用房源的差價(jià)款合同來(lái)處 理）。有朋友建議用配置管理系統(tǒng)，把數(shù)據(jù)版本機(jī)制引入了業(yè)務(wù)數(shù)據(jù)里面。做過(guò) J2EE的項(xiàng)目，都知道很多地方可以通過(guò)配置來(lái)進(jìn)行管理。其實(shí)這個(gè)思想延伸到 數(shù)據(jù)

4、庫(kù)模型的設(shè)計(jì)時(shí)候，就體現(xiàn)出來(lái)了業(yè)務(wù)數(shù)據(jù)的配置管理的思想的使用。我們其實(shí)也有是用這個(gè)思想，但是主要體現(xiàn)在在基于數(shù)據(jù)表級(jí)別上用數(shù)據(jù) 級(jí)別+歷史編號(hào)來(lái)識(shí)別有效的數(shù)據(jù)。 1 個(gè)很簡(jiǎn)單的例子：一個(gè)員工的姓名原來(lái)是aa,后來(lái)改委bb，可以通過(guò)歷史編號(hào)找到原來(lái)的信 息是bb通過(guò)數(shù)據(jù)級(jí)別識(shí)別現(xiàn)在的有效數(shù)據(jù)是 aa,我們把數(shù)據(jù)版本控制更多的是 采用數(shù)據(jù)級(jí)別'加歷史編號(hào)'另外還加上了一個(gè) 生效日期', 截止日期'這2個(gè)時(shí) 間戳另外,實(shí)際軟件系統(tǒng)的歷史業(yè)務(wù)數(shù)據(jù)進(jìn)入系統(tǒng)就比較煩,可能需要使用版 本管理機(jī)制來(lái)處理才行得通。5. 建立數(shù)據(jù)等級(jí)制度軟件項(xiàng)目實(shí)施中業(yè)務(wù)規(guī)則經(jīng)常會(huì)陷入一個(gè)兩難的境

5、地, 如果業(yè)務(wù)規(guī)則加強(qiáng),很多數(shù)據(jù)數(shù)據(jù)達(dá)不到規(guī)范化的要求,無(wú)法入機(jī)；如果放寬 控制,很多垃圾數(shù)據(jù)就進(jìn)入了,大家都明白一個(gè)道理,對(duì)于軟件系統(tǒng),垃圾數(shù) 據(jù)進(jìn)去,肯定是垃圾數(shù)據(jù)出來(lái),統(tǒng)計(jì)查詢(xún)結(jié)果肯定是這樣的?？梢越?shù)據(jù)的等級(jí)制度,制定數(shù)據(jù)進(jìn)入系統(tǒng)的要求。達(dá)到要求才能進(jìn)入 系統(tǒng),比如：業(yè)務(wù)A，需要數(shù)據(jù)a1,數(shù)據(jù)a2，數(shù)據(jù)a3,數(shù)據(jù)4我們可以制定進(jìn)入系統(tǒng) 的關(guān)于業(yè)務(wù)A的條件是必須要有數(shù)據(jù)a1, a2才可以進(jìn)入系統(tǒng)（也就是要求）， 如果提供的業(yè)務(wù)數(shù)據(jù)同時(shí)有數(shù)據(jù) al,數(shù)據(jù)a2,，數(shù)據(jù)a3,那就是更高一級(jí)的數(shù) 據(jù)（第二級(jí)數(shù)據(jù)），如果業(yè)務(wù)數(shù)據(jù)在滿(mǎn)足第二級(jí)數(shù)據(jù)的基礎(chǔ)上，提供了數(shù)據(jù) 4， 那就是第三級(jí)數(shù)據(jù)。如果用

6、過(guò)J2EE平臺(tái)的同行理解起來(lái)就比較容易，這實(shí)際上就是JMS基于主題的消息管理思想用于軟件系統(tǒng)一個(gè)具體例子而已，這里不過(guò)是強(qiáng)調(diào)的是用于 管理數(shù)據(jù)的信任等級(jí)而已。其實(shí)很多軟件項(xiàng)目開(kāi)始制定的的數(shù)據(jù)規(guī)范，一般到后來(lái)都執(zhí)行不下去，主 要是太理想化了，也許只有到系統(tǒng)真正用起來(lái)了，系統(tǒng)數(shù)據(jù)的信任等級(jí)才能上 去。所以我覺(jué)得應(yīng)該在系統(tǒng)開(kāi)始時(shí)候就把數(shù)據(jù)分等級(jí)，不同的等級(jí)，業(yè)務(wù)給與 適當(dāng)不同的處理，這樣也便于后期的業(yè)務(wù)進(jìn)行查詢(xún)統(tǒng)計(jì)分析或者數(shù)據(jù)挖掘。這種思想實(shí)際上就是將數(shù)據(jù)可以信任的程度進(jìn)行分類(lèi)；而一般的軟件系統(tǒng) 是把數(shù)據(jù)定義為兩類(lèi)，可以進(jìn)入系統(tǒng)，不可以進(jìn)入系統(tǒng)；我在這里設(shè)想的是， 從數(shù)據(jù)可以信任的角度出發(fā)，分成多種

7、類(lèi)別，使用了一個(gè)小數(shù)來(lái)描述信任程 度，而不是一個(gè)二值邏輯變量來(lái)描述；這樣從建立軟件系統(tǒng)整體模型的時(shí)候， 把數(shù)據(jù)信任管理納入考慮之內(nèi)，在進(jìn)一步作業(yè)務(wù)分析，決策支持或者數(shù)據(jù)挖掘 時(shí)候是比較有好處的；當(dāng)然進(jìn)一步延伸可能就需要從OLTP/OLAP昆合建模來(lái)考慮，不過(guò)真要到那個(gè)高度，可能項(xiàng)目范圍就擴(kuò)大了很多，具體怎樣操作，還要 看項(xiàng)目具體情形。當(dāng)然，在軟件項(xiàng)目實(shí)際操作的時(shí)候，可能還會(huì)遇到另外一個(gè)問(wèn)題，很可能 用戶(hù)會(huì)亂用這個(gè)數(shù)據(jù)信任程度的概念，我個(gè)人的建議是在項(xiàng)目實(shí)施中如果可能 的話(huà)，優(yōu)先進(jìn)入信任等級(jí)高的數(shù)據(jù)，然后才是信任程度低的數(shù)據(jù)；當(dāng)然也可以 從人員來(lái)角度作為切入點(diǎn)，信任等級(jí)越低的數(shù)據(jù)，進(jìn)入系統(tǒng)就需要

8、的業(yè)務(wù)更熟 悉的人員來(lái)操作錄入，而且經(jīng)過(guò)的業(yè)務(wù)處理步驟就越多。一句話(huà)，數(shù)據(jù)信任程 度越低，就應(yīng)該受到的審查 /檢察越多。6. 數(shù)據(jù)來(lái)源管理在現(xiàn)實(shí)中稍微規(guī)模大一點(diǎn)的軟件系統(tǒng)涉及到的組織機(jī)構(gòu)都是 比較大的，有很多還可能是松散的組織管理模式。在這類(lèi)組織機(jī)構(gòu)中，同樣的 業(yè)務(wù)數(shù)據(jù)可能很多部門(mén)都會(huì)是數(shù)據(jù)錄入點(diǎn)和數(shù)據(jù)分析點(diǎn)，為此可以從數(shù)據(jù)采集 / 來(lái)源角度來(lái)描述數(shù)據(jù)本身。從當(dāng)前項(xiàng)目利益來(lái)說(shuō)，數(shù)據(jù)來(lái)源管理方便數(shù)據(jù)查詢(xún)分類(lèi)，長(zhǎng)期來(lái)說(shuō)可以建 立起數(shù)據(jù)信任等級(jí)。對(duì)于數(shù)據(jù)來(lái)源的識(shí)別，一般需要有特定信息來(lái)記錄數(shù)據(jù)的來(lái)源，特別是一 些大型企業(yè)當(dāng)然分支機(jī)構(gòu)較多的公司企業(yè)政府，也應(yīng)該這樣來(lái)管理。事實(shí)上，數(shù)據(jù)來(lái)源管理是數(shù)據(jù)信任

9、管理的進(jìn)一步延伸，是數(shù)據(jù)信任管理的 前置條件。一個(gè)數(shù)據(jù)，可以是來(lái)自于 A部門(mén)的也可能是來(lái)自于B部門(mén)的。為了 方便統(tǒng)計(jì)查詢(xún)和數(shù)據(jù)信任管理的加強(qiáng)，應(yīng)該記錄下數(shù)據(jù)的來(lái)源地。具體操方式可以有以下幾種：1）數(shù)據(jù)錄入人員的工作人員編號(hào)，知道了數(shù)據(jù)錄入人員的編號(hào)，就知道數(shù) 據(jù)的來(lái)源地。當(dāng)然，實(shí)際工作種存在人員調(diào)動(dòng)，替操作（ 1個(gè)人用另外一個(gè)人的身份進(jìn)入 系統(tǒng)數(shù)錄入），這些都有可能需要考慮到，否則可能造成數(shù)據(jù)來(lái)源管理失效。2）另外一種方式就是直接記錄數(shù)據(jù)錄入的部門(mén)編號(hào)。這種方式弊端就是不能記錄下數(shù)據(jù)的具體操作人員。其它說(shuō)明：如果系統(tǒng)中引入了工作流產(chǎn)品，數(shù)據(jù)來(lái)源這部分工作可以由工 作流來(lái)?yè)?dān)任。具體例子：在現(xiàn)實(shí)的

10、軟件系統(tǒng)中可能存在一個(gè)主數(shù)據(jù)庫(kù)/數(shù)據(jù)中心，若干分?jǐn)?shù)據(jù)庫(kù) /數(shù)據(jù)中心，系統(tǒng)在每過(guò)一定時(shí)間進(jìn)行數(shù)據(jù)上傳 /下載，為了進(jìn) 行數(shù)據(jù)合并和控制數(shù)據(jù)的修改，應(yīng)該每個(gè)分?jǐn)?shù)據(jù)中心只能處理修改自己的數(shù) 據(jù)，可以查詢(xún)總數(shù)據(jù)中心 / 其他分?jǐn)?shù)據(jù)中心的數(shù)據(jù)。如果沒(méi)有引入數(shù)據(jù)來(lái)源管理 （數(shù)據(jù)屬地管理）和數(shù)據(jù)版本的控制機(jī)制，不知道系統(tǒng)在作數(shù)據(jù)中心合并會(huì)怎 樣子？7. 數(shù)據(jù)項(xiàng)的分類(lèi)編碼數(shù)據(jù)項(xiàng)的分類(lèi)編碼，實(shí)際上是數(shù)據(jù)項(xiàng)來(lái)源管理的一個(gè)具 體延伸。數(shù)據(jù)項(xiàng)編碼的目的就是更快更好的識(shí)別數(shù)據(jù)代表的業(yè)務(wù)意思。一個(gè)典 型的例子就是ERP中的BOM表（基本物料清單）。數(shù)據(jù)項(xiàng)的分類(lèi)編碼，不只是在系統(tǒng)模型建立上有指導(dǎo)意義，在進(jìn)入系統(tǒng)的 業(yè)務(wù)數(shù)據(jù)

11、的規(guī)范化同樣有指導(dǎo)意義。數(shù)據(jù)項(xiàng)的業(yè)務(wù)編碼和系統(tǒng)編碼分離。業(yè)務(wù)編碼很多時(shí)候只是為了識(shí)別業(yè)務(wù) 數(shù)據(jù)的需要，很難保證業(yè)務(wù)數(shù)據(jù)的一性要求。而且業(yè)務(wù)編碼可能會(huì)發(fā)生變動(dòng)， 有些單位的總體規(guī)劃從調(diào)研到討論制訂、到項(xiàng)目審批通過(guò)，再到終實(shí)施，常常 幾年過(guò)去了，需求發(fā)生變化，這種編碼規(guī)則不發(fā)生變動(dòng)幾乎不可能。 年我參與的一個(gè)企業(yè)軟件系統(tǒng)，就一個(gè)產(chǎn)品編碼規(guī)則 2 個(gè)月就發(fā)生了 5 次變動(dòng)。從 更長(zhǎng)的時(shí)間范圍內(nèi)來(lái)說(shuō)，應(yīng)該考慮數(shù)據(jù)產(chǎn)生時(shí)期問(wèn)題，不同時(shí)間階段產(chǎn)生的業(yè) 務(wù)數(shù)據(jù)，使用的業(yè)務(wù)規(guī)則不一樣，數(shù)據(jù)編碼這個(gè)層次很多時(shí)候很難識(shí)別數(shù)據(jù)當(dāng) 時(shí)的業(yè)務(wù)環(huán)境。以一個(gè)簡(jiǎn)單的例子來(lái)說(shuō)明：業(yè)務(wù)數(shù)據(jù)表的 primarykey 系統(tǒng)應(yīng)該是系

12、統(tǒng)定義的，而數(shù)據(jù)項(xiàng)的業(yè)務(wù)編碼只 能作為索引或者備用鍵使用，這樣就減少了數(shù)據(jù)業(yè)務(wù)編碼規(guī)則的變動(dòng)對(duì)系統(tǒng)影 響減少到更小的程度。8. 算法的版本化本來(lái)我打算在前面的基礎(chǔ)上，再談一下業(yè)務(wù)流程的管理設(shè)置 問(wèn)題，不過(guò)，現(xiàn)在工作流思想深入人心，我也就跳過(guò)了。我打算從數(shù)據(jù)的核心 業(yè)務(wù)處理，算法處理角度來(lái)闡述。其實(shí)在現(xiàn)實(shí)中的軟件項(xiàng)目中，大家提到的較多的 BPR工作流這些東西， 但是很少提到算法這個(gè)單詞。當(dāng)然，不可否認(rèn)，很多軟件項(xiàng)目，特別是電子政 務(wù)/0A的業(yè)務(wù)主要是體現(xiàn)在流程/文件上，算法這部分比較簡(jiǎn)單（當(dāng)然，我這樣 說(shuō)，有人可能不認(rèn)可，暫且就不爭(zhēng)論它了），就沒(méi)有必要去強(qiáng)調(diào)算法的重要性 了。為了避免垃圾數(shù)據(jù)進(jìn)入

13、系統(tǒng)，垃圾數(shù)據(jù)出來(lái)，有必要對(duì)數(shù)據(jù)進(jìn)行分類(lèi)管 理。正如前面提到的那樣，對(duì)于進(jìn)入系統(tǒng)的數(shù)據(jù)，進(jìn)行信任等級(jí)劃分，數(shù)據(jù)來(lái) 源的分類(lèi)；但是對(duì)于系統(tǒng)出口，為了避免出現(xiàn)垃圾數(shù)據(jù)，需要在數(shù)據(jù)處理階 段，也要進(jìn)行分類(lèi)處理，這里就引入了算法的版本化，來(lái)適應(yīng)不同的數(shù)據(jù)/業(yè)務(wù)需要。在實(shí)際項(xiàng)目中，可能不同信任等級(jí)的數(shù)據(jù)，采用不同的算法去處理數(shù)據(jù)， 這樣才使得數(shù)據(jù)的處理更有針對(duì)性，更符合實(shí)際需要。從需求變更的角度出發(fā)，軟件開(kāi)發(fā)商可以先實(shí)現(xiàn)一些數(shù)據(jù)信任程度低的算 法，然后再根據(jù)項(xiàng)目實(shí)際情況，決定是否實(shí)現(xiàn)更高一級(jí)數(shù)據(jù)等級(jí)的算法。在現(xiàn) 實(shí)軟件項(xiàng)目，數(shù)據(jù)信任等級(jí)低的采用的算法也會(huì)簡(jiǎn)單一些，由于需求變更，增 加了新的數(shù)據(jù)信任等級(jí)更

14、高的數(shù)據(jù)，這時(shí)候可以考慮暫時(shí)采用低等級(jí)的算法進(jìn) 行處理，然后再結(jié)合人工干預(yù)，達(dá)到數(shù)據(jù)處理的要求。大家都明白一點(diǎn)，算法 復(fù)雜，測(cè)試的難度就大，但是使用這些更高等級(jí)的算法的幾率是很少的，處于 成本的原因可以把這些算法的實(shí)現(xiàn)滯后。當(dāng)然我這樣說(shuō)，并不是意味著放棄高等級(jí)的算法，一些根據(jù)項(xiàng)目實(shí)際情形 需要來(lái)操作。數(shù)據(jù)根據(jù)信任程度分成等級(jí)，呵呵，這就是所謂工廠(chǎng)方法模式嘛，算法也 分成等級(jí)結(jié)構(gòu)，這就是所謂的模板方法模式。數(shù)據(jù)在處理后，應(yīng)該記錄下被使用的算法版本，這樣才便于以后統(tǒng)計(jì)查詢(xún) 分析或者數(shù)據(jù)挖掘之類(lèi)工作的開(kāi)展。例如：在一個(gè)商品交易中，一個(gè)商品可能被購(gòu)買(mǎi)的價(jià)格是正常價(jià)格，節(jié)假 日優(yōu)惠價(jià)，會(huì)員優(yōu)惠價(jià)，在交易

15、流水賬中，應(yīng)該記錄下交易時(shí)候是采用的那個(gè) 價(jià)格類(lèi)型，原始價(jià)格多少，實(shí)際購(gòu)買(mǎi)價(jià)格多少。記錄下原始價(jià)格，是因?yàn)椋?品的原始價(jià)格本身可能是變化的。再以拆遷資源計(jì)劃系統(tǒng)為例，房屋補(bǔ)償?shù)膬r(jià)格價(jià)格可能是來(lái)自于管理參 數(shù)，也可能是來(lái)自于申請(qǐng)，實(shí)際到底是來(lái)自于哪個(gè)，算法應(yīng)該記錄下來(lái)。9. 業(yè)務(wù)規(guī)則使用的版本化前面已經(jīng)提到了數(shù)據(jù)錄入的版本化，還有算法的版 本化，也就是計(jì)算結(jié)果的版本化。但是還沒(méi)有談到一點(diǎn)，到底啥時(shí)間該采用哪 個(gè)版本算法。在J2EE項(xiàng)目中，一般是采用配置文件的方式來(lái)控制版本。從配置管理角度的來(lái)說(shuō)，一切都根據(jù)配置文件來(lái)決定使用哪個(gè)版本的數(shù)據(jù)錄入的分級(jí)（數(shù)據(jù)信 任程度分級(jí)），然后根據(jù)配置文件決定數(shù)據(jù)處理使用的算法版本。前面都已經(jīng)提到了從工廠(chǎng)方法模式的角度來(lái)建立數(shù)據(jù)信任等級(jí)制度，但是 并