- 產(chǎn)品
- 產(chǎn)品解決方案
- 行業(yè)解決方案
- 案例
- 數(shù)據(jù)資產(chǎn)入表
- 賦能中心
- 伙伴
- 關于
-
數(shù)據(jù)治理
-
醫(yī)療衛(wèi)生
制造
-
億信動態(tài)
時間:2021-12-01來源:億信華辰瀏覽數(shù):563次
本篇文章為億信華辰《企業(yè)的主數(shù)據(jù)建設方法論與實踐》視頻直播稿件。
這次我的主題是企業(yè)的主數(shù)據(jù)建設方法論與實踐,相信大家來聽這場直播,都是對主數(shù)據(jù)建設比較感興趣的,同時我也希望能夠通過這樣一場分享,給大家在主數(shù)據(jù)的建設過程中提供一些思路。
現(xiàn)在我們就正式進入這個主題,這次分享主要分成6個部分,第一部分主要是介紹企業(yè)現(xiàn)在的主數(shù)據(jù)管理現(xiàn)狀;第二部分,我們再來總結下主數(shù)據(jù)的定義和特性;第三部分我們看看主數(shù)據(jù)管理的意義和價值在哪里;緊接著第四部分我們說說主數(shù)據(jù)管理這樣的一個項目建設,它的體系是怎樣的;接下來第五部分就是我們本次直播的重點,即主數(shù)據(jù)管理實施方法論的介紹;最后第六部分介紹下億信華辰的主數(shù)據(jù)管理的案例。
一、企業(yè)主數(shù)據(jù)的管理現(xiàn)狀
1.企業(yè)目前的數(shù)據(jù)架構
眾所周知,在大部分企業(yè)的發(fā)展過程中,隨著業(yè)務的擴張,企業(yè)的業(yè)務系統(tǒng)會越建越多。與此同時伴隨著各業(yè)務系統(tǒng)的交叉,會出現(xiàn)一些公共的數(shù)據(jù),如圖所示,它會被不同的業(yè)務系統(tǒng)調用,當調用關系越來越復雜時,一旦有一個地方數(shù)據(jù)出現(xiàn)問題,它可能會蔓延到更多的系統(tǒng)里,從而出現(xiàn)更多的問題。而更嚴重的問題是很難溯源找到背后的原因。

因此我們需要去做主數(shù)據(jù)管理工作,搭建一個主數(shù)據(jù)平臺,通過這樣的一個平臺去統(tǒng)一管理主數(shù)據(jù),統(tǒng)一進行分發(fā),從而將錯綜復雜的關系簡單化。最終我們只需要管理好主數(shù)據(jù),就能提高數(shù)據(jù)的調用效率,也能支撐企業(yè)的業(yè)務經(jīng)營管理。
2.先進企業(yè)歷程分享
接下來,我們分享一個先進企業(yè)的主數(shù)據(jù)建設歷程。如圖所示,這是一家石油企業(yè)前后花了10年時間做的物料主數(shù)據(jù)管理,從最開始的10個子類擴展到最后的56個大類,數(shù)據(jù)也從10萬條增加到300萬條,這樣龐大的數(shù)據(jù)如果要做一些精細化管理肯定是比較有難度的。

所以這家石油企業(yè)通過主數(shù)據(jù)管理,去實現(xiàn)集團的集中管控,比如像與物料相關的一些監(jiān)控表,從原來的月報變成了實時可查詢的統(tǒng)計,這樣能幫助企業(yè)提高決策的時效性;同時與物料有關的采購也節(jié)約了500多個億。這樣的主數(shù)據(jù)管理給企業(yè)帶來的成效是非常大的。
二、主數(shù)據(jù)的定義與特性
1.主數(shù)據(jù)的定義
主數(shù)據(jù)是指滿足跨部門業(yè)務協(xié)同需要的,反映核心業(yè)務實體狀態(tài)屬性的基礎信息。舉個例子,公司的員工信息,存在于很多業(yè)務系統(tǒng)里,比如人力系統(tǒng)、財務系統(tǒng)、OA系統(tǒng),以及考勤系統(tǒng)等,但每個系統(tǒng)所需要的信息可能不一樣,財務系統(tǒng)需要員工開放信息,比如從哪個銀行開戶,賬號是什么,這樣方便打款;人力系統(tǒng)可能只是需要員工的一些入職信息。

這樣的員工信息就屬于主數(shù)據(jù),它在很多企業(yè)業(yè)務系統(tǒng)被使用,同時還能反映這個員工本身的一些屬性。類比下,還有產(chǎn)品、物料、客商、客戶、供應商等主數(shù)據(jù)。
2.哪些數(shù)據(jù)是主數(shù)據(jù)?
一家企業(yè)不只有主數(shù)據(jù),還有一些其他數(shù)據(jù),這里有一個金字塔結構的企業(yè)數(shù)據(jù)模型,包括關鍵的基礎數(shù)據(jù)、主數(shù)據(jù)、業(yè)務數(shù)據(jù)、報表數(shù)據(jù)。

基礎數(shù)據(jù)可以理解為基本不會發(fā)生什么變化的,比如國家貨幣計量單位,其他維表數(shù)據(jù)等,其數(shù)據(jù)就是一些取值范圍,也稱其為參考數(shù)據(jù);主數(shù)據(jù)就是長期穩(wěn)定的,能被多個系統(tǒng)使用的,比如組織機構人員、客商等;業(yè)務數(shù)據(jù)是指一些業(yè)務交易系統(tǒng)所產(chǎn)生的數(shù)據(jù),包括訂單的記錄、還有一些考勤記錄等,與主數(shù)據(jù)捆綁的比較緊;報表數(shù)據(jù)是基于下面三類數(shù)據(jù)做的一些分析呈現(xiàn),報表數(shù)據(jù)的主要作用是通過結果呈現(xiàn)來做預測工作。
3.主數(shù)據(jù)、業(yè)務數(shù)據(jù)與元數(shù)據(jù)的區(qū)別

如圖所示,表頭就是元數(shù)據(jù),這些字段本身描述了字段的一些屬性信息;而主數(shù)據(jù)其實就是這樣的一條記錄,這條記錄可以劃分為兩部分,一部分是主數(shù)據(jù),描述核心業(yè)務實體屬性的數(shù)據(jù),另外一部分就是主數(shù)據(jù)在業(yè)務交易過程中由系統(tǒng)產(chǎn)生的數(shù)據(jù),比如這塊的訂單數(shù)據(jù)就是業(yè)務數(shù)據(jù)。總的來說,所有這些數(shù)據(jù)作為企業(yè)的一部分,只要能產(chǎn)生價值,它都可以稱之為數(shù)據(jù)資產(chǎn),能去支撐企業(yè)上層的生產(chǎn)、財務、項目管理等。
4.主數(shù)據(jù)的4個特性
(1)唯一性:在一個系統(tǒng)、一個平臺甚至一個企業(yè)范圍內同一主數(shù)據(jù)要求具有唯一的識別標志(代碼、名稱、特征描述等),用以明確區(qū)分業(yè)務對象、業(yè)務范圍和業(yè)務的具體細節(jié)。
(2)共享性:主數(shù)據(jù)特征會被作為業(yè)務流程的判斷條件和數(shù)據(jù)分析的具體維度層次,因此需保證主數(shù)據(jù)的關鍵特征在不同應用、不同系統(tǒng)中的高度一致共享,形成統(tǒng)一規(guī)范 。
(3)穩(wěn)定性:主數(shù)據(jù)作為用來描述業(yè)務操作對象的關鍵信息,在業(yè)務過程中其識別信息和關鍵的特征會被交易過程中產(chǎn)生的數(shù)據(jù)繼承、引用、復制,但主數(shù)據(jù)本身的屬性通常不會隨交易的過程所被修改。
(4)有效性:只要該主數(shù)據(jù)所代表的業(yè)務對象仍然在市場中繼續(xù)存在或仍具有意義,則該主數(shù)據(jù)就需要在系統(tǒng)中繼續(xù)保持其有效性,通常貫穿該業(yè)務對象在市場上的整個生命周期甚至更長。
三、主數(shù)據(jù)管理的意義
前面我們說完了主數(shù)據(jù)的4個特性,我們再來看看主數(shù)據(jù)若是出現(xiàn)問題,會對業(yè)務造成什么樣的影響。如圖所示,這兩條數(shù)據(jù)是同一個物料嗎?

我們可以看到這里少了一個度,并且編碼是不一樣的,但從這個主體來說,它是 同一個物料,但是卻存在兩條記錄;像第二個也是,它的編碼只差了一個0,但編碼的卻是兩個;下面的數(shù)據(jù)也同樣如此,當企業(yè)在做物料的預算時,由于找不到到底是那條數(shù)據(jù)缺失了,所以他沒辦法做一個準確的預算。對于采購也是如此,當業(yè)務系統(tǒng)里存在兩條采購數(shù)據(jù),這樣就會導致一些大量的重復采購,從而浪費資源。因此主數(shù)據(jù)管理的意義主要表現(xiàn)在以下4個方面:
1.幫助跨部門協(xié)同
企業(yè)數(shù)據(jù)資產(chǎn)的維護需要站在公司的高度,協(xié)同各個部門共同完成,主數(shù)據(jù)是在各個業(yè)務部門被重復使用的數(shù)據(jù),其管理兼具技術和業(yè)務的雙重因素,因此做好主數(shù)據(jù)管理能幫助跨部門協(xié)同。
2.便于開展數(shù)據(jù)治理工作
主數(shù)據(jù)管理項目初期不涉及交易系統(tǒng)改造。主數(shù)據(jù)問題解決好了,公司的數(shù)據(jù)資產(chǎn)框架就理順了,數(shù)據(jù)質量、數(shù)據(jù)及時性等將明顯提升,便于繼續(xù)開展其他數(shù)據(jù)治理、信息化、數(shù)字化工作。
3.賦能數(shù)字化轉型的需求
數(shù)字化轉型需要以客戶需求為出發(fā)點,各部門通力協(xié)作,而當前行業(yè)技術業(yè)務分割明顯,主數(shù)據(jù)管理過程也錘煉了跨部門的協(xié)同,通過加速科技和業(yè)務的融合,建立公司范圍內通用的主數(shù)據(jù)規(guī)范,以保證數(shù)據(jù)的一致性和管理報表的合并,這是公司進行其他業(yè)務變革成功的基礎之一。
四、主數(shù)據(jù)項目管理體系建設

1.規(guī)劃階段
這個階段主要是組織的建設、制度的建設,以及目標的確定,也就是我們主數(shù)據(jù)到底要做哪些內容,其范圍涉及哪些系統(tǒng)。
2.數(shù)據(jù)標準階段
更多是做一些主數(shù)據(jù)的管理,比如我們需要確定這一期項目到底做哪些,分類是什么,比如物料主數(shù)據(jù)的分類,與此同時還有主數(shù)據(jù)的編碼是怎樣的,有什么標準,然后還有一些類似于“我的”這樣的屬性到底有哪些。
3.治理階段
這一階段更多的是對各類主數(shù)據(jù)進行采集、清洗、整合,完成一些歷史的主數(shù)據(jù)的預處理工作。
4.落地階段
主要是將前面所有梳理好的屬性與分類,以及歷史主數(shù)據(jù)治理好后,搭建一個平臺去做呈現(xiàn)。以一個物資示例來說,通過主數(shù)據(jù)的管理,實現(xiàn)了業(yè)務上的集中管理,比如,統(tǒng)一的物資分類及編碼體系可提供一套“共同語言”,促進企業(yè)在供應鏈業(yè)務各方面的集中管控,并作出以事實為基礎的決策。
在整個供應鏈的過程中也起到一些作用,比如在采購方面,避免了重構采購節(jié)約了成本;在銷售方面,由于基于統(tǒng)一的分類和規(guī)格標準,在做扣利潤分析、產(chǎn)品銷售分析時更加準確;在倉儲物流方面,因為有統(tǒng)一的高質量的主數(shù)據(jù),減少了重復的儲備,在管理效率上也能有很大的提升。

五、主數(shù)據(jù)項目管理實施架構
我們這里其實可以看到這樣的一個主數(shù)據(jù)項目管理這樣的一個實施的框架。這個框架其實分成4大部分,第一個就是現(xiàn)狀分析與評估,第二個就是體系的規(guī)劃,第三個就是實施方案,最后就是一個平臺落地部署的工作。

1.現(xiàn)狀分析與評估
這一階段做的事情就是前期的需求調研,主要目的是獲取企業(yè)主數(shù)據(jù)的管理現(xiàn)狀,以及存在哪些問題。這個過程中,我們也會搜集這個行業(yè)比較好的實踐案例,以及國家是否有出臺相關的標準,這些都能方便去了進行現(xiàn)狀分析與評估。
2.管理體系規(guī)劃
基于組織的目標,我們就可以去做一些規(guī)劃,在規(guī)劃的過程中,我們更多的是做各類架構的設計,包括一些制度的建立,考核評價,以及制定一些標準規(guī)范等。
3.主數(shù)據(jù)實施方案
這一階段主要是對每一項做分解,比如編碼規(guī)則是什么,有怎樣的分類。它有哪些屬性,以及在這個過程中,還涉及歷史主數(shù)據(jù)的整合,還有清洗、分發(fā)、集成的策略等等。最后還有主數(shù)據(jù)在使用過程中,如何做更好,如何慢慢地切換到一個統(tǒng)一的平臺上,這些都是實施方案所需要關注的。
4.主數(shù)據(jù)平臺搭建
這個平臺搭建就是將我們前期所有做的工作的線上化,這樣就能讓主數(shù)據(jù)管理更加規(guī)范精細化,效率也能更高。
六、主數(shù)據(jù)項目管理的6大步驟
主數(shù)據(jù)項目總體上遵循常規(guī)項目6大步驟:啟動、計劃、需求分析與設計、實現(xiàn)、測試驗收、售后運維。這里我們主要重點介紹下實現(xiàn)階段的內容,測試驗收和售后運維就不多做講解。
1.啟動階段
啟動階段主要包括識別項目目標、組建項目團隊、召開項目啟動會。
識別項目目標就是要做一個主數(shù)據(jù)識別,主數(shù)據(jù)識別可以從兩方面去考慮,第一個就是通過一些已知的分析維度,以及業(yè)務影響程度等,還有數(shù)據(jù)共享程度比較高的,或者說數(shù)據(jù)需求比較迫切的,我們都可以將其納入主數(shù)據(jù)范圍。除此以外,還可以通過一些成熟的工具做一些分析,通過這樣的工具去對接業(yè)務系統(tǒng),從而識別企業(yè)到底有哪些主數(shù)據(jù),然后這些數(shù)據(jù)分布在哪里。

第二個就是組建項目團隊,如圖所示,項目管理也是這樣去組建團隊的,比如項目領導小組有項目總監(jiān)、項目經(jīng)理,還有一些各種不同的角色的實施人員,除此以外,還配備一些專家的團隊做支持。

2.計劃階段
計劃階段我們主要關心兩部分內容,第一是實施落地的工作,第二是主數(shù)據(jù)集成開發(fā)的工作。這里按照我們前文中說的框架體系去做即可。這里我們重點說一下集成開發(fā)這塊的工作。

我們在需求調研階段,以及咨詢規(guī)劃階段,了解了業(yè)務主數(shù)據(jù)來源于哪些系統(tǒng),最后用于哪些系統(tǒng),以及分發(fā)到哪些系統(tǒng);以及我們的平臺如何與業(yè)務系統(tǒng)做對接,是用表對接,還是接口對接;同時整個實施過程中還要做一些并行的工作,因此前期要去了解收集這樣的一些信息,這樣才能讓整個項目的進行的比較順利。
3.需求與設計階段
這一階段也稱為需求調研階段,主要從兩方面去看,一個是業(yè)務方面,一個是技術方面。

我們主要是通過訪談問卷,或者面對面的交流以及一些數(shù)據(jù)抽取的手段去獲取企業(yè)主數(shù)據(jù)的信息和現(xiàn)狀,具體的調研示例如下:

除了需求調研,還有一個重要的板塊是管理制度設計,這里采取三層的架構——決策層、管理層、執(zhí)行層。

另外主數(shù)據(jù)的建設并不是IT部門或者信息科技部門就能決定的,正如前文中提到的主數(shù)據(jù)含有業(yè)務實體屬性,需要在業(yè)務系統(tǒng)里被使用,因此一定需要業(yè)務負責人的參與,一起來共同推進。
而對執(zhí)行層來說,主要是需要和業(yè)務部門一起定義數(shù)據(jù)的標準模型分類,共同推進。當然在主數(shù)據(jù)平臺管理過程也需要信息管理員來對數(shù)據(jù)進行審批等,以上這些角色都是在整個組織架構建設時提前定義好的。
4.實現(xiàn)階段
在具體的實現(xiàn)階段有10項工作要去做,這些工作可以并行考慮,包括數(shù)據(jù)標準化,分類編碼屬性管控、流程整合以及切換策略等等,下面我們具體來看看。

(1)主數(shù)據(jù)標準化體系
以物料為例, 完整的物料標準化體系主要包括兩大部分內容,一是物料數(shù)據(jù)標準的制定,二是支撐物料數(shù)據(jù)標準化管理相關的組織機制與技術平臺等基礎能力的建設。在此體系下確保逐步改善物資數(shù)據(jù)質量,最終實現(xiàn)標準化。

(2)分類設計原則
分類設計的原則主要有4點,第一是不重不漏;第二是粗細顆粒度要合理;第三是要滿足業(yè)務需求;第四是要符合行業(yè)習慣,如圖所示。

這里有一個很重要點是,在整個分類設計的過程中,實施人員要反復與客戶進行確認。因為一旦分類沒有做好,后續(xù)可能導致大量的重復錄入,并產(chǎn)生很大的影響。這里有一個分類的示例,大家可以參考下:

當然,我們億信華辰的主數(shù)據(jù)管理平臺也是可以做分類的效果展示,如圖所示,可以將我們前面做好的分類,直接在平臺上進行維護,這樣我們就可以很方便的去做一些分類管理,以及每一種分類對應哪些物料數(shù)據(jù)。

(3)編碼設計
編碼設計也有一些原則需要去遵守,比如編碼要有全局性,唯一性、適度性、靈活性、擴展性等。對于唯一性與擴展性,換句話說,當一些新的物料數(shù)據(jù)進來以后,我們能方便添加更多的編碼進來,而此時的編碼也需要是唯一的,也就主數(shù)據(jù)編碼只能對應一個確定的實體對象。

這里的編碼通常有三種方式,即順序碼、層次碼、組合碼,他們各有優(yōu)缺點,如圖所示:

編碼制定的過程也是需要進行大量的討論和確認,才能形成一個好的編碼方案。在現(xiàn)實中,正是因為企業(yè)編碼不統(tǒng)一、造成了后續(xù)采購以及存儲等一系列問題,所以編碼方案一旦確定出來,實施人員就需要與客戶的高層進行確認。如圖所示的編碼結構示例,它是一個組合碼。

億信華辰的的主數(shù)據(jù)管理平臺,也是可以做這樣的編碼的,如圖所示,左邊是編碼規(guī)則的制定,在這個過程中,看到有許多種規(guī)則,包括固定字符,流水號,以及從數(shù)據(jù)層進行取數(shù),這樣的編碼方式可以覆蓋更多的場景,包括順序碼、層次碼以及組合碼。

(4)屬性標準梳理
屬性標準梳理我們可以去參考一些標準,比如外部的國際標準、國家標準;業(yè)務層面上的行業(yè)標準和制度要求等;另外在進行屬性梳理時,我們HIA可以從源系統(tǒng)中參考數(shù)據(jù)字典,查看一些代碼表;最后我們也可以借鑒一些好的實踐經(jīng)驗與成果來進行屬性標準的梳理。

在進行主數(shù)據(jù)屬性標準梳理時,我們可以從業(yè)務標準、技術標準、管理標準三個層面來進行。比如業(yè)務層面,我們需要理解屬性到底屬于哪一個分類,屬性名稱是什么,有怎樣的業(yè)務規(guī)則;技術層面,我們可以定義屬性,以及類型長度精度等;管理層面我們可以梳理誰來創(chuàng)建,誰來使用,誰在維度等,提前將其確定出來,方便后續(xù)制定這樣的制度,如圖所示是一個屬性標準的示例。

在億信華辰的主數(shù)據(jù)管理平臺上,我們可以進行屬性標準的梳理,如圖所示,員工編碼梳理完之后,落地到平臺上,它的名稱標題以及中文名稱是怎樣的,是什么類型數(shù)據(jù),這些都可以通過平臺進行梳理,然后再在前端設置一些填報的效果等等。

(5)管控流程設計
數(shù)據(jù)之所以會存在很多問題,以及需要推翻重建,很多時候是在業(yè)務系統(tǒng)建設過中沒有進行流程審核以及校驗。因此我們在進行主數(shù)據(jù)管理過程中,需要重視管控流程設計。

比如,當定義了兩種模型,在模型的新增、變更和失效時,是否有流程做一些控制;在進行數(shù)據(jù)層面的管理工作時,是否有流程能能監(jiān)測數(shù)據(jù)的變更、凍結或者失效。另外,我們可能還會涉及一些質檢和審批,在審批沒有問題,才能去做分發(fā)。
這里億信華辰主數(shù)據(jù)管理平臺能提供這樣的審批方式,可以通過工作流平臺去綁定工作流,去做一些流程設計,或者與企業(yè)里一些成熟的流程系統(tǒng)做對接,然后通過企業(yè)的系統(tǒng)進行流程上的管控。除此以外,還可以在億信華辰的主數(shù)據(jù)管理平臺繪制流程,指定相應的審批人員,辦理人員以及設置辦理期限等,最終起到規(guī)范數(shù)據(jù)的作用。

(6)歷史數(shù)據(jù)整合、清洗
這個過程主要分成6個步驟,分別是數(shù)據(jù)接入、初步標記、分類清理、先分后合、整理清洗、檢查反饋。

①第一步:通過接口或者ETL工具去接入歷史的主數(shù)據(jù);
②第二步:看數(shù)據(jù)存在什么問題,是否有一些
上一篇:如何構建數(shù)據(jù)標準實現(xiàn)數(shù)據(jù)治理...
下一篇:數(shù)據(jù)治理 | 企業(yè)為什么要建數(shù)據(jù)標準,應該怎么建數(shù)據(jù)標準...
在線咨詢
點擊進入在線咨詢