- 產品
- 產品解決方案
- 行業解決方案
- 案例
- 數據資產入表
- 賦能中心
- 伙伴
- 關于
時間:2023-02-20來源:Beginner瀏覽數:639次

數倉全景圖鎮樓
??一、建設過程
數倉建模的過程分為業務建模、領域建模、邏輯建模和物理建模,但是這些步驟比較抽象。為了便于落地,筆者根據自己的經驗,總結出上面的七個步驟:梳理業務流程、垂直切分、指標體系梳理、實體關系調研、維度梳理、數倉分層以及物理模型建立。每個步驟不說理論,直接放工具、模板和案例。
二、業務流程
1、找到公司核心業務流程,找到誰,在什么環節,做什么關鍵動作,得到什么結果。


三、分域/主題
3、決定數倉的建設方式,快速交活,就用自下而上的建設。要全面支撐,就頂層規劃,分步實施,交活稍微慢點。
4、同時按照業務領域劃分主題域。主題域的劃分方法有:按業務流劃分(推薦)、按需求分、按職責分、按產品功能分等。
詳見:一文讀懂數倉主題與主題域劃分方法
四、指標體系
5、指標的意義在于統一語言,統一口徑。所以指標的定義必須有嚴格的標準。否則如無根之水。
指標可分為原子指標、派生指標和衍生指標,其含義及命名規則舉例如下:
6、依照指標體系建設標準,開始梳理指標體系。整個體系同樣要以業務為核心進行梳理。同時梳理每個業務過程所需的維度。維度就是你觀察這個業務的角度,指標就是衡量這個業務結果?好壞的量化結果。
請注意,此時不能被現有數據局限。如果分析出這個業務過程應該有這個指標,但是沒有數據,請標注出來,提出收集數據的需求。詳見:終于有人把數據指標體系講明白了
五、實體關系
7、每個業務動作都會有數據產生。我們將能夠獲取到的數據,提取實體,繪制ER圖,便于之后的維度建模。
8、同樣以業務過程為起點向下梳理,此時的核心是業務表。把每張表中涉及的維度、指標都整理出來。
詳見:數據倉庫4種建模方法與實例剖析
六、維度整理
9、維度標準化是將各個業務系統中相同的維度進行統一的過程。其字段名稱、代碼、名字都可能不一樣,我們需要完全掌握,并標準化。
維度的標準盡可能參照國家標準、行業標準。例如地區可以參照國家行政區域代碼。另外,有些維度存在層級,如區域的省、市、縣。絕大多數業務系統中的級聯就是多層級維度。詳見:數據倉庫維度建模概念解析七、數倉分層10、數據倉庫一般分為4層,名字可能會不一樣,但是其目的和建設方法基本一致:
每一層采用的建模方法都不一樣,其核心是逐層解耦。越到底層,越接近業務發生的記錄,越到上層,越接近業務目標。11、依托數倉分層的設計理論,根據實際業務場景,我們就可以梳理出整體的數據流向圖。這張圖會很清晰的告訴所有人,數據從那來,到哪里去,最終提供什么樣的服務。
詳見:詳解數據倉庫分層架構
八、模型建立
12、此時才真正進入純代碼階段。數倉、ETL工具選型;ETL流程開發;cube的建立;任務調度,設定更新方式、更新頻率;每日查看日志、監控etl執行情況等等。
前面梳理清楚了,ETL會變的非常清晰。
Tips:
1、數倉建設須從業務中來,到業務中去。2、數倉分層的目的是業務解耦。
3、無論哪種建模方式,其核心是業務實體。
4、按領域建設能快速交活,后遺癥將會在2年之后爆發,且難以解決。
5、數倉建設應該把75%的時間投入到設計階段,如果不是,那你就慘了。
6、數倉本身也可以迭代。
7、傳統數倉并沒有一種叫做“寬表模型”的模型,大數據時代新誕生的名詞,因為很多大數據組件join代價極高。實際上是范式退化。