- 產品
- 產品解決方案
- 行業(yè)解決方案
- 案例
- 數據資產入表
- 賦能中心
- 伙伴
- 關于
-
醫(yī)療衛(wèi)生
-
億信動態(tài)
時間:2024-09-08來源:一朵有毒的花瀏覽數:444次
隨著BI的普及與深度使用,企業(yè)在數據分析“深水區(qū)”普遍面臨著指標分散定義,導致口徑不統(tǒng)一、依賴 ETL 作業(yè)開發(fā)報表、問題排查耗時耗力,且復用率低等。指標平臺建設的目標在于統(tǒng)一指標管理,規(guī)范數據流程,保障指標數據準確性,實現數據要素價值化,促進業(yè)務高質量發(fā)展。
1.指標平臺的概念
指標平臺是供組織集中管理、存儲關鍵指標的平臺,提供統(tǒng)一業(yè)務模型、指標管理、指標加工、數據服務于一體的完整的解決方案。它是一種集中組織數據的方式,以可重復的方式訪問關鍵指標,用戶可以使用多種應用在下游消費這些指標。指標平臺即連接后臺與前臺的“中間層",根據前臺的需求去后端找數據,并加工成"數據服務 API”,供前端所有系統(tǒng)來使用。指標平臺作為數據中臺的特性有:一致性、訪問性和復用性。作為數據架構的一部分,指標平臺作為一個標準化的單一可信源,開始受到重視。
2.為什么需要數據指標平臺
2.1 指標開發(fā)交付周期長,無法及時響應需求
隨著 BI 的普及,企業(yè)內報表數量越來越多,業(yè)務的迅速發(fā)展要求數據需求的響應速度更快,然而,傳統(tǒng)的“數倉 + BI” 的模式中,依賴人工開發(fā)寬表和匯總表來加工指標,要經歷漫長的口徑溝通、排期、開發(fā)、測試、上線流程,每個需求開發(fā)都需要經歷復雜和漫長的 ETL 作業(yè)流程,導致業(yè)務部門的需求響應緩慢。
2.2 指標口徑不統(tǒng)一,業(yè)務協(xié)作效率低
指標作為一種通用、量化的管理語言,能夠拉通各個層級、不同部門,共同開展業(yè)務分析和討論,從而發(fā)現問題、解決問題,這一切的前提是指標口徑的對齊。然而,企業(yè)在使用指標的過程中往往忽視了指標數據的治理,導致指標口徑不統(tǒng)一,相應的分析結果不可信,難以支撐決策。涉及不同業(yè)務部門協(xié)作時,需要花費大量精力在口徑對齊上。
2.3“數倉 + BI” 模式在指標問題排查方面,效率也不甚理想
由于指標定義分散且不統(tǒng)一,一旦數據出現問題,需要花費大量時間去不同報表和數據集中排查、對比數據,進而找到問題所在。這不僅耗費了大量的時間資源,同時也降低了業(yè)務人員對數據的信任度。同時人工變更還難以保障變更質量,進一步增加了數據不一致的風險。
2.4 指標體系不好用
在實際業(yè)務經營中,企業(yè)在指標體系方面經常面臨指標體系不好用的問題,業(yè)務人員會有諸多疑問,例如:
上級部門的 KPI 如何拆解到我們團隊的 KPI指標? 新上線的業(yè)務,應該用一套什么樣的指標體系和看板去分析監(jiān)控? 什么樣的指標可以衡量新上產品功能的好壞? 導致企業(yè)指標體系不好用的原因可能是多方面的,尤其是在企業(yè)管理本身。例如,企業(yè)的業(yè)務目標不清晰、業(yè)務管理體系缺乏標準、對業(yè)務理解不足等。此外,指標體系設計需要結合專業(yè)的方法論和行業(yè)經驗,如果缺乏專業(yè)的指標設計方法,也會導致指標體系存在缺陷。
2.5 指標分析靈活性與查詢性能不足
業(yè)務人員在指標應用中同時存在分析靈活性與查詢性能兩方面的需求。一方面,需要指標分析工具支持各種分析操作,可以靈活探索數據,以更深入地進行業(yè)務分析;另一方面,需要指標分析工具能支持億級以上大數據量、高并發(fā)場景下查詢的秒級響應。
實際使用中,業(yè)務人員往往會發(fā)現數據分析工作無法很好地滿足上述需求。例如,提出一個業(yè)務邏輯較復雜的指標分析需求后,系統(tǒng)進入卡頓狀態(tài),需要幾分鐘甚至幾個小時的時間才有響應,或者無法響應。這會導致指標分析的用戶體驗差以及部分分析場景無法實現。
2.6 指標缺乏統(tǒng)一的語義沉淀,使用范圍受限
指標在數倉中開發(fā),在BI中消費,但是企業(yè)的指標消費場景并不限于 BI,比如 DMP 和 CDP 平臺、商家后臺、營銷平臺等各種應用要承接數據分析的結果,觸發(fā)運營管理動作。
綜上所述,我們亟需一個能夠有效解決指標統(tǒng)一管理、指標統(tǒng)一開發(fā)和指標開放服務問題的指標平臺,既要快速滿足業(yè)務靈活分析的需求,還能夠切實保障指標口徑的一致性與數據的準確性
3.數據指標平臺的建設
3.1指標平臺建設目標
指標體系設計是指標平臺落地的第一步,企業(yè)需要建設一個強大的一站式指標平臺,核心目標是實現指標全生命周期管理的落地,以及支撐指標應用。具體而言,指標平臺建設的重點目標可以分為四個部分。
第一,實現指標資產的統(tǒng)一管理。指標平臺要成為企業(yè)所有業(yè)務部門指標數據的唯一出入口,幫助企業(yè)有效沉淀指標數據資產,并從平臺工具層面保證指標數據的一致性,解決指標孤島、指標口徑不一致問題。
第二,實現靈活高效的指標開發(fā)。指標平臺需要能提供低門檻、易用、高效的指標開發(fā)功能,提升指標開發(fā)效率,從而滿足持續(xù)增長的業(yè)務用數需求
第三,支撐高性能的指標查詢。指標平臺需要滿足應用場景對于指標查詢性能的要求,保證良好的用戶體驗。
第四,支撐豐富的指標應用。指標平臺需要為用戶提供統(tǒng)一的指標服務,支撐 BI、可視化指標異常預警和歸因分析等豐富的指標應用場景。同時,指標平臺需要提供低門檻的指標應用服務,便于業(yè)務人員開展自助分析。
3.2數據指標平臺建設的能力要求
數據指標平臺,需要滿足以下能力要求:
1)實現指標與報表解耦
數據指標平臺需要將指標定義與管理抽象出來,確保其與報表設計分離,從而實現業(yè)務含義和計算邏輯的集中化管理
2)統(tǒng)一指標定義,規(guī)范管理
數據指標平臺能夠提供一個中間位置,用于定義所有關鍵業(yè)務指標。這樣不僅實現了指標定義的統(tǒng)一性,還能確保在整個組織內的不同系統(tǒng)和應用之間實現指標一致,避免了各個團隊間的口徑不統(tǒng)一
3)提升指標生產效率
數據指標平臺要實現指標的自動化生產,減少對工程師資源的依賴,實現高效的指標交付。
4)支持指標的靈活使用和分析
業(yè)務用戶可以自助實現任意維度靈活分析,擺脫對專業(yè)技術團隊的依賴。指標平臺要能夠支持靈活且多樣化的指標應用,使得業(yè)務人員可以根據各自需求,自主進行數據探索和深入分析
5)提供開放化的服務
指標語義沉淀在統(tǒng)一的語義層,并通過各種標準接口對接包含 BI 工具在內的各種指標消費應用,實現一處定義,處處使用
3.3數據指標平臺建設的流程
指標平臺建設項目的具體實施一般包含方案設計、平臺開發(fā)及部署、功能驗證、場景落地等主要環(huán)節(jié)。
1)方案設計:基于需求調研,設計指標平臺項目方案,完整內容主要包含指標體系設計ETL 方案、數據建模方案、指標平臺功能模塊設計以及系統(tǒng)集成方案。其中,指標平臺功能模塊設計是重點,需要根據企業(yè)的指標管理與應用需求進行綜合考量。
2)平臺開發(fā)及部署:根據方案設計,完成各功能模塊開發(fā)、部署、集成和測試工作。在該環(huán)節(jié),企業(yè)可以在采購市場上成熟指標平臺產品的基礎上,結合自身個性化需求進行平臺開發(fā),減少開發(fā)成本,避免“重復造輪子”,加速項目落地。
3)功能驗證:完成平臺開發(fā)部署后,需要接入指標數據,對數據接入、指標定義、指標開發(fā)、指標管理、指標服務等關鍵功能以及相關性能進行測試驗證。
4)場景落地:在平臺建設后期,為了讓平臺更好地投入運營,需要面向數據部門、業(yè)務部門等用戶開展一系列培訓工作,支撐場景落地。
3.4數據指標平臺建設的方法論
為了達成指標平臺建設目標,企業(yè)在進行平臺建設或產品選型時,需要重點關注指標平臺功能模塊的完整性、指標引擎性能、指標平臺易用性。
1)指標平臺功能模塊完整性
從功能模塊設計上,指標平臺需要圍繞指標全生命周期,提供從指標定義、指標開發(fā)、指標管理到指標應用的完整功能。典型的指標平臺功能模塊規(guī)劃如下圖所示,需要具備的核心功能模塊包括數據集成、指標引擎、指標定義、指標開發(fā)、指標管理、指標市場、指標應用、指標服務及平臺運維。
其中,為了能滿足多種數據應用的需求,指標服務模塊需要能以指標 API、指標模型接口SQL、MDX等多種形式提供統(tǒng)一的指標服務。
2)指標引擎能力
指標引擎承載著平臺的指標計算與查詢任務,是滿足指標查詢性能要求、保證良好用戶體驗的核心。指標引擎主要通過高性能的 OLAP 引擎和計算加速引擎來提升整體指標查詢性能。
OLAP 引擎需要具備較強的計算查詢性能,支持 PB 級數據的秒級低延遲、高并發(fā)數據處理,此外還需要考慮其穩(wěn)定性、易用性、生態(tài)兼容性、彈性伸縮、成本、安全性等因素。常用的 OLAP 引擎包括ClickHouse、Doris、Kylin、Greenplum、Druid、TiDB等。
在 OLAP 引擎基礎之上,還可以進一步采用等智能建模、預聚合計算、查詢優(yōu)化等智能化技術構建計算加速引擎,進一步優(yōu)化性能
3)指標平臺的易用性
指標平臺需要具備流暢的可視化操作界面,支持低代碼、零代碼、拖拉拽方式進行指標加工,支持業(yè)務用戶自助使用。針對業(yè)務復雜度高的指標,需要去重聚合,使用 case when、開窗函數、分組排名、同環(huán)比等復雜處理邏輯實現時,需要支持通過工具進行快速配置。
此外,部分指標平臺產品正在探索與大語言模型技術結合,提供自然語言交互、分析報告生成等能力,進一步提升指標平臺的易用性、降低使用門檻。
3.5數據指標平臺的功能
接下來,我們一起看一下指標平臺包含哪些模塊:
1)指標定義
功能:用于定義業(yè)務指標,包括指標的名稱、描述、計算公式、數據來源、維度和度量等
核心能力:
? 指標標準化:確保所有定義的指標具有統(tǒng)一的格式和標準。? 計算公式管理:支持復雜計算公式的定義和管理。? 數據源配置:支持多種數據源的配置和集成。2) 指標開發(fā)
功能:用于定義和開發(fā)業(yè)務指標,包括指標的名稱、描述、計算公式、數據來源、維度和度量等,同時提供開發(fā)工具和環(huán)境,支持開發(fā)人員編寫和測試指標計算邏輯。
核心能力:
? 指標標準化:確保所有定義的指標具有統(tǒng)一的格式和標準。
? 計算公式管理:支持復雜計算公式的定義和管理。
? 數據源配置:支持多種數據源的配置和集成。
? 可視化開發(fā)工具:提供拖拽式界面,簡化指標開發(fā)過程。
? 版本管理:支持指標計算邏輯的版本控制和管理。
? 自動化測試:提供自動化測試工具,確保指標計算的準確性和穩(wěn)定性。
3) 指標管理
功能:管理已定義和開發(fā)的指標,包括發(fā)布、維護和更新等。
核心能力:
? 指標地圖:指標地圖做法可參考數據地圖,指標地圖能夠提升用戶搜索全局指標效率,這里功能包括搜索跳轉,平臺熱度指標top、用戶收藏指標、指標域板塊、指標個數
? 指標目錄:指標目錄通常展示指標信息情況以及指標新建情況,以及指標分類篩選(原子、派生、復合),通常是讓用戶通過規(guī)模化進行指標查看
? 權限管理:控制不同用戶對指標的訪問和操作權限。? 生命周期管理:管理指標從定義到廢棄的整個生命周期。? 日志和審計:記錄指標操作日志,支持審計和追蹤。? 指標審批:難點在于數據表繁多,業(yè)務方并頻繁修改指標口徑,且變動中無版本記錄,同時人工粗略審批再手動開通影響整體效率,甚至部分公司還沒強管控規(guī)范。無論是數倉還是指標平臺都可用的指標審核鏈路如下:業(yè)務(運營等)發(fā)起->數據分析/數據產品(校驗業(yè)務口徑是否合理)->數據倉庫(校驗之前有沒有做過這個指標,如做過則審批駁回,如沒做過需要評估是否有數據源實現可能)->數據倉庫/數據分析leader收口
? 指標監(jiān)控:其實指標監(jiān)控也能做成弱dqc,并且弱dqc也可以告警到飛書群里,所以這里的指標監(jiān)控你加到dqc也行,單獨做一個指標監(jiān)控板塊也行,現在報表也具備指標監(jiān)控功能,主要還是把指標中心功能補齊(有則更好,沒有的話也有替代品)。
4)指標分析
功能:提供數據分析工具,幫助用戶深入了解指標數據。
核心能力:
? 可視化分析:支持多種圖表和可視化工具,幫助用戶直觀地理解數據。? 數據挖掘:提供數據挖掘和分析模型,挖掘隱藏的業(yè)務洞察。? 自助分析:支持用戶自助進行數據分析和報表生成。5)指標服務
功能:用于構建和管理統(tǒng)一的業(yè)務指標語義層,確保所有業(yè)務指標具有一致的定義和解釋。
核心能力:
? 統(tǒng)一語義層:提供一個統(tǒng)一的指標語義層,確保所有業(yè)務指標的定義和解釋一致。? 模型管理:支持業(yè)務模型的定義、管理和維護,確保模型的正確性和一致性。? 模型共享:支持在不同業(yè)務部門之間共享統(tǒng)一的指標模型,確保數據一致性和可比性。? 模型優(yōu)化:提供模型優(yōu)化工具,支持對指標模型的持續(xù)優(yōu)化和改進。? 數據整合:支持將多個數據源的數據整合到統(tǒng)一的指標模型中,提供全面的數據視圖。
4.數據指標平臺的運營
指標平臺完成初期建設后,進入持續(xù)運營階段。指標平臺運營是讓指標平臺真正“用起來”,持續(xù)產生價值的關鍵。
4.1指標平臺運營的目標
指標平臺運營的目標主要有兩方面:
第一,在企業(yè)內部推廣更多的指標應用和用戶,讓指標平臺用起來,持續(xù)產生業(yè)務價值;
第二,根據指標應用需求不斷選代指標體系,同時制定和執(zhí)行指標管理制度與流程,保證指標數據質量。
4.2 指標平臺運營流程
企業(yè)系統(tǒng)性初始化指標體系后,需要不斷拓展指標應用并迭代指標體系,這個過程就是指標平臺運營,核心流程包括應用場景采集、指標體系設計、指標口徑確認、數據開發(fā)和指標應用運營,其中前兩項工作在前文中有詳細說明,下文主要是介紹后面三項工作。
4.3指標平臺運營方法
企業(yè)需要建立一套組織、流程、技術相結合的運營體系。組織方面,需要明確為運營目標負責的組織、相應的組織架構以及各崗位角色的職責,并建立配套的溝通機制。流程方面,圍繞指標需求評審、指標開發(fā)管理等核心運營流程,制定規(guī)范化的操作流程。此外,要借助技術手段為運營工作提供支持,依托OA、指標平臺等系統(tǒng)工具,實現流程數字化和部分環(huán)節(jié)的自動化執(zhí)行,提升運營效率。
1)指標口徑確認:以指標委員會為核心領導組織,規(guī)范指標口徑
為了統(tǒng)一管理指標需求,規(guī)范指標口徑,企業(yè)通常可以設立專門的“指標委員會”,作為指標管理的核心領導組織。指標委員會一般隸屬于數據治理委員會
圍繞指標新增、變更、下線等需求的指標需求評審機制,是指標口徑確認的關鍵機制。
2)指標開發(fā)管理
指標開發(fā)管理是按照指標評審結果,對原始指標進行指標要素拆解,通過在指標平臺創(chuàng)建修改、上下線指標,實現指標從提需、評審到開發(fā)上線的強管控,從而使指標的開發(fā)與更改符合統(tǒng)一的指標體系的規(guī)范。該流程主要涉及到指標平臺產品經理與數據開發(fā)團隊的協(xié)作,同時可以通過指標平臺中實現高效的指標配置和流程管理。
3)指標應用運營:從核心場景切入打造標桿案例,進行復制推廣
指標平臺運營的目標是讓指標平臺真正“用起來”,持續(xù)產生價值,需要通過一系列運營手段持續(xù)推廣指標應用。
首先,需要樹立起指標體系在企業(yè)內部經營體系中的權威性,讓業(yè)務部門在同一套指標體系的牽引下開展運營和協(xié)作,避免“各自為政”。
其次,讓業(yè)務部門感知和認可指標應用的價值,是指標應用運營成功的關鍵
在此過程中,組織方面可以建立數據 BP 機制,由數據部門向各業(yè)務部門分派數據分析人員擔任數據 BP 角色。數據 BP的核心職責是作為深度參與業(yè)務運營,彌補技術與業(yè)務之間的鴻溝。
5.總結
指標平臺在分析工具逐漸豐富的今天,彌補了數據倉庫和前端應用中缺失的一環(huán)。有統(tǒng)計表明,超過 70% 的 BI項目都失敗了,最終究其原因是用戶用不起來、不會用數據分析工具把業(yè)務和數據進行轉換。在這樣的大環(huán)境下很多公司根據痛點,自己開發(fā)了指標平臺。有了數據指標平臺,規(guī)范了用戶使用數據,又給用戶創(chuàng)建多樣的指標提供了便利,同時也可以用量化管理的方法來反映公司發(fā)展的關鍵性策略,這些從側面說明了指標平臺市場火熱的原因所在。
上一篇:認識數據要素...
在線咨詢
點擊進入在線咨詢