導(dǎo)讀:數(shù)據(jù)中臺(tái)要想成功,靠的是3分工具、7分實(shí)施、12分運(yùn)營(yíng)。

《關(guān)于構(gòu)建更加完善的要素市場(chǎng)化配置體制機(jī)制的意見(jiàn)》《關(guān)于加快推進(jìn)國(guó)有企業(yè)數(shù)字化轉(zhuǎn)型工作的通知》《“十四五”國(guó)家信息化規(guī)劃》等政策落地實(shí)施,數(shù)字化轉(zhuǎn)型已步入了一個(gè)全新的階段,數(shù)據(jù)中臺(tái)(后文單說(shuō)“中臺(tái)”時(shí),特指“數(shù)據(jù)中臺(tái)”)作為數(shù)字化建設(shè)的基本設(shè)施,在其中發(fā)揮了重要的作用。
縱觀數(shù)據(jù)中臺(tái)產(chǎn)業(yè)的發(fā)展,自成長(zhǎng)之初,就具備了“天時(shí)地利人和”多重利好條件。
在技術(shù)架構(gòu)層面,隨著云計(jì)算、大數(shù)據(jù)的技術(shù)發(fā)展,數(shù)據(jù)中臺(tái)在技術(shù)上逐漸走向成熟。在資源型平臺(tái)方面,從Hadoop體系開(kāi)始,到Spark、Flink;從傳統(tǒng)的OLTP,到OLAP、HTAP;從一般批調(diào)度,到Lambda架構(gòu)、流批一體;從數(shù)據(jù)倉(cāng)庫(kù)到湖倉(cāng)一體……琳瑯滿(mǎn)目的技術(shù)體系,足以支持?jǐn)?shù)據(jù)中臺(tái)的存儲(chǔ)及技術(shù)上不同的架構(gòu)。
在建設(shè)工具層面,數(shù)據(jù)中臺(tái)所需的開(kāi)發(fā)體系、數(shù)據(jù)體系、管理體系、運(yùn)營(yíng)體系、服務(wù)體系,在各頭部互聯(lián)網(wǎng)企業(yè)、獨(dú)立中臺(tái)開(kāi)發(fā)商的競(jìng)爭(zhēng)下,也不乏選擇。在應(yīng)用服務(wù)層面,數(shù)據(jù)分析查詢(xún)、數(shù)據(jù)可視化、BI等通用型服務(wù)工具也在高速發(fā)展。在業(yè)務(wù)價(jià)值層面,數(shù)據(jù)智能應(yīng)用也給原來(lái)傳統(tǒng)軟件解決方案帶來(lái)新的思路。
站在技術(shù)發(fā)展成熟度的視角,數(shù)據(jù)中臺(tái)這座大廈理應(yīng)拔地而起,高速成長(zhǎng)。但在實(shí)際市場(chǎng)中,數(shù)據(jù)中臺(tái)還是各互聯(lián)網(wǎng)大廠、傳統(tǒng)龍頭企業(yè)的專(zhuān)屬,大部分企業(yè)還是只能觀望。為什么呢?
01 建設(shè)困境:基于建設(shè)路徑、技術(shù)選擇、組織支撐視角
1.?數(shù)據(jù)中臺(tái)的實(shí)現(xiàn)方式
首先從數(shù)據(jù)中臺(tái)的實(shí)現(xiàn)方式說(shuō)起,一般來(lái)說(shuō),建設(shè)數(shù)據(jù)中臺(tái)有著獨(dú)立建設(shè)數(shù)據(jù)中臺(tái)、附屬于業(yè)務(wù)(業(yè)務(wù)中臺(tái))建設(shè)數(shù)據(jù)中臺(tái)、業(yè)務(wù)中臺(tái)和數(shù)據(jù)中臺(tái)結(jié)合共建三種模式。它們各有優(yōu)缺點(diǎn),不同企業(yè)不同目的,應(yīng)該選擇不同建設(shè)方式,短時(shí)間建設(shè)是不能做到殊途同歸的。
獨(dú)建中臺(tái),受業(yè)務(wù)干預(yù)少,所以在基礎(chǔ)設(shè)施上比較自由,總體建設(shè)難度小。但由于通用性或單一性,業(yè)務(wù)接入難度大(或者說(shuō)效率低),中臺(tái)價(jià)值很難最大化。這種方式比較適合業(yè)務(wù)數(shù)據(jù)相對(duì)集中,數(shù)據(jù)有統(tǒng)一性的價(jià)值出口,比如ToC帶有互聯(lián)網(wǎng)屬性的企業(yè)。
依附業(yè)務(wù),有明確的價(jià)值輸出點(diǎn),在建設(shè)初期可以根據(jù)業(yè)務(wù)來(lái)確定數(shù)據(jù)相關(guān)體系標(biāo)準(zhǔn),工具交互可以有強(qiáng)業(yè)務(wù)邏輯,總體建設(shè)難度適中,而且一定程度(業(yè)務(wù)沒(méi)有大變化的情況下)中臺(tái)價(jià)值能最大化。但這樣的中臺(tái)不利于其他業(yè)務(wù)接入,不能適應(yīng)業(yè)務(wù)的快速變化。這種方式比較適合沒(méi)有足夠規(guī)模的技術(shù)團(tuán)隊(duì)支撐數(shù)據(jù)中臺(tái)全面發(fā)展的中小型企業(yè)。
相互共建,有高度統(tǒng)一性,能持續(xù)發(fā)展,平臺(tái)價(jià)值能最大化。但實(shí)現(xiàn)難度十分大,需要有完整規(guī)劃,以及全方位的人才投入,建設(shè)周期長(zhǎng)。這種方式比較適合政府機(jī)構(gòu)、大型集團(tuán)性企業(yè)。
其次,再來(lái)看看技術(shù)層面的影響。技術(shù)一般不是影響數(shù)據(jù)中臺(tái)建設(shè)的重要原因,但很多時(shí)候是阻礙其建設(shè)的重要因素。主要影響可能是以下三點(diǎn):
1)存儲(chǔ)及計(jì)算引擎選擇
因?yàn)檫@塊的變動(dòng)需要做大量的遷移工作(如:阿里由Hadoop轉(zhuǎn)成自有技術(shù)MaxCompute),所以前期選型工作要做深遠(yuǎn)的考慮。但現(xiàn)行大數(shù)據(jù)技術(shù)還在不斷迭代中,過(guò)去的選擇當(dāng)前可能有更好的替代品。
2)成本效益的考慮
數(shù)據(jù)中臺(tái)的一個(gè)核心是數(shù)據(jù)的“復(fù)用”,這個(gè)“復(fù)用”的效果很多程度上反映在數(shù)據(jù)使用的效率上。這里面具體有兩方面問(wèn)題。
一方面,性能的效率,如存儲(chǔ)成計(jì)算成本等。在數(shù)據(jù)量上去后,這塊成本是十分可觀的,往往會(huì)影響上層決策;另一方面,工具串聯(lián)下來(lái)的所能帶來(lái)的工作效率的提升,以及入手門(mén)檻的降低,這塊往往是中臺(tái)是否能能長(zhǎng)期發(fā)展的一個(gè)重要影響因素。
3)技術(shù)使用慣性
相對(duì)中大規(guī)模中臺(tái)建設(shè)的公司,一般都會(huì)有自己的技術(shù)團(tuán)隊(duì),他們已經(jīng)有存在一些技術(shù)使用的慣性,技術(shù)的選擇是考慮業(yè)務(wù)的長(zhǎng)足發(fā)展還是要兼顧當(dāng)前的研發(fā)成本和效率,也是一個(gè)重要的考量。
2.?組織支持
接著,我們說(shuō)組織支持方面的原因。數(shù)據(jù)中臺(tái)構(gòu)建方法論中,重點(diǎn)提到組織文化在其中的重要作用(單純的引入行業(yè)領(lǐng)先數(shù)據(jù)文化并強(qiáng)制執(zhí)行一定是不可取的,要培養(yǎng)數(shù)據(jù)文化不能局限于技術(shù)專(zhuān)業(yè)人員,更要讓業(yè)務(wù)部門(mén)深入?yún)⑴c共創(chuàng),并有意識(shí)的培養(yǎng)員工在數(shù)據(jù)認(rèn)知的突破,通過(guò)數(shù)據(jù)賦能業(yè)務(wù)的落地實(shí)踐,可進(jìn)一步拉動(dòng)企業(yè)組織對(duì)“數(shù)據(jù)素養(yǎng)”的人才需求)。
在IBM《數(shù)據(jù)治理能力成熟度模型》中,組織結(jié)構(gòu)和文化也是數(shù)據(jù)治理工作的重要支撐部分。

▲IBM《數(shù)據(jù)治理成熟度評(píng)估模型》
組織結(jié)構(gòu)與文化是描述業(yè)務(wù)、IT、數(shù)據(jù)之間的相互責(zé)任和組織結(jié)構(gòu),針對(duì)組織不同層級(jí)上的管理提出受托責(zé)任且做出承諾。很多時(shí)候,負(fù)責(zé)承建數(shù)據(jù)中臺(tái)是其中一個(gè)業(yè)務(wù)部門(mén),或者是IT部門(mén)。特別是IT部門(mén)的情況下,是很難拉通全局來(lái)調(diào)度資源的,作為下游的業(yè)務(wù)部門(mén)如果不參與進(jìn)來(lái),很多時(shí)候中臺(tái)就是一個(gè)架子,不能發(fā)揮實(shí)際作用徒增成本。
這樣的問(wèn)題不是技術(shù)層面或者獨(dú)立部門(mén)就能解決的事情,需要組織層面的權(quán)力操作。
另外,在組織支撐下建立的數(shù)據(jù)相關(guān)體系,如:信息生命周期、數(shù)據(jù)安全和隱私管理等,是建設(shè)中臺(tái)的重要支撐。這些體系準(zhǔn)則不是特意為數(shù)據(jù)中臺(tái)準(zhǔn)備的,就是沒(méi)有數(shù)據(jù)中臺(tái)這樣的機(jī)制,這些體系準(zhǔn)則也會(huì)依附其他工具或流程運(yùn)轉(zhuǎn)。
所以說(shuō),這些是數(shù)據(jù)中臺(tái)運(yùn)轉(zhuǎn)的一個(gè)基礎(chǔ),是為平臺(tái)工具注入靈魂的所在,中臺(tái)的形態(tài)也會(huì)根據(jù)注入的內(nèi)容會(huì)有所不同。
3.?社會(huì)認(rèn)知
最后,說(shuō)說(shuō)大環(huán)境上原因。在確立數(shù)據(jù)作為第五類(lèi)生產(chǎn)要素后,政府企業(yè)的數(shù)字轉(zhuǎn)型的步伐陡然加快。整個(gè)社會(huì)對(duì)數(shù)據(jù)平臺(tái)的認(rèn)知,有質(zhì)的改變。從過(guò)去任務(wù)中臺(tái)只是一個(gè)生產(chǎn)工具,到現(xiàn)在一套完整的運(yùn)作機(jī)制,政企在建設(shè)中臺(tái)廣度上跳出了技術(shù)范疇,調(diào)度更多的資源配合。
數(shù)據(jù)中臺(tái)的建設(shè),已經(jīng)從應(yīng)用工具的建設(shè),到整套數(shù)字化轉(zhuǎn)型機(jī)制轉(zhuǎn)變。也正是因?yàn)檫@個(gè)原因,對(duì)建設(shè)中臺(tái)的期待也更大。然而這種期待放大和投入變大不一定是正比的,也就導(dǎo)致中臺(tái)建設(shè)難度就更大了。
02 建設(shè)路徑:從組織認(rèn)知提升到標(biāo)準(zhǔn)化體系建設(shè)
基于困境,我們接下來(lái)談?wù)剶?shù)據(jù)中臺(tái)建設(shè)在當(dāng)前階段有哪些重點(diǎn)要去關(guān)注。
目前,數(shù)據(jù)的價(jià)值屬性已經(jīng)獲得業(yè)界的廣泛認(rèn)可,但是選擇觀望的企業(yè)依舊占據(jù)大多數(shù),數(shù)據(jù)中臺(tái)在認(rèn)知和推廣上仍然面臨著多方面的挑戰(zhàn)。
政府企業(yè)在組織層面,如何支撐數(shù)據(jù)中臺(tái)的落地或者支撐數(shù)據(jù)中臺(tái)良性運(yùn)營(yíng),業(yè)界上也給出了些標(biāo)準(zhǔn)答案。比如數(shù)據(jù)中臺(tái)的建設(shè)方法論、IBM的數(shù)據(jù)治理成熟度模型、信通院的數(shù)據(jù)管理能力成熟度管理模型。這些都定義了組織上需要做哪些事情讓數(shù)據(jù)中臺(tái)建設(shè)得到足夠的支撐。

▲數(shù)據(jù)中臺(tái)一般建設(shè)路徑
其次是體系建設(shè),這是數(shù)據(jù)中臺(tái)落地最困難的部分。一般在數(shù)據(jù)上,我們會(huì)從數(shù)據(jù)體系、資產(chǎn)體系、生命周期管理、風(fēng)險(xiǎn)管理、安全及隱私、數(shù)據(jù)運(yùn)營(yíng)(業(yè)務(wù)價(jià)值)等方面來(lái)構(gòu)建完整的數(shù)據(jù)流轉(zhuǎn)的體系。但要完整構(gòu)建這些體系是一個(gè)漫長(zhǎng)的過(guò)程,而且不同企業(yè)/政府著重建設(shè)的點(diǎn)也不一樣。
數(shù)據(jù)體系、資產(chǎn)體系是中臺(tái)使用的基礎(chǔ)。數(shù)據(jù)體系是在全域數(shù)據(jù)資源的基礎(chǔ)上,進(jìn)行標(biāo)準(zhǔn)定義及分層建模,最終呈現(xiàn)的結(jié)果是一套完整、規(guī)范、標(biāo)準(zhǔn)、準(zhǔn)確的數(shù)據(jù)體系,可以方便支撐數(shù)據(jù)應(yīng)用。
資產(chǎn)體系是指規(guī)劃、控制和提供數(shù)據(jù)及信息資產(chǎn)的一組業(yè)務(wù)職能,包括開(kāi)發(fā)、執(zhí)行和監(jiān)督有關(guān)數(shù)據(jù)的計(jì)劃、政策、方案、項(xiàng)目、流程、方法和程序,從而控制、保護(hù)、交付和提高數(shù)據(jù)資產(chǎn)的價(jià)值。
數(shù)據(jù)資產(chǎn)管理需要充分融合業(yè)務(wù)、技術(shù)和管理,以確保數(shù)據(jù)資產(chǎn)保值增值。這兩塊一般按公司實(shí)際業(yè)務(wù)情況來(lái)落地,沒(méi)有最好,只有最合適。
對(duì)于中大型企業(yè)來(lái)說(shuō),可量化來(lái)衡量數(shù)據(jù)及數(shù)據(jù)中臺(tái)的價(jià)值是十分重要,畢竟數(shù)據(jù)中臺(tái)是長(zhǎng)期的投入,它的ROI是怎樣會(huì)直接影響中臺(tái)投入的資源,因此會(huì)十分關(guān)注數(shù)據(jù)運(yùn)營(yíng)來(lái)實(shí)現(xiàn)業(yè)務(wù)價(jià)值。
而對(duì)政務(wù)組織而言,情況又不太一樣。數(shù)據(jù)安全性是他們當(dāng)前要重點(diǎn)考慮的事情。根據(jù)《大數(shù)據(jù)藍(lán)皮書(shū):中國(guó)大數(shù)據(jù)發(fā)展報(bào)告No.5》數(shù)據(jù)顯示:在二十國(guó)(G20)之中,除數(shù)字安全外,中國(guó)在其他指標(biāo)都排行前列的。
所以,國(guó)家在近兩年公布了大量相關(guān)的法制、法規(guī),加強(qiáng)數(shù)字法治性的發(fā)展。當(dāng)前研究熱點(diǎn),多集中在數(shù)據(jù)安全、數(shù)權(quán)、個(gè)人信息保護(hù)及權(quán)利行使等領(lǐng)域,所以數(shù)據(jù)中臺(tái)建設(shè)要更多考慮安全及隱私。
03 技術(shù)維度:從DataOps能力看數(shù)據(jù)中臺(tái)建設(shè)
上面已經(jīng)說(shuō)過(guò)中臺(tái)的能力,但它們過(guò)于復(fù)雜,現(xiàn)在我們把它縮小,單單套用在技術(shù)層面的能力,也就是DataOps能力,來(lái)討論數(shù)據(jù)中臺(tái)成功的一些必要條件。
在DataOps數(shù)據(jù)工程化、數(shù)據(jù)集成、數(shù)據(jù)質(zhì)量、數(shù)據(jù)安全及隱私這四個(gè)能力下,數(shù)據(jù)應(yīng)該應(yīng)該要做到Process->Analyze->Learn->Re-Use這個(gè)閉環(huán)。
DataOps的常見(jiàn)定義:
DataOps(數(shù)據(jù)運(yùn)營(yíng))是以一種敏捷的方法,用來(lái)設(shè)計(jì)、實(shí)施和維護(hù)分布式數(shù)據(jù)架構(gòu),支持廣泛的開(kāi)源工具和框架,數(shù)據(jù)運(yùn)營(yíng)的目的是從大數(shù)據(jù)中獲取業(yè)務(wù)價(jià)值。
DataOps是一個(gè)自動(dòng)的、面向流程的方法論,被數(shù)據(jù)和分析團(tuán)隊(duì)使用,從而提高質(zhì)量縮短數(shù)據(jù)分析的周期。
DataOps是在一個(gè)組織中控制數(shù)據(jù)旅程從而產(chǎn)生價(jià)值的一個(gè)職能。
DataOps對(duì)開(kāi)發(fā),測(cè)試和部署代碼進(jìn)行了嚴(yán)格的管理,這些代碼管理數(shù)據(jù)流并創(chuàng)建分析解決方案。
簡(jiǎn)單來(lái)說(shuō),數(shù)據(jù)中臺(tái)是實(shí)現(xiàn)DataOps的一種方法,他的成功應(yīng)該要滿(mǎn)足DataOps該有的條件,但數(shù)據(jù)中臺(tái)不僅僅是DataOps,DataOps的成功不代表數(shù)據(jù)中臺(tái)的成功,因?yàn)镈ataOps往往只決定技術(shù)價(jià)值,但數(shù)據(jù)中臺(tái)更多時(shí)候要考慮業(yè)務(wù)價(jià)值。
當(dāng)前很多數(shù)據(jù)中臺(tái),只考慮集成、質(zhì)量的問(wèn)題,而忽略工程化、安全/隱私的問(wèn)題。但DataOps上最重要的是工程化部分,也是數(shù)據(jù)中臺(tái)中”復(fù)用“的關(guān)鍵所在(ERP系統(tǒng)能成功,就是把核心業(yè)務(wù)都標(biāo)準(zhǔn)化、工程化掉,任何人操作都是由準(zhǔn)則和流程可依的)。工程化本質(zhì)是建立執(zhí)行標(biāo)準(zhǔn)的事情,難度是十分大,而且在后期改動(dòng)比較困難。
所以我們經(jīng)常會(huì)見(jiàn)到,數(shù)據(jù)中臺(tái)建成后,前期參與的團(tuán)隊(duì)使用比較順暢,后期加入的使用的團(tuán)隊(duì)就有可能不適用,這就是工程化做的不好的結(jié)果。在實(shí)現(xiàn)中臺(tái)是只考慮了當(dāng)前參與團(tuán)隊(duì)處理數(shù)據(jù)流程的,而不是一個(gè)標(biāo)準(zhǔn)自動(dòng)化過(guò)程。比如數(shù)據(jù)智能應(yīng)用上工程化流程比一般數(shù)倉(cāng)數(shù)據(jù)分析要復(fù)雜的多。
數(shù)據(jù)中臺(tái)能否被高效用起來(lái),工程化問(wèn)題就是核心,這個(gè)做好了,至少中臺(tái)的作用就在了。

▲數(shù)據(jù)工程化的一個(gè)樣例
當(dāng)前數(shù)據(jù)中臺(tái)還是處于發(fā)展初期階段,可能也像ERP需要10年甚至更長(zhǎng)時(shí)間沉淀,才能形成一套產(chǎn)品、服務(wù)的行業(yè)標(biāo)準(zhǔn)。但不可否認(rèn)的是,它是具備成為數(shù)字化轉(zhuǎn)型必備的基礎(chǔ)設(shè)施的潛力。現(xiàn)在可能沒(méi)有一套構(gòu)建數(shù)據(jù)中臺(tái)的標(biāo)準(zhǔn)答案,但套用ERP實(shí)施的老話——“數(shù)據(jù)中臺(tái)要想成功,靠的是3分工具、7分實(shí)施、12分運(yùn)營(yíng)。”
(部分內(nèi)容來(lái)源網(wǎng)絡(luò),如有侵權(quán)請(qǐng)聯(lián)系刪除)