主數據治理解決方案介紹

數通暢聯 發佈 2022-06-20T11:52:24.447150+00:00

隨著科學技術的迅速發展,以雲計算、大數據、物聯網、人工智慧為代表的新一輪科技變革正在推動數據採集、管理、分析加工能力的持續升級。新一代的信息技術催生出新的產品、新的服務、新的業態、新的模式。

隨著科學技術的迅速發展,以雲計算、大數據、物聯網、人工智慧為代表的新一輪科技變革正在推動數據採集、管理、分析加工能力的持續升級。新一代的信息技術催生出新的產品、新的服務、新的業態、新的模式。當前,以信息技術為基石的新的經濟形態已經從技術變革層面拓展到企業運行、產業融合、社會生活、人際交往等各個維度,正在釋放推動產業融合、經濟轉型升級和社會進步的巨大能量。

如何更深入地挖掘數據價值獲得了越來越多企業的廣泛關注,從主數據治理入手是其中非常有效的途徑。主數據管理保證了企業內數據的一致性、完整性和準確性,不僅能夠形成完整、統一的數據視圖,而且能夠真實地記錄變化歷史,為管理決策、風險的識別和控制提供了堅實可靠的數據基礎。

主數據概念定義

伴隨著企業信息化進程的不斷深入,企業IT應用的業務場景越來越複雜,來自跨業務、跨部門和跨系統的業務連貫性需求越來越迫切。許多企業對系統數據的一致性、完整性和準確性提出了更高的要求,紛紛將目光投向主數據管理產品,使得主數據管理市場得到了迅速發展。然而,主數據究竟是什麼呢?

1.主數據的定義

主數據是指滿足跨部門業務協同需要的,反映核心業務實體狀態屬性的基礎信息。舉個例子,公司的員工信息,存在於很多業務系統里,比如人力系統、財務系統、OA系統,以及考勤系統等,但每個系統所需要的信息可能不一樣,財務系統需要員工開放信息,比如從哪個銀行開戶,帳號是什麼,這樣方便打款;人力系統可能只是需要員工的一些入職信息。這樣的員工信息就屬於主數據,它在很多企業業務系統被使用,同時還能反映這個員工本身的一些屬性。除此之外產品、物料、客商、客戶、供應商也屬於主數據。

2.主數據的特徵

1.唯一性:在一個系統、一個平台甚至一個企業範圍內同一主數據要求具有唯一的識別標誌(代碼、名稱、特徵描述等),用以明確區分業務對象、業務範圍和業務的具體細節。

2.共享性:主數據特徵會被作為業務流程的判斷條件和數據分析的具體維度層次,因此需保證主數據的關鍵特徵在不同應用、不同系統中的高度一致共享,形成統一規範 。

3.穩定性:主數據作為用來描述業務操作對象的關鍵信息,在業務過程中其識別信息和關鍵的特徵會被交易過程中產生的數據繼承、引用、複製,但主數據本身的屬性通常不會隨交易的過程所被修改。

4.有效性:只要該主數據所代表的業務對象仍然在市場中繼續存在或仍具有意義,則該主數據就需要在系統中繼續保持其有效性,通常貫穿該業務對象在市場上的整個生命周期甚至更長。

3.主數據的範圍

不是企業內部所有的業務數據都是主數據,主數據的範圍是指在企業各個系統間共享的必要的業務數據,簡單來說就是在處理業務中被重複使用的數據,企業典型的主數據類型一般包括供應商、物料、產品、客戶、組織、人員、財務等數據。此外,根據業務需求,關鍵基礎數據也經常納入主數據的管理範疇。

常見主數據問題

1.數據缺失嚴重

缺少關鍵基礎數據,部分輔助數據缺失或不全面,歷史數據丟失嚴重。例如:有些信息是被遺漏的。可能是因為輸入時認為不重要、忘記填寫了或對數據理解錯誤而遺漏,也可能是由於數據採集設備的故障、存儲介質的故障、傳輸媒體的故障、一些人為因素等原因而丟失了。

2.數據質量偏差

在業務系統運行過程中,由於各類原因,會導致數據冗餘、數據不一致、數據缺失等問題,例如計量單位不一致、編碼不一致、同一實體多條記錄等數據質量問題。這些問題數據如果不及時發現並處理,就會影響企業的運營,阻礙業務發展,甚至造成嚴重的後果。對於後續的數據分析,也會因為這些問題數據的存在而被干擾,分析結果將受其影響,誤導管理層決策。

3.數據規則不一

數據的標準包括了企業核心業務定義、數據模型、數據屬性、參考數據、指標等,也包括了行業內部的數據標準。企業在各業務系統建設時如果缺少統一的數據標準,會導致開發和運維人員難以正確理解數據模型相關含義,致使企業不同業務系統集成和數據共享困難,同時也會導致企業的資源浪費

4.利用價值偏低

企業中絕大部分系統處於分散、獨立的狀態,各系統獨立運行,系統中的數據標準自成體系,系統與系統之間無法進行業務交互和數據交換,導致數據只在系統內部有效,不能與其他系統的相關數據進行關聯分析,信息孤島導致信息利用價值偏低

主數據治理原則

數據治理問題是一個系統化的問題,他涉及到企業的管理問題、業務問題,還有信息化建設問題。對於系統化的問題要有系統化的解決方案,主數據的治理應遵循「數據標準化、標準制度化、制度流程化、流程自動化、運營持續化」的五化原則。

1.數據的標準化

「無規矩不成方圓」,數據標準就是通過制定一套由管理制度、管控流程、技術工具共同組成的體系,來對數據定義、分類、格式、編碼等標準化管理。通俗地講,對企業來說,數據標準就是對數據類型、長度、歸屬部門等定義一套統一的規範,以保障不同業務系統之間可以做到對同樣的數據理解統一和使用統一。一般可從三個維度去對數據標準進行分類:數據結構、數據內容來源、技術業務。

1.從數據結構角度進行的數據標準分類

•結構化數據標準是針對結構化數據制定的標準,通常包括:信息項分類、類型、長度、定義、值域等。

•非結構化數據標準是針對非結構化數據制定的標準,通常包括:文件名稱、格式、解析度等。

2.從數據內容來源進行的數據標準分類

•基礎類數據標準是指業務系統直接產生的明細數據和相關代碼數據,保障業務活動相關數據的一致性和準確性。

•派生類數據標準是指基礎類數據根據管理運營的需求加工計算而派生出來的數據,例如:統計指標、實體標籤等。

3.從技術業務角度進行的數據標準分類

•業務數據標準是指為實現業務溝通而制定的標準,通常包括:業務定義和管理部門,業務主題等。

•技術數據標準是指從信息技術的角度對數據標準的統一規範和定義,通常包括:數據類型、欄位長度、精度、數據格式等。

2. 標準的制度化

有人將主數據標準比喻為信息化系統中的一部「憲法」,這個比喻並不為過且非常貼切。制定主數據標準出來,就是要讓各異構系統執行該標準,目的是解決各異構系統中核心數據的不一致、不完整、不準確等問題。而要讓各業務系統執行統一的主數據標準,最為直接和有效的方式就是將標準制度化。標準制定化,不僅是指將數據標準形成制度化文件在企業範圍內進行宣貫和執行,更重要的是需要明確定義出主數據的歸口部門/主責部門,確定出主數據的申請、審批和使用的相關流程、崗位角色、崗位職責、操作要求以及相應的考核措施。主數據標準的制度化不僅有利於數據標準在各業務系統中貫徹執行,更有利於在企業各業務部門之間達成共識,從而促進企業業務效率的提升。

3.制度的流程化

主數據的標準和制度,用來描述實現主數據管理目標時,所應用到的操作、定義和約束,這些規則用來幫助企業更好地實現主數據管理的目標,而制度流程化就是要考慮如何把這些業務規則落地,以及落地的時候如何簡化。制度流程化的最高境界是將主數據標準和制度潛移默化地融入到了業務流程中,讓相關人員知道怎麼按主數據標準管理和使用主數據,並按此執行。主數據制度的流程化,首先是需要將主數據管理業務化,也就是說主數據管理作為一項業務活動去做,而不僅僅是將主數據作為業務活動的衍生品。其次是定義主數據管理流程的各個環節,以及每個環節的崗位、職責和操作說明。

4. 流程的自動化

流程自動化原則強調了在主數據管理中應儘量使用自動化程序,以提升主數據管理的效率。在企業的信息化系統中,不同的主數據可能產生的源頭系統不相同,例如:組織、人員主數據的源頭系統是人力資源系統,客戶主數據來自CRM系統,供應商主數據來自SCM系統。實現主數據管理目標的一個重要手段就是統一每一個主數據的入口,這就要求在主數據流程的落地過程中,一定要根據企業的實際情況,確定好主數據的權威數據來源。

5.運營的持續化

運營持續化強調的是主數據的治理不是一勞永逸,它必須隨著時間、條件的變化而不斷豐富、發展和完善。建立起企業數據治理的長效運營機制,才是企業數據治理之道。數據治理絕對不是一個純粹的IT項目,而是解決業務上的當務之急要解決問題的一套完整的解決方案。數據治理本質上還是為了支撐業務目標的實現,應該由業務部門主導,IT部門執行,並且引入質量考核體系,將其與現有技術領域融合以實現更高的業務價值,保證主數據治理的「長治久安」。

主數據方案說明

伴隨著網際網路技術的高速發展,數據正在呈現爆發式的增長。為了使龐大的企業數據發揮更大的價值,企業必須著眼於數據治理和綜合利用,通過數據驅動業務創新,提升管理水平,引領企業轉型升級。

1.使用場景說明

數據有誤,造成大量定製視圖或統計報表計算邏輯錯誤,導致流程監控出錯;在重要信息發布與傳輸過程中,出現漏發、錯發等現象;數據變更時,沒有及時處理權限職責、作業分配等方面問題,導致工作出錯或遲滯等等。

2.方案架構說明

在「 MDM基礎數據平台+ ESB應用集成平台」構成的基礎數據治理方案中,MDM基礎數據管理系統是對主數據進行同步、清洗、治理、分發全生命周期管理,通過ESB應用集成從主數據源頭同步到主數據過程,通過ESB應用集成分發是把治理後的主數據分發給各個業務系統。

3.產品價值分析

在此方案中, MDM能提高數據特徵一致性、識別唯一性、高度共享性及長期有效性,從而獲得「單一的基礎數據來源」,避免提供的數據有誤,造成大量定製視圖或者統計報表計算邏輯錯誤,導致流程監控出錯等一系列問題,為企業運營管理過程中深度應用集成、業務流程再造、業務升級創新提供準確的數據支撐。

ESB作為數據交換平台,支持應用間批量/增量數據交換和資料庫間的數據交互,包括數據的抽取、轉換和導入操作。各業務系統的基礎數據只需通過ESB進行數據同步下發,幫助企業數據整合或數據中心建設。

主數據實施要點

對於主數據管理項目主要使用MDM主數據管理平台解決,但項目不僅靠技術工具,還要從團隊建設、管理體系、技術體系等多方面考慮,更多在於確定架構、流程、原則。

1.團隊體系層面

主數據管理的基礎是建立起企業級的管理團隊,明確每位隊員的責任,數據管理團隊按照需要管控的內容進行崗位、角色的設置與分工,明確詳細的分工職責,確定不同的主數據操作者,如:管理者、申請者、審批者、使用者等。

2.管理體系層面

管理體系主要建立主數據管理的流程、規範、制度,建立主數據管理制度,制定信息代碼管理辦法,維護細則、培訓機制、應用考核規範等管理制度,根據管理制度建立管理工作,並嚴格執行工作流程

3.技術體系層面

技術體系方面主要包括主數據管理工具、信息系統之間按照數據管理接口進行規範、建設數據標準模板等。

1.建立數據標準與規範

完成企業數據現狀調研及需求分析、規劃和設計信息標準化體系架構(設計信息標準化體系架構、組織管理管控、系統集成架構、運維架構體系等)、制定統一數據標準與規範(分類標準、描述模板、編碼規則、數據模型等)。

通常在主數據管理項目中,典型的編碼規則如下,以供應商為例:

(1)編碼組成

供應商編碼採用大寫字母S(代表含義:供應商英文Supplier首字母)+9位無含義數字流水編碼。

(2)編碼說明

供應商編碼由S+9位定長無含義流水碼組成,編碼順序遞增。

(3)編碼結構及表示法

供應商編碼結構為:

編碼結構及表示法:

2.編制統一信息代碼

按照數據標準和規範,對現有數據進行梳理和清理,基於前期對業務梳理與分析,規劃設計一套基於統一編碼的企業主數據管理模型,形成規範的數據代碼庫,以提高數據的共享性和唯一性,以供應商為例,具體規範如下:

3.搭建主數據管理平台

嚴格選型主數據管理工具,實現主數據申請、審批、校驗、分發,數據建模、數據清洗、數據管理流程配置、系統管理等功能。主數據管理項目不僅需要搭建MDM主數據管理平台,還需要與ESB企業服務總線或ETL數據傳輸轉換工具進行配合。通過主數據管理平台在整個企業內部制定並執行統一的、符合業務要求的、科學合理的數據標準,通過數據標準的執行使得企業內部的各個業務環境使用的主數據完整統一。

通過ESB或ETL完成業務數據同步分發部分的功能,在SOA綜合集成理論中,通常使用ESB平台一同參與項目,實現批量數據傳輸、同步、分發及控制、多協議調用、多方式觸發等,輔助基礎數據治理。

主數據治理意義

1.實現數據管控

通過數據管控體系和數據運維體系諮詢服務,對組織架構、運營模式、管控流程、角色與職責進行明晰的定義。通過標準業務流程驅動,構建企業信息基礎數據集成和共享平台,實現企業數據層面的戰略規劃管理。支持集團化多組織結構的複雜管理層級,能夠構建在多組織結構上的應用系統,兼顧集團公司整體管理和下屬企業作業流程之間的平衡。

2.降低集成成本

構建通用的、方便的、集中處理的數據總線,實現一致性的企業數據視圖,大大降低數據交互訪問的複雜性。基於面向服務架構的標準化數據服務,實現訪問的透明化。數據自動化服務實現了統一的業務訪問標準,主動分發服務保證了相關業務目標系統數據的變更同步性。通過數據總線,以靈活、可持續的方式支持任何面向業務的規則集合,保證數據的唯一和規範,大幅降低數據的集成和共享成本。應用數據標準模型和多重關聯校驗規則,對前端數據輸入源頭實現可靠的控制,有效降低人為因素所產生的數據問題,提高數據應用質量

3.數據動態管理

基於標準的數據管理模型,實現基於數據平台的規則整合、統一定義和發布等事務的集中處理。通過數據的審計支持,來保證數據變化經過嚴格的審批;通過數據管理的持續優化和績效改進,提升數據資產的管理成熟度。由此實現主數據申請、校驗、審核、發布、維護、變更、註銷等全生命周期的業務管理,實時跟蹤和掌控數據的變化,建立數據的動態歷史庫,保證數據資產管理的持續優化和績效改進

4.精確決策支持

通過集中的主數據管理平台,為所有信息的交互和集成提供統一的編碼數據。在異構系統之間協同業務處理的每個階段,編碼信息都是一致的,降低信息核對的成本。通過主數據管理和集成,保證信息來源的唯一性和正確性,為決策支持和數據倉庫系統提供準確的數據源,避免因為基礎數據的多樣導致信息核對、匯總、統計的失誤和錯誤。數據標準的應用提高了溝通的有效性,節約異構系統之間的交互成本,提升信息化的高端收益水平。

從企業角度而言,如何應對全球化、精益化、服務化、智能化和協同化的趨勢發展,將數據信息轉變為戰略資產是一項艱巨的任務。但企業面對數據,不應該變得浮躁,急於求成。在企業數據治理這條曲折而漫長的道路上,這條路上講究的不是誰快,而是誰穩,信息化意識、整體規劃、構建前提、嚴格選型、協作配合缺一不可,只有這樣,才能不偏離企業發展的戰略目標,在企業信息化保衛戰中立於不敗之地,同時選擇合適的夥伴,對於挖掘數據價值,賦能業務發展非常重要。

數通暢聯多年來一直耕耘於企業IT架構、SOA綜合應用集成、數據治理分析領域,在成長過程中深耕地產、製造等行業,積累行業集成項目經驗,已形成完備的實施交付體系。在產品、技術逐步完善提升的同時,解決方案更加靈活合理,逐步深入行業。在更多、更細緻場景中打磨產品和解決方案,讓產品變成精品、實現打造首選整合利器、共克異構集成難題的願景。

本文由@數通暢聯原創,歡迎轉發,僅供學習交流使用,引用請註明出處!謝謝~

關鍵字: