推薦文章

【創新優秀案例】基於分布式信創數據庫雲平台的研究與應用

李曄明    覃紅鍵    楊金平    張永平

廣州銀行

摘要:為加快推進信息技術自主創新和科技轉型,廣州銀行積極引入分布式信創數據庫雲平台,以「配合建設具有互聯網基因、高效容錯、易彈性擴展、最大化服務能力及降低能耗成本的新型應用系統」為目標,構建了一套具有數據庫部署、數據庫實例管理、高可用管理、數據庫備份和恢復、數據庫安全訪問、數據庫監控等功能的統一數據庫管理平台。

關鍵字:信息創新;分布式數據庫雲平台;智能運維;降本增效


一、背景及現狀

(一)金融行業的科技轉型

隨著移動互聯網的迅猛發展,分布式架構在互聯網IT技術領域廣泛應用並積累了大量實踐經驗。在互聯網金融快速發展和利率市場化的大環境下,建設能夠支持海量客戶、具有彈性擴展能力、高效靈活的分布式架構應用系統已成為國內銀行業的迫切需要。監管部門對分布式架構轉型也提出了明確的發展規劃要求。人民銀行發佈的《金融業信息化「十三五」發展規劃》,明確提出「以安全、可靠、高效、彈性為重點目標實施架構轉型,探索分布式架構和成熟開源技術應用,逐步減少或擺脫對單一技術產品的依賴」。無論從技術發展還是監管要求來看,銀行業的分布式架構轉型已成為必然趨勢。

在數字化時代的背景下,雲計算技術在金融領域中的應用逐步廣泛,有效實現各類資源的整合、供給與合理利用,成為各種分布式技術與微服務應用的載體。雲計算技術為數據庫的技術發展提供了優秀的解決方案,分布式數據庫的雲化部署將帶來更強的算力、更低的運維成本和更加智能的系統管控。

(二)金融行業數據庫應用現狀

國內金融行業數據庫應用高度依賴國外傳統關係型數據庫產品(Oracle、DB2、SQL Server等),技術體系封閉,技術發展受制於人,無法自主掌控,在一定程度上存在信息安全風險。數據庫系統作為基礎軟件,在整體應用架構中占據重要的位置,承載著企業核心數據資產,是企業的核心競爭力的重要體現。隨著國家對重點行業「安全可控信息技術」的要求不斷深化,越來越強調基於國產生態環境下信息系統的自主可控。因此,數據庫產品的國產化與自主可控勢在必行,力求在技術和市場上打破國外產品的壟斷。在金融科技發展的浪潮下,傳統集中式架構的數據庫系統已無法滿足銀行業高速發展的需求,因此有必要對前沿的分布式數據庫技術在銀行領域的高效應用進行研究,將分布式數據庫與微服務架構相結合,建設具有互聯網基因、高效容錯、易彈性擴展、最大化服務能力及降低能耗成本的新型應用系統,為客戶提供適當、有效的金融服務。

(三)企業現狀

為了積極貫徹人民銀行金融科技發展戰略目標,適應新形勢下的市場環境,有效地推動和支持業務發展,廣州銀行緊扣「服務實體初心不變,構建銀企命運共同體」的發展目標,致力於成為「城鄉居民的財富管理專家、中小企業的成長夥伴、金融同業的合作紐帶」。依託科技創新,聚焦客戶、行業,分析客戶需求,提升營銷能力,實現差異化服務,逐步加強對客戶及其所處行業的戰略研究和前瞻規劃,提供長期優質綜合金融服務。

基於上述背景,廣州銀行提出「一個平台、兩個重點項目、四個中台」建設目標,加快構建數字化能力,通過「廣銀芯」新一代核心系統建設,實現多渠道、跨部門、跨條線業務集中處理,打造數據、業務、風控、技術四個中台,強化大數據分析和建模能力,推動科技與金融、生態與場景的深度融合,加快從「應用啟動」向「數字驅動」的動能轉換。 

(四)信創總體規劃

當前國際形式複雜嚴峻,國外對我國信息技術基礎設施的封鎖愈發明顯,而我國信息技術基礎設施在相當程度上仍依賴外源性技術供給,由此存在諸多的底層技術、信息安全等被限制的風險。通過信息技術應用創新建設自主可控的基礎設施替換國外產品是應對國際局勢的最佳選擇,也是「形成以國內大循環為主體、國內國際雙循環相互促進的新發展格局」的必由之路。黨中央制定的國民經濟和社會發展第十四個五年規劃和二〇三五年遠景目標的建議中指出:要加快推進信息技術自主創新,突破制約我國產業的關鍵技術瓶頸。廣州銀行嚴格執行國家政策及法規要求,圍繞如何實現關鍵軟硬件的自主可控以抵禦高科技戰爭對廣州銀行帶來的風險這一重要課題,進行了總體設想和規劃。

根據廣州銀行十四五規劃,廣州銀行將持續增強科技資源投入,擴充科技開發和運維人員隊伍,以滿足各條線系統開發升級等需求,通過科技賦能和數據驅動,強化科技能力支撐,堅持推進數字化轉型;以「科學評估、能換盡換、真試真用、持續推進」為理念,遵循「從整體角度評估、按信創適配度進行分類,科學規劃信創替換路線,同時關注信創在數據安全、容災備份、通信安全方面的設計」的信創原則,踐行「夯實基礎,分步推進,在辦公管理類及一般交易類場景重點突破」的信創思路;以OA辦公系統及郵件系統對接分布式數據庫雲為研究對象,以驗證分布式信創數據庫雲在應用的適配度、性能表現及穩定性等方面,為進一步向其它應用推廣做好技術及實踐的探索與研究為研究目標,開展了金融級分布式數據庫研究與應用(含信創雲計算平台國產化適配與應用)的課題研究,並在生產業務系統上進行了部署應用。


二、雲平台建設

(一)項目概述

在數字化重塑的過程中,金融行業傳統的業務辦理和運營模式發生了轉變,銀行正從一個「物理的地方」轉變為一種「永久在線」的服務,傳統的銀行利用資金和風控等方面的優勢,通過場景金融和生態金融的建設更好地服務於客戶。隨著互聯網金融業務的發展,業務也呈現出「高頻、小額」的互聯網流量特征,雙十一等峰值業務壓力產生的海量數據,對數據基礎設施的擴展能力提出了更高的要求。在海量的數據中,不僅僅是結構化數據,在銀行從「交易核心」向「數字核心」轉變的過程中,還包含大量的標簽類的半結構化數據和文檔、音視頻的非結構化數據,這些數據蘊藏著豐富的價值。

為了能夠長遠地實現優化系統結構、降低總成本、最大化資源利用率、提升對外服務能力、釋放全量數據價值、實現技術自主可控以及挖掘未來發展潛力,為未來互聯網金融應用面向微服務、成本高效、敏捷開發、快速部署、高效存儲計算以及快速迭代,探索出一條切實可行的道路,廣州銀行立足長遠規劃,決定對基於彈性多層次架構、資源池化部署的分布式信創數據庫進行研究,並通過完整的技術測試,驗證分布式信創數據庫技術的成熟性、先進性、可用性,從而能夠規模化利用國產分布式數據庫技術,實現底層代碼完全自主可控,避免核心技術的綁定,從性能和效率兩個層面實現全面提升。

廣州銀行信創數據庫雲平台通過合理的封裝與部署方式,提供在線分布式數據庫服務,滿足業務系統對數據庫功能和性能的要求,統一管理結構化、半結構化、非結構化數據。對底層計算、存儲資源進行調度,實現彈性擴展、高可用、容災備份等技術特性,以及智能化運維管理方面的優勢。同時,平台具備自助服務、靈活部署形態、資源隔離、彈性伸縮、高可用、數據安全、雲化運維各方面能力,通過統一的管理門戶實現數據庫部署、數據庫實例管理、高可用管理、數據庫備份和恢復、數據庫安全訪問、數據庫監控等功能。

分布式信創數據庫雲平台主要由三大部分組成:信創資源池管理平台、分布式信創數據庫集群和信創硬件資源,分布式數據庫集群構建於硬件資源之上,資源池管理平台獨立於數據庫之外。雲平台的內部模塊如圖1所示。

image.png

圖1 分布式信創數據庫資源池邏輯架構

分布式數據庫雲平台支持各種類型原始數據的沉澱、歸檔、探索、治理,並結合實時數據分析與數據挖掘能力,避免數據冗餘和數據遷移,發揮出數據要素的倍增作用。

(二)項目目標

廣州銀行分布式信創數據庫雲平台通過整合國內、外軟硬件資源,提供靈活、快速、可擴展的數據庫服務,實現以下的目標:

1.從「人工部署」到「流程化自動部署」,提升運維效率及系統可靠性。傳統模式下,數據庫為單獨部署的集中式系統,每次部署都需要單獨准備硬件資源,耗時耗力。數據庫對系統硬件參數及部署均有特殊要求,雖然有虛擬化平台輔助,但依然需要大量的人工介入,容易因誤操作影響交付的穩定性。傳統數據庫部署流程複雜,大致要經過資源申請、設備采購、硬件部署、操作系統安裝、數據庫部署、整體參數優化6個不同的步驟,且每個步驟都需要系統管理員或DBA參與處理,開發、測試或業務應用獲得可用的數據庫服務往往需要數十小時甚至數天時間,制約了金融科技創新與業務發展的效率。分布式信創數據庫雲平台通過基於Web的管理界面,實現數據庫即服務的雲化管理與流程化自動部署,只需簡單的資源申請和流程自助管理兩個步驟,即可獲得所需資源,數據庫服務分鐘級交付,有效提升整體服務效率。一方面,實現資源的按需獲取,開發、測試團隊可以按需自行申請,提高開發效率;另一方面,通過完善的流程化審批制度,確保資源使用有據可查,避免資源濫用,提升運維效率及系統可靠性。

2.從「靜態規劃」到「動態資源管理」,按需調配,降低TCO。傳統集中式架構下,數據庫資源擴容需要大量的DBA業務操作,對硬件資源、文件系統、數據庫等進行分別處理,是一種靜態規劃的處理方式。同時,每一個應用需要獨占整個物理機或VM的計算及存儲資源,資源一旦分配就很難再進行靈活調配。分布式信創數據庫雲平台通過統一的資源管理平台,管理底層物理機及VM的CPU、存儲資源,同時整合到原生分布式數據庫中,采用」存儲-計算「分離架構,實現滿足數據存儲容量按需擴展,以及數據庫計算能力彈性伸縮的要求,上層數據庫實例需要擴展時,可以跨多台物理機或VM資源進行在線數據庫橫向擴容,對應用系統無感知,無須切換。得益於原生分布式數據庫資源分配的能力,多個應用可以共享資源池,實現資源隔離,提升資源利用率,降低TCO整體擁有成本。

3.從「獨立管理」到「平台化管理」,提升業務響應效率。微服務應用開發面臨的是更加複雜多變的各類數據庫環境,在傳統管理模式下,DBA的工作大量耗費在繁雜的資源配置、備份管理中,無法為業務帶來應用架構優化的核心價值。分布式信創數據庫雲平台對底層物理機/VM資源、操作系統進行統一管理,形成基於原生分布式數據庫的資源管理平台。各開發、測試團隊只需要通過平台即可快速獲得數據庫實例資源,DBA將從繁重的基礎操作中得到釋放,將主要精力投入到數據庫性能優化等專業的工作中,提升業務響應效率,為業務的穩定運行提供更有效的保障。

4.基於國產分布式數據庫的全棧信創技術探索與應用實踐。實現信息化系統的自主可控,擺脫國外核心技術的綁定,並不是簡單地將某個單一組件替換為國產產品,而是需要自下而上進行全棧替代。如何基於國產化芯片、服務器、操作系統、中間件、數據庫等核心組件,進行全棧國產化適配,是行業普遍面臨的問題。廣州銀行建設的分布式信創數據庫雲平台整合適配國產芯片、服務器、操作系統、中間件,形成全棧國產化應用環境,支撐試點有OA辦公系統、郵件系統、簽章系統、印章系統和影像內容管理平台,為未來深化信創工作打下夯實基礎。

(三)項目實施

分布式信創數據庫由數據庫存儲引擎與數據庫實例兩大模塊組成。其中,數據庫存儲引擎模塊是數據存儲的核心,負責提供整個數據庫的讀寫服務、數據庫的高可用性與容災機制、ACID與分布式事務等全部核心數據服務能力;數據庫實例模塊作為協議與語法的適配層,可供用戶根據需要創建MySQL、MariaDB、PostgreSQL和SparkSQL的結構化數據庫實例,並且完全兼容S3對象存儲實例。用戶可以通過創建不同類型的數據庫實例,從傳統數據庫無縫地遷移到雲平台上來,大幅度降低應用程序開發者的學習成本。通過統一的管理門戶申請分布式數據庫資源,完成自動化部署。通過圖形化的管理控制台對主機、存儲集群、數據庫實例和分布式數據庫集群進行可視化的部署、監控、管理及數據操作。

為了滿足海量數據的高效存儲,分布式信創數據庫利用數據庫分區分片技術實現橫向擴展,突破了單台物理服務器硬件資源(如內存、CPU、磁盤I/O)受限的問題。

分布式信創數據庫集群環境的部署如圖2所示:

image.png

圖2 分布式信創數據庫集群環境的部署圖

在3台鯤鵬服務器上部署麒麟操作系統及分布式信創數據庫組成數據庫資源池(雲),3台服務器其中兩台部署在生產中心,一台部署在災備中心。從資源隔離的角度考慮,每個業務都部署專用的MySQL實例組、協調節點組,數據分區組。資源池的接入可以是已有的負載均衡設備或者部署負載均衡軟件,OA辦公系統、郵件系統、簽章系統、印章系統和影像內容管理平台都單獨部署在已有的物理機環境中。

(四)項目成效

隨著IT技術不斷發展,銀行業IT基礎設施逐步雲化,單體應用逐漸微服務化,對「去中心化」數據管理,輕量部署、彈性與快速修復均提出更高的要求。廣州銀行基於分布式數據庫構建數據庫雲平台,實現了數據庫整合收斂的技術探索,采用分布式信創數據庫提供的輕量級雲平台整合方案,實現了對多套小規模數據庫實現整合的技術探索,取得了顯著成效。

1.一站式數據庫整合。在一套分布式數據庫集群之上,一站式解決多套小庫的整合收斂,實現一體化的集中監控、統一運維、快速部署等,幫助廣州銀行簡化技術架構,降低運維管理複雜度,提升運維質量。

2.靈活擴展、高可用容災。分布式數據庫采用了先進的「計算-存儲」分離架構,底層分布式數據存儲層通過靈活的數據分片實現橫向擴展,支持事務處理和數據的高可用;協議解析、計算模塊采用無狀態設計,可以獨立部署,滿足快速啟動和彈性伸縮的需求。實例層以實例組實現高可用,提供業務的不間斷承載、數據庫存儲層以多副本機制實現高可靠的數據容災保護。

3.語法高度兼容,平滑替換。通過分布式數據庫提供的MySQL語法兼容能力,實現對MySQL語法的高度兼容,應用代碼無需改造,助力廣州銀行實現系統的平滑、快速遷移。雲平台使用多模式接口機制,可以讓數據庫服務於任何類型的應用程序,真正做到分布式數據庫的平台化服務。

4.輕量級架構。該整合方案無論是數據庫內核,還是高可用、容災機制,以及運維管理等任何模塊,均沒有采用第三方組件,是一個非常輕量級的架構,能夠輕易地實現眾多小規模數據庫的整合管理。

目前,廣州銀行已完成分布式信創數據庫雲平台的建設,實現資源申請自動流程管理、資源管理、權限管理、元數據管理、數據生命周期管理、服務管理、監控告警等功能,項目的成功實施和試點應用的順利投產,充分證明了通過分布式數據庫構建雲平台實現多庫整合,承載眾多小規模應用系統的可行性。分布式數據庫雲作為一個靈活的、可擴展的、按需提供服務的平台,將成為廣州銀行的一個統一數據存儲底座,提供靈活的數據庫資源調配,實現數據的共享、資源的隔離,應對彈性的業務負載請求,同時為業務系統構建易於管理、面向微服務、按需擴容的數據基礎設施,降低成本、提升運維效率及運維質量。


三、結束語

廣州銀行以OA、郵件兩個信創項目建設為契機,實現了全棧國產化部署架構的探索,兩套應用系統均采用鯤鵬芯片服務器、麒麟操作系統、分布式信創數據庫,完成功能、性能、數據遷移、應用代碼等一系列完整的測試工作,開創了廣州銀行應用系統全棧國產化信創改造的先例,促進了信創工作在廣州銀行的落地生根。

為了積極貫徹人民銀行金融科技發展戰略目標,適應新形勢下的市場環境,有效推動和支持業務發展,雲平台成型後,廣州銀行相繼通過雲平台完成了簽章系統和印章系統的投產上線,以及影像內容管理平台數據庫集群的接管。由於雲平台擁有良好的擴展性,後續能不斷地遷移納管更多的數據庫,本項目將為廣州銀行持續產生更多的經濟價值,在提升信息系統安全性、推動信創產業提升、發揮行業示範推廣作用等方面也創造了更多的社會效益。 


【作者簡介】

1、李曄明,廣州銀行運維中心副總經理,計算機科學專業,長期從事銀行系統開發及維護工作,在運維體系建設、運維規範管理有較深入的研究。

2、覃紅鍵,廣州銀行運維中心行員,計算機技術專業,主要負責行內數據備份及數據庫維護工作,對信創改造、分布式數據庫、數據中心雲化改造有較深的瞭解。

3、楊金平,廣州銀行運維中心系統管理崗,主要負責銀行基礎軟硬件設施的規劃及維護,對分布式架構應用以及數據中心雲化改造有深入的理解。

4、張永平,廣州銀行運維中心經理,計算機科學與技術專業,長期從事銀行系統維護工作,在基礎軟硬件、數據庫、信息安全有深入的研究。


首  頁 | 關于我們 | 雜誌(電子刊) | 行業信息 | 推薦文章 | 投稿系統 | 業務運營 |
辦刊地址:澳門宋玉生廣場181-187號光輝(集團)商業中心17樓K座 咨詢電話:(853)28728818 傳真:(853)28304174
版權所有:《金融創新》雜誌 網址:www.finoma.org.mo 技术支持:宏智网络科技