10月19日,2021杭州·云棲大會在杭州云棲小鎮(zhèn)正式開幕。云棲大會是科技界最重要的盛會,已成為中國科技創(chuàng)新成果全景展示和數字智能新品發(fā)布的平臺。
作為深耕SAAS行業(yè)十年的服務商,萬里牛已經取得了很多可喜的成果。萬里牛大數據架構師陳曉亮在10月22日的“大數據平臺技術論壇”上,以“萬里牛實時數倉的演進之路”為題進行了主題演講,重點分享應用Holo來建設實時數倉的經驗,并對行業(yè)發(fā)展進行了分析。
客戶需要什么,我們就解決什么
我們的客戶主要是從事電商、跨境電商和實體門店的企業(yè)客戶。
“我們總結了用戶在業(yè)務過程中的一些數據痛點。首先,業(yè)務環(huán)節(jié)產生了大量數據卻不會通過數據分析來反哺業(yè)務;其次,實際工作中數據還是會被人工統(tǒng)計,不僅難以保證準確性而且費時費力,與市場節(jié)奏脫節(jié);再者,辛苦做出的數據分析被用于改進業(yè)務流程后,卻無法快速評估實際產生效果。”
用戶的訴求促使我們快速建設數據中臺,實現(xiàn)各個應用數據之間的融合,消除了數據孤島,同時構建了基礎的離線數據倉庫,并且通過數據資產管理系統(tǒng)和可視化系統(tǒng)的配合實現(xiàn)了零代碼交互式數據分析能力。
數據中臺2.0時代:HOLO建立實時數倉
“2.0時代我們增加了實時數倉能力,技術選型采用了比較成熟的Lambda架構。數據同步部分多了Binlog通道,實時將數據傳輸到Holo建立實時數倉。同時Holo還承擔聯(lián)邦查詢和實時數據引擎的任務。目前萬里牛的數據中臺架構,能夠為客戶提供實時和準實時數據分析能力。同時數據中臺接手部分場景下業(yè)務系統(tǒng)的數據查詢服務,利用Holo的能力開放ODS層數據訪問。”
阿里云&萬里牛,未來皆有可能
隨著大數據發(fā)展進入普惠期,數據倉庫、數據湖、湖倉一體成為業(yè)內熱點,離線實時一體化數倉和新一代基于云原生的湖倉一體平臺成為行業(yè)趨勢。阿里云提供的一系列大數據組件,讓萬里牛數據團隊如虎添翼。
“萬里牛也聯(lián)合了阿里巴巴聚石塔特別技術小組全程為萬里牛商家保駕護航。雙十一前夕萬里牛已提前對所有服務器、數據庫和網絡帶寬進行了彈性升級擴容,配置相比平時提升10倍以上。萬里牛系統(tǒng)已經完成聚石塔壓測認證,單店鋪最大可承受數據壓力超過300萬單/天。同時萬里牛與阿里云成立專項小組進行駐場,保障大促期間系統(tǒng)的響應和處理速度,降低風險系數。”