本文講述字節(jié)跳動一款 App產(chǎn)品的數(shù)據(jù)治理故事。該產(chǎn)品隨著用戶體量和數(shù)據(jù)體量不斷增長,數(shù)倉的任務(wù)量、數(shù)據(jù)量也不斷攀升,運維難、成本貴、穩(wěn)定性等問題在不斷凸顯。通過使用火山引擎DataLeap的數(shù)據(jù)治理能力,3個月時間將計算成本大幅縮減20%。
該產(chǎn)品是一款近千萬級DAU的產(chǎn)品,疫情3年,催生了大量的線下需求轉(zhuǎn)型至線上,海量的數(shù)據(jù)雖然為產(chǎn)品創(chuàng)造了巨大的價值,但是也增高了計算成本和存儲成本?!俺杀局卫韺m棥背蔀榱诉@個產(chǎn)品的重要工作之一,為了解決數(shù)據(jù)治理的問題,產(chǎn)品接入了火山引擎自研的大數(shù)據(jù)開發(fā)套件——DataLeap,主要圍繞下述兩個場景進(jìn)行成本治理:
1. 快速啟動并獲得收益
(相關(guān)資料圖)
大數(shù)據(jù)場景下計算資源的重要價值和昂貴成本,需要每個任務(wù)都按需使用。而在實際的業(yè)務(wù)開發(fā)過程中,存在大量的異常計算任務(wù),浪費了大量的計算資源。計算場景也因此成為該產(chǎn)品數(shù)倉團(tuán)隊成本治理的關(guān)鍵切入點。
通過DataLeap,數(shù)倉團(tuán)隊可以設(shè)置明確治理目標(biāo),并配置治理域,通過選定各種規(guī)則的任務(wù)治理,比如關(guān)閉/下線無效任務(wù)、優(yōu)化高耗時并且占用資源 TopN 任務(wù)、優(yōu)化資源申請不合理 TopN 任務(wù)、優(yōu)化表產(chǎn)出小文件 TopN 任務(wù)等,由此對隊列阻塞情況進(jìn)行改善,完成階段性進(jìn)行縮容。
DataLeap 還支持對任務(wù)執(zhí)行進(jìn)行全鏈路監(jiān)控,自動發(fā)現(xiàn)這些異常的計算任務(wù),并在工作臺進(jìn)行展示,讓數(shù)據(jù)研發(fā)人員可以查看相應(yīng)任務(wù),并采取治理措施。
2. 按季度持續(xù)治理
數(shù)據(jù)治理是一項長期性、系統(tǒng)性的工作,通過DataLeap平臺,該產(chǎn)品優(yōu)先實現(xiàn)了數(shù)據(jù)按季度持續(xù)治理。
DataLeap 平臺提供一系列任務(wù)圈選規(guī)則,可以圈選出無效、高耗時、資源申請不合理、小文件異常、近7天內(nèi)無更新、寫入數(shù)據(jù)、近90天無訪問表等規(guī)則,進(jìn)行定期掃描,由此實現(xiàn)周期性成本治理。除此之外,DataLeap還提供通知、一鍵拉群等治理運營操作,支持查看治理效果,沉淀治理經(jīng)驗,有效推動數(shù)倉團(tuán)隊成本推動進(jìn)展。
其次,為了能更直觀監(jiān)測到數(shù)倉健康度、量化治理效果,產(chǎn)品團(tuán)隊還引入了DataLeap「健康分」體系。一旦出現(xiàn)健康分不達(dá)標(biāo)情況,會及時限制產(chǎn)品使用資源比例、資源申請等。DataLeap還支持繁忙和閑置時段隊列資源利用率的監(jiān)測,可以幫助飛書數(shù)倉團(tuán)隊優(yōu)化任務(wù)調(diào)度措施。
最終,該產(chǎn)品的數(shù)倉團(tuán)隊主要從YARN和HDFS切入,在引入DataLeap的三個月內(nèi),快速落地成本治理項目。在計算治理場景,實現(xiàn)YARN 隊列成本降低 20%;在存儲治理場景,已釋放 7PB 存儲空間。
隨著數(shù)據(jù)的不斷累積和業(yè)務(wù)的不斷發(fā)展,大數(shù)據(jù)的體量將會變得越來越大,而隨之而來的龐大成本,也成為了大數(shù)據(jù)建設(shè)中越來越無法忽視的問題?;鹕揭鍰ataLeap基于字節(jié)跳動業(yè)務(wù)場景和實踐經(jīng)驗,沉淀有一套完整的數(shù)據(jù)質(zhì)量、SLA治理、資源優(yōu)化、告警優(yōu)化的能力,可以為業(yè)務(wù)提供流暢順滑的數(shù)據(jù)治理體驗;在流程上,覆蓋規(guī)劃式、響應(yīng)式的用戶數(shù)據(jù)治理雙路,同時與各業(yè)務(wù)密切配合,落地和沉淀多項治理規(guī)則。(作者:邵苗)