世界訊息:騰訊吳運聲:騰訊云MaaS,打造一站式行業(yè)大模型精選商店

6月19日,騰訊云在國家科技傳播中心召開行業(yè)大模型及智能應用技術峰會,首次公布騰訊云行業(yè)大模型研發(fā)進展,依托騰訊云TI平臺打造行業(yè)大模型精選商店,為客戶提供MaaS(Model-as-a-Service)一站式服務,助力客戶構建專屬大模型及智能應用。

峰會上,騰訊云副總裁、騰訊云智能負責人、優(yōu)圖實驗室負責人吳運聲發(fā)表《騰訊云MaaS,打造一站式行業(yè)大模型精選商店》的主題演講,分享了騰訊云在行業(yè)大模型方面的技術方案,以及產(chǎn)業(yè)客戶實踐、行業(yè)大模型標準體系構建的進展。


(相關資料圖)

騰訊云副總裁、騰訊云智能負責人、優(yōu)圖實驗室負責人 吳運聲

吳運聲認為,大模型驅(qū)動“智慧涌現(xiàn)”,產(chǎn)業(yè)場景已成為最佳練兵場,在智能問答、內(nèi)容創(chuàng)作、智能決策、智能風控等很多業(yè)務場景,具有非常廣泛的應用價值。騰訊云希望為客戶和伙伴打造一站式的行業(yè)大模型精選商店,加速大模型在產(chǎn)業(yè)領域的創(chuàng)新實踐。

企業(yè)在應用大模型時,常常面臨計算資源少、數(shù)據(jù)質(zhì)量差、投入成本高、專業(yè)經(jīng)驗少等挑戰(zhàn),吳運聲表示,騰訊云將通過TI平臺,面向客戶全面輸出MaaS能力,可以滿足客戶模型預訓練、模型精調(diào)、智能應用開發(fā)等多樣化需求,讓客戶可根據(jù)自身業(yè)務場景需求,定制不同參數(shù)、不同規(guī)格的專屬模型。

峰會現(xiàn)場,吳運聲展示了文旅客服大模型場景的精調(diào)過程及效果。通過加入文旅行業(yè)垂直場景數(shù)據(jù)、接入文旅客戶API接口后,模型不僅可以為用戶制訂細致的旅行攻略,提供非常人性化的服務體驗,也讓智能客服系統(tǒng),實現(xiàn)服務商業(yè)化的閉環(huán)。而未來隨著更多高質(zhì)量數(shù)據(jù)的增加,模型的精調(diào)效果還會更好。

目前,騰訊云已經(jīng)攜手傳媒、文旅、金融、政務、教育等行業(yè)的頭部企業(yè),在十余個行業(yè)探索了超50個行業(yè)大模型的應用解決方案。

以下為演講全文:

尊敬的各位嘉賓、媒體朋友們,大家下午好!

我是騰訊的吳運聲,今天我的分享主題是《騰訊云MaaS,打造一站式行業(yè)大模型精選商店》。這是我們的定位,也是我們努力的方向。

依托騰訊云的高性能計算、行業(yè)大模型能力,以及我們多年深耕產(chǎn)業(yè)互聯(lián)網(wǎng)積累的行業(yè)經(jīng)驗,我們希望為客戶和伙伴,打造一站式的行業(yè)大模型精選商店,加速大模型在產(chǎn)業(yè)領域的創(chuàng)新實踐。

大模型驅(qū)動“智慧涌現(xiàn)”,產(chǎn)業(yè)場景已成為最佳練兵場,在智能問答、內(nèi)容創(chuàng)作、智能決策、智能風控等很多業(yè)務場景,具有非常廣泛的應用價值。那么,如何將大模型快速應用到自己的業(yè)務場景中?怎么才能在新一輪技術浪潮中不掉隊?

最近半年多的時間里,我們收到了非常多來自客戶的問詢。對于很多企業(yè)而言,想要用好大模型,確實面臨不少挑戰(zhàn)。

第一,是計算資源少。大模型的訓練和推理對計算資源和存儲資源有很高的需求,對很多客戶來說門檻太高。

第二,數(shù)據(jù)質(zhì)量差。構建大模型是成本極高的系統(tǒng)工程,大模型需要大量的高質(zhì)量數(shù)據(jù)進行訓練,數(shù)據(jù)還必須經(jīng)過清洗和預處理。數(shù)據(jù)質(zhì)量差,會導致模型的效果和效率無法得到保障。

第三,投入成本高。為確保業(yè)務使用的效果需要投入大量的數(shù)據(jù)、計算資源來訓練,還需要持續(xù)的調(diào)試和優(yōu)化。

第四,專業(yè)經(jīng)驗少。大模型的部署需要考慮到計算資源、網(wǎng)絡帶寬等多個方面的問題,大模型的開發(fā)和落地需要很多的技術和人力資源。此外,安全、合規(guī),也是企業(yè)需要考慮的關鍵因素。

那么,如何解決產(chǎn)業(yè)客戶落地大模型,所面臨的成本、數(shù)據(jù)、安全等一系列問題呢?依托騰訊云大模型高性能計算集群和行業(yè)大模型能力,我們通過騰訊云TI平臺,面向客戶全面輸出MaaS能力,可以滿足客戶模型預訓練、模型精調(diào)、智能應用開發(fā)等多樣化需求。

騰訊云TI平臺行業(yè)大模型精調(diào)解決方案,具備完整大模型精調(diào)工具鏈,支持客戶加入自己獨有的場景數(shù)據(jù),進行精調(diào)訓練,客戶可根據(jù)自身業(yè)務場景需求,定制不同參數(shù)、不同規(guī)格的專屬模型。

實際上,在過去一段時間里,我們已經(jīng)攜手一些行業(yè)頭部企業(yè),探索了多個行業(yè)大模型的應用場景。通過演示,我們可以看到在文旅客服大模型場景中,模型不僅給到了不同檔次的酒店推薦、介紹,甚至可以直接提供預訂鏈接。給用戶提供了非常人性化的服務體驗,也讓智能客服系統(tǒng),實現(xiàn)服務商業(yè)化的閉環(huán)。

當然,現(xiàn)在這個效果,仍有很大提升空間,未來隨著更多高質(zhì)量數(shù)據(jù)的增加,相信效果會更好。行業(yè)大模型有望重塑企業(yè)生產(chǎn)力、提升市場競爭力。

騰訊云TI平臺行業(yè)大模型精調(diào)解決方案,具備四大優(yōu)勢,包括高質(zhì)量的行業(yè)大模型、完善的平臺工具、成熟的流程方法、全面配套服務,可以為客戶提供從模型選擇、到落地部署的一站式服務。

首先,基于騰訊云多年深耕產(chǎn)業(yè)互聯(lián)網(wǎng)的經(jīng)驗,騰訊云TI平臺內(nèi)置了多個高質(zhì)量行業(yè)大模型,涵蓋金融、傳媒、文旅、政務、工業(yè)等多個行業(yè)場景,同時開放支持客戶多模型訓練任務,滿足個性化需求。比如針對客服等場景中的“對話問答”、“相似問生成”等任務,有較好的優(yōu)化,使用時僅需少量訓練數(shù)據(jù),便可達到較好的精調(diào)效果。

其次,TI-ONE平臺提供完善的大模型工具鏈,包括數(shù)據(jù)標注、訓練、評估、測試和部署等全套工具,同時具備強大的多機多卡訓練加速能力,客戶可快速在TI-ONE平臺上進行一站式的大模型精調(diào)。

其中,大模型訓練,算力是基礎。騰訊云在大模型算力方面擁有領先優(yōu)勢。早在今年4月,騰訊云便發(fā)布了面向大模型訓練的新一代HCC高性能計算集群,采用最新一代騰訊云星星海自研服務器,結合多層加速的高性能存儲系統(tǒng),具備3.2Tbps業(yè)界最高互聯(lián)帶寬,算力性能提升3倍。

全新升級框架加速能力太極Angel,可以提供更優(yōu)的訓練和推理加速能力。在傳統(tǒng)CV、NLP算法模型的基礎上,新增了對大模型的訓練和推理加速能力,通過異步調(diào)度優(yōu)化、顯存優(yōu)化、計算優(yōu)化等方式,相比行業(yè)常用方案性能提升超過30%。

同時,支持更適合AI運算的向量數(shù)據(jù)庫,將幫助高效處理圖像、音頻和文本等非結構化數(shù)據(jù),支持日處理千億級的檢索,將為客戶模型訓練提供充沛動力。

針對成本高、落地難的問題,騰訊云TI平臺實現(xiàn)針對行業(yè)場景的低成本落地。在少量算力的基礎上,提升特定任務的效果,比如智能客服場景,訓練性能可提升10倍,訓練成本下降90%。

我們沉淀了行業(yè)大模型全生命周期一體化的完整方法論,覆蓋“模型選型-訓練共建-部署應用”全流程,保障客戶需求的順利交付。

在配套服務方面,騰訊云提供本地化的訓練、落地及陪跑優(yōu)化服務,為客戶掃清落地障礙;針對客戶需求,提供私有化部署、公有云托管多種靈活部署方案,助力企業(yè)快速創(chuàng)建和部署AI應用。

大模型的應用,安全、合規(guī)是前提,騰訊云在這方面有成熟的技術積累和經(jīng)驗。在問題側、模型側、答案側三個層面進行敏感信息的過濾和規(guī)避,讓最終的答案符合安全、規(guī)范的要求。同時,依托騰訊多年的安全經(jīng)驗和天御風控能力,提供AIGC全鏈路內(nèi)容合規(guī)解決方案,確保大模型可信、可靠、可用。

行業(yè)大模型與AI助手的結合,可以快速提升“對話理解”和“智能問答”能力。比如,在學習了汽車場景的數(shù)據(jù)后,車載語音助手可根據(jù)車輛狀態(tài)、用戶狀態(tài)、歷史數(shù)據(jù)等信息,做主動觸達和場景運營,提供更人性化的場景服務。

前段時間,我們推出了騰訊云數(shù)智人工廠,內(nèi)置超過10個AI算法模型。騰訊云MaaS能力,可以讓數(shù)智人分身復刻縮短至24小時,大幅降低成本。

在文旅領域,我們聯(lián)合一家線上旅游OTA公司,共同探索了文旅行業(yè)大模型的應用。其傳統(tǒng)智能客服需要人工進行對話配置,知識維護量大、耗時長,且涉及訂單等復雜業(yè)務場景,在無配置的情況下,無法通過機器人閉環(huán)解決問題。精調(diào)后的客戶專屬模型,無需配置對話流程,即可實現(xiàn)端到端解決業(yè)務問題。提升任務完成率,降低整體成本。

在金融領域,我們探索了OCR大模型,在銀行單據(jù)處理場景中的應用。傳統(tǒng)的OCR深度學習模型不具備閱讀理解和推理能力、模型指標上限低,不同場景下模型能力無法復制,定制成本高。我們聯(lián)合一家頭部銀行,基于OCR大模型,上線了4類票據(jù)的自動化識別流程,信息錄入準確率提升50%。

在行業(yè)大模型標準體系方面,我們正在聯(lián)合中國信通院,共同構建行業(yè)大模型的標準體系及能力架構,包括1套ILMOps方法論、60多項能力建設指標。這個標準體系覆蓋多個行業(yè),涵蓋模型行業(yè)能力、模型工程化性能、模型算力網(wǎng)絡、模型安全可靠等方面。

推薦DIY文章
刷新市場標桿,江鈴福特全順成全能輕客價值之選
實力奪冠!小鵬G9拿下挪威NAF續(xù)航測試第一,充電測試破單項紀錄
用戶成造車主角,北汽新能源錨定市場本質(zhì)需求
做“全球高乳清蛋白奶粉”開創(chuàng)者,優(yōu)博瑞慕迎來全新戰(zhàn)略定位
IMAX特色家庭影音 海信激光電視L8K全國上市
小鵬汽車亮相2023粵港澳車展 小鵬G6領銜熱度
精彩新聞

超前放送