首頁 > 技術(shù) > 正文

騰訊云MaaS再升級:混元筑底、生態(tài)擴(kuò)容,持續(xù)推進(jìn)“效能革命”

2023-09-07 18:13:50來源:中關(guān)村在線  

9月7日,2023騰訊全球數(shù)字生態(tài)大會于深圳舉辦。會上,騰訊首次對外公布騰訊混元大模型進(jìn)展,并宣布從技術(shù)底座、平臺能力、智能應(yīng)用三大維度升級MaaS能力。基于自研騰訊混元大模型,同時支持業(yè)內(nèi)20余款主流開源模型,助力客戶構(gòu)建專屬大模型及智能應(yīng)用,加速模型產(chǎn)業(yè)落地,推進(jìn)“效能革命”。


(資料圖片僅供參考)

升級后,騰訊云行業(yè)大模型精選商店將進(jìn)一步擴(kuò)容,能為客戶提供不同規(guī)模的模型服務(wù);大模型訓(xùn)練、精調(diào)工具鏈,可以幫助客戶更快、更低成本地打造“更實用”的專屬模型;同時,依托騰訊多元的PaaS、SaaS產(chǎn)品矩陣“試煉場”,用戶也能夠快速裝備即插即用的模型能力。

會上,騰訊云與信通院還共同發(fā)布了《行業(yè)大模型標(biāo)準(zhǔn)體系及能力架構(gòu)研究報告》,參考騰訊云在行業(yè)大模型產(chǎn)業(yè)應(yīng)用領(lǐng)域的實踐和經(jīng)驗,為客戶構(gòu)建行業(yè)大模型提供了標(biāo)準(zhǔn)化流程、綜合評估方法,以便更好地幫助行業(yè)伙伴構(gòu)建專屬大模型。

騰訊集團(tuán)高級執(zhí)行副總裁、云與智慧產(chǎn)業(yè)事業(yè)群CEO湯道生表示,騰訊著眼于產(chǎn)業(yè)實踐建設(shè)行業(yè)大模型的思路已得到了業(yè)界的普遍認(rèn)可。通過“行業(yè)大模型+企業(yè)數(shù)據(jù)精調(diào)”方案,騰訊幫助產(chǎn)業(yè)伙伴打造適合自己的大模型產(chǎn)品,解決企業(yè)應(yīng)用大模型過程中面臨的專業(yè)度、準(zhǔn)確度、數(shù)據(jù)安全、成本等諸多挑戰(zhàn)。技術(shù)變革和客戶需求的快速發(fā)展,推動了騰訊云MaaS服務(wù)能力快速迭代升級。

騰訊集團(tuán)高級執(zhí)行副總裁、云與智慧產(chǎn)業(yè)事業(yè)群CEO湯道生

開放多元基底模型,騰訊云MaaS持續(xù)推進(jìn)“效能革命”

會上,騰訊云副總裁、騰訊云智能負(fù)責(zé)人、優(yōu)圖實驗室負(fù)責(zé)人吳運聲認(rèn)為,當(dāng)前企業(yè)在大模型領(lǐng)域探索已過“嘗鮮期”,產(chǎn)業(yè)實踐將成為檢驗大模型價值的重要標(biāo)準(zhǔn),大模型在產(chǎn)業(yè)領(lǐng)域應(yīng)用的“縱深度”也將持續(xù)拓展?;诖?,騰訊云行業(yè)大模型從技術(shù)底座、平臺能力、智能應(yīng)用三大層面升級,加速模型落地進(jìn)程。

技術(shù)底座方面,由騰訊自研的混元通用大模型首次公開亮相。吳運聲表示,騰訊混元大模型是騰訊云行業(yè)大模型的堅實底座,其不僅有出色的中文創(chuàng)作能力,還具備在復(fù)雜語境下的邏輯推理能力以及可靠的任務(wù)執(zhí)行能力,并已在騰訊內(nèi)部多個產(chǎn)品和業(yè)務(wù)中成功接入并獲得顯著成果,并將通過騰訊云陸續(xù)面向行業(yè)客戶開放。

騰訊云副總裁、騰訊云智能負(fù)責(zé)人、優(yōu)圖實驗室負(fù)責(zé)人吳運聲

而為了滿足企業(yè)、開發(fā)者多元的模型需求,騰訊云還率先宣布上架和支持開源模型,接入了Llama 2、Falcon、Bloom等20多個行業(yè)最新主流的開源模型,覆蓋智能對話、文本生成、寫作等豐富應(yīng)用場景??蛻艨衫抿v訊云TI平臺對上述開源模型進(jìn)行訓(xùn)練,基于Jupyter Notebook快速啟動模型精調(diào),低代碼操作完成模型部署。

同時,騰訊云也對平臺能力進(jìn)行了大幅提升。升級后的TI平臺工具鏈,接入騰訊云HCC高性能計算節(jié)點及星脈高性能計算網(wǎng)絡(luò),可提供3.2Tbps的網(wǎng)絡(luò)帶寬。全新升級的太極Angel大模型加速框架,較行業(yè)常用方案性能提升30%以上。全新的工具鏈,具備高性能的大模型精調(diào)與部署能力,覆蓋大模型開發(fā)、應(yīng)用全生命周期,讓客戶只需加入自己獨有的場景數(shù)據(jù),即可在短時間內(nèi)精調(diào)出專屬的模型方案。

此外,企業(yè)也可接入騰訊升級后的SaaS、PaaS產(chǎn)品矩陣,通過豐富的、即插即用的智能應(yīng)用,快速裝備模型能力。升級后的智能客服機(jī)器人擴(kuò)展了知識邊界,大幅提升接待對話體驗,減少運營成本;企點分析AI助手,通過“對話式數(shù)據(jù)分析、輔助分析模型配置更新、智能結(jié)論提取、一鍵生成分析報告”等核心能力,改造傳統(tǒng)分析流程,提升企業(yè)數(shù)據(jù)的分析洞察產(chǎn)出效率;全新發(fā)布AI大模型加持的“通用口型”版小樣本數(shù)智人,無需訓(xùn)練,上傳素材1小時內(nèi)即可獲取專屬數(shù)智分身。

攜手客戶伙伴,助力20+行業(yè)提質(zhì)增效

會上,吳運聲表示,“騰訊云將不斷完善MaaS能力,與廣大客戶和合作伙伴攜手,共同迎接AI大模型時代的‘效能革命’。”作為行業(yè)大模型“實戰(zhàn)派”,騰訊云目前已落地文旅、泛互、零售、能源、醫(yī)療等20多個行業(yè),并覆蓋生產(chǎn)、銷售、客服等多個環(huán)節(jié),并已經(jīng)在頭部客戶中打造多個最佳實踐。

比如某科技公司搭建大規(guī)模建模平臺時,面臨人力、物力、資源等缺乏問題。騰訊云MaaS為其提升了自動駕駛領(lǐng)領(lǐng)域的2D感知、3D感知類建模任務(wù)的訓(xùn)練性能,實現(xiàn)輕量化運維和接入。提供高性能算力集群及訓(xùn)練加速能力,訓(xùn)練性能提升40%;打通高性能分布式文件存儲和高性能計算節(jié)點,大幅提升算力資源利用率。

文旅領(lǐng)域是客服應(yīng)用的集中場景,對模型應(yīng)用的效率有強(qiáng)烈的提升需求。騰訊云聯(lián)合某線上旅游OTA公司,共同探索文旅行業(yè)大模型的應(yīng)用,改善傳統(tǒng)智能客服對話配置中知識維護(hù)量大、耗時長、人力成本高等痛點。精調(diào)后的客戶專屬模型,無需配置對話流程,即可實現(xiàn)端到端解決業(yè)務(wù)問題。提升任務(wù)完成率,降低對話構(gòu)建成本。

內(nèi)容創(chuàng)作對大模型的生成速度、理解能力要求高,是最能驗證大模型場景廣度的領(lǐng)域之一。騰訊云MaaS助力閱文集團(tuán)文生圖、圖生圖的推理部署和加速。C端用戶應(yīng)用需要提供高QPS、低模型耗時的方案,閱文基于騰訊云TI平臺搭載的Angel推理加速引擎,推理能力平均提升30%,將文生文領(lǐng)域成本降低到原來的1/4。此外,TI平臺提供動態(tài)batch和自動服務(wù)調(diào)度機(jī)制,大幅提高了服務(wù)吞吐量,模型優(yōu)化和部署模塊一鍵加速和發(fā)布模型,極大減輕了服務(wù)部署的維護(hù)成本。

而政務(wù)領(lǐng)域則需要大模型深入應(yīng)用場景,更加專業(yè)、可靠。騰訊云助力某稅務(wù)部門打造專屬政務(wù)大模型,解決傳統(tǒng)智能客服知識邊界受限,問題攔截率、覆蓋率低,政策法規(guī)、辦事指南的持續(xù)迭代造成后續(xù)運營維護(hù)成本高的問題。升級后的客服系統(tǒng),從知識采集到知識運營均實現(xiàn)智能化升級,成為“稅務(wù)領(lǐng)域的知識專家”和“緊跟法規(guī)、指南的稅務(wù)助手”。

積極參與標(biāo)準(zhǔn)制定,助推行業(yè)大模型高質(zhì)量發(fā)展

行業(yè)大模型的落地與拓展,需要標(biāo)準(zhǔn)化的流程與評估體系。會上,騰訊云與信通院共同發(fā)布了《行業(yè)大模型標(biāo)準(zhǔn)體系及能力架構(gòu)研究報告》(以下簡稱“報告”),幫助行業(yè)伙伴更好地構(gòu)建專屬大模型。

《行業(yè)大模型標(biāo)準(zhǔn)體系及能力架構(gòu)研究報告》發(fā)布

吳運聲介紹,報告內(nèi)包括行業(yè)需求分析與資源評估、行業(yè)數(shù)據(jù)與模型共建、行業(yè)精調(diào)與優(yōu)化部署等關(guān)鍵環(huán)節(jié),能夠幫助行業(yè)伙伴洞悉行業(yè)應(yīng)用場景、模型開發(fā)、模型能力、模型應(yīng)用、模型運營、安全可信等維度,從而對大模型進(jìn)行綜合評估。

中國信息通信研究院云計算與大數(shù)據(jù)研究所副所長魏凱表示,信通院作為國家信息通信領(lǐng)域的重要研究機(jī)構(gòu),一直關(guān)注AI技術(shù)的發(fā)展和應(yīng)用,特別是大模型技術(shù)的創(chuàng)新和推廣。信通院將與騰訊云深入合作,共同推進(jìn)行業(yè)大模型標(biāo)準(zhǔn)體系的建設(shè)和完善,為產(chǎn)業(yè)智能化發(fā)展提供技術(shù)支撐和服務(wù)。

“我們希望行業(yè)大模型標(biāo)準(zhǔn)體系及能力架構(gòu)研究,能夠幫助行業(yè)伙伴解決如何將大模型能力“應(yīng)用”到自身的行業(yè)和場景里的問題,可以更有效的解決成本、數(shù)據(jù)、安全,合規(guī)等大模型實際落地難題。通過建立標(biāo)準(zhǔn)體系,為行業(yè)大模型的建設(shè)和應(yīng)用提供指引和支持?!彬v訊法務(wù)副總裁江波提到。

為千行百業(yè)輸送行業(yè)大模型解決方案的同時,騰訊一直積極參加大模型標(biāo)準(zhǔn)建設(shè)。2020年,騰訊被選舉為全國信標(biāo)委人工智能分委會委員兼副秘書長單位,作為核心成員,承擔(dān)了更多標(biāo)準(zhǔn)制定工作以及技術(shù)引領(lǐng)作用。前不久,騰訊云還聯(lián)合中國信通院發(fā)起行業(yè)大模型生態(tài)計劃,并牽頭國內(nèi)首個金融行業(yè)大模型標(biāo)準(zhǔn)制訂,為金融行業(yè)智能化的高質(zhì)量規(guī)范化發(fā)展提供重要支撐。

更強(qiáng)的能力、更高的效率、更廣的場景、更深的應(yīng)用,騰訊云行業(yè)大模型不斷迭代,通過MaaS能力助力產(chǎn)業(yè)提質(zhì)增效。未來,騰訊云將持續(xù)升級產(chǎn)品、技術(shù)能力,幫助千行百業(yè)更高效率、高品質(zhì)、低成本地創(chuàng)建和部署更實用的AI應(yīng)用,助力更多實體實現(xiàn)高質(zhì)量的數(shù)智化轉(zhuǎn)型升級。

標(biāo)簽:

相關(guān)閱讀

精彩推薦

相關(guān)詞

推薦閱讀