(相關(guān)資料圖)
快科技6月9日消息,想要研發(fā)出成功的AI大模型,大數(shù)據(jù)和大算力是最核心的兩大需求。
今天在杭州舉辦的2023 NAVIGATE領(lǐng)航者峰會(huì)上,百度集團(tuán)執(zhí)行副總裁、百度智能云事業(yè)群總裁沈抖出席大會(huì)并做題為《大模型 產(chǎn)業(yè)智能化時(shí)代的新引擎》的分享。
沈抖表示,未來所有的企業(yè)都會(huì)強(qiáng)依賴大模型,而且所有的產(chǎn)品都會(huì)基于大模型來開發(fā)。
他提到,AI大模型不再以CPU為主,而是以GPU為主。為了用GPU來解決大模型訓(xùn)練過程中的大規(guī)模并發(fā)計(jì)算的問題,百度研發(fā)了昆侖芯,大概在明年年初會(huì)規(guī)模上市的昆侖芯3很大程度上可以解決算力的問題。
沈抖以GPT3為例說明AI大模型對(duì)算力的需求:它每訓(xùn)練一次,大約需要10的23次方的計(jì)算量。如果用現(xiàn)在比較先進(jìn)的A100這樣的算力,每秒可以算20萬(wàn)億次,需要1000片計(jì)算100天。
此前,在第七屆世界智能大會(huì)上,李彥宏曾透露,百度昆侖芯前兩代的產(chǎn)品已有數(shù)萬(wàn)片的部署。
昆侖芯1代AI芯片于2020年量產(chǎn),在百度搜索引擎、小度等業(yè)務(wù)中部署數(shù)萬(wàn)片,是國(guó)內(nèi)唯一一款經(jīng)歷過互聯(lián)網(wǎng)大規(guī)模核心算法考驗(yàn)的云端AI芯片。
昆侖芯2代AI芯片于2021年8月量產(chǎn),是國(guó)內(nèi)首款采用GDDR6顯存的通用AI芯片,相比昆侖芯1代AI芯片性能提升2-3倍,且在通用性、易用性方面也有顯著增強(qiáng)。