首頁 > 技術 > 正文

馬斯克說AI顯卡賣瘋了 43.2萬張H100顯卡需搶購

2023-08-07 12:13:43來源：中關村在線  


(資料圖)

據(jù)了解，盡管OpenAI的首席執(zhí)行官曾否認，但業(yè)界普遍認為該公司已經(jīng)在訓練GPT-5大模型，其規(guī)模預計將是GPT-4的10倍以上。然而，這也意味著更高的成本，特別是在AI顯卡極度稀缺的情況下。 全球許多從事AI大模型的公司，對于使用的AI顯卡數(shù)量保持高度保密，很少公開準確數(shù)據(jù)。據(jù)推測，GPT-4可能是在10000-25000張A100顯卡上訓練的，而GPT-5所需的顯卡數(shù)量仍然是個未知數(shù)，馬斯克估計可能需要30000-50000張性能更強的H100顯卡。 除了OpenAI外，其他公司對高性能AI顯卡的需求也居高不下。包括Meta、谷歌、微軟、蘋果、特斯拉以及馬斯克自己都在進行各種AI研究，預計總需求高達43.2萬張H100顯卡，價值超過150億美元。 這只是美國科技行業(yè)的需求分析，實際上，國內的需求并不遜于美國。盡管只能購買特供版的A800、H800加速卡，但這并未阻止國內公司投身AI大模型的研究，甚至不惜加價搶購AI顯卡。 在當前市場上，只有NVIDIA能滿足AI顯卡的需求。AMD和Intel的AI顯卡不僅在性能和生態(tài)上存在問題，而且供貨也跟不上。AMD的大殺器MI300X要到年底才能出貨，2024年才能大批量上市。 總的來說，這波需求將使NVIDIA受益，AI顯卡的需求預計將持續(xù)到2024年底。在這一年半的時間里，供應將一直無法滿足需求，H100顯卡的售價起步價為25萬元，而加價的幅度則難以預測，可能會有很大的波動。

標簽：

相關閱讀

精彩推薦

相關詞

推薦閱讀