據(jù)澎湃新聞7月10日報道,AI芯片巨頭英偉達(NVDA)在中國市場銷售的A800芯片近期價格出現(xiàn)大幅上漲。英偉達在中國的一家代理表示,“目前手里還是有些現(xiàn)貨,如果數(shù)量不大的話還是可以供應(yīng)的,建議要買的話就早點入,后期價格只會更高?!?/p>
據(jù)悉,參數(shù)方面,新的A800數(shù)據(jù)傳輸速率為每秒400GB,低于A100的每秒600GB,性能大約相當于A100 GPU的70%左右,而且A800支持內(nèi)存帶寬最高達2TB/s,其他參數(shù)相比A100變化不大。
今年以來,ChatGPT等各類大模型不斷推出,這些大模型訓練需要大量的AI芯片,拉升英偉達AI芯片出貨,也助推英偉達總市值登上1萬億美元。截至11日美股盤前,英偉達微跌0.76%,報421.8美元,總市值1.043萬億美元。
英偉達A800芯片售價超十萬
據(jù)澎湃新聞10日報道,近日,英偉達在中國一家代理商對記者表示,現(xiàn)在英偉達A800芯片一天一個價,如果購買量多的話可以10多萬元/片,少的話沒有11萬元/片拿不到,“考慮到禁售傳聞,大家都比較惜售,這一個多禮拜以來漲幅達到了20%-30%了?!?/p>
據(jù)華爾街日報6月底報道,美國商務(wù)部可能最快在7月初采取行動,禁止英偉達等芯片制造商在事先未獲得許可證的情況下,向中國和其他相關(guān)國家的客戶出口芯片?!董h(huán)球時報》記者采訪的專家認為,美國這么做是“國家安全優(yōu)先”立場的體現(xiàn),目的在于在科技領(lǐng)域戰(zhàn)勝中國。但這不僅會傷害中美關(guān)系,美國自己也占不到便宜。
英偉達首席克雷斯曾表示,“從長遠來看,如果實施禁止向中國出售我們的數(shù)據(jù)中心圖形處理單元(GPU)的限制措施,將導致美國產(chǎn)業(yè)永久喪失在全球最大市場之一競爭和領(lǐng)先的機會,并對我們未來的業(yè)務(wù)和財務(wù)業(yè)績產(chǎn)生影響?!?/p>
不過,英偉達A800系列芯片原本在中國市場就面臨供應(yīng)緊缺問題。今年,MWC上海展上,聯(lián)想集團展臺上在重點位置展出了搭載了英偉達A800芯片的高端服務(wù)器,相關(guān)人士告訴記者,這款服務(wù)器供應(yīng)非常緊張,現(xiàn)在下單需要10個月左右才能有貨。新華三集團副總裁、運營商事業(yè)部總經(jīng)理何寧也在展會期間接受澎湃新聞記者采訪也表示,搭載英偉達芯片的高端服務(wù)器供應(yīng)還是非常緊張的,供貨周期在30周左右。
AI芯片需求有多旺盛?
據(jù)財聯(lián)社7月6日報道,近期有消息指出,由于AI推升了CoWoS需求,臺積電于6月底向設(shè)備廠商啟動第二波追單,同時要求供應(yīng)商全力縮短交期支援,預(yù)期今年第四季至明年首季將進入大量出機高峰。在這背后,英偉達、博通、AMD都已在臺積電投片,由于AI領(lǐng)域需求增長,三家公司第二季以來不僅逐季陸續(xù)上調(diào)臺積電5/7nm家族制程訂單,同時也爭搶臺積電CoWoS產(chǎn)能,強勁追單動能更已延續(xù)至2024年,整體下單規(guī)模較2023年至少再增2成以上。
另據(jù)Market Watch估計數(shù)據(jù)顯示,到2028年,全球GPU市場規(guī)??赡軓?021年的197.11億美元增長到約334.63億美元,在此期間的復合年增長率為7.85%。
英偉達勁敵AMD推出MI300X
美東時間6月13日周二,AMD舉行了新品發(fā)布會,其中最重磅的新品當屬性用于訓練大模型的ADM最先進GPU Instinct MI300。AMD CEO蘇姿豐介紹,生成式AI和大語言模型(LLM)需要電腦的算力和內(nèi)存大幅提高。她預(yù)計,今年,數(shù)據(jù)中心AI加速器的市場將達到300億美元左右,到2027年將超過1500億美元,復合年增長率超過50%。
蘇姿豐演示介紹,AMD的Instinct MI300A號稱全球首款針對AI和高性能計算(HPC)的加速處理器(APU)加速器。在13個小芯片中遍布1460億個晶體管。AMD推出一款GPU專用的MI300,即MI300X,該芯片是針對LLM的優(yōu)化版,擁有192GB的HBM3內(nèi)存、5.2TB/秒的帶寬和896GB/秒的Infinity Fabric帶寬。AMD將1530億個晶體管集成在共12個5納米的小芯片中。AMD稱,MI300X提供的HBM密度最高是英偉達AI芯片H100的2.4倍,其HBM帶寬最高是H100的1.6倍。這意味著,AMD的芯片可以運行比英偉達芯片更大的模型。
圖片來源:每日經(jīng)濟新聞資料圖
蘇姿豐介紹,MI300X可以支持400億個參數(shù)的Hugging Face AI模型運行,并演示了讓這個LLM寫一首關(guān)于舊金山的詩。這是全球首次在單個GPU上運行這么大的模型。單個MI300X可以運行一個參數(shù)多達800億的模型。
AMD還發(fā)布了AMD Instinct平臺,它擁有八個MI300X,采用行業(yè)標準OCP設(shè)計,提供總計1.5TB的HBM3內(nèi)存。蘇姿豐稱,適用于CPU和GPU的版本MI300A現(xiàn)在就已出樣,MI300X和八個GPU的Instinct平臺將在今年第三季度出樣,第四季度正式推出。
據(jù)第一財經(jīng)6月14日報道,盡管業(yè)內(nèi)并不認為AMD能夠在短期內(nèi)會對英偉達構(gòu)成威脅,但在某些硬件性能方面,AMD已經(jīng)部分超越了英偉達目前最高端的H100芯片。例如,MI300X可以使用高達192GB的內(nèi)存,這意味著它可以容納比其他芯片更大的AI模型,英偉達H100目前僅支持120GB內(nèi)存。
與此同時,更多企業(yè)加入GPU芯片競爭的好處是,可能會對英偉達的芯片價格形成壓力。目前英偉達的H100價格高達3萬美元,芯片價格的下降也有助于降低服務(wù)生成式AI應(yīng)用程序的成本。
研究機構(gòu)Garnter分析師盛陵海對記者表示:“我們預(yù)計英偉達的加速芯片在沒有更新版本出來之前,價格很難會下降,目前可以說是沒有對手。有些廠商,也包括國內(nèi)芯片廠商可以在某些性能方面有一定程度的超越,但是整體來看,很少有能真正做到像A100或者H100那樣好用的。”