隨著ChatGPT、百度文心一言等一系列大模型密集上線，AI大模型當(dāng)下已經(jīng)遍地開(kāi)花。本周四，谷歌發(fā)布AI語(yǔ)言模型PaLM 2與OpenAI旗下GPT-4等系統(tǒng)展開(kāi)競(jìng)爭(zhēng)，國(guó)內(nèi)云從科技、引力傳媒等多家A股上市公司亦宣布AI大模型產(chǎn)品最新進(jìn)展。在“AI百模大戰(zhàn)”背后，隨之帶動(dòng)的算力需求開(kāi)始呈“爆炸式”增長(zhǎng)，一場(chǎng)“算力儲(chǔ)備戰(zhàn)”已暗潮洶涌，全球算力市場(chǎng)持續(xù)火熱。
據(jù)悉，AI由數(shù)據(jù)、算法（即模型）和算力驅(qū)動(dòng)，其中任意一方的發(fā)展會(huì)推動(dòng)其他方面需求的增長(zhǎng)。有分析認(rèn)為，當(dāng)下行業(yè)內(nèi)雖然擁有更多的數(shù)據(jù)以及做了更多的AI模型研究，但算力的擴(kuò)展速度卻沒(méi)有跟上。今年4月，OpenAI就因需求量過(guò)大而停止了ChatGPT Plus的銷(xiāo)售。對(duì)此，東方證券研報(bào)認(rèn)為，主要系計(jì)算資源供不應(yīng)求。
根據(jù)數(shù)據(jù)預(yù)測(cè)，AI時(shí)代算力的增長(zhǎng)已遠(yuǎn)遠(yuǎn)超過(guò)了摩爾定律每18個(gè)月翻番的速率，預(yù)計(jì)到2030年全球超算算力將達(dá)到0.2ZFLOPS，平均年增速超過(guò)34%。華為更是預(yù)測(cè)，未來(lái)10年人工智能算力需求將會(huì)增長(zhǎng)500倍以上。那么，身處“智能革命”起點(diǎn)的當(dāng)下，什么才是AI算力的最優(yōu)解？國(guó)內(nèi)“算力軍備競(jìng)賽”又走到哪一步了？
短期堆起的GPU競(jìng)爭(zhēng)高地：以量取勝筑起大模型算力門(mén)檻低配版英偉達(dá)GPU國(guó)內(nèi)炒至10萬(wàn)元
眾所周知，芯片能力直接影響著高算力訓(xùn)練效果和速度，相較于基于CPU芯片的通用算力，AI所需的智能算力則主要基于GPU、GPGPU及AISC等AI芯片所提供算力，用于人工智能的訓(xùn)練和推理。其中，GPU是一種專門(mén)用于處理圖形、視頻、游戲等高性能計(jì)算的硬件設(shè)備，憑借相較于其他硬件在算力方面的較大優(yōu)勢(shì)脫穎而出，同時(shí)隨著英偉達(dá)A100、H100等型號(hào)產(chǎn)品的發(fā)布，前款產(chǎn)品在AI推理時(shí)吞吐量是CPU的249倍。GPU已成為當(dāng)前AI算力的核心硬件。
中金公司研報(bào)表示，多GPU互聯(lián)能力加強(qiáng)可以提高并行計(jì)算能力，因而算力提升對(duì)GPU數(shù)量的要求日益提高。隨著單GPU的計(jì)算能力越來(lái)越難以應(yīng)對(duì)深度學(xué)習(xí)對(duì)算力的需求，英偉達(dá)已經(jīng)開(kāi)始用多個(gè)GPU去解決問(wèn)題。對(duì)此，業(yè)內(nèi)分析認(rèn)為，高端GPU的數(shù)量基本決定了一個(gè)廠商能夠練多大的模型，后期將成為業(yè)內(nèi)判斷企業(yè)大模型能力的重要指標(biāo)。
據(jù)TrendForce數(shù)據(jù)顯示，如果以英偉達(dá) A100 顯卡的處理能力計(jì)算，GPT-3.5大模型需要2萬(wàn)塊GPU來(lái)處理訓(xùn)練數(shù)據(jù)。亦有業(yè)內(nèi)公認(rèn)看法，做好AI大模型的算力門(mén)檻是1萬(wàn)枚A100芯片。
目前，全球GPU市場(chǎng)主要由英偉達(dá)、英特爾和AMD三家巨頭壟斷，去年Q4獨(dú)立GPU份額分別為85%、6%、9%。其中，人工智能、云端計(jì)算和獨(dú)立GPU主要為英偉達(dá)主導(dǎo)，A100和H100最高浮點(diǎn)算力分別實(shí)現(xiàn)19.5 TFLOPS 和67 TFLOPS。
相較于此，我國(guó)國(guó)產(chǎn)GPU尚處萌芽期，與國(guó)際廠商差距更大。但隨著高端GPU的出口限令，針對(duì)中國(guó)市場(chǎng)推出的特供版A800也已漲10萬(wàn)元的高價(jià)，國(guó)內(nèi)GPU市場(chǎng)需求緊迫。在此情形下國(guó)產(chǎn)化迫在眉睫，國(guó)產(chǎn)GPU廠商近幾年也不斷涌現(xiàn)，目前國(guó)內(nèi)自研GPU的領(lǐng)軍企業(yè)主要是寒武紀(jì)、景嘉微、華為昇騰等。其中，景嘉微是國(guó)內(nèi)首家成功研制國(guó)產(chǎn)GPU芯片并實(shí)現(xiàn)大規(guī)模工程應(yīng)用的企業(yè)。行業(yè)內(nèi)專家稱，主打產(chǎn)品JH920的性能與英偉達(dá)2016年發(fā)布的GTX 1050相仿，在中高端領(lǐng)域及硬核的算力需求仍存在較長(zhǎng)的追趕道路。
對(duì)于整個(gè)算力市場(chǎng)，業(yè)內(nèi)人士認(rèn)為，目前燒GPU是最為現(xiàn)實(shí)的方案，尤其從國(guó)內(nèi)GPU廠商的角度來(lái)看，國(guó)產(chǎn)GPU高端化薄弱，只有使更多低端的GPU去追趕和堆疊，通過(guò)優(yōu)化和協(xié)調(diào)來(lái)協(xié)同作用，再去組合模擬優(yōu)化的路徑。
下場(chǎng)突圍的存算一體：打破“內(nèi)存墻”極限難題全球玩家站上同一起跑線
不過(guò)，雖然GPU是目前最成熟的AI算力方案，但長(zhǎng)時(shí)間來(lái)看，在算力昂貴和受限的制約下燒GPU并非長(zhǎng)久之策。
在馮·諾伊曼結(jié)構(gòu)計(jì)算機(jī)中計(jì)算和存儲(chǔ)分離，存和算之間性能失配常常導(dǎo)致訪存帶寬低、時(shí)延長(zhǎng)、功耗高等問(wèn)題，運(yùn)算效率被大打折扣，即面臨著“內(nèi)存墻”的制約問(wèn)題。通俗來(lái)看，方正證券在4月30日研報(bào)中解釋，雖然CPU/GPU并行加速技術(shù)可以提升算力，但隨摩爾定律逼近極限，存儲(chǔ)帶寬制約了計(jì)算系統(tǒng)的有效帶寬，系統(tǒng)算力增長(zhǎng)步履維艱。
對(duì)此，方正證券認(rèn)為，存算一體作為一種新的計(jì)算架構(gòu)，其核心是將存儲(chǔ)與計(jì)算完全融合，以新的高效運(yùn)算架構(gòu)進(jìn)行二維和三維矩陣計(jì)算，具有更大算力（1000TOPS以上）、更高能效（超過(guò)10-100TOPS/W）、降本增效三大優(yōu)勢(shì)，能有效克服馮·諾依曼架構(gòu)瓶頸，實(shí)現(xiàn)計(jì)算能效的數(shù)量級(jí)提升。業(yè)界普遍認(rèn)為，其為“AI算力的下一極”，繼CPU、GPU之后的算力架構(gòu)“第三極”。
在存算一體市場(chǎng)中，海外廠商SST，Syntiant、Mythic因布局較早，走在商業(yè)化前列。不過(guò)，在新的技術(shù)領(lǐng)域比如基于ReRAM存算一體做大算力芯片，各國(guó)還處在同一起跑線，國(guó)內(nèi)外眾多企業(yè)紛紛開(kāi)展存算一體技術(shù)的研發(fā)，包括英特爾、SK海力士、IBM、美光、三星、臺(tái)積電、阿里等巨頭，以及九天睿芯、恒爍股份、億鑄科技、千芯科技、蘋(píng)芯科技、知存科技、智芯科等眾多新興AI和存儲(chǔ)企業(yè)。
AI算力“神藥”量子計(jì)算：谷歌、阿里等科技巨頭扎堆進(jìn)入國(guó)內(nèi)企業(yè)或借此賽道彎道超車(chē)
值得注意的是，在當(dāng)前GPU、下一步存算一體的背后，還有著一位AI算力“神藥”——量子計(jì)算。
據(jù)悉，量子計(jì)算機(jī)是基于量子力學(xué)原理構(gòu)建的計(jì)算機(jī)，性能差距呈指數(shù)級(jí)增長(zhǎng)。中金公司研報(bào)表示，相較經(jīng)典計(jì)算機(jī)，量子計(jì)算機(jī)算力發(fā)生爆發(fā)式增長(zhǎng)，形成“量子優(yōu)越性”。業(yè)內(nèi)分析認(rèn)為，量子計(jì)算有望徹底解決經(jīng)典計(jì)算的算力不足問(wèn)題。并且，未來(lái)量子計(jì)算機(jī)肯定能夠助力人工智能，隨著AI所需的算力越來(lái)越多，2030年算力以及耗電量都可能出現(xiàn)超高數(shù)據(jù)級(jí)增長(zhǎng)，因此對(duì)于真正解決AI大規(guī)模的算力需求，量子計(jì)算機(jī)是一個(gè)很有潛力的應(yīng)用方向。
根據(jù)中金公司研報(bào)顯示，谷歌、IBM、微軟、亞馬遜等全球科技巨頭紛紛推出量子云服務(wù)平臺(tái)。國(guó)內(nèi)阿里、騰訊、百度、華為近年來(lái)也先后布局量子計(jì)算，比如百度成立了量子計(jì)算研究所；華為推出了“昆侖”量子計(jì)算模擬一體機(jī)，在摩爾定律漸趨失效下，量子計(jì)算為中國(guó)提供彎道超車(chē)機(jī)會(huì)。
此外，有市場(chǎng)分析指出，我國(guó)量子計(jì)算也在展開(kāi)融資競(jìng)爭(zhēng)賽。近一年來(lái)，國(guó)內(nèi)包括量旋科技、圖靈量子、華翊量子、未磁科技、本源量子在內(nèi)的9家量子計(jì)算企業(yè)獲得融資。
不過(guò)，安信證券提到，當(dāng)前量子計(jì)算機(jī)的發(fā)展還面臨著如退相干等問(wèn)題，導(dǎo)致當(dāng)前量子計(jì)算仍主要存在于實(shí)驗(yàn)室階段，距離商業(yè)化較遠(yuǎn)。對(duì)此，有業(yè)內(nèi)人士坦言，量子計(jì)算行業(yè)現(xiàn)在還未發(fā)生一些根本性的變化進(jìn)展，中短期與其寄希望于其他方案來(lái)解決大模型所遇到的算力問(wèn)題，不如指望GPU這些經(jīng)典計(jì)算的硬件價(jià)格能下來(lái)。
