AI浪潮來(lái)襲,算力需求爆發(fā)。國(guó)內(nèi)AI服務(wù)器廠商和各類(lèi)芯片企業(yè)無(wú)不積極擁抱這場(chǎng)巨大變革。
“單個(gè)GPU已經(jīng)無(wú)法跑Transformer、BERT、GPT這些大模型,需要幾百個(gè)甚至上千個(gè)GPU連在一起才能跑起來(lái)?!眹?guó)數(shù)集聯(lián)創(chuàng)始人兼首席執(zhí)行官巍騖在接受第一財(cái)經(jīng)采訪時(shí)稱(chēng),目前內(nèi)存容量快速增長(zhǎng),GPU性能呈指數(shù)級(jí)增長(zhǎng),但I(xiàn)/O(輸入/輸出)卻沒(méi)有跟上,成為AI算力提升瓶頸,導(dǎo)致GPU等未充分利用,造成資源浪費(fèi),業(yè)界正試圖解決這一問(wèn)題。
中金公司也認(rèn)為,除了依靠單個(gè)GPU性能升級(jí)外,還需要高速的芯片互聯(lián)技術(shù)、系統(tǒng)互聯(lián)技術(shù)作為支撐,從而提升GPU算力的可擴(kuò)展性,形成強(qiáng)大的集群算力。
(相關(guān)資料圖)
互聯(lián)接口芯片市場(chǎng)預(yù)計(jì)增至250億美元
隨著AIGC浪潮興起,AI服務(wù)器需求增長(zhǎng),服務(wù)器內(nèi)部之間或與其他設(shè)備的數(shù)據(jù)傳輸、控制和管理等接口功能的要求也隨之增加。
市場(chǎng)調(diào)研機(jī)構(gòu)650 Group報(bào)告顯示,從2022年到2027年,全球數(shù)據(jù)中心的互聯(lián)接口芯片市場(chǎng)規(guī)模將翻番,達(dá)到250億美元。主要的驅(qū)動(dòng)力除了AI、機(jī)器學(xué)習(xí) (ML),還包括數(shù)據(jù)分析、富媒體應(yīng)用和其他高性能分布式計(jì)算,以及不斷激增的邊緣側(cè)和物聯(lián)網(wǎng)設(shè)備向云端傳輸數(shù)據(jù)、使用云端服務(wù)。
中金公司表示,在高性能服務(wù)器強(qiáng)增長(zhǎng)的趨勢(shì)下,內(nèi)存接口芯片和PCIe接口芯片作為核心數(shù)據(jù)傳輸環(huán)節(jié),有望加速升級(jí)迭代,量?jī)r(jià)齊升推動(dòng)市場(chǎng)顯著增長(zhǎng)。
內(nèi)存接口芯片是服務(wù)器內(nèi)存模組的核心邏輯器件,其連接CPU和DRAM,集成在內(nèi)存模組內(nèi),能夠提升內(nèi)存數(shù)據(jù)訪問(wèn)的速度及穩(wěn)定性。美光預(yù)計(jì)到2025年,服務(wù)器DRAM需求相較2021年將實(shí)現(xiàn)2倍提升,而AI服務(wù)器DRAM容量將是普通服務(wù)器的8倍。
內(nèi)存模組市場(chǎng)正在由DDR4世代向DDR5世代迭代升級(jí)。目前DDR5內(nèi)存接口芯片的競(jìng)爭(zhēng)格局與DDR4世代類(lèi)似,全球由瀾起科技(688008.SH)、瑞薩電子和Rambus三家供應(yīng)商提供DDR5第一子代的量產(chǎn)產(chǎn)品。
其中,瀾起科技2022年?duì)款^制定DDR5第二子代、第三子代內(nèi)存接口芯片及第一子代高帶寬內(nèi)存接口芯片MDB等產(chǎn)品的國(guó)際標(biāo)準(zhǔn),并積極參與DDR5第一子代CKD和DDR5內(nèi)存模組配套芯片標(biāo)準(zhǔn)制定。
PCIe是一種高速串行計(jì)算機(jī)擴(kuò)展總線標(biāo)準(zhǔn),可實(shí)現(xiàn)高速串行點(diǎn)對(duì)點(diǎn)雙通道高帶寬傳輸。PCIe產(chǎn)業(yè)鏈主要以IP(DPU、GPU)接口、PCIe Retimer/Redriver、PCIe Switch形態(tài)存在,以及各種PCIe Bridge(比如NVME控制器)。
PCIe Switch芯片兼具連接和交換功能,可以提供擴(kuò)展能力,幫助CPU連接更多設(shè)備,實(shí)現(xiàn)PCIe設(shè)備互聯(lián)。華安證券表示,AI服務(wù)器內(nèi)日益增加的PCIe節(jié)點(diǎn)和復(fù)雜的網(wǎng)絡(luò)架構(gòu)需要更多PCIe Switch。市場(chǎng)調(diào)研機(jī)構(gòu)Transparency預(yù)測(cè),2027年P(guān)CIe Switch全球市場(chǎng)規(guī)模將達(dá)到92億美元,2019-2027年復(fù)合增長(zhǎng)率(CAGR)達(dá)15% 中金公司認(rèn)為,在AI大算力需求下,PCIe Switch是數(shù)據(jù)中心低功耗、高性能解決方案核心一環(huán)。
由于技術(shù)壁壘極高,PCIe Switch芯片市場(chǎng)主要由博通、微芯科技和祥碩科技供應(yīng),中國(guó)大陸在該領(lǐng)域還是空白。不過(guò),除了這些傳統(tǒng)芯片廠商,AI行業(yè)巨頭英偉達(dá),硅谷新興硬科技公司Astera Labs、Enfabrica以及中國(guó)大陸的國(guó)數(shù)集聯(lián)等也都將加入這一近百億美元的市場(chǎng)。據(jù)悉,Enfabrica創(chuàng)始團(tuán)隊(duì)主要來(lái)自博通、思科和谷歌,國(guó)數(shù)集聯(lián)創(chuàng)始團(tuán)隊(duì)來(lái)自阿里和思科。
下一代芯片互聯(lián)標(biāo)準(zhǔn)CXL或帶來(lái)新的可能性
由于AI和高性能計(jì)算需求激增,為了突破傳統(tǒng)PCIe帶寬限制造成的通信瓶頸,英偉達(dá)首創(chuàng)NVLink + NVSwitch技術(shù),為多GPU系統(tǒng)提供更加快速的系統(tǒng)內(nèi)互聯(lián)解決方案。
2016年,英偉達(dá)發(fā)布了搭載NVLink的第一款產(chǎn)品Pascal GP100 GPU。NVLink主要用于GPU與GPU之間以及GPU與CPU之間的信息傳輸。借助NVSwitch,NVLink連接可在節(jié)點(diǎn)間擴(kuò)展以創(chuàng)建多節(jié)點(diǎn)GPU集群。通過(guò)NVLink + NVSwitch + InfiniBand和GPU,英偉達(dá)在高端的互聯(lián)市場(chǎng)筑牢競(jìng)爭(zhēng)壁壘,并牢牢掌握AI產(chǎn)業(yè)的話語(yǔ)權(quán)。
隨著技術(shù)迭代升級(jí),CXL(Compute Express Link)的出現(xiàn)讓單一巨頭強(qiáng)大的生態(tài)控制出現(xiàn)了裂痕,芯片廠商、服務(wù)器廠商有機(jī)會(huì)借此進(jìn)入這一市場(chǎng),提供擴(kuò)展性更好、性價(jià)比更有優(yōu)勢(shì)、功耗更低的硬件產(chǎn)品。
CXL標(biāo)準(zhǔn)2019年初由英特爾公司牽頭,多家國(guó)際知名公司共同推出,旨在提供CPU和專(zhuān)用加速器、高性能存儲(chǔ)系統(tǒng)之間的高效、高速、低延時(shí)接口,以滿足資源共享、內(nèi)存池化和高效運(yùn)算調(diào)度的需求。
作為下一代芯片互聯(lián)的標(biāo)準(zhǔn),CXL主要解決服務(wù)器內(nèi)部芯片間高速互聯(lián)問(wèn)題。與二十年前PCIe總線標(biāo)準(zhǔn)發(fā)布創(chuàng)立模塊化和分工明確的服務(wù)器和個(gè)人電腦產(chǎn)業(yè)一樣,CXL標(biāo)準(zhǔn)的頒布將開(kāi)創(chuàng)連接為中心的異構(gòu)集群計(jì)算時(shí)代。
“傳統(tǒng)的PCIe相當(dāng)于高速公路,在上面走的是小轎車(chē)。隨著PCIe標(biāo)準(zhǔn)逐漸升級(jí)迭代,路的通道從兩車(chē)道到四車(chē)道到八車(chē)道。然而GPU算力越來(lái)越高,小車(chē)相當(dāng)于變成了大卡車(chē)。為了更快地運(yùn)輸,CXL相當(dāng)于在通道上鋪了國(guó)際標(biāo)準(zhǔn)的鐵軌,專(zhuān)門(mén)跑高鐵(GPU、內(nèi)存和其他高速芯片)。高鐵越來(lái)越多,就需要引入紅綠燈機(jī)制(Switch),防止相撞。如果紅綠燈算法擁有城市大腦能力,交換效率就會(huì)很高。”巍騖對(duì)第一財(cái)經(jīng)解釋稱(chēng)。
與英偉達(dá)采用NVLink專(zhuān)有接口解決方案不同,CXL是行業(yè)共同推出的標(biāo)準(zhǔn)。基于這一“國(guó)標(biāo)鐵軌”,博通、微芯科技躍躍欲試,希望復(fù)制“高速公路”時(shí)期的成功。Astera Labs、Enfabrica以及國(guó)數(shù)集聯(lián)也正利用CXL協(xié)議,基于傳統(tǒng)PCIe技術(shù)構(gòu)建下一代“紅綠燈”調(diào)度系統(tǒng)。此外,瀾起科技也是CXL聯(lián)盟的成員單位之一。
關(guān)鍵詞: