成人在线一区二区三区-成人在线中文字幕-成人中文字幕一区二区三区-成人中文字幕在线-成人中文字幕在线观看

新聞動態(tài)

AI服務(wù)器的核心之GPU加速卡

2024.10.17

AI服務(wù)器 VS 通用服務(wù)器


通用服務(wù)器


通常配備2個CPU,具備更加綜合的計算能力、存儲能力和網(wǎng)絡(luò)能力,以滿足各種數(shù)據(jù)的處理和計算需求,往往用于傳統(tǒng)的計算任務(wù)和網(wǎng)絡(luò)應(yīng)用。 


無標(biāo)題22.png

圖源:華為官網(wǎng)



AI服務(wù)器



通常采用異構(gòu)形式,除了2個CPU之外還需配備4-8張加速卡,例如CPU+GPU、CPU+TPU、CPU+其他的加速卡等,AI服務(wù)器具備大量的并行計算能力,因此需要采用更高性能的處理器、大量的內(nèi)存和存儲資源以及適用于AI計算的加速卡。


在應(yīng)用場景方面,AI服務(wù)器主要針對大數(shù)據(jù)、科學(xué)計算、人工智能等計算密度較高、數(shù)據(jù)處理龐大的場景。 


無標(biāo)題333.png

圖源:華為官網(wǎng)


GPU加速卡是AI服務(wù)器的關(guān)鍵


GPU加速卡(OAM),主要由GPU芯片、內(nèi)存芯片、電源模塊、散熱器等部件組成,通過PCB來連接和傳輸信號。


GPU加速卡可以分為兩種類型:SXM版本和PCIE版本。SXM版本是指使用NVIDIA公司開發(fā)的SXM接口連接GPU芯片和主板的加速卡;PCIE版本是指使用標(biāo)準(zhǔn)的PCIE接口連接GPU芯片和主板的加速卡。


0da2ddb428f26.png

SXM版本 VS PCIE版本


SXM版本相比PCIE版本具有更高的帶寬和更低的延遲,但也需要更高級別的PCB和散熱系統(tǒng)。


GPU加速卡是目前PCB行業(yè)中高端且昂貴的產(chǎn)品之一,對制造工藝要求非常高,一般會用到5-7階HDI,層數(shù)在20-26層。


GPU加速卡對PCB的要求主要有以下幾點:


BGA芯片高密度布局

GPU和內(nèi)存BGA芯片有很多引腳很多,需要多層和多階HDI工藝來實現(xiàn)互聯(lián)。


高速信號傳輸

由于GPU加速卡上有很多組高速信號,為了保證信號的低損耗傳輸需要選擇具有較低的介電常數(shù)(Dk)、介電損耗(Df)、表面粗糙度(Rz)等參數(shù)的高速板材進行加工。


可靠性

由于GPU加速卡需要長期穩(wěn)定運行,因此在選用板材的時候需要板材具有較高的導(dǎo)熱系數(shù)(K)和較低的熱膨脹系數(shù)(CTE)保證PCB的熱穩(wěn)定性。


同時需要板材具有較高的玻璃化轉(zhuǎn)變溫度(Tg)、較低的水分吸收率(MOT)、較強的機械強度和耐化學(xué)腐蝕性。


666666.png

7階HDI 26層 GPU加速卡(局部圖)

明陽電路生產(chǎn)


GPU模組板是GPU可擴展的關(guān)鍵


GPU模組板(UBB),即Unit Base Board,用于搭載多個GPU整合為矩陣平臺,為GPU之間和GPU與CPU之間,提供高速的數(shù)據(jù)交換能力。


GPU-Board-Components.png

GPU模組板(UBB) 與 GPU加速卡(OAM)

The NVIDIA DGX A100 GPU Board


GPU加速卡,是一種基于開放標(biāo)準(zhǔn)(Open Accelerator Module)設(shè)計的GPU模塊,可以插入到GPU模組板上。


GPU模組板(UBB) 對PCB的要求主要有以下幾點:


層數(shù)

由于GPU模組板需要通過交換芯片連接多個GPU加速卡,并且需要多個電壓的電源分配網(wǎng)絡(luò)(PDN),因此層數(shù)一般在16層以上。


孔結(jié)構(gòu)

由于GPU模組板的面積比較大,因此可以直接使用通孔來實現(xiàn)不同層之間的互聯(lián),針對高速信號的過孔可以使用背鉆工藝來減少stub帶來的信號反射。


高速信號傳輸

GPU模組板上的交換芯片和GPU模組之間有大量的高速信號線,為了保證信號的低損耗傳輸板材需要選擇PPO等高性能樹脂材料。


熱穩(wěn)定性

GPU模組板有大量的電源分配網(wǎng)絡(luò)(PDN),同時還要受到多個GPU模組和CPU母版的熱傳導(dǎo),需要選擇有較高的導(dǎo)熱系數(shù)(K) 和較低的熱膨脹系數(shù)(CTE)的板材。


AI服務(wù)器的CPU母板


CPU母板組件包括CPU、CPU主板、內(nèi)存條、PCIe交換機、網(wǎng)卡、擴展卡和存儲板。以DGX A100 CPU母板為例:

DGX-A100-CPU-motherboard.png

DGX A100 CPU母板

圖源:fibermall


CPU主板

負(fù)責(zé)安裝CPU芯片、PCIE Switch芯片、TPM模塊以及各種功能卡,CPU主板支持AMD Rome 64核 CPU和PCIE 4.0總線,PCB層數(shù)一般為12-16層,采用通孔設(shè)計,使用低損耗板材。


CPU內(nèi)存條

32個內(nèi)存條,最大支持2TB RAM。


網(wǎng)卡

Mellanox ConnectX系列有10種型號(8個單端口200Gb/s IB和2個雙端口200Gb/s以太網(wǎng))。


Riser卡

用于擴展PCIe接口。


硬盤板

裝有兩個 1.92TB M.2 NVMe 硬盤。


文章參考來源:

Breaking down the Five Key Components of an AI Server-fibermall

AI服務(wù)器/EGS平臺升級拉動高速PCB需求,高速PCB產(chǎn)業(yè)鏈解析-安信證券

聲明:文章內(nèi)容整理自網(wǎng)絡(luò)公開素材,版權(quán)歸原作者平臺所有,僅用于信息分享,如有侵權(quán)請聯(lián)系刪除。



上一條: 電動船舶產(chǎn)業(yè)化機遇:三電系統(tǒng)與補能設(shè)施

下一條: 如何設(shè)計5G毫米波基站?

返回列表
分公司:德國明陽  |  德國明陽(工廠)  |  美國明陽
版權(quán)?2025 明陽電路科技股份有限公司保留所有權(quán)利. 粵ICP備05084072號     技術(shù)支持沙漠風(fēng)
主站蜘蛛池模板: 亚洲香蕉在线观看| 亚洲精品国产一区二区| 99久久亚洲综合精品网站| 在线不欧美| 永久免费观看视频| 国产黄色在线免费观看| 69视频最新在线观看| 精品久久国产视频| 91亚洲在线| 中文字幕1页| 欧美大尺度交性视频| 黄色在线观看视频网站| 国产精品亚洲w码日韩中文| 热伊人99re久久精品最新地| 一级做a毛片免费视频| 成人黄 在线播放| 国产福利91| 黄色毛片在线播放| 大美女久久久久久j久久| 青青草这里只有精品| 一级毛片免费观看视频| 在线 你懂| 免费在线a| 国产视频你懂得| 不卡视频免费在线观看| 国产无套视频在线观看香蕉| 亚洲国产成人久久精品图片| 三级国产在线观看| 午夜黄色| 免费一级黄| 国产成人亚洲精品一区二区在线看| 黄色网页在线| 精品一区二区久久久久久久网站 | 亚洲国产精品综合欧美| 91视频免费播放| www.色婷婷| 日韩一区精品视频在线看| 成人精品国产亚洲| 国产www| 香蕉免费| 精品视频 九九九|