AMD首席執(zhí)行官蘇姿豐出席imec ITF World 2024大會(huì)并榮獲創(chuàng)新獎(jiǎng)，此項(xiàng)榮譽(yù)旨在肯定其卓越創(chuàng)新及引領(lǐng)行業(yè)發(fā)展之貢獻(xiàn)。先前同樣獲得該獎(jiǎng)項(xiàng)的還有戈登·摩爾和比爾·蓋茨。

會(huì)議期間，蘇姿豐談?wù)摿薃MD如何通過實(shí)施30x25戰(zhàn)略推動(dòng)2025年計(jì)算節(jié)點(diǎn)能效提升30倍的目標(biāo)。她進(jìn)一步透露，AMD已找到2026年至2027年間將能效提升100倍以上的解決方案。

隨著生成式AI LLM如ChatGPT的崛起，AI功耗問題日益凸顯。AMD早在2021年便洞察到AI龐大功耗需求所引發(fā)的挑戰(zhàn)，并以此為契機(jī)啟動(dòng)30x25戰(zhàn)略，致力于提升數(shù)據(jù)中心計(jì)算節(jié)點(diǎn)能效，尤其針對(duì)AI和HPC的高能耗問題。

隨著訓(xùn)練模型所需算力不斷攀升，AI功耗問題愈發(fā)嚴(yán)峻。蘇姿豐指出，早期圖像和語音識(shí)別AI模型體積每?jī)赡攴?，與過去十年計(jì)算能力提升速度相當(dāng)。然而，生成式AI模型規(guī)?，F(xiàn)今正以每年20倍的速度擴(kuò)張，遠(yuǎn)超計(jì)算和存儲(chǔ)進(jìn)步速度。盡管當(dāng)前最大模型需借助數(shù)萬個(gè)GPU進(jìn)行訓(xùn)練，耗費(fèi)數(shù)萬兆瓦時(shí)電力，但未來模型規(guī)模迅速擴(kuò)大后，或需動(dòng)用數(shù)十萬個(gè)GPU，甚至數(shù)吉瓦時(shí)電力進(jìn)行訓(xùn)練。

為了提升能效，AMD采取了全方位策略，涵蓋硅架構(gòu)升級(jí)、先進(jìn)封裝策略、AI專用架構(gòu)設(shè)計(jì)、系統(tǒng)及數(shù)據(jù)中心級(jí)調(diào)整，以及軟硬件協(xié)同設(shè)計(jì)等多個(gè)層面。

硅材料無疑是基礎(chǔ)。蘇姿豐強(qiáng)調(diào)，AMD正在推進(jìn)3nm GAA晶體管研發(fā)，旨在提升功率效率和性能，同時(shí)持續(xù)關(guān)注先進(jìn)封裝和互聯(lián)技術(shù)，以實(shí)現(xiàn)更高效、經(jīng)濟(jì)的模塊化設(shè)計(jì)。先進(jìn)封裝在突破單芯片封裝性能瓶頸方面具有重要意義，AMD采用2.5D和3D封裝混合技術(shù)，最大化每平方毫米數(shù)據(jù)中心硅片的計(jì)算能力。

在服務(wù)器節(jié)點(diǎn)與服務(wù)器機(jī)架間傳輸數(shù)據(jù)因距離過長(zhǎng)導(dǎo)致額外電力消耗，優(yōu)化數(shù)據(jù)局部性可大幅節(jié)約能源。AMD MI300X展示了大規(guī)模芯片封裝所帶來的效率優(yōu)勢(shì)——該芯片包含1530億個(gè)晶體管，分布在12個(gè)芯片上，配備24個(gè)HBM3芯片，提供192GB存儲(chǔ)容量，均可作為本地內(nèi)存供GPU使用。此外，封裝內(nèi)單元間經(jīng)功率和性能優(yōu)化的Infinity Fabric互連，使得極高的計(jì)算和存儲(chǔ)密度能夠?qū)⒏鄶?shù)據(jù)保存在接近處理核心的位置，從而降低數(shù)據(jù)傳輸所需能量。