AMD執行長蘇姿丰獲IMEC創新大獎,引領計算能效新里程

Featured Image
AMD 董事長兼執行長蘇姿丰在 IMEC (比利時微電子研究中心)舉辦的 ITF World 2024 大會上領取了 IMEC 創新大獎,以表彰其在行業創新和領導方面所做出的貢獻。這項榮譽曾經頒發給英特爾創辦人的Gordon Moore、微軟創辦人比爾·蓋茨 Bill Gates和台積電創辦人張忠謀等人。蘇姿丰在領獎演講中提到,AMD 正在全力衝刺30×25的目標,即到2025年將計算能效提升到2014年的30倍,而到了2026~2027年,AMD 計畫進一步將計算能效提升到2014年的100倍。這一速度將遠超業界平均水準。

隨著處理器和顯示卡等處理器的能耗不斷增加,AMD早在2014年就設定了名為25×20的目標,即到2020年將產品能效提升25倍。最終,AMD超額完成了這個目標,達到了31.7倍的提升。隨後,AMD又提出了30×25的新目標,並預計在2025年實現。蘇姿丰指出,目前提升運算產品能效的最大障礙是AI大模型訓練和微調所需的龐大算力。這通常需要大量的GPU和電力,而且目前仍在快速增長。

為了實現這一目標,AMD採取了多種措施,包括從產品架構、製程技術、封裝技術和互連技術等方面提升能效。例如,採用了3奈米GAA全環繞柵極製程技術和2.5D/3D先進封裝技術等。蘇姿丰強調,AMD最強的AI晶片Instinct MI300X是高能效的典型代表。該晶片擁有1,530億個電晶體,分為12顆小晶片,還整合了24顆共192GB HBM3 記憶體。此外,核心執行序數量從單核心/單執行序增加到96核心/192執行序,頻率從20MHz提高到3.5GHz,暫存記憶體容量從16MB增加到486MB,內核心面積從49 mm²增加到1240mm²。所有這些技術都可以應用於GPU,通過與封裝內單元之間的功率和性能優化,加上無限結構互連相結合,使運算和記憶體密度能更接近處理核心,從而減少傳輸數據所需的能量。

蘇姿丰進一步強調,雖然硬體優化很重要,但AMD在軟硬體協同優化方面的工作也取得了令人矚目的成果。使用較低精度的數位格式可以提高能源效率和能耗,使得特定硬體加速的設計對於持續擴展變得非常重要。尤其是轉向FP4等較低精度格式,與FP32相比每焦耳的能耗大幅增加,FP8的能耗提高了15倍,FP4的能耗提高了約30倍。然而,由於較低的精度會導致較低的準確度,因此蘇姿丰強調先進的量化技術對於解決這個問題非常重要。實際上,即使MXFP6也能產生與FP32相似的精度,只有少數不同模型的MXFP4上出現了下降,而其他模型仍然同樣準確。目前,提高低精度格式準確性的工作仍在進行中,因此AMD甚至可以預見MXFP4在未來的更多模型中變得與FP32一樣準確。

最後,蘇姿丰指出,AMD在每個節點的電源效率方面已經超過了業界的進步速度,並且該公司還在努力實現30倍的電源效率提高。預計這種趨勢將持續下去,並通過這種創新,預計AMD可以在2026年和2027年實現超過100倍的目標。

以上是 AMD 董事長兼執行長蘇姿丰在 IMEC (比利時微電子研究中心)舉辦的 ITF World 2024 大會上領取 IMEC 創新大獎的相關內容。AMD正致力於提升計算能效,並通過多種措施實現這一目標,包括從產品架構、製程技術、封裝技術和互連技術等方面提升能效。此外,AMD還在軟硬體協同優化方面取得了令人矚目的成果,並且在低精度格式和量化技術方面取得了重要突破。這些努力使得AMD在每個節點的電源效率方面超越了業界的進步速度。預計AMD將繼續努力實現更高的電源效率,並在未來幾年超過100倍的目標。

Share this content: