作者 | 周愚

編輯 | 鄧詠儀

“我們已經迎來了生成式AI的引爆點。從此，全世界的每個角落，都會有算力需求。”

(資料圖片)

北京時間5月29日，臺北國際計算機展（COMPUTEX 2023）大會上，英偉達創始人兼首席執行官黃仁勛發表了主題演講，并甩出了多項重磅發布：超級芯片GH200 Grace Hopper已全面投產，發布新型AI超級計算機DGX GH200，以及開發游戲、廣告等領域內的生成式AI應用。

黃仁勛并不掩飾如今英偉達的雄心壯志：從一家單純的芯片公司轉向人工智能計算領域的領導者。

“CPU擴張的時代已經結束。”他在會上宣稱。他認為，加速計算和人工智能正在重塑計算機，隨著AI應用對計算能力的需求不斷擴大，GPU才是未來的主角。

英偉達的最新GPU GH200 Grace Hopper超級芯片已經全面投產，未來將為運行復雜的AI和高性能計算工作負載提供動力。據英偉達官網，該芯片可以提供高達900GB/s的總帶寬——比傳統加速系統標準PCIe Gen5通道帶寬高出7倍。

來源：英偉達

新發布的AI超算系統DGX GH200被業界評價為“算力殺器”——搭載256個Grace Hopper超級芯片，新的互聯方式讓機器像一個巨型GPU運行，提供1EFLOPS的性能和144TB的共享內存，這比上一代DGX A100的內存多出近500倍。

谷歌云、Meta及微軟等公司將有望成為首批獲得DGX GH200訪問權限的公司，未來也將向更多客戶開放。與此同時，英偉達也計劃打造基于4組GH200、576TB HBM內存的AI超算系統NVIDIA Helios，預計將于今年年底上線。

以訓練一個LLM大語言模型為例，黃仁勛表示，所需的960個CPU組成的服務器集群將耗費約1000萬美元和11千兆瓦時的電力。而所需的GPU服務器則僅需耗費約40萬美元和0.13千兆瓦時的電力——成本和電力消耗分別是CPU的4%和1.2%。

標簽：