人工智慧( AI )晶片大廠輝達( NVIDIA )新一代架構 Vera Rubin 進入全面量產,輝達 AI 與資料中心 GPU 產品行銷總監納拉辛漢今天受訪表示,市場對 AI 算力的需求,已遠遠超過目前能提供的運算總量,輝達需要台灣生態系協助將產能擴增到量產階段,以供應全球的 AI 工廠。
納拉辛漢( Shar Narasimhan )今天在 GTC Taipei 大會展示區接受台灣媒體採訪指出,台灣生態系從一開始就與輝達並肩同行,是非常棒的夥伴,並促成了許多不可思議的技術,讓輝達能夠擴展現場看到的新系統。
他強調,台灣供應鏈具備「非常努力工作「( Hard-working )」與「技術極度先進」( Very advanced technology )2大核心優勢,是不可或缺的夥伴。輝達也大幅簡化 Vera Rubin 平台的設計,過去在 Blackwell 架構上需要花費 2 小時的製造步驟, Vera Rubin 平台能以 20 倍的速度完成,大幅提升生產吞吐量。
納拉辛漢直言, AI 技術演進正引發硬體架構的變革,為因應代理式 AI ( Agentic AI )的工作負載需求,每次進行推論時都必須去驗證答案。輝達為此在新平台配備搭載 88 個核心的獨立中央處理器( CPU ),專門用來處理工具調用與答案驗證,並將回饋即時傳送到繪圖處理器( GPU ),形成更高效的算力協同體系。
針對輝達執行長黃仁勳經典名言從 3 年前的「買越多、省越多」,轉變為如今的「買越多、賺越多」,納拉辛漢也給出自己的解讀。
他分析,這兩句話背後代表的是營收、獲利與降低成本的綜合效益。對當前的 AI 工廠而言,一方面需要 Vera Rubin 平台來實現最低的 Token (詞元,指 AI 模型的最小運算單位)成本,另一方面則需要最高的 Token 吞吐量。
「在目前市場上,任何手上有 Token 可以販售的人,都處於供不應求的狀態」,納拉辛漢說,全球對 AI 算力的需求,已遠遠超過目前能提供的運算總量,這也是為何輝達需要台灣生態系協助將產能擴增到量產階段,以供應全球 AI 工廠。
(新聞資料來源 : 中央社)
評論被關閉。