英特爾(Intel Corp.)發表最新AI晶片「Gaudi 3」有關細節,直接槓上輝達(Nvidia Corp.)的H100繪圖處理器(GPU),並委託台積電(2330)以5奈米製程代工。
MarketWatch、Wccftech、Tom`s Hardware等外電報導,英特爾9日透過新聞稿指出,與H100相比,Gaudi 3支援AI模型執行推論的能源效率提升40%、平均效能高50%,「成本卻遠低」。英特爾使用的推論對比AI模型是具備70億及700億個參數的Llama模型,和具有1,800億個參數的Falcon-180B模型。
Gaudi 3採用的製程是台積電5奈米。相較之下,上一代Gaudi 2則是使用台積電7奈米。
Gaudi 3將在2024年第二季供應給戴爾(Dell Technologies)、慧與科技(Hewlett Packard Enterprise)、聯想集團(Lenovo)與美超微電腦(Supermicro)等OEM。Gaudi的氣冷式伺服器模型已經送樣,水冷式模型則會在Q2跟進提出樣本。這些將在2024年Q3、Q4大量生產。
另外,Intel Gaudi加速器的最新客戶及合作夥伴包括Bharti Airtel、Bosch、CtrlS、IBM、IFF、Landing AI、Ola、NAVER、NielsenIQ、Roboflow及Seekr。
英特爾9日聞訊上漲0.92%、收38.33美元;年初迄今重挫23.72%。台積電ADR同步上揚1.83%、收145.40美元,創3月8日以來收盤新高;年初迄今大漲39.81%。
英特爾執行長Pat Gelsinger曾在2023年12月14日發布最新AI晶片「Gaudi 3」當日,直言輝達平行運算平台及編程模型「CUDA」無法永遠獨霸AI訓練市場。
他當時說,對AI而言,推論技術比訓練還重要。「整個產業開始全面動員,希望消滅CUDA市場。」「我們認為CUDA護城河既淺又小(shallow and small),因為整個產業已經動員起來,準備開發廣泛的訓練、創新及資料科學等各項科技。」