AMD 近日開始量產(chǎn)其最新一代人工智能和高性能計(jì)算(HPC)加速器 Instinct MI300X,并率先交付合作伙伴 LaminiAI 使用,。LaminiAI 將采用 MI300X 加速器運(yùn)行大型語言模型(LLM),,以滿足企業(yè)用戶的需求。
LaminiAI 與 AMD 已有多年合作,,因此優(yōu)先獲得 MI300X 的供貨并不意外,。該公司 CEO Sharon Zhou 在社交媒體上宣布了這一消息,LaminiAI 已經(jīng)收到了多臺配備 8 個(gè) Instinct MI300X 加速器的機(jī)器,,Sharon Zhou 表示:“首批 AMD MI300X 已經(jīng)投入生產(chǎn),,LaminiAI 的下一批 LLM 集群即將上線?!?/p>
據(jù)了解,,MI300X 是 AMD Instinct MI300 系列的高性能版本,主打 AI 和 HPC 計(jì)算,,其放棄了 x86 CPU 內(nèi)核,,而是搭載更多的 CDNA 3 計(jì)算單元,總數(shù)達(dá)到 304 個(gè),,遠(yuǎn)高于 MI300A 的 228 個(gè),。此外,,MI300X 還配備了 192GB HBM3 高速內(nèi)存,峰值帶寬高達(dá) 5.3 TB / s,。
根據(jù) AMD 官方性能測試,,MI300X 的表現(xiàn)優(yōu)于市面上已有的 Nvidia H100 80GB,甚至有可能對即將上市的 H200 141GB 構(gòu)成威脅,。目前,,Meta 和微軟等巨頭客戶已采購了大量 AMD Instinct MI300 系列產(chǎn)品,LaminiAI 則是首家公開使用 MI300X 的公司,。