1月12日消息,，基于生成式AI的搜索引擎技術(shù)初創(chuàng)公司ExaAILabs首席執(zhí)行官 Will Bryk于當(dāng)?shù)貢r(shí)間周五宣布,，該公司已經(jīng)部署了 Exacluster，這是業(yè)界首批基于英偉達(dá)（Nvidia）H200 GPU 的集群之一。該集群將用于構(gòu)建一個(gè)AI搜索引擎,，號(hào)稱可以比谷歌（Google）搜索更好地理解用戶需求,，并返回更好的搜索結(jié)果,。

據(jù)介紹，Exacluster采用了 18 個(gè)基于 NVIDIA H200 的 8卡服務(wù)器（exa 表示 Quintillion,，或 10^18）,，即擁有 144 個(gè) H200 GPU,，具有 20TB HBM3E 內(nèi)存（每個(gè) GPU 141GB HBM3E），可提供 569958 TOPS（約 570 PetaTOPS）的組合計(jì)算性能,。同時(shí),，該集群還集成了192 個(gè) 96 核CPU（共計(jì) 3456 個(gè)CPU內(nèi)核），并配備了 36TB 的 DDR5 內(nèi)存和 270TB 的 NVMe 固態(tài)存儲(chǔ),。該集群將被將用于訓(xùn)練 ExaAI 的神經(jīng)網(wǎng)絡(luò)，總體的功耗為 100kW,。

該集群依然采用的是標(biāo)準(zhǔn)空氣冷卻方案,，因此為了解決散熱問(wèn)題,，該集群當(dāng)中的每個(gè)機(jī)架只安裝兩臺(tái)這樣的機(jī)器，以確保所有服務(wù)器都能得到足夠的冷卻,。

據(jù)Will Bryk介紹,，Exacluster的成本約為500萬(wàn)美元,，這也意味著其每臺(tái)服務(wù)器價(jià)格約為27.78萬(wàn)美元。值得一提的是,，英偉達(dá)也是ExaAILabs公司的主要投資者之一,，此外Lightspeed 和 YCombinator也是其投資者。