五個(gè)月前,,當(dāng) Cerebras Systems推出其第二代晶圓級(jí)芯片系統(tǒng) (CS-2) 時(shí),該公司聯(lián)合創(chuàng)始人兼首席執(zhí)行官 Andrew Feldman 暗示了公司即將推出的云計(jì)劃,,現(xiàn)在這些計(jì)劃已經(jīng)實(shí)現(xiàn),。
日前,Cerrebras 和 Cirrascale Cloud Services 推出了 Cerebras Cloud @ Cirrascale 平臺(tái),,通過 Cirrascale 的云服務(wù)提供對(duì) Cerebras 的 CS-2 晶圓級(jí)引擎 (WSE) 系統(tǒng)的訪問,。
CS-2 機(jī)器運(yùn)行了 850,000 個(gè) AI 優(yōu)化計(jì)算核心,重約 500 磅,,安裝在加利福尼亞州圣克拉拉的 Cirrascale 數(shù)據(jù)中心,,但該服務(wù)將在全球范圍內(nèi)提供,開放訪問CS-2 提供給任何有互聯(lián)網(wǎng)連接和每周 60,000 美元用于訓(xùn)練非常大的 AI 模型的人,。
“對(duì)于訓(xùn)練,,我們沒有發(fā)現(xiàn)延遲是一個(gè)問題,”Cirrascale 首席執(zhí)行官 PJ Go 在上周與人工智能硬件峰會(huì)同時(shí)舉行的媒體預(yù)發(fā)布會(huì)上說,。
Feldman 表示同意,并補(bǔ)充說:“如果你要進(jìn)行 20 小時(shí)或更長時(shí)間的訓(xùn)練,,從克利夫蘭到圣何塞的光速可能不是什么大問題,。”
Cirrascale 的 Cerebras Cloud 客戶將獲得對(duì) Cerebras 軟件和編譯器包的完全訪問權(quán)限,。
“編譯器工具集位于 Cirrascale 開發(fā)的云工具集之下,,”Feldman 說?!耙虼四鷮⑦M(jìn)入,,您將獲得對(duì)計(jì)算集群、存儲(chǔ),、CS-2 的訪問權(quán),;您將運(yùn)行您的編譯堆棧,您將完成您的工作,,您將被設(shè)置檢查點(diǎn)并存儲(chǔ)在 Cirrascale 基礎(chǔ)設(shè)施中,,它將被識(shí)別,,以便您可以稍后返回該工作。所有這些都已整合在一起,?!?/p>
該環(huán)境支持 TensorFlow 和 PyTorch 等熟悉的框架,Cerebras Graph Compiler 自動(dòng)將從業(yè)者的神經(jīng)網(wǎng)絡(luò)從其框架表示轉(zhuǎn)換為 CS-2 可執(zhí)行文件,。據(jù) Cerebras 稱,,這消除了對(duì)集群編排、同步和模型調(diào)整的需要,。
通過每周最低買入——定價(jià)設(shè)定為每周 60,000 美元,、每月 180,000 美元或每年 1,650,000 美元——Cirrascale 客戶可以訪問整個(gè) CS-2 系統(tǒng)?!肮蚕砟J讲贿m合我們,,”Feldman 說。該存在的理由的晶圓級(jí)制度是為了“作為機(jī)器的大,,你可以解決你的問題,,你可以盡快,”他告訴HPCwire,。
根據(jù) Feldman 的說法,,Cerebras 沒有透露其 CS 系統(tǒng)的標(biāo)價(jià),但直接購買 CS-2 系統(tǒng)將使您花費(fèi)“數(shù)百萬美元”,。
兩位 CEO 都認(rèn)為“先試后買”是 Cerebras Cloud 產(chǎn)品的動(dòng)機(jī)之一,,它將對(duì) CS-2 的功能印象深刻的租用者轉(zhuǎn)變?yōu)橐粋€(gè)或多個(gè)系統(tǒng)的購買者。但這些公司也希望有很大一部分用戶堅(jiān)持使用云模式,。
偏好 OPEX 是一個(gè)原因,,但這也是技能和經(jīng)驗(yàn)的問題。談到這一點(diǎn),,F(xiàn)eldman 說:“關(guān)于我們行業(yè)的一個(gè)鮮為人知的事實(shí)是,,實(shí)際上很少有人能夠真正構(gòu)建大型 GPU 集群,這種情況是多么罕見——需要的技能,,而不僅僅是金錢,。將大型模型傳播到 250 多個(gè) GPU 上的技能可能存在于世界上幾十個(gè)組織中?!?/p>
Cerebras Cloud 通過基于云的硬件和軟件基礎(chǔ)設(shè)施提供性能,,并通過 Cirrascale 門戶訪問計(jì)費(fèi)、存儲(chǔ)和其他服務(wù),,從而簡化此過程,。“對(duì)于我們來說,,將我們的業(yè)務(wù)范圍擴(kuò)展到不同類型的客戶是一個(gè)顯而易見的選擇,,”費(fèi)爾德曼說,。
Cerebras 的第一個(gè) CS 系統(tǒng)部署是在政府實(shí)驗(yàn)室空間(美國能源部是一個(gè)根本性的勝利,在 2019 年人工智能硬件峰會(huì)上宣布)和商業(yè)網(wǎng)站,,主要是制藥(葛蘭素史克是客戶)的內(nèi)部部署,。通過將 CS-2 作為托管服務(wù)進(jìn)行訪問,Cerebras 正在追求更廣泛的組織,,從初創(chuàng)公司到財(cái)富 500 強(qiáng)公司,。
“我們一直致力于建立這種伙伴關(guān)系,”Cerebras Systems 產(chǎn)品副總裁 Andy Hock 在宣傳視頻中說,?!拔覀冮_始專注于從頭開始訓(xùn)練大型自然語言處理模型,如 BERT,,我們將從那里擴(kuò)展我們的產(chǎn)品,。”
Cirrascale 創(chuàng)始人兼首席技術(shù)官 David Driggers 表示:“Cerebras CS-2 處理的工作負(fù)載是我們今天無法在 GPU 上完成的,?!盵這是]一個(gè)非常大規(guī)模的擴(kuò)展場景,我們有一個(gè)模型,,它不能并行化,,但它可以處理大量數(shù)據(jù)。因此,,當(dāng)今最大的 NLP 模型需要大量的數(shù)據(jù)輸入以及大量的計(jì)算,。由于需要 IO 通信,因此在 [傳統(tǒng)] 集群上很難做到這一點(diǎn),。
Cerebras CS-2 使我們能夠利用非常大的內(nèi)存空間,、大型內(nèi)置網(wǎng)絡(luò)和大量內(nèi)核,將 NLP 擴(kuò)展到我們以前無法做到的高度,?!?/p>
參加預(yù)簡報(bào)電話會(huì)議的分析師 Karl Freun對(duì)合作伙伴關(guān)系表示贊同?!盋erebras 最近似乎在全力以赴,客戶獲勝,,第二代 WSE,,最近他們大膽聲稱他們正在構(gòu)建一個(gè)比我們所見過的任何東西都大 1000 倍的大腦規(guī)模的 AI,“他告訴HPCwire .
”你擁有的是一種非常熱門的商品(他們的技術(shù)),,很多人都想嘗試它,,但誰又不想花大筆錢購買和部署 CS-2。輸入 Cirrascale 和他們的 CS-2 云產(chǎn)品,,這將使科學(xué)家能夠更容易地,、至少在某種程度上更實(shí)惠地獲得業(yè)內(nèi)最大,、最快的 AI 處理器。毫無疑問,,這將為 Cerebras 的未來創(chuàng)造新的機(jī)會(huì),,無論是在云中還是在本地?!?/p>
當(dāng)被問及今天的 AI 芯片不適合未來的 AI 模型的風(fēng)險(xiǎn)時(shí),,F(xiàn)reund 說,”如果有的話,,Cerebras 是一家公司,,其架構(gòu)正在向冰球前進(jìn)的方向滑行:巨大的 AI?!?/p>