《電子技術(shù)應(yīng)用》
您所在的位置:首頁(yè) > EDA與制造 > 業(yè)界動(dòng)態(tài) > 擁有2.6萬(wàn)億晶體管的芯片

擁有2.6萬(wàn)億晶體管的芯片

2021-10-27
來源:微波射頻網(wǎng)
關(guān)鍵詞: 晶體管 芯片

  幾乎就在Cerebras系統(tǒng)公司宣布采用最大的單個(gè)計(jì)算機(jī)芯片建造計(jì)算機(jī)的同時(shí),,這家硅谷創(chuàng)業(yè)公司也表達(dá)出了打造更強(qiáng)大處理器的意愿。2021年4月,,該公司發(fā)布了新一代芯片Wafer Scale Engine 2(WSE-2),,這款芯片將于今年第三季度上市。WSE-2的物理尺寸與其前一代芯片相同,,但含有的各種組件數(shù)量都大幅增加,。其目標(biāo)是在機(jī)器學(xué)習(xí)使用的神經(jīng)網(wǎng)絡(luò)不斷增大的情況下保持領(lǐng)先。

  該公司的工程和業(yè)務(wù)拓展副總裁迪拉杰,?馬利克(Dhiraj Mallick)在一次聲明中說:“在人工智能計(jì)算中,,大芯片為王,它們處理信息的速度更快,可在更短的時(shí)間內(nèi)得出答案,,時(shí)間是人工智能進(jìn)步的敵人,。”

  Cerebras一直在致力于將解決機(jī)器學(xué)習(xí)問題的邏輯方案發(fā)揮到極致,。訓(xùn)練神經(jīng)網(wǎng)絡(luò)耗時(shí)太長(zhǎng),,2016年安德魯?費(fèi)爾德曼(Andrew Feldman)創(chuàng)辦該公司時(shí),,大型神經(jīng)網(wǎng)絡(luò)的訓(xùn)練需要耗時(shí)數(shù)周,。其中最大的瓶頸是數(shù)據(jù)必須在處理器和外部動(dòng)態(tài)隨機(jī)存取存儲(chǔ)器(DRAM)內(nèi)存之間來回穿梭,這既耗時(shí)又消耗能量,。最初Wafer Scale Engine的發(fā)明者認(rèn)為,,解決這一問題的方法是制造足夠大的芯片,就在人工智能處理器核心旁容納全部所需的數(shù)據(jù),。對(duì)于自然語(yǔ)言處理,、圖像識(shí)別和即將出現(xiàn)其他任務(wù)的巨大網(wǎng)絡(luò),我們需要一個(gè)非常大的芯片,。要多大呢,?越大越好,和一整塊硅晶圓(切掉一點(diǎn)圓邊)的尺寸差不多,,即46225平方毫米,。

  晶圓尺寸是WSE-2與WSE相同的少數(shù)幾個(gè)數(shù)據(jù)之一,詳情見下頁(yè)表格,。為了進(jìn)行對(duì)比,,表中也包含了英偉達(dá)的人工智能榜首芯片A100的數(shù)據(jù)。

  2019年Cerebras發(fā)布WSE時(shí),,該芯片的制造商臺(tái)灣積體電路制造股份有限公司(以下簡(jiǎn)稱臺(tái)積電,,TSMC)使用的是16納米制造工藝,當(dāng)時(shí)這種技術(shù)已經(jīng)有5年的歷史,。如今,,臺(tái)積電制造WSE-2使用的是7納米工藝,據(jù)臺(tái)積電的相關(guān)技術(shù)說明,,這種工藝轉(zhuǎn)變能使速度提升約40%,,功率下降60%。

  費(fèi)爾德曼說:“改變節(jié)點(diǎn)時(shí),,總會(huì)出現(xiàn)物理設(shè)計(jì)的挑戰(zhàn),。所有這一切都與幾何相關(guān)。這非常難,,但我們有臺(tái)積電這個(gè)出色的合作伙伴,?!?/p>

  采用7納米工藝本身就是一項(xiàng)重大進(jìn)步,不過費(fèi)爾德曼還表示,,該公司還在增強(qiáng)了人工智能核心的微體系結(jié)構(gòu),。雖然他沒有談到細(xì)節(jié),但他表示,,經(jīng)過與客戶一年多的合作后,,Cerebras取得了一些經(jīng)驗(yàn),并將這些經(jīng)驗(yàn)應(yīng)用到新的核心,。

  Cerebras公司表示,,其客戶在打造新的人工智能芯片方面發(fā)揮了重要的作用,。目前,,該公司公開的客戶包括美國(guó)國(guó)家實(shí)驗(yàn)室、制藥公司葛蘭素史克和匹茲堡超級(jí)計(jì)算中心,。

  用WSE-2做主機(jī)的計(jì)算機(jī)系統(tǒng)名為CS-2,,該系統(tǒng)使用了幾十萬(wàn)個(gè)核心來訓(xùn)練神經(jīng)網(wǎng)絡(luò)。軟件允許用戶使用PyTorch和TensorFlow等標(biāo)準(zhǔn)框架來編寫自己的機(jī)器學(xué)習(xí)模型,。然后,,其編譯器會(huì)物理連鄰的WSE-2分成不同尺寸的分區(qū),指派到神經(jīng)網(wǎng)絡(luò)的不同層,。實(shí)現(xiàn)這一過程的方式是解決“布局與路由”的優(yōu)化問題,,確保每一層工作都能大致同步完成,信息在網(wǎng)絡(luò)內(nèi)流動(dòng)不會(huì)出現(xiàn)失速,。

  與前一代系統(tǒng)一樣,,CS-2的體積也是標(biāo)準(zhǔn)機(jī)柜的1/3,功率約為20千瓦,,依靠一個(gè)閉環(huán)液體冷卻系統(tǒng),,還配備了一些大型冷卻風(fēng)扇。在開發(fā)WSE的主機(jī)系統(tǒng)時(shí),,熱量一直是最大的問題,。該芯片需要將約2萬(wàn)安培的電流從100萬(wàn)個(gè)銅接點(diǎn)輸送到晶圓上的玻璃纖維電路板中。當(dāng)熱量使晶圓和電路板膨脹時(shí),,要保持所有組件排列對(duì)齊,,這需要發(fā)明新材料。開發(fā)耗費(fèi)了一年多的時(shí)間,。雖然CS-2需要新的設(shè)計(jì),,但費(fèi)爾德曼表示,這不需要大規(guī)模的新研發(fā),。

  微信圖片_20211027100224.jpg

  期待今年晚些時(shí)候能夠在客戶網(wǎng)絡(luò)上看到WSE-2的性能數(shù)據(jù),。




電子技術(shù)圖片.png

本站內(nèi)容除特別聲明的原創(chuàng)文章之外,,轉(zhuǎn)載內(nèi)容只為傳遞更多信息,并不代表本網(wǎng)站贊同其觀點(diǎn),。轉(zhuǎn)載的所有的文章,、圖片、音/視頻文件等資料的版權(quán)歸版權(quán)所有權(quán)人所有,。本站采用的非本站原創(chuàng)文章及圖片等內(nèi)容無(wú)法一一聯(lián)系確認(rèn)版權(quán)者,。如涉及作品內(nèi)容、版權(quán)和其它問題,,請(qǐng)及時(shí)通過電子郵件或電話通知我們,,以便迅速采取適當(dāng)措施,避免給雙方造成不必要的經(jīng)濟(jì)損失,。聯(lián)系電話:010-82306118,;郵箱:[email protected]