一名 Facebook 高管在最近的一次活動(dòng)中證實(shí),，這家社交網(wǎng)絡(luò)巨頭正在招募芯片工程師,，并已在設(shè)計(jì)至少一種 ASIC。在本周的 Facebook @Scale 2018 大會(huì)上,，F(xiàn)acebook 宣布五家芯片公司將支持 Glow（這是一個(gè)開(kāi)源的深度學(xué)習(xí)編譯器）,，其中包括英特爾、Marvell、高通,、Esperanto 和 Cadence,。
「Facebook 確實(shí)正在組建芯片團(tuán)隊(duì)，不僅與芯片供應(yīng)商合作,，我們也在構(gòu)建自己的芯片,。當(dāng)然，這不是我們的首要目標(biāo),，」Facebook 基礎(chǔ)設(shè)施副總裁 Jason Taylor 表示,。這位高管稱 Facebook 的目標(biāo)并不等同于谷歌的深度學(xué)習(xí)加速器 TPU，但他拒絕透露發(fā)布時(shí)間節(jié)點(diǎn)等更多具體細(xì)節(jié),。
與多達(dá) 50 家 AI 加速器設(shè)計(jì)公司進(jìn)行合作是 Facebook 新設(shè)芯片部門(mén)的工作重點(diǎn),。「目前市面上已有很多種加速芯片,，」Taylor 表示,，「最大的問(wèn)題是，它們針對(duì)的工作負(fù)載是否是當(dāng)前最重要的,?！?/p>
在 Keynote 中，Taylor 將 Glow 描述為一種通用編譯器,，可讓開(kāi)發(fā)人員針對(duì)所有新興的深度學(xué)習(xí)加速器進(jìn)行推理——在云端或者邊緣網(wǎng)絡(luò),。它不面向手機(jī)等客戶端系統(tǒng)。
「我們預(yù)計(jì)深度學(xué)習(xí)加速器硬件也會(huì)出現(xiàn)碎片化的情況,，我們?cè)?Glow 上的工作是為了幫助機(jī)器學(xué)習(xí)專(zhuān)家設(shè)計(jì)神經(jīng)網(wǎng)絡(luò),，并讓他們從對(duì)每種特定芯片的適配工作中解脫出來(lái)?！筎aylor 表示,。「我們知道碎片化即將到來(lái),，現(xiàn)在沒(méi)有人知道哪種硬件資源的組合（如片上存儲(chǔ)模塊和乘法累加陣列）會(huì)最終取勝,。所以我們讓開(kāi)發(fā)者聚焦于更高層級(jí)的計(jì)算圖中，而無(wú)需動(dòng)手動(dòng)編碼針對(duì)硬件的細(xì)節(jié),?！?/p>
Jason Taylor 將 Glow 描述為在云端和邊緣網(wǎng)絡(luò)上進(jìn)行推斷的編譯器。（圖源：Facebook）
Glow 采用 TensorFlow 或 Caffe2 等框架生成的 AI 圖像,，然后將它渲染成用于硬件加速器的字節(jié)代碼,，Taylor 解釋道。該編譯器包括多個(gè)工具,，如用來(lái)生成用于芯片特定內(nèi)存配置的指令排程器,、線性代數(shù)優(yōu)化器、內(nèi)存分配器，以及用來(lái)測(cè)試硬件準(zhǔn)確率的基于 CPU 的推斷實(shí)現(xiàn),。
益華（Cadence）,、Esperanto Technologies、英特爾,、Marvell 和高通稱它們未來(lái)的芯片將支持 Glow,。Taylor 期待將其他芯片廠商也添加到支持 Glow 的廠商名單上?！高@是開(kāi)源 Glow 的好處之一,。」
一名高級(jí)芯片專(zhuān)家將 Glow 描述為在生產(chǎn)系統(tǒng)中部署神經(jīng)網(wǎng)絡(luò)的框架,。其輸入是 TensorFlow 或 Caffe2 等框架創(chuàng)建的圖,。
一些著名的芯片廠商已經(jīng)開(kāi)始支持類(lèi)似的軟件。例如,，英偉達(dá)的 Tensor RT 將來(lái)自框架的圖作為輸入,，然后為 GPU 輸出 Cuda 代碼。
傳統(tǒng)上,，編譯器是針對(duì)特定芯片進(jìn)行嚴(yán)格優(yōu)化的,。但是 Taylor 表示，「當(dāng)前編譯器的編譯范圍要比過(guò)去大得多——Glow 中的優(yōu)化類(lèi)型要識(shí)別可以渲染給硬件加速器的圖像中的很大一部分,?！?/p>
在快速發(fā)展的深度學(xué)習(xí)領(lǐng)域，Glow 是努力彌補(bǔ)軟硬件差距的最新例子,。例如,，英偉達(dá)的 Tensor RT 現(xiàn)在已經(jīng)發(fā)展到第五代，盡管其第一代僅在一年前發(fā)布,。一些加速器初創(chuàng)公司對(duì)支持各種軟件框架及其變化所需的工作水平有些無(wú)能為力,。
Facebook、微軟等公司正在支持 ONNX,，這是一種用權(quán)重表示圖形的標(biāo)準(zhǔn)方法,。去年 12 月份，Khronos 的團(tuán)隊(duì)發(fā)布了深度學(xué)習(xí)加速器的一個(gè)硬件抽象層——NNEF,。
Glow 是 Pytorch 1.0 的一個(gè)組成部分,，后者是一個(gè)開(kāi)源項(xiàng)目集，包括合并的 Caffe2 和 Pytorch 框架,。Pytorch 1.0 的第一次開(kāi)發(fā)者大會(huì)將于 10 月在舊金山舉行,。
在另一個(gè)演講中，F(xiàn)acebook 工程經(jīng)理 Kim Hazelwood 展示了 Facebook 使用的十多個(gè)不同深度學(xué)習(xí)工作負(fù)載,，它們部署在至少四個(gè)不同類(lèi)型的神經(jīng)網(wǎng)絡(luò)上,。每天 Facebook 生成超過(guò) 200 萬(wàn)億次推斷,，翻譯 50 多億文本，并自動(dòng)刪除超過(guò)一百萬(wàn)虛假賬號(hào),。
她說(shuō),，F(xiàn)acebook 的一些推斷任務(wù)需要的計(jì)算量是其它任務(wù)的 100 倍。如今,，F(xiàn)acebook 在其設(shè)計(jì)的一小部分 CPU 和 GPU 服務(wù)器上運(yùn)行這些任務(wù)。
Hazelwood 告訴 EE Times,，從通用硬件轉(zhuǎn)向定制硬件將需要針對(duì)那些仍在變化的工作負(fù)載定制芯片,。她拒絕透露 Facebook 關(guān)于使用任何定制 AI 加速器的想法。
僅 Facebook 就在十幾個(gè)深度學(xué)習(xí)應(yīng)用中使用了至少五種神經(jīng)網(wǎng)絡(luò),。
一位觀察者推測(cè),，Glow 將是一個(gè)理想的工具，使公司能夠采用一些適合其各種工作負(fù)載的加速器,。其半導(dǎo)體團(tuán)隊(duì)可以幫助公司精選芯片,，也許還可以為其中一些公司提供定制芯片的建議。
另外,，F(xiàn)acebook 發(fā)布了一篇博客,，描述了它創(chuàng)建的一個(gè)新軟件工具，該工具使用深度學(xué)習(xí)來(lái)調(diào)試代碼,。它說(shuō),，SapFix 可以自動(dòng)生成特定錯(cuò)誤的補(bǔ)丁，然后將其提交給工程師審批并部署到生產(chǎn)中,。
迄今為止,，F(xiàn)acebook 已經(jīng)使用 SapFix 加快了向裝有 Facebook Android 應(yīng)用程序的數(shù)百萬(wàn)臺(tái)設(shè)備發(fā)送代碼更新的進(jìn)程。Facebook 表示將發(fā)布該工具的一個(gè)版本,，但沒(méi)有說(shuō)明發(fā)布時(shí)間,。