最近，總部位于美國(guó)奧斯汀的 Mythic 推出了 Mythic 模擬矩陣處理器（Mythic AMP）——一種單芯片模擬計(jì)算設(shè)備,。該M1076 AMP采用Mythic的模擬計(jì)算引擎（Analog Compute Engine ：ACE）,，能以十分之一功耗提供GPU的計(jì)算能力。
M1076 的功耗為 3 瓦,，每秒可執(zhí)行高達(dá) 25 萬(wàn)億次操作 （TOPS）,。新產(chǎn)品線包括單芯片、適用于低占用空間應(yīng)用的 PCIe M2 卡和最多 16 個(gè)芯片的 PCIe 卡?，F(xiàn)在,，邊緣設(shè)備可以以更高的分辨率和幀速率執(zhí)行復(fù)雜的AI 應(yīng)用程序，從而產(chǎn)生卓越的推理結(jié)果,。計(jì)算發(fā)生在存儲(chǔ)數(shù)據(jù)的同一個(gè)地方,。
上個(gè)月，Mythic在 C 輪融資中籌集了 7000 萬(wàn)美元,，黑石是主要投資者,，由惠普企業(yè) （HPE） 共同領(lǐng)導(dǎo),。
為什么是Mythic的AMP？
在傳統(tǒng)計(jì)算機(jī)中,，數(shù)據(jù)會(huì)定期從 DRAM 內(nèi)存?zhèn)鬏數(shù)?CPU,。內(nèi)存保存程序和數(shù)據(jù)。計(jì)算機(jī)中的處理器和內(nèi)存是分開(kāi)的,，數(shù)據(jù)在兩者之間移動(dòng),。多年來(lái)，處理器速度急劇上升,。與此同時(shí),，內(nèi)存的進(jìn)步主要集中在密度——在更小的空間中存儲(chǔ)更多數(shù)據(jù)的能力——而不是傳輸速率，導(dǎo)致延遲,。
簡(jiǎn)而言之,，處理器無(wú)論速度有多快,，在從內(nèi)存中獲取數(shù)據(jù)時(shí)都必須處于空閑狀態(tài),，并且取決于傳輸速率——這就是所謂的馮諾依曼限制。因此,，將計(jì)算和內(nèi)存合并到單個(gè)設(shè)備中就成為了大家探索的解決方法，而模擬 AI 就消除了馮諾依曼瓶頸,，從而顯著提高了性能,。此外，由于沒(méi)有數(shù)據(jù)傳輸,，任務(wù)可以在很短的時(shí)間內(nèi)完成,，并且消耗的能量也少得多。
每個(gè) Mythic ACE 都配有一個(gè)數(shù)字子系統(tǒng),，包括 32 位 RISC-V 納米處理器,、64KB SRAM、SIMD 矢量引擎和高吞吐量片上網(wǎng)絡(luò) （NoC） 路由器,。模擬矩陣處理器能夠以高達(dá) 25 TOPS 的速度提供高能效的 AI 推理,。
“邊緣設(shè)備現(xiàn)在可以部署強(qiáng)大的 AI 模型，而不會(huì)面臨高功耗,、熱管理和外形尺寸限制的挑戰(zhàn),，”該公司表示。
邊緣人工智能
Mythic 的主要重點(diǎn)是邊緣 AI 部署,。該公司還在數(shù)據(jù)中心提供服務(wù)器級(jí)計(jì)算,。企業(yè)可以使用邊緣 AI 來(lái)部署在邊緣設(shè)備上本地運(yùn)行的ML 模型。然而,，邊緣人工智能面臨一些挑戰(zhàn)：
低功耗：設(shè)備的功耗和相關(guān)熱量隨著更多功能和功能的添加而增加。有時(shí),，它們由功率預(yù)算有限的以太網(wǎng)供電 （PoE） 供電,。即使在 0.5 或 2W 時(shí)，設(shè)備也需要表現(xiàn)出強(qiáng)大的性能,。
不使用時(shí)功率應(yīng)該接近于零,，并且這些不同模式之間的切換應(yīng)該快速而簡(jiǎn)單。
小尺寸：在數(shù)據(jù)源運(yùn)行的AI算法具有最小的延遲問(wèn)題,，并且不會(huì)因視頻壓縮而損失準(zhǔn)確性,；因此，不需要大型 PCIe 卡,、大型散熱器或風(fēng)扇,。整個(gè)系統(tǒng)需要適合其他人使用的 22mm x 30mm M.2 A+E 卡。
即使使用更大的 PCIe 卡,，加速器和冷卻解決方案的大小也決定了可以塞入多少 AI,。
成本效益：以可承受且有效的價(jià)格提供高功率計(jì)算的能力為客戶提供了根據(jù)客戶需求進(jìn)行擴(kuò)展的自由度。
迄今為止,，該公司已經(jīng)籌集了 1.652 億美元,，用于為智能家居、智慧城市,、AR/VR,、無(wú)人機(jī),、視頻監(jiān)控甚至制造業(yè)輕松且經(jīng)濟(jì)高效地部署強(qiáng)大的人工智能。
