《電子技術(shù)應(yīng)用》
您所在的位置:首頁 > 人工智能 > 業(yè)界動態(tài) > Arm 全面設(shè)計助力 Arm 架構(gòu)生態(tài)發(fā)展,,構(gòu)建可持續(xù) AI 數(shù)據(jù)中心

Arm 全面設(shè)計助力 Arm 架構(gòu)生態(tài)發(fā)展,,構(gòu)建可持續(xù) AI 數(shù)據(jù)中心

2024-10-22
來源:Arm
關(guān)鍵詞: ARM AI 數(shù)據(jù)中心

  新聞重點:

  ·Arm 全面設(shè)計 (Arm Total Design) 生態(tài)項目推出一年來,,成員規(guī)模翻倍,,推動了全球芯片創(chuàng)新

  ·Arm,、三星晶圓代工廠 (Samsung Foundry) ,、ADTechnology 和 Rebellions 合作開發(fā)基于 Neoverse CSS V3 的 AI CPU 芯粒 (chiplet) 平臺,應(yīng)用于云,、高性能計算 (HPC) 以及人工智能/機器學(xué)習(xí) (AI/ML) 訓(xùn)練和推理

  ·安國國際科技 (Alcor Micro) 和 Alphawave 推出基于臺積公司工藝的全新芯粒,,用于打造可持續(xù) AI 數(shù)據(jù)中心

  近日,Arm 控股有限公司 (納斯達(dá)克股票代碼:ARM,,以下簡稱 Arm) 分享了 Arm 全面設(shè)計生態(tài)項目推出一周年后的最新動態(tài):參與企業(yè)已迅速擴展到近30 家,,涵蓋了從 IC 設(shè)計到晶圓代工服務(wù)等各項專業(yè)能力,最新加入的企業(yè)包括安國國際科技,、神盾公司 (Egis),、熵碼科技 (PUFsecurity)  和 SEMIFIVE。此外,,通過該生態(tài)項目,,Arm、三星晶圓代工廠,、ADTechnology 和 Rebellions 正在聯(lián)手向市場推出 AI CPU 芯粒平臺,,面向云、HPC 以及 AI/ML 訓(xùn)練和推理工作負(fù)載,。

  Arm基礎(chǔ)設(shè)施事業(yè)部營銷副總裁 Eddie Ramirez 表示:“隨著 AI 算力需求的增長,,確保開發(fā)者以高性能、低功耗且易用的方式,,在全球應(yīng)用最普及的計算平臺上輕松運行創(chuàng)新成果至關(guān)重要,。Arm 計算子系統(tǒng) (CSS) 和 Arm 全面設(shè)計正助力軟硬件的快速進(jìn)步,推動 AI 開發(fā),。我們已邁入工程創(chuàng)意發(fā)展的時代,,Arm 正提供必要的工具和技術(shù),以推動 AI 和芯片領(lǐng)域的創(chuàng)新,?!?/p>

  全新Arm 架構(gòu)解決方案推動 AI 數(shù)據(jù)中心的可持續(xù)發(fā)展

  Arm 全面設(shè)計帶動了全球合作,促成了多個以 CSS 為核心的生成式 AI 計算解決方案誕生,。其中一個絕佳的例子是由 Arm,、三星晶圓代工廠,、ADTechnology 和 Rebellions聯(lián)合推出的 AI CPU 芯粒平臺。該平臺專門針對云,、HPC 以及 AI/ML 訓(xùn)練和推理工作負(fù)載,,結(jié)合了 Rebellions 的 REBEL AI 加速器和搭載 Neoverse CSS V3 的 ADTechnology 計算芯粒,并采用三星晶圓代工廠 2nm 全環(huán)繞柵極 (GAA) 先進(jìn)工藝技術(shù),,帶來出色的性能和能效,,預(yù)計可為生成式 AI 工作負(fù)載(Llama3.1 405B 參數(shù) LLM)帶來2-3倍的能效優(yōu)勢。

  三星電子副總裁兼代工業(yè)務(wù)開發(fā)負(fù)責(zé)人 Taejoong Song 表示:“AI 和 HPC 設(shè)計需要采用具有最高性能,、高晶體管密度和高能效的技術(shù)解決方案,。三星晶圓代工廠的 2nm GAA 工藝專為滿足嚴(yán)格的 HPC 和 AI 設(shè)計要求而設(shè)計,我們很高興能夠利用 Arm CSS 的靈活性和 Arm 全面設(shè)計的優(yōu)勢來打造 AI CPU 芯粒平臺,,進(jìn)一步推動超大規(guī)模企業(yè)和云服務(wù)提供商采用我們的尖端技術(shù)和設(shè)計解決方案,。”

  這個合作范例充分體現(xiàn)了 Arm 全面設(shè)計和基于標(biāo)準(zhǔn)計算子系統(tǒng)在加速 AI 芯片開發(fā)方面的獨特價值,。通過集成 Arm 優(yōu)化的 EDA 工具,、全球設(shè)計專業(yè)知識和晶圓代工服務(wù)合作關(guān)系,Arm為 AI 加速器設(shè)計人員簡化了集成流程,。隨著 AI 工作負(fù)載的快速演進(jìn),,緊密耦合 CPU 計算對于支持完整的 AI 堆棧至關(guān)重要。數(shù)據(jù)預(yù)處理,、編排,、數(shù)據(jù)庫增強技術(shù)(例如檢索增強生成 (RAG)) 等都能受益于 Arm Neoverse CPU 的性能效率。Arm 已經(jīng)在 CSS 中融入了對這些要求的支持,, 并通過Arm 全面設(shè)計生態(tài)項目從中受益,。

  專為 AI 基礎(chǔ)設(shè)施打造的新標(biāo)準(zhǔn)

  CSS 和 Arm 全面設(shè)計正在幫助打造可持續(xù) AI 數(shù)據(jù)中心的硬件基礎(chǔ)。Arm 全面設(shè)計已經(jīng)在加速開發(fā)基于 Arm 架構(gòu)的測試芯片以及由 Neoverse N 系列或 V 系列 CSS 驅(qū)動的芯粒產(chǎn)品,。通過提供優(yōu)先獲取最新 CSS 的廣泛途徑,,我們降低了行業(yè)準(zhǔn)入門檻,打造了從云端到邊緣的多樣化芯粒解決方案,,并加速了開發(fā)速度,。

  近日,Alcor Micro 宣布他們正在構(gòu)建由 CSS 驅(qū)動的芯粒,,針對 AI/ML 訓(xùn)練和推理用例,。Alphawave 近期也宣布推出基于 CSS 的先進(jìn)計算芯粒,面向 AI/ML,、HPC,、數(shù)據(jù)中心和 5G/6G 應(yīng)用。這些基于 Arm 架構(gòu)的芯粒充分展現(xiàn)了 Arm 生態(tài)系統(tǒng)獨有的多樣性,、靈活性和全球化,。

  此外,,Arm 全面設(shè)計合作伙伴(包括 Alphawave、Cadence 和 proteanTecs 等)正通過 CSS 在先進(jìn)節(jié)點上驗證第三方 IP 產(chǎn)品,,以確保其符合 Arm 規(guī)范和標(biāo)準(zhǔn),。這意味著合作伙伴可以在先進(jìn)節(jié)點上構(gòu)建基于 CSS 的定制芯片,并獲得無縫的開箱即用的軟件體驗,。

  這種軟件就緒程度始終是釋放 AI 潛力的關(guān)鍵,。30 多年來,Arm 不斷進(jìn)行資源投入,,以確保在 Arm 平臺上運行的軟件“開機即用”,。如今,所有主流框架和操作系統(tǒng)均在 Arm 架構(gòu)上運行,。對于 Arm 全面設(shè)計生態(tài)項目而言,,這意味著 Arm 合作伙伴推向市場的多樣化芯片解決方案,,都能充分利用同樣充滿活力且高度整合的軟件生態(tài)系統(tǒng),。這項持續(xù)投入的最新成果之一是 Arm Kleidi 技術(shù)的推出,該項技術(shù)被集成到 PyTorch 和 Llama.cpp 等開源項目,,優(yōu)化了 Arm 平臺上的 CPU 推理,。這對于Arm 全面設(shè)計合作伙伴來說尤為重要,他們無需依賴專用的加速器,,即可通過 CSS為邊緣 AI 計算打造芯粒,。




更多精彩內(nèi)容歡迎點擊==>>電子技術(shù)應(yīng)用-AET<<

3952966954c9c6c308355d1d28d750b.jpg

本站內(nèi)容除特別聲明的原創(chuàng)文章之外,轉(zhuǎn)載內(nèi)容只為傳遞更多信息,,并不代表本網(wǎng)站贊同其觀點,。轉(zhuǎn)載的所有的文章、圖片,、音/視頻文件等資料的版權(quán)歸版權(quán)所有權(quán)人所有,。本站采用的非本站原創(chuàng)文章及圖片等內(nèi)容無法一一聯(lián)系確認(rèn)版權(quán)者。如涉及作品內(nèi)容,、版權(quán)和其它問題,,請及時通過電子郵件或電話通知我們,以便迅速采取適當(dāng)措施,,避免給雙方造成不必要的經(jīng)濟損失,。聯(lián)系電話:010-82306118;郵箱:[email protected],。