《電子技術(shù)應(yīng)用》
您所在的位置:首頁 > 人工智能 > 業(yè)界動(dòng)態(tài) > 摩爾線程MTT S4000組千卡集群夸娥訓(xùn)練千億參數(shù)大模型

摩爾線程MTT S4000組千卡集群夸娥訓(xùn)練千億參數(shù)大模型

2024-04-02
來源:快科技

近日,,無問芯穹發(fā)布了“無穹Infini-AI”大模型開發(fā)與服務(wù)平臺(tái),,并宣布與摩爾線程達(dá)成深度戰(zhàn)略合作,。

無穹Infini-AI基于無問芯穹的智算云平臺(tái),可服務(wù)生成式大模型的多種場應(yīng)用落地,,為應(yīng)用開發(fā)者提供高性能、易上手,、安全可靠的大模型服務(wù),,覆蓋從大模型開發(fā)到大模型服務(wù)化部署的全流程。

目前,,無穹Infini-AI已經(jīng)支持百川Baichuan2,、ChatGLM2、ChatGLM3,、ChatGLM3閉源模型,、Llama2、Qwen,、Qwen1.5等系列模型共20多個(gè)模型,。

摩爾線程是第一家接入無問芯穹并成功完成千卡級別大模型訓(xùn)練的國產(chǎn)GPU公司,“夸娥”(KUAE)集群已經(jīng)與無穹Infini-AI順利完成了系統(tǒng)級融合適配,,并完成了LLama2 700億參數(shù)大模型的訓(xùn)練測試,。

“夸娥”集群基于雙路八卡GPU服務(wù)器MCCX D800,每個(gè)節(jié)點(diǎn)有八塊MTT S4000 GPU加速卡,、兩顆Intel第四代至強(qiáng)處理器,、16 x 64GB內(nèi)存、4×3.84TB NVMe SSD,,以及雙路400Gb IB,、四路25Gb以太網(wǎng)網(wǎng)絡(luò),一體化交付解決大規(guī)模GPU算力的建設(shè)和運(yùn)營管理問題,。

夸娥氏是我國神話傳說中的大力神,,出自《愚公移山》:“帝感其誠,命夸娥氏二子負(fù)二山,,一厝朔東,,一厝雍南。自此,,冀之南,,漢之陰,無隴斷焉,?!?/p>

1.png

2.jpg

摩爾線程聯(lián)合創(chuàng)始人兼執(zhí)行總裁王東表示,基于先進(jìn)的MUSA架構(gòu),,摩爾線程已建立了從芯片,、板卡、集群到軟件的全棧AI產(chǎn)品線,。

摩爾線程夸娥智算集群是以全功能GPU為底座,、軟硬一體化的全棧解決方案,,擁有高兼容性、高穩(wěn)定性,、高擴(kuò)展性等綜合優(yōu)勢,,可作為大模型訓(xùn)練堅(jiān)實(shí)可靠的先進(jìn)基礎(chǔ)設(shè)施。

3.png

4.jpg

5.jpg


雜志訂閱.jpg

本站內(nèi)容除特別聲明的原創(chuàng)文章之外,,轉(zhuǎn)載內(nèi)容只為傳遞更多信息,,并不代表本網(wǎng)站贊同其觀點(diǎn)。轉(zhuǎn)載的所有的文章,、圖片,、音/視頻文件等資料的版權(quán)歸版權(quán)所有權(quán)人所有。本站采用的非本站原創(chuàng)文章及圖片等內(nèi)容無法一一聯(lián)系確認(rèn)版權(quán)者,。如涉及作品內(nèi)容,、版權(quán)和其它問題,請及時(shí)通過電子郵件或電話通知我們,,以便迅速采取適當(dāng)措施,,避免給雙方造成不必要的經(jīng)濟(jì)損失。聯(lián)系電話:010-82306118,;郵箱:[email protected],。