近日,,無問芯穹發(fā)布了“無穹Infini-AI”大模型開發(fā)與服務(wù)平臺(tái),,并宣布與摩爾線程達(dá)成深度戰(zhàn)略合作,。
無穹Infini-AI基于無問芯穹的智算云平臺(tái),可服務(wù)生成式大模型的多種場應(yīng)用落地,,為應(yīng)用開發(fā)者提供高性能、易上手,、安全可靠的大模型服務(wù),,覆蓋從大模型開發(fā)到大模型服務(wù)化部署的全流程。
目前,,無穹Infini-AI已經(jīng)支持百川Baichuan2,、ChatGLM2、ChatGLM3,、ChatGLM3閉源模型,、Llama2、Qwen,、Qwen1.5等系列模型共20多個(gè)模型,。
摩爾線程是第一家接入無問芯穹并成功完成千卡級別大模型訓(xùn)練的國產(chǎn)GPU公司,“夸娥”(KUAE)集群已經(jīng)與無穹Infini-AI順利完成了系統(tǒng)級融合適配,,并完成了LLama2 700億參數(shù)大模型的訓(xùn)練測試,。
“夸娥”集群基于雙路八卡GPU服務(wù)器MCCX D800,每個(gè)節(jié)點(diǎn)有八塊MTT S4000 GPU加速卡,、兩顆Intel第四代至強(qiáng)處理器,、16 x 64GB內(nèi)存、4×3.84TB NVMe SSD,,以及雙路400Gb IB,、四路25Gb以太網(wǎng)網(wǎng)絡(luò),一體化交付解決大規(guī)模GPU算力的建設(shè)和運(yùn)營管理問題,。
夸娥氏是我國神話傳說中的大力神,,出自《愚公移山》:“帝感其誠,命夸娥氏二子負(fù)二山,,一厝朔東,,一厝雍南。自此,,冀之南,,漢之陰,無隴斷焉,?!?/p>
摩爾線程聯(lián)合創(chuàng)始人兼執(zhí)行總裁王東表示,基于先進(jìn)的MUSA架構(gòu),,摩爾線程已建立了從芯片,、板卡、集群到軟件的全棧AI產(chǎn)品線,。
摩爾線程夸娥智算集群是以全功能GPU為底座,、軟硬一體化的全棧解決方案,,擁有高兼容性、高穩(wěn)定性,、高擴(kuò)展性等綜合優(yōu)勢,,可作為大模型訓(xùn)練堅(jiān)實(shí)可靠的先進(jìn)基礎(chǔ)設(shè)施。