2月24日消息,,兆芯官方宣布,,基于兆芯處理器的PC筆記本/臺式機(jī)終端、工作站、服務(wù)器,,已經(jīng)全系成功實(shí)現(xiàn)DeepSeek-R1 Distill模型的本地部署,涵蓋1.5B,、7B,、14B、32B,、70B,、671B等各種參數(shù)規(guī)模。
操作系統(tǒng)方面,,兆芯原生支持Linux,、Windows、各家國產(chǎn)操作系統(tǒng),,并適配國產(chǎn)GPU AI加速卡,。
KX-7000臺式機(jī)本地部署DeepSeek-R1-7B模型
基于開先KX-7000桌面處理器的臺式機(jī),通過搭配國內(nèi)顯卡,、加速卡,,在本地成功部署DeepSeek-R1-7B模型,可充分發(fā)揮DeepSeek強(qiáng)大的語義理解和推理能力,。
通過與WPS Word,、Excel、VSCode等常用工具的整合,,可以實(shí)現(xiàn)智能文檔處理,、數(shù)據(jù)處理、智能編程等功能,。
智能文檔處理
智能數(shù)據(jù)處理
智能編程
KX-7000是兆芯新一代的高性能桌面PC處理器,,采用全新的“世紀(jì)大道”自主內(nèi)核微架構(gòu),以及先進(jìn)的Chiplet互連架構(gòu),,集成8個CPU核心,,共享32MB 三級緩存,最高工作頻率可達(dá)3.7GHz,。
KH-40000/16工作站部署DeepSeek-R1-32B模型
基于KH-40000/16服務(wù)器處理器的工作站“聯(lián)和東海XRS302”,,成功部署了DeepSeek-R1-7B,、14B、32B模型,。
該工作站配備了4塊高性能的國產(chǎn)GPU推理加速卡,,可提供高性價比、穩(wěn)定高效的推理能力,,而優(yōu)化的CPU與多GPU間互連架構(gòu),,可有效提升傳輸帶寬,降低延遲,。
它還采用了低功耗,、靜音設(shè)計,適合智能辦公等桌面本地化AI推理場景,。
聯(lián)和東海XRS302 AI工作站
KH-40000/32雙路服務(wù)器部署DeepSeek R1 671B模型
在服務(wù)器端,,開勝KH-40000/32處理器可提供雙路64核心的高性能計算能力,支持2TB海量內(nèi)存,,提供強(qiáng)大的擴(kuò)展能力,。
通過搭配國內(nèi)加速卡,開勝KH-40000/32服務(wù)器已成功完成DeepSeek-R1-70B版本的適配和部署,,適用于數(shù)學(xué),、編程、推理等應(yīng)用領(lǐng)域,。
兆芯服務(wù)器終端上成功部署DeepSeek-R1-70B版本
同時,,針對滿血的DeepSeek-R1-671B大模型,在不插入任何外界加速卡的情況下,,開勝KH-40000/32處理器已經(jīng)完成本地部署,,完整驗證了兆芯服務(wù)器CPU架構(gòu)承載千億參數(shù)模型的硬件能力。