《電子技術(shù)應(yīng)用》
您所在的位置:首頁(yè) > 人工智能 > 新品快遞 > 金山云發(fā)布MaaS互信推理專(zhuān)區(qū)方案2.0

金山云發(fā)布MaaS互信推理專(zhuān)區(qū)方案2.0

默認(rèn)對(duì)接多個(gè)大模型
2024-01-09
來(lái)源:鳳凰網(wǎng)科技
關(guān)鍵詞: 金山云 MaaS 大模型

1月8日 全球數(shù)字化浪潮風(fēng)起云涌,云計(jì)算作為數(shù)字經(jīng)濟(jì)重要的支撐基礎(chǔ),,正發(fā)揮越來(lái)越重要的作用,。順應(yīng)趨勢(shì),金山云深入探索前沿技術(shù),,圍繞AIGC升級(jí)核心計(jì)算、存儲(chǔ),、網(wǎng)絡(luò)等產(chǎn)品,。

近日,金山云發(fā)布MaaS互信推理專(zhuān)區(qū)方案2.0(以下簡(jiǎn)稱(chēng)“MaaS 2.0”),,該方案以金山云IaaS和PaaS為底座,,可實(shí)現(xiàn)云上LangChain的一鍵部署,默認(rèn)對(duì)接多個(gè)生態(tài)合作商業(yè)大模型和開(kāi)源大模型,。

此外,,MaaS互信推理專(zhuān)區(qū)方案2.0同時(shí)支持包括BGE、Bert等在內(nèi)的Embedding模型,,能無(wú)縫對(duì)接金山云全托管向量數(shù)據(jù)庫(kù)Milvus,,提供面向企業(yè)開(kāi)發(fā)者的簡(jiǎn)單易用、安全可信的一站式推理應(yīng)用部署平臺(tái),。

1.png

在計(jì)算方面,,金山云第七代云服務(wù)器X7搭載第四代英特爾? 至強(qiáng)? 可擴(kuò)展處理器、支持英特爾? AMX原生加速能力,,CPU性能較上代最高提升60%,,內(nèi)存升級(jí)至DDR5,頻率較上一代性能提升50%,。

面向大模型應(yīng)用場(chǎng)景,,金山云推出互信虛擬私有網(wǎng)絡(luò)(簡(jiǎn)稱(chēng)“互信VPC”)。相對(duì)于標(biāo)準(zhǔn)VPC,,互信VPC對(duì)進(jìn)出VPC的通信行為有著更為嚴(yán)格的控制,,幫助客戶(hù)解決合規(guī)和互信問(wèn)題。針對(duì)HTTP,、HTTPS等應(yīng)用層負(fù)載場(chǎng)景,,公司推出應(yīng)用型負(fù)載均衡ALB(Application Load Balancer),單實(shí)例最大支持100萬(wàn)QPS,。

金山云公有云產(chǎn)品中心負(fù)責(zé)人孫曉表示,,金山云深入探索前沿技術(shù),人工智能升級(jí)核心計(jì)算,、存儲(chǔ),、網(wǎng)絡(luò),、數(shù)據(jù)庫(kù)等產(chǎn)品持續(xù)迭代,從多個(gè)維度全面擁抱人工智能,。當(dāng)前,,金山云全棧技術(shù)體系已形成以云產(chǎn)品基礎(chǔ)設(shè)施為底座能力,云產(chǎn)品平臺(tái)服務(wù)為核心的技術(shù)能力,。


weidian.jpg

本站內(nèi)容除特別聲明的原創(chuàng)文章之外,,轉(zhuǎn)載內(nèi)容只為傳遞更多信息,并不代表本網(wǎng)站贊同其觀點(diǎn),。轉(zhuǎn)載的所有的文章,、圖片、音/視頻文件等資料的版權(quán)歸版權(quán)所有權(quán)人所有,。本站采用的非本站原創(chuàng)文章及圖片等內(nèi)容無(wú)法一一聯(lián)系確認(rèn)版權(quán)者,。如涉及作品內(nèi)容、版權(quán)和其它問(wèn)題,,請(qǐng)及時(shí)通過(guò)電子郵件或電話通知我們,,以便迅速采取適當(dāng)措施,避免給雙方造成不必要的經(jīng)濟(jì)損失,。聯(lián)系電話:010-82306118,;郵箱:[email protected]