《電子技術應用》
您所在的位置:首頁 > 人工智能 > 新品快遞 > 金山云發(fā)布MaaS互信推理專區(qū)方案2.0

金山云發(fā)布MaaS互信推理專區(qū)方案2.0

默認對接多個大模型
2024-01-09
來源:鳳凰網(wǎng)科技
關鍵詞: 金山云 MaaS 大模型

1月8日 全球數(shù)字化浪潮風起云涌,,云計算作為數(shù)字經(jīng)濟重要的支撐基礎,,正發(fā)揮越來越重要的作用。順應趨勢,,金山云深入探索前沿技術,,圍繞AIGC升級核心計算、存儲,、網(wǎng)絡等產(chǎn)品,。

近日,,金山云發(fā)布MaaS互信推理專區(qū)方案2.0(以下簡稱“MaaS 2.0”),,該方案以金山云IaaS和PaaS為底座,可實現(xiàn)云上LangChain的一鍵部署,,默認對接多個生態(tài)合作商業(yè)大模型和開源大模型,。

此外,MaaS互信推理專區(qū)方案2.0同時支持包括BGE,、Bert等在內(nèi)的Embedding模型,,能無縫對接金山云全托管向量數(shù)據(jù)庫Milvus,提供面向企業(yè)開發(fā)者的簡單易用,、安全可信的一站式推理應用部署平臺,。

1.png

在計算方面,金山云第七代云服務器X7搭載第四代英特爾? 至強? 可擴展處理器,、支持英特爾? AMX原生加速能力,,CPU性能較上代最高提升60%,內(nèi)存升級至DDR5,,頻率較上一代性能提升50%,。

面向大模型應用場景,金山云推出互信虛擬私有網(wǎng)絡(簡稱“互信VPC”),。相對于標準VPC,,互信VPC對進出VPC的通信行為有著更為嚴格的控制,幫助客戶解決合規(guī)和互信問題。針對HTTP,、HTTPS等應用層負載場景,,公司推出應用型負載均衡ALB(Application Load Balancer),單實例最大支持100萬QPS,。

金山云公有云產(chǎn)品中心負責人孫曉表示,,金山云深入探索前沿技術,人工智能升級核心計算,、存儲,、網(wǎng)絡、數(shù)據(jù)庫等產(chǎn)品持續(xù)迭代,,從多個維度全面擁抱人工智能,。當前,金山云全棧技術體系已形成以云產(chǎn)品基礎設施為底座能力,,云產(chǎn)品平臺服務為核心的技術能力,。


weidian.jpg

本站內(nèi)容除特別聲明的原創(chuàng)文章之外,轉載內(nèi)容只為傳遞更多信息,,并不代表本網(wǎng)站贊同其觀點,。轉載的所有的文章、圖片,、音/視頻文件等資料的版權歸版權所有權人所有,。本站采用的非本站原創(chuàng)文章及圖片等內(nèi)容無法一一聯(lián)系確認版權者。如涉及作品內(nèi)容,、版權和其它問題,,請及時通過電子郵件或電話通知我們,以便迅速采取適當措施,,避免給雙方造成不必要的經(jīng)濟損失,。聯(lián)系電話:010-82306118;郵箱:[email protected],。