7 月 21 日消息,專門推動全球結(jié)構(gòu)化信息標(biāo)準(zhǔn)的非營利組織 OASIS Open(由微軟,、英偉達(dá)、英特爾、谷歌、OpenAI、IBM、亞馬遜、思科等廠商組建)在 7 月 18 日宣布建立 CoSAI 安全聯(lián)盟(Coalition for Secure AI,,安全 AI 聯(lián)盟)。
該聯(lián)盟計(jì)劃與學(xué)術(shù)界共同解決三大重點(diǎn)領(lǐng)域,,分別是 AI 軟件供應(yīng)鏈安全性,、網(wǎng)絡(luò)領(lǐng)域安全性及 AI 安全治理性。同時(shí)將與 Frontier Model Forum,、Partnership on AI,、Open Source Security Foundation、ML Commons 等 AI 安全組織合作,,以共同推動“負(fù)責(zé)任的 AI”,。
具體來說,CoSAI 計(jì)劃建立一個(gè)協(xié)作生態(tài)體系分享與 AI 安全設(shè)計(jì)有關(guān)的“方法,、標(biāo)準(zhǔn)化框架及工具”,,并通過一系列被認(rèn)證為“安全”的 AI 系統(tǒng)來構(gòu)建、部署運(yùn)營環(huán)境,,以降低“模型操縱,、模型盜竊、惡意訓(xùn)練數(shù)據(jù),、提示詞‘越獄’”等情況發(fā)生的可能性,,從而為 B 端市場提供安全的解決方案。
OASIS 組織表示,,安全需要“集體行動”,為了安全地參與數(shù)字生態(tài)體系,,大家都應(yīng)該采用通用的安全標(biāo)準(zhǔn),,在 AI 方面“也并不例外”。