英國人工智能(AI)安全研究所近日發(fā)布了發(fā)布了一個(gè)新的測(cè)試平臺(tái),，旨在加強(qiáng)監(jiān)測(cè)先進(jìn)AI模型的安全風(fēng)險(xiǎn)。

據(jù)介紹,，該工具箱名為Inspect,，可以用來評(píng)估一系列領(lǐng)域的AI模型，包括它們的核心知識(shí),、推理能力和自主能力,。通過開源許可證發(fā)布，這意味著Inspect可以免費(fèi)供全球AI社區(qū)使用,。

英國去年10月份宣布成立人工智能安全研究所,，將研究和測(cè)試新型AI模型；今年2月,，英國還表示將斥資1億多英鎊啟動(dòng)9個(gè)新的研究中心,，并對(duì)AI監(jiān)管機(jī)構(gòu)進(jìn)行技術(shù)培訓(xùn)。

在新聞發(fā)布會(huì)上,，英國人工智能安全研究所表示,，Inspect是一個(gè)軟件庫，它使測(cè)試人員能夠評(píng)估單個(gè)AI模型的具體能力,，然后根據(jù)結(jié)果給出一個(gè)分?jǐn)?shù),。

Inspect從周五開始可以使用，這也是由國家支持的機(jī)構(gòu)率先推出的AI安全測(cè)試平臺(tái),。

在當(dāng)前AI競(jìng)賽熱潮下，越來越多的AI模型將會(huì)在今年上市,，這使得推動(dòng)AI安全發(fā)展比以往任何時(shí)候都更加緊迫,。

但目前要對(duì)AI模型進(jìn)行基準(zhǔn)測(cè)試還是比較困難的事情,，因?yàn)楫?dāng)今最復(fù)雜的AI模型基本上都是“黑箱”，其基礎(chǔ)架構(gòu),、訓(xùn)練數(shù)據(jù)和其他關(guān)鍵細(xì)節(jié)通常被創(chuàng)造它們的公司保密,，不對(duì)外公開。

那么,，Inspect是如何應(yīng)對(duì)這一挑戰(zhàn)的呢,？主要是通過其可擴(kuò)展性，能夠適應(yīng)并接納新的測(cè)試技術(shù),。Inspect內(nèi)置組件可以通過使用Python編寫的第三方軟件包來增強(qiáng)或擴(kuò)展,。

Inspect由三個(gè)基本部分組成：數(shù)據(jù)集、求解器和計(jì)分器,。數(shù)據(jù)集用于評(píng)估測(cè)試的樣本集合,，求解器是執(zhí)行實(shí)際測(cè)試工作的組件，評(píng)分器的作用是評(píng)估求解器的工作成果,，最終生成關(guān)于AI模型性能的綜合評(píng)價(jià),，這種設(shè)計(jì)使得Inspect能夠靈活地適應(yīng)不同的測(cè)試需求和評(píng)估標(biāo)準(zhǔn)。

英國科學(xué)部長米歇爾·多內(nèi)蘭表示,，作為英國在AI安全領(lǐng)域持續(xù)領(lǐng)導(dǎo)的一部分,，我批準(zhǔn)了開源的Inspect，這顯示了英國在創(chuàng)新和科技發(fā)展方面的獨(dú)特才能和創(chuàng)造力,，并鞏固了我們作為該領(lǐng)域世界領(lǐng)導(dǎo)者的地位,。

人工智能安全研究所主席Ian Hogarth聲稱，成功的AI安全測(cè)試合作意味著擁有一個(gè)共享的,、可訪問的評(píng)估方法,，我們希望Inspect能成為AI安全研究所、研究組織和學(xué)術(shù)界的基石,。