11月2日,，包括英國,、美國和中國在內(nèi)的近30個國家（以及歐盟）在人工智能安全峰會上達(dá)成首個全球性人工智能安全協(xié)議，并發(fā)布了《人工智能安全宣言》,，這標(biāo)志著人工智能正式進(jìn)入安全發(fā)展的強(qiáng)監(jiān)管時代,。

峰會期間，人工智能意見領(lǐng)袖們就人工智能安全風(fēng)險的嚴(yán)重性判斷產(chǎn)生重大分歧,，雙方陣營展開激烈辯論,。人工智能教父級人物Geoffrey Hinton和Yoshua Bengio認(rèn)為人工智能存在嚴(yán)重風(fēng)險，科技公司在人工智能風(fēng)險問題上撒謊以阻止競爭,、規(guī)避責(zé)任,，引發(fā)（同時也支持）嚴(yán)格監(jiān)管。而Andrew NG和Meta首席AI科學(xué)家Yann LeCun則認(rèn)為人工智能風(fēng)險被夸大,，是大型科技公司用來扼殺創(chuàng)新,、鞏固權(quán)力的陰謀論。

特斯拉創(chuàng)始人馬斯克并未選擇站隊(duì),，但是在X上發(fā)帖諷刺人工智能風(fēng)險監(jiān)管和“AI軍備競賽”的矛盾現(xiàn)狀：

雖然業(yè)界對于人工智能風(fēng)險級別尚未達(dá)成共識,，但Forrester Research上周發(fā)布的2024年人工智能預(yù)測報告為企業(yè)安全利用人工智能技術(shù)帶來了新的視角。該報告為可量化評估的人工智能增長制定了路線,，同時警告企業(yè)領(lǐng)導(dǎo)者為猖獗的“影子AI”做好準(zhǔn)備,，因?yàn)樵絹碓蕉嗟膯T工開始自行使用人工智能工具來提高工作效率。

Forrester預(yù)計(jì),，隨著企業(yè)投資可擴(kuò)展的解決方案來構(gòu)建,、部署和監(jiān)控人工智能模型，人工智能平臺預(yù)算將在2024年增加兩倍,。然而,，F(xiàn)orrester警告稱，這不足以滿足員工的需求,。該報告預(yù)測60%的員工將在工作中使用自己的人工智能工具,，從而帶來新的監(jiān)管和合規(guī)挑戰(zhàn)。

Forrester發(fā)現(xiàn),，85%的企業(yè)通過GPT-J和BERT等開源模型擴(kuò)展AI功能,，而不是僅僅依賴ChatGPT等流行的大語言模型應(yīng)用。Forrester預(yù)計(jì)40%的企業(yè)將積極投資于人工智能合規(guī)治理,，領(lǐng)先于歐盟,、美國和中國即將出臺的更為嚴(yán)苛的監(jiān)管法規(guī)。

人工智能進(jìn)入效用時代

在創(chuàng)新方面,，F(xiàn)orrester預(yù)測2024年將會有大型保險公司開始提供人工智能“幻覺保險”,，承保由人工智能錯誤（AI幻覺）造成的損失和傷害,。

Forrester警告企業(yè)領(lǐng)導(dǎo)者在制定人工智能應(yīng)用戰(zhàn)略時不要被炒作和“娛樂”分散注意力。

Forrester認(rèn)為,，2024年是“人工智能效用時代”的開始,，人工智能技術(shù)將從企業(yè)的研發(fā)緩解轉(zhuǎn)移到生產(chǎn)環(huán)境的商業(yè)應(yīng)用中。

“毫無疑問,，2023年將被稱為人工智能年,，因?yàn)槲覀兛吹搅松墒饺斯ぶ悄芟M(fèi)化的興起。發(fā)布了大量有關(guān)合并,、收購,、企業(yè)超高估值以及超大規(guī)模風(fēng)險投資和內(nèi)部投資的公告?！盕orrester的分析師團(tuán)隊(duì)在報告中表示,。

報告補(bǔ)充道：“我們預(yù)測，2024年將激勵企業(yè)團(tuán)隊(duì)積極主動,，制定有意義的人工智能戰(zhàn)略,，并兌現(xiàn)人工智能承諾，同時密切關(guān)注法規(guī)和新風(fēng)險,?！?/p>

Forrester對2024年人工智能安全發(fā)展的十大預(yù)測

1. 60%的員工會在工作中使用自己的人工智能工具，從而產(chǎn)生安全風(fēng)險,。

2. 隨著企業(yè)對人工智能功能的需求激增，人工智能平臺的預(yù)算將增加兩倍,。

3. 85%的公司將把開源人工智能模型納入其技術(shù)堆棧中,。

4. 40%的企業(yè)將主動投資人工智能治理以實(shí)現(xiàn)合規(guī)性。

5. 保險公司將開始提供涵蓋人工智能錯誤的“人工智能幻覺保險”,。

6. 隨著采用率的激增,，生成式人工智能從2023年到2030年的復(fù)合年增長率將達(dá)到36%。

7. 企業(yè)將把人工智能從研發(fā)轉(zhuǎn)移到生產(chǎn)業(yè)務(wù)應(yīng)用,。

8. 人工智能戰(zhàn)略將側(cè)重于管理影子AI使用和價值創(chuàng)造,。

9. 科技領(lǐng)導(dǎo)者感受到來自員工和高管采用人工智能（BYOIA）的壓力。

10. 2024年,，隨著炒作讓位于實(shí)用主義,，“人工智能效用時代”將開啟。

Forrester強(qiáng)調(diào)制定針對性人工智能戰(zhàn)略的必要性,，認(rèn)為企業(yè)領(lǐng)導(dǎo)者在擴(kuò)大人工智能應(yīng)用時必須主動應(yīng)對風(fēng)險,，而不是被動合規(guī)，因?yàn)槿虮O(jiān)管格局正處于高度動態(tài)發(fā)展中,。

正如四大會計(jì)師事務(wù)所之一的安永在《人工智能全球監(jiān)管格局報告》中指出的,，全球性的人工智能監(jiān)管環(huán)境中仍然存在分歧和挑戰(zhàn),。歐盟在全球范圍內(nèi)采取了最積極主動的立場，提出了一項(xiàng)全面的人工智能法案,，對生物識別或關(guān)鍵基礎(chǔ)設(shè)施等高風(fēng)險人工智能用途提出強(qiáng)制性要求,。中國也表現(xiàn)出了監(jiān)管人工智能的較強(qiáng)意愿,，例如內(nèi)容推薦或面部識別。相對而言,，美國采取了溫和的做法，重點(diǎn)關(guān)注自愿性行業(yè)指導(dǎo)和針對具體行業(yè)的規(guī)則,。