據(jù)新華社消息,在瑞士達沃斯,,美國開放人工智能研究中心(OpenAI)首席執(zhí)行官薩姆·奧爾特曼無疑是炙手可熱的“明星”之一。
奧爾特曼被譽為“ChatGPT之父”,。2022年11月,,OpenAI推出大語言模型ChatGPT,掀起了生成式人工智能的熱潮,。近日在世界經(jīng)濟論壇2024年年會上,,奧爾特曼發(fā)表了哪些關(guān)于人工智能的最新觀點?
人工智能會降低我們對彼此的關(guān)注嗎,?
1997年,,當(dāng)IBM公司研制的人工智能系統(tǒng)“深藍”擊敗國際象棋世界冠軍加里·卡斯帕羅夫時,有評論員預(yù)測“這將是國際象棋的終結(jié)”,,此后沒有人會再費心看棋或下棋,。
但時至今日,“我們?nèi)詫θ祟愃龅氖虑榉浅8信d趣,,幾乎沒人觀看兩個人工智能對弈,,”奧爾特曼說,,他在讀完自己喜歡的書后,第一件事就是了解作者的生活,,“我想感受到與那個引起我共鳴的人之間的聯(lián)系”,。
奧爾特曼說,人類始終在獲得更好的工具,,但有一點不會改變,,那就是“今天我們?nèi)匀环浅jP(guān)注彼此”。
需要擔(dān)心人工智能取代人類工作嗎,?
奧爾特曼認為,,人工智能將對人類工作產(chǎn)生巨大影響。如今,,人工智能已經(jīng)成為“令人難以置信的生產(chǎn)力工具”,,但尚未以經(jīng)濟學(xué)家擔(dān)心的規(guī)模取代工作崗位。
人類還能從事哪些工作,?奧爾特曼以自己為例說,,“我并不是人工智能研究人員,我的角色是弄清楚我們將做些什么,,然后與其他人合作并實現(xiàn)目標(biāo),。”他認為,,未來,,人類將在更高的抽象層次工作,也將獲得更多能力,。
人工智能監(jiān)管是好事情嗎,?
奧爾特曼表示對人工智能技術(shù)實施監(jiān)管表示歡迎。他認為各方在發(fā)展人工智能技術(shù)過程中“遵守高標(biāo)準(zhǔn)是件好事”,,科技行業(yè)有責(zé)任將社會意見納入諸如價值觀和安全閾值等決策中,,以保證收益大于風(fēng)險。
奧爾特曼強調(diào),,“應(yīng)讓社會和技術(shù)共同發(fā)展,,構(gòu)建這些(人工智能)系統(tǒng)時,應(yīng)通過非常嚴格的反饋循環(huán)和路線修正使其逐步發(fā)展,,在符合安全要求的同時提供巨大價值”,。
比技術(shù)更難的問題
奧爾特曼指出,對人工智能進行“迭代部署”意味著社會可以逐漸習(xí)慣這項技術(shù),,并讓“我們的機構(gòu)有時間展開討論,,以弄清楚如何監(jiān)管”。
奧爾特曼認為,, GPT-3和GPT-4在對價值觀保持一致方面取得了“巨大進展”,。但他認為,,比技術(shù)更難的問題是:誰來決定這些價值觀、默認價值觀是什么,、界限是什么,?它在不同國家如何運作?用它可以做什么以及不可以做什么,?“這是一個重大社會問題,。”他說,。
AGI是不是“嚴重危害”,?
通用人工智能(AGI)是人工智能的重要研究方向。去年2月,,奧爾特曼曾警告通用人工智能(AGI)的“嚴重危害”,。在世界經(jīng)濟論壇上,奧爾特曼的態(tài)度有所軟化,。
與微軟首席執(zhí)行官薩蒂亞·納德拉對話時,,奧爾特曼表示,AGI將是一個“令人驚訝的持續(xù)性事物”,,“每年我們都會推出一個新模型,,而且會比前一年好得多”。
在另一場對話中,,奧爾特曼認為,AGI可能會在“相當(dāng)近的未來”得到開發(fā),,但“對世界的改變將比我們想象得要小得多,,對工作的改變也比我們想象得要小得多” 。