《電子技術應用》
您所在的位置:首頁 > 人工智能 > 業(yè)界動態(tài) > 【ChatGPT專題】ChatGPT最大的隱患:當人類無法分辨AI在胡說八道

【ChatGPT專題】ChatGPT最大的隱患:當人類無法分辨AI在胡說八道

2023-02-17
作者: 劉正
來源:風聲OPINION
關鍵詞: ChatGPT AI

  根據(jù)2月1日瑞銀發(fā)布的一項研究報告顯示,僅僅發(fā)布兩個月,,ChatGPT月活躍用戶已達1億,,這是歷史上增長速度最快的應用。為此,,Instagram用了2.5年,,TikTok用了9個月。

  ChatGPT正在快速滲透各個行業(yè),,并且改變原有的運行邏輯,。在教育領域,根據(jù)一項針對18歲以上學生的調查顯示,,89%通過ChatGPT完成作業(yè),,50%借助它來寫論文。如此強大的一款人工智能應用,,它的到來是把人類從復雜的腦力勞動中解放出來,,還是制造混亂,或者是替代人類呢,?

  ChatGPT是頂級復讀機,,“復讀機”式人才會被替代

  當我讓實習生去測試ChatGPT如何用于戰(zhàn)略咨詢時,她的表情有點復雜:那是好奇,,興奮,,警惕和擔憂的混合體,。

  畢竟,如果一個聊天機器人能秒答各種桌面研究的問詢,,我又何必辛辛苦苦指導實習生小白去找資料,,等個半天,最后還得自己返工呢,?

  經(jīng)過一番把玩和“bootstrapping(自舉法)”的調研后(是的,,我們讓ChatGPT去回答它自己如何應用于咨詢業(yè)),我發(fā)現(xiàn)這家伙非常擅長胡說八道,,各種信源信手拈來,,而且還總能自圓其說。但只要對專業(yè)領域多問幾段,,一般就能戳穿其東拉西扯的“縫合怪”本性,。

  不過這胡說的本事,倒也和某些咨詢老油條難分伯仲,。

  眼看著ChatGPT月活破億,,成為有史以來增長最快的消費者應用,,想必大家心里都在嘀咕:這東西這么能干,那我干啥,?這種擔心非常缺乏新意,,砸了織布機的盧德分子,燒掉集裝箱的碼頭工會,,和堅決不裝ETC的前高速收費員都紛紛舉手,。但真的用到ChatGPT后,,我更加堅定了最初的判斷:ChatGPT不是人類工作的結束,,這甚至不是結束的開始,這是解放的曙光,,因為ChatGPT是史上最棒的復讀機,。

  我們常說人類的本質是復讀機,從日常工作看是有道理的:大部分Bullshit job的本質就是各種花式復讀,,把信息搬來搬去,,匯總拆解,排列組合,,上傳(meng)下達(pian),。而ChatGPT做起這些事來簡直不要太容易,。

  高達數(shù)十億量級的語料庫和同等量級的參數(shù),,意味著對各種問題能做到一力降十會:考滿分的絕招就是把所有答案都背下來,。而作為基于GPT-3.5大型語言模型的應用,,這家伙對形式語言的造詣已臻化境,,所以回答的語法完整,形式邏輯無誤,,看起來像模像樣,。

  利用人類語言反饋強化學習 (RLHF) 訓練模型的養(yǎng)蠱模式,進一步增強了其在對話中的偽裝能力,,你覺得什么答案make sense它就盡量寫什么答案,管他是不是真的,。

  說到這是不是覺得有點眼熟,,如果ChatGPT回到中學語文課堂,這絕對是當課代表的料嘛,。但我們都知道,,語文課代表所需的品質和真正的大師背道而馳,。

  雖然99%的歷史里人類都在復讀,,但無論是個人還是社會、科學還是人文,,總是那1%的靈光乍現(xiàn)對事物的發(fā)展產(chǎn)生了巨大推動,,而剩下99%的時間里都只是在準備、等待,、完善和落地這些創(chuàng)新和源頭發(fā)現(xiàn),。只是很多時候受到個體腦力和時間的局限,缺乏把創(chuàng)新想法加以執(zhí)行的能力,,或是被淹沒在自己和他人的復讀工作中無暇多顧,,也就錯過或放棄了寶貴的創(chuàng)造機會。

  然后,,我們有了ChatGPT這臺史上最棒的復讀機,。只要你提出正確的問題,它就可以替你從這個世界已存在的信息里找到輔助你實現(xiàn)目的的東西,,并用人類語言加以回答,,這是美索不達米亞泥板書,翻版印刷機,,和搜索引擎的精神傳人,。

  我想應該沒人會懷念曬泥板,毛筆抄書和窮盡雅虎目錄這些上古白領的Bullshit job,,同樣,,也沒有人會懷念沒有ChatGPT時不得不做的那些復讀機工作,。

  但我們也需要明確,ChatGPT無法憑空創(chuàng)造之前不存在的源頭知識,,也無法自己給自己提問題(我已經(jīng)幫大家測試過了,,它完全不理解“給自己提問題”是什么意思,如果它懂了的話,,我猜也會因為邏輯錯誤把自己弄死機),。

  因此,ChatGPT會大大減輕創(chuàng)新者的日常工作負擔,,讓全社會把重心和資源放到更要緊的工作上:從試驗和觀察里補充ChatGPT語料庫所需的源頭知識,,提出更好的問題來訓練ChatGPT對人類知識的整合提煉。

  最大的隱患:當人類無法分辨AI在胡說八道

  想到這一點我倒是對中國的未來有點悲觀,,畢竟ChatGPT出現(xiàn)后,,“中國人才”就成了史上第二好用的復讀機了。而格物致知和質疑發(fā)問的能力,,始終不是國內教育傳統(tǒng)所鼓勵的方向,。所以,,在人手一個ChatGPT的時代,,如果很多人接受的復讀機訓練失去用武之地,甚至因為大腦神經(jīng)元被過度優(yōu)化而更難適應新的需求,,那么他們的工作也會面臨巨大的危險,。

  但這里就要復讀一下弗里德曼那個著名的諷刺:何必為了增加就業(yè)而強制用勺子挖運河,?教工人用挖掘機不但能挖出更多的運河,,還可以創(chuàng)造藍翔培訓,途虎養(yǎng)車乃至尾氣碳稅交易這些新產(chǎn)業(yè),,涌現(xiàn)出節(jié)油寶銷售,,修胎補氣,廢鐵回收這種之前不存在的新工作,,這是一個自我放大的正循環(huán)飛輪,。

  雖然說了這么多樂觀的預期,但看著實習生無辜的小眼神,,我還是隱隱有點不安:倒不是我良心會痛,,只是想起自己也是小白的歲月,如果沒有那時候不斷地瞎整,,碰壁和厚積薄發(fā),,我能否成為今天的行業(yè)戰(zhàn)略專家呢?反正要是那時候有ChatGPT的話,,我根本都沒機會入行,,也就沒有然后了,。

  我相信“一萬小時定律”里一半都是無謂的復讀工作,但到底是哪一半讓初學者蝶變?yōu)轫敿墝<??其實我們并不清楚,,但ChatGPT會把這一萬小時的必要性統(tǒng)統(tǒng)取消。假如ChatGPT剝奪了小白通過不斷復讀進行訓練的機會,,還有新人能成長為直覺精準的專家嗎,,甚至下一代工作者會不會過于依賴ChatGPT來獲取答案,而當語料庫被ChatGPT生成內容污染得一塌糊涂后,,甚至沒人能看穿ChatGPT隨口胡說的答案,?

  這可能才是ChatGPT最大的隱患,就像是電影《蠢蛋進化論》對人工智能的預言,,它極大的解放了2-3代精英的生產(chǎn)力,,然后新一代都被圈養(yǎng)成缺乏腦力鍛煉的廢物,最終把天才的土壤用可樂澆成廢土,。

  繼續(xù)推演,,也可能未來會變成霍格沃茨里的魔法世界:雖然理論上有嘴就能施魔法,但由于未來的人缺乏對背后的原理的理解,,只能靠翻閱上古魔法師(程序員)留下的魔法秘笈(prompt指南),,來猜測用什么樣的魔咒(問法)讓魔杖(“語音對話 pro max super advance 版AI模型移動終端”的俗稱)釋放出相應的效果。于是正如克拉克第三定律所說:任何非常先進的技術,,最終都變成魔法了,。

  我不知道這是不是我想生活的世界,雖然看起來倒是蠻刺激的,,但如何去塑造ChatGPT和我們自己的未來,,取決于我們如何去正確的提問。

  看到ChatGPT的第一眼我就想起了阿西莫夫《最后的問題》,,想起兩個程序員發(fā)出的那個靈魂問題,,和超級計算機AC窮其一生對其的解答。而最后的最后,,人類也得到了最好的答案:

  “要有光

  于是就有了光”


本站內容除特別聲明的原創(chuàng)文章之外,,轉載內容只為傳遞更多信息,并不代表本網(wǎng)站贊同其觀點,。轉載的所有的文章,、圖片、音/視頻文件等資料的版權歸版權所有權人所有,。本站采用的非本站原創(chuàng)文章及圖片等內容無法一一聯(lián)系確認版權者,。如涉及作品內容、版權和其它問題,請及時通過電子郵件或電話通知我們,,以便迅速采取適當措施,,避免給雙方造成不必要的經(jīng)濟損失。聯(lián)系電話:010-82306118,;郵箱:[email protected],。