《電子技術(shù)應(yīng)用》
您所在的位置:首頁 > 人工智能 > 業(yè)界動態(tài) > 【ChatGPT專題】有關(guān)ChatGPT的十個問題

【ChatGPT專題】有關(guān)ChatGPT的十個問題

2023-02-17
來源: 騰訊研究院
關(guān)鍵詞: ChatGPT 人工智能

  ChatGPT現(xiàn)在有多火,?

  2022年11月30日,ChatGPT橫空出世,,在全球范圍內(nèi)形成了熱烈的討論,。根據(jù) Similarweb 的數(shù)據(jù),今年1 月,,平均每天約有 1300 萬獨立訪客使用 ChatGPT,,是去年 12 月份的兩倍多,累計用戶超1億,,創(chuàng)下了互聯(lián)網(wǎng)最快破億應(yīng)用的記錄,,超過了之前TikTok 9個月破億的速度。

  除了廣大用戶千奇百怪的問題,,引發(fā)了社交媒體的大量傳播,,ChatGPT在各領(lǐng)域的秀肌肉,也進一步強化了其知名度,。美國賓夕法尼亞大學(xué)發(fā)現(xiàn),,ChatGPT能夠通過該校工商管理碩士MBA課程的期末考試?!蹲匀弧冯s志1月24日宣布,,將人工智能工具列為作者的論文,不能在雜志上發(fā)表,?!蹲匀弧贩Q,作者身份意味著對作品負(fù)有責(zé)任,,而人工智能工具無法承擔(dān)這樣的責(zé)任,。據(jù)傳,ChatGPT還成功通過了谷歌的編程面試,,拿到了年薪18.3萬美元的L3工程師offer,。

  ChatGPT背后的核心技術(shù)?

  ChatGPT是生成式AI的一種形式,,Gartner將其作為《2022年度重要戰(zhàn)略技術(shù)趨勢》的第一位,。Gartner預(yù)測,到2025年,,生成式AI將占到所有生成數(shù)據(jù)的10%,,但目前這個比例還不足1%。

  微信截圖_20230217141613.png

  ChatGPT背后的支撐是人工智能大模型,,這個技術(shù)點,,我們在去年的騰訊研究院《2022十大數(shù)字科技前沿應(yīng)用趨勢》報告中做過詳細(xì)的闡述:當(dāng)前的人工智能大多是針對特定的場景應(yīng)用進行訓(xùn)練, 生成的模型難以遷移到其他應(yīng)用,, 屬于“ 小模型”的范疇,。整個過程不僅需要大量的手工調(diào)參,, 還需要給機器喂養(yǎng)海量的標(biāo)注數(shù)據(jù),這拉低了人工智能的研發(fā)效率,, 且成本較高,。大模型通常是在無標(biāo)注的大數(shù)據(jù)集上, 采用自監(jiān)督學(xué)習(xí)的方法進行訓(xùn)練,。之后,,在其他場景的應(yīng)用中,開發(fā)者只需要對模型進行微調(diào),, 或采用少量數(shù)據(jù)進行二次訓(xùn)練,, 就可以滿足新應(yīng)用場景的需要。這意味著,,對大模型的改進可以讓所有的下游小模型受益,, 大幅提升人工智能的適用場景和研發(fā)效率, 因此大模型成為業(yè)界重點投入的方向,,Open AI,、谷歌、臉書,、微軟,, 國內(nèi)的百度、阿里,、騰訊,、華為和智源研究院等紛紛推出超大模型。特別是OpenAI GPT 3 大模型在翻譯,、問答,、內(nèi)容生成等領(lǐng)域的不俗表現(xiàn), 讓業(yè)界看到了達(dá)成通用人工智能的希望,。當(dāng)前ChatGPT的版本為GPT 3.5,,是在GPT3之上的調(diào)優(yōu),能力進一步增強,。

  ChatGPT使用的核心技術(shù)之一是Transformer,。這從其全稱上也能看得出來,Chat Generative Pre-trained Transformer,。Transformer技術(shù)是近幾年人工智能技術(shù)最大的亮點之一,,他是Google于2017年提出的一種采用注意力機制的深度學(xué)習(xí)模型,可以按輸入數(shù)據(jù)各部分重要性的不同,,而分配不同的權(quán)重,。Transformer的精度和性能上都要優(yōu)于之前流行的CNN(卷積神經(jīng)網(wǎng)絡(luò))、RNN(循環(huán)神經(jīng)網(wǎng)絡(luò))等模型,大幅提升了模型訓(xùn)練的效果,,讓人工智能得以在更大模型、更多數(shù)據(jù),、更強算力的基礎(chǔ)上進一步增強能力,。此外,他還具有很強的跨模態(tài)能力,,不僅在NLP(自然語言理解)領(lǐng)域表現(xiàn)優(yōu)異,,在語音、圖像方面也顯示出了優(yōu)異的性能,。

  ChatGPT為什么能成功,?

  ChatGPT是非常成功的一次從技術(shù)研發(fā)到工程化、再到點燃大眾熱情的經(jīng)典案例,。

  技術(shù)創(chuàng)新

  Open AI持續(xù)的研究中,,不斷探索引入新的技術(shù)路線。這次引入的強化學(xué)習(xí)方法,,很好地提升了模型的效果,。在研究中,Open AI在模型訓(xùn)練中,,引入了人類專家,。專家一方面幫助ChatGPT撰寫更符合人類習(xí)慣的回答,另一方面,,也對生成的結(jié)果進行排名,,通過這樣的獎勵機制,實現(xiàn)模型的微調(diào)優(yōu)化,。

  微信截圖_20230217141840.png

  組織文化

  Open AI自成立之初,,就致力于打造通用AI的能力,并堅定的持續(xù)投入,,這是ChatGPT成功的一大關(guān)鍵因素,。在這樣的愿景下,吸引了一大批高水平的人才,,在沒有任何商業(yè)KPI的情況下心無旁騖地開展研發(fā)工作,,最終取得了重大的突破。

  反饋機制

  通過用戶的使用,,Open AI可以獲得用戶對于模型優(yōu)劣和使用體驗的反饋,,從而形成了模型使用到體驗反饋的閉環(huán),從而進一步優(yōu)化模型,。此外,,Open AI還組織專門的反饋競賽,鼓勵用戶針對回答中的風(fēng)險危害,、新穎的回答建議等方面給予反饋,,參賽者有機會贏取500 美元的 API 積分,,并可兌換相應(yīng)獎品。

  項目策劃

  一個影響力出圈的技術(shù),,與其項目策劃密不可分,。ChatGPT的問答和多輪對話形式,很好地激發(fā)了大眾的熱情和創(chuàng)造力,,大家基于各自感興趣的話題自由發(fā)揮,,或幽默搞笑、或嚴(yán)肅認(rèn)真,,在朋友圈和媒體上屢屢刷屏,。包括之前GPT3的推出,他寫新聞,、作詩,、翻譯、編代碼等能力,,也是在社會上產(chǎn)生了熱議和討論,。這種很好地與公眾互動的項目設(shè)計策略,也很值得我們學(xué)習(xí),。包括之前AlphaGo的圍棋大戰(zhàn),、Deepmind破解蛋白質(zhì)折疊結(jié)構(gòu)難題,都是很好的議題任務(wù)設(shè)置,。

  ChatGPT是否開源,?

  尚未開源,目前是以API(應(yīng)用程序編程接口)調(diào)用的方式服務(wù),,目前也暫無開源計劃,。

  Open AI不Open,是業(yè)界很多人詬病的地方,。開源是多年來軟件和互聯(lián)網(wǎng)產(chǎn)業(yè)之所以蓬勃發(fā)展的核心動力之一,。開源的方式可以調(diào)動全球開發(fā)者的積極性,每個人都可以下載源代碼使用,,并進行優(yōu)化和在社區(qū)分享,。這種用全社會的力量來創(chuàng)新的機制,大幅加速了技術(shù)科研攻關(guān),、產(chǎn)業(yè)應(yīng)用的進程,。

  關(guān)于ChatGPT為何不開源,業(yè)界也有一些專家表示認(rèn)可,,因為人工智能技術(shù)至今為止還是一個黑盒,,關(guān)于其內(nèi)部的機制尚未可知,如果代碼開源,很難避免該技術(shù)用于一些不利于社會和人類的方面,。此外,,自從Open AI放棄了非盈利組織的定位,接受微軟等投資后,,從商業(yè)化的角度考慮,,也會采取整體模型閉源,開放應(yīng)用接口的方式來推廣,,同時也會開源少部分模型,豐富開發(fā)者生態(tài),。

  ChatGPT免費嗎,?

  未來能賺錢嗎?

  當(dāng)前,,普通用戶使用ChatGPT 是免費的,。

  據(jù)《財富》,2022年,,OpenAI公司的收入預(yù)計不足3000萬美元,,凈虧損5.45億美元。而隨著ChatGPT的火爆,,可能進一步增加其虧損,,因為用戶每一次調(diào)用,就會讓Open AI付出更多的計算資源和帶寬成本,。

  當(dāng)然,,Open AI也開始了商業(yè)化的嘗試,2023 年 2 月,,OpenAI 宣布推出付費試點訂閱計劃ChatGPT Plus,,定價每月20美元。付費版功能包括高峰時段免排隊,、快速響應(yīng)以及優(yōu)先獲得新功能和改進等,。

  Open AI預(yù)測,隨著ChatGPT成為吸引客戶的重要工具,,其收入將會快速增長,,預(yù)計2023年收入2億美元,2024年收入預(yù)計超過10億美元,。

  此外,,據(jù)報道,微軟正在洽談向 OpenAI 投資約 100 億美元,,也讓其估值達(dá)到了290 億美元,。而此前,2019年微軟曾向 OpenAI投資 10 億美元,為其提供了大量的資金支持和Azure云算力支持,。

  ChatGPT會替代搜索引擎嗎,?

  短期來說,不會,。長期來看,,有可能通過融合,形成新型的搜索引擎,。

  目前的ChatGPT給出的答案參差不齊,,既可以給出很多問題的簡要答案,甚至能寫一篇符合初級規(guī)劃師水平的產(chǎn)業(yè)規(guī)劃報告,,但ChatGPT也不可避免地經(jīng)常出現(xiàn)“一本正經(jīng)的胡說八道”的情況,,這使得其置信度還需進一步提升。而且ChatGPT目前的知識庫主要還是2021年9月之前的數(shù)據(jù),,缺乏新數(shù)據(jù),,這也大大限制了其提供新信息的能力。而同時,,Open AI還推出了WebGPT,,它可以在網(wǎng)絡(luò)上查找信息并提供信息來源,這將很大程度上補充ChatGPT的實時信息源,,從而進一步優(yōu)化答案,。

  在搜索引擎的邏輯下,選擇權(quán)在用戶,,搜索引擎一般會給出眾多相關(guān)結(jié)果,,根據(jù)用戶的點擊反饋來持續(xù)優(yōu)化搜索結(jié)果。近年來,,搜索引擎也一直在做結(jié)果唯一化的嘗試,,比如直接在搜索框中提供唯一的答案選擇,但目前可提供唯一結(jié)果的比較有限,,且無法開展多輪對話,。

  ChatGPT的推出,給搜索引擎廠商帶來了很大的震動,,也啟發(fā)了其打造搜索新體驗的方向,。谷歌兩位創(chuàng)始人多次召開討論會,以應(yīng)對 ChatGPT 可能帶來的顛覆搜索引擎業(yè)務(wù)的潛力,。谷歌CEO Pichai表示,,將在近期推出類似ChatGPT的基于人工智能的大型語言模型,一款由 LaMDA 提供支持的對話AI服務(wù) Bard,,讓用戶以“搜索伴侶”的形式使用,。微軟已經(jīng)在 Bing搜索引擎中添加了 ChatGPT 功能,,并開展了小流量測試。百度也計劃在3月推出新功能,,在搜索引擎中加入類似ChatGPT的對話式機器人“文心一言”,。

  我們也可以看看ChatGPT自己的回答:

  微信截圖_20230217141929.png

  還有哪些類似ChatGPT的

  模型和應(yīng)用?

  ChatGPT是典型的AIGC大模型,,目前國內(nèi)外在文本,、代碼、圖像,、視頻,、3D等領(lǐng)域都涌現(xiàn)出相應(yīng)的生成模型。

  當(dāng)前,,ChatGPT一個有力的競爭者是Claude,,他是Anthropic近期推出的生成式Al模型。Anthropic由幾位前 OpenAl的研究員在2021年創(chuàng)立,,包括OpenAl前研究副總裁Dario Amodei、GPT-3論文一作Tom Brown等人,。據(jù)《金融時報》報道,,2022 年底,Google向這家初創(chuàng)公司投資了約 3 億美元,。相比ChatGPT,,Anthropic 在其網(wǎng)站上更強調(diào)其構(gòu)建“可靠、可解釋和可操縱的人工智能系統(tǒng)”的工作,。

  騰訊的混元大模型,,集CV(計算機視覺)、NLP(自然語言理解),、多模態(tài)理解能力于一體,,先后在MSR-VTT,MSVD等五大權(quán)威數(shù)據(jù)集榜單中登頂,,實現(xiàn)跨模態(tài)領(lǐng)域的大滿貫,。2022年5月,騰訊“混元”AI大模型在CLUE(中文語言理解評測集合)總排行榜,、閱讀理解,、大規(guī)模知識圖譜三個榜單同時登頂,一舉打破三項紀(jì)錄,。12月,混元推出國內(nèi)首個低成本,、可落地的NLP萬億大模型,,并再次登頂自然語言理解任務(wù)榜單CLUE,?;煸们|模型熱啟動,最快僅用256卡在一天內(nèi)即可完成萬億參數(shù)大模型HunYuan-NLP 1T的訓(xùn)練,,整體訓(xùn)練成本僅為直接冷啟動訓(xùn)練萬億模型的1/8,。

  微信截圖_20230217142000.png

  圖片來源:紅杉資本《Generative AI: A Creative New World》

  ChatGPT等大模型

  會讓我們實現(xiàn)通用人工智能嗎,?

  自從包含1750億參數(shù)的GPT3從2020年6月推出以來,業(yè)界對于達(dá)成通用人工智能的探討又進一步熱了起來,。正如微軟CEO納德拉近日在接受華爾街日報訪談時表示,GPT 的發(fā)展不是線性的,,而是指數(shù)級變化的,所以相比較GPT3,,當(dāng)前的GPT3.5已經(jīng)展現(xiàn)出更強的能力,。業(yè)界普遍預(yù)測,,GPT4將在今年推出,并具備更強大的通用能力,。

  但同時,,我們也需要有清晰的辨識,AI并非萬能,。即無論AI如何強大,其解決的問題,,也只是人類面臨所有問題的很小一部分,。因為現(xiàn)實世界中有海量的問題并不是數(shù)學(xué)問題,,也就不可能通過計算來求解,。目前人工智能已經(jīng)找到解決方案的問題,也只是可計算問題的一小部分,。

  微信截圖_20230217142028.png

  ChatGPT可能產(chǎn)生哪些

  社會或倫理問題,?

  ChatGPT也面臨人工智能長期以來面臨的問題,,如歧視等倫理問題,,被濫用于詐騙、欺詐,、政治造謠,、偽造身份等安全問題,以及知識產(chǎn)權(quán)問題,。最近,OpenAI表示,,正考慮在ChatGPT中添加模型水印,,即監(jiān)測模型可以識別的特殊標(biāo)記,以降低模型濫用的問題,。

  此外,針對大眾普遍擔(dān)心的失業(yè)問題,,ChatGPT 在 LinkedIn 上分享了一篇帖子寫道:“AI 不會取代你,。一個使用 AI 的人將取代你”,。

  微信截圖_20230217142108.png

  ChatGPT的未來將帶來哪些

  變革和新機會,?

  ChatGPT自己的回答,已展現(xiàn)出其發(fā)展的一種典型路徑,,即作為人類的陪伴機器人,。

  微信截圖_20230217142131.png

  但更重要的,ChatGPT會成為未來人機交互的一個新入口,,很可能改變現(xiàn)有APP的交互方式,以更為自然的對話方式,,讓用戶來使用軟件和調(diào)用技能。例如,,未來在文檔編輯軟件中,人們可以通過描述需求,,讓軟件直接生成文字內(nèi)容,,或者生成一個圖形,,甚至直接進行修圖等工作,。在編程方面,ChatGPT這種即時編程的方式,,將改變傳統(tǒng)的工作方式和應(yīng)用交互規(guī)則,,推動產(chǎn)業(yè)進入軟件3.0的新階段。

  除此之外,,ChatGPT未來還可以有多樣化的應(yīng)用前景:

  一是現(xiàn)在火熱的數(shù)字人,好看的皮囊下,,則需要類似ChatGPT這樣的模型提供對話能力,才能讓數(shù)字人具備有趣的靈魂,,更好地陪伴和服務(wù)人,。同時,,該能力也可以嵌入到機器人身體內(nèi),讓未來的人形機器人更聰明,,更像人,。

  二是大量的開發(fā)者可以利用ChatGPT這樣的底層平臺,,在大模型基礎(chǔ)上根據(jù)不同行業(yè)和場景進行模型調(diào)優(yōu),從而創(chuàng)造出各類滿足用戶需求的豐富應(yīng)用,,從而形成對話式AI的生態(tài),。例如國外火爆的Jasper,通過在GPT3模型上的微調(diào),,可以幫助用戶撰寫營銷文案,甚至有人在上面完成了一部 12 萬字的小說,,IBM,、Airbnb,、Autodesk等大企業(yè)都是其企業(yè)用戶,。普通用戶可以免費試用1萬個單詞的版本,,之后可以29美元訂購2萬個單詞,或用59美元訂購生成5萬個單詞的權(quán)限,。

  三是在教育、醫(yī)療,、廣告營銷,、電子商務(wù),、市場和戰(zhàn)略咨詢,、企業(yè)服務(wù),、編寫代碼等專業(yè)服務(wù)領(lǐng)域,成為更為專業(yè)的人類助手,,不僅可以生成內(nèi)容,,還可以調(diào)用各種專業(yè)能力,甚至替代部分初級的專業(yè)工作,。企業(yè)服務(wù)方面,,2月8日,,微軟推出了由 ChatGPT 提供技術(shù)支持的高級 Teams 產(chǎn)品,, ChatGPT 可以自動幫助參會者生成會議記錄,即使沒有參加會議,,智能回顧功能也能幫助用戶生成會議記錄和要點,。如果有被同事在會議中提到,ChatGPT還可以給用戶提供個性化的時間線標(biāo)記,,以快速查看分享和討論的內(nèi)容,,該服務(wù)將在 6 月份每月收費 7 美元,然后在 7 月份增加到 10 美元,。代碼編寫方面,,近期特斯拉前任AI總監(jiān)Andrej Karpathy透露,現(xiàn)在他80%的代碼都是由AI生成的(GitHub Copilot),,而且有80%的準(zhǔn)確率,。

  四是與其他模態(tài)AI工具的組合式創(chuàng)新,ChatGPT同文生圖,、文字生成視頻,、甚至未來直接生成3D模型的工具集成,可以帶來UGC內(nèi)容的極大豐富,,成為內(nèi)容工業(yè)化的核心引擎,。

  未來,ChatGPT與更多的AI,、云計算等信息技術(shù)的集成創(chuàng)新,,將創(chuàng)造改變生產(chǎn)力曲線的工具,成為經(jīng)濟發(fā)展新動力,。


本站內(nèi)容除特別聲明的原創(chuàng)文章之外,,轉(zhuǎn)載內(nèi)容只為傳遞更多信息,并不代表本網(wǎng)站贊同其觀點,。轉(zhuǎn)載的所有的文章,、圖片、音/視頻文件等資料的版權(quán)歸版權(quán)所有權(quán)人所有,。本站采用的非本站原創(chuàng)文章及圖片等內(nèi)容無法一一聯(lián)系確認(rèn)版權(quán)者,。如涉及作品內(nèi)容、版權(quán)和其它問題,,請及時通過電子郵件或電話通知我們,,以便迅速采取適當(dāng)措施,,避免給雙方造成不必要的經(jīng)濟損失,。聯(lián)系電話:010-82306118;郵箱:[email protected],。