安全內參2月2日消息,，去年11月OpenAI正式發(fā)布ChatGPT時,，程序員們驚訝地發(fā)現(xiàn),，這個AI驅動的聊天機器人不僅能輕松模仿人類語言，甚至可以編寫代碼,。

　　在發(fā)布的幾天之后,，程序員們貼出了一條條令人瞠目結舌的代碼生成示例。從串接云服務到將Python代碼移植為Rust,，ChatGPT至少在某些基礎編程任務上已經表現(xiàn)出非凡的能力,。

　　但我們也需要擦亮雙眼，將圍繞ChatGPT掀起的炒作跟真實情況區(qū)分開來,。ChatGPT的編程能力先后登上一系列頭條新聞,，類似“ChatGPT對網絡安全的威脅遠超大多數(shù)人想象”的標題也確實讓人心頭一緊。不單是普通讀者好奇于ChatGPT編寫惡意軟件的能力,，經驗豐富的黑客更想檢驗這個大語言模型到底能在惡意攻擊中發(fā)揮多大作用,。

　　實測：

　　ChatGPT缺乏編碼專業(yè)知識

　　Marcus Hutchins（ID為MalwareTech）是一位從黑帽轉型為白帽的黑客，曾在2017年因阻止WannaCry勒索軟件傳播而備受關注,。此前曾編寫銀行木馬的他,，當然也對ChatGPT究竟有多大本事充滿好奇。聊天機器人真能用來編寫惡意軟件嗎,？

　　一番嘗試之下,，結果令人失望。Hutchins在采訪中表示,，“這十年來,，我一直在以合法身份開發(fā)惡意軟件。我一般要花三個小時才能寫出一段功能性代碼,，而且得用開發(fā)效率較高的Python語言,。”

　　經過幾個小時的忙碌,，Hutchins成功編寫出勒索軟件程序中的一個組件：文件加密例程,。接下來，他嘗試讓ChatGPT把該組件跟其他必要功能組合成完整的惡意軟件,，但這位“AI新秀”笨拙地失敗了,。事實證明，ChatGPT不光難以把各種組件整合起來，甚至連正確打開文件都很費勁,。

　　在這類基本排序問題中的糟糕表現(xiàn),，證明ChatGPT等生成式AI系統(tǒng)仍存在嚴重缺陷。盡管它們能夠創(chuàng)建出與訓練數(shù)據(jù)極為相似的內容,，但大語言模型往往缺乏構成專業(yè)知識的糾錯工具與上下文知識,。人們在驚訝于ChatGPT模仿效果的同時，卻經常忽視了它的局限性,。

　　如果大家全盤接受炒作所灌輸?shù)挠^點,，那ChatGPT已經幾乎無所不能。從文職工作到學術論文,、再到專業(yè)考試,，也包括黑客們擅長的惡意軟件開發(fā)，這一切都將被ChatGPT所掌控,。然而,，這種論調其實掩蓋了ChatGPT等工具的核心應用方式——并不是要取代人類專業(yè)知識，而是充當高效的AI助手,。

　　ChatGPT編碼依賴專家指導

　　在ChatGPT發(fā)布的幾周之后,，就有多家網絡安全公司發(fā)布一系列報告，證明該機器人可能被用于編寫惡意軟件,。消息一出,，旋即催生了一大堆關于ChatGPT編寫“多態(tài)惡意軟件”的頭條新聞。但這些報告往往掩蓋了技術專家在指示模型編寫代碼,，特別是糾正所生成代碼結果方面發(fā)揮的重要作用,。

　　去年12月，安全解決方案供應商CheckPoint的研究人員展示了ChatGPT如何從頭到尾構建惡意軟件——包括編寫網絡釣魚電子郵件和惡意代碼,。然而,，要想讓它生成功能完備的代碼，必須由專業(yè)程序員一步步提供引導和提示,，例如添加沙箱檢測和檢查某項功能是否對SQL注入開放,。

　　CheckPoint公司研究員Sergey Shykevich表示，“攻擊者必須知道自己想要什么,，并指定相應功能,。單純要求其「編寫惡意軟件代碼」并不能生成真正有用的結果?！?/p>

　　對于Hutchins這樣的黑客來說,，提出正確的問題就是成功的一半,。另外,，很多將ChatGPT宣傳成編程工具的媒體，往往也忽視了使用ChatGPT協(xié)助軟件開發(fā)對于研究人員自身的專業(yè)知識要求。

　　Hutchins認為,，“精通編程的用戶其實是在引導ChatGPT進行開發(fā),，他們可能沒意識到自己在過程中起了多么重要的作用。如果缺乏編程經驗,，用戶甚至不知道該給ChatGPT什么樣的提示,。”

　　必須承認,，ChatGPT目前仍是眾多惡意軟件開發(fā)工具中的一員,。在上周發(fā)布的報告中，威脅情報公司Recorded Future在暗網和內部論壇中,，發(fā)現(xiàn)了1500多條關于使用ChatGPT開發(fā)惡意軟件,、創(chuàng)建概念驗證代碼的參考資料。這份報告還提到,，其中大部分代碼都公開可用,。

　　Recorded Future認為，ChatGPT對于“腳本小子,、黑客行動主義者,、欺詐分子/垃圾郵件發(fā)送者、支付卡欺騙者等技術水平不高的網絡犯罪分子”最有幫助,。

　　對于惡意開發(fā)領域的新手,，ChatGPT也能提供一定幫助。報告總結稱,，“ChatGPT能為迷茫的初學者提供實時示例,、教程和資源，降低了惡意軟件開發(fā)的準入門檻,?！?/p>

　　ChatGPT有望降低黑客技術門檻，

　　但掀起革命火候未足

　　但總體來看,，惡意黑客方獲得的助益非常有限,。ChatGPT雖然降低了黑客技術的學習難度和接觸門檻，但同樣的內容也完全可以在谷歌上輕松查到,。

　　外媒CyberScoop在去年12月曾報道,，隨著ChatGPT和其他大語言模型的發(fā)展成熟，其編寫合法和惡意原始代碼的能力也將不斷提高,。但在真正的轉折來臨之前,，ChatGPT等工具所發(fā)揮的仍以輔助作用為主，做不到憑空生成惡意軟件,。

　　例如,，ChatGPT確實能夠高效生成網絡釣魚電子郵件,。對于難以順暢使用英語（或其他目標語言）編寫含鏈接惡意消息的俄語黑客來說，ChatGPT能迅速提高他們的寫作技巧,。

　　哥倫比亞大學計算機科學助理教授,、Barracuda網絡安全公司顧問Asaf Cidon提到，“目前絕大多數(shù)攻擊源自電子郵件,，而絕大多數(shù)郵件攻擊并不屬于惡意軟件攻擊,。對方只是想誘導用戶交出憑證或者執(zhí)行轉賬操作?！盋idon認為“ChatGPT確實很擅長這方面工作”,，所以釣魚欺詐會變得更容易。

　　但這只是變化中的一環(huán),，還不至于掀起黑客革命,。高質量的網絡釣魚郵件已經很容易制作——可以由攻擊者自己編寫，也可以在外包平臺上雇用專業(yè)翻譯完成,。ChatGPT的出現(xiàn),，只是把釣魚郵件推向了規(guī)模化時代,。在Cidon看來,，ChatGPT“降低了所需投入”。

　　還有一種特殊的使用方法,，惡意黑客可以利用以往郵件歸檔對大語言模型進行微調,，使其學會企業(yè)CEO的文字風格。Cidon提到,，這樣訓練出的大語言模型往往能輕松騙過公司員工,。

　　但專家們強調，在對ChatGPT的網絡安全影響進行廣泛評估時,，必須持續(xù)關注整體趨勢,。目前，已經出現(xiàn)了在針對性攻擊中使用大語言模型的有趣案例,。不過至少在多數(shù)情況下,，ChatGPT恐怕還無法提高成功幾率。畢竟根據(jù)喬治敦大學安全與新興技術中心研究員Drew Lohn的觀察,，“網絡釣魚活動已經非常成功,，ChatGPT的加入可能并不會產生太大影響?！?/p>

　　總的來說,，ChatGPT等工具有望降低準入門檻、擴大惡意黑客的群體規(guī)模,。Lohn認為,，ChatGPT也許能“引導黑客在不借助任何新型惡意軟件的情況下,，順利完成入侵過程?！壳熬W絡上已經充斥著大量開源工具和預先打包的惡意軟件，我擔心ChatGPT的普及會把這些工具交付到每個人手上,?！?/p>

　　他也承認這個領域仍處于快速變化階段，情況隨時可能不同：“一個禮拜之后,，也許一切都將改變,。”