《電子技術應用》
您所在的位置:首頁 > 人工智能 > 業(yè)界動態(tài) > 派拓網絡:ChatGPT——人工智能是把“雙刃劍”

派拓網絡:ChatGPT——人工智能是把“雙刃劍”

2023-02-07
作者:Sean Duca,,派拓網絡副總裁兼亞太及日本地區(qū)首席安全官
來源:派拓網絡

科技及其組成部分在過去幾代人的時間里大大推動了人類社會的發(fā)展,。其本質是對新知識的探索,,但凡事都有兩面性——科技帶來的利與弊取決于背后的人,。

憑借在模仿和破譯人類思維方面的不懈努力,,我們進入了人工智能(AI)時代,。作為一款基于文本的AI機器人,,ChatGPT因廣泛應用先進的AI技術而備受關注,。從準確修復編碼錯誤,、生成烹飪食譜,、創(chuàng)建3D動畫,,到制作完整的歌曲,ChatGPT展現了AI的驚人能量,,為世界帶來了不可思議的新能力,。

然而與此同時,AI也一直被視為一把“雙刃劍”,。多年來,,全世界都在猜測AI可能即將統治世界。如今,,用戶可以使用AI驅動的安全工具和產品,,在幾乎無需人為干預的情況下應對大量網絡安全事件,但業(yè)余黑客也可以利用同樣的技術開發(fā)智能惡意軟件程序并發(fā)起隱形攻擊,。

 

ChatGPT帶來的網絡安全隱患不容忽視

自去年11月底ChatGPT問世以來,,全球技術專家和評論員一直在關注AI生成的內容工具所產生的影響,尤其是對網絡安全的影響,。那么AI軟件會使網絡犯罪走向普及嗎,?

在拉斯維加斯舉行的黑帽和Defcon安全大會上,一個技術團隊展示了AI在生成釣魚郵件和魚叉式釣魚信息方面是如何超越人類的,。

研究人員將OpenAI的GPT-3平臺與其他側重于個性分析的AI即服務產品相結合,,生成了根據他們同事的背景和性格而定制的釣魚郵件。最終,,研究人員開發(fā)出一個在攻擊目標之前對郵件進行梳理和完善的流程,。令他們驚訝的是,這個平臺還能自動提供具體內容,,例如當被要求生成針對特定國家的人的內容時,,會提到該國的法律。

ChatGPT的開發(fā)者明確表示,,這款AI工具具有質疑錯誤前提和拒絕不當請求的能力,。雖然該系統自帶用于防止任何形式犯罪活動的護欄,但經過調整,,它生成了一封看上去極其像人類寫出來的近乎完美的釣魚郵件,。

 

采取智能化行動,實現自動化響應

根據派拓網絡威脅情報團隊Unit 42的調查,,勒索軟件攻擊是最主要的安全事件,,發(fā)展呈現愈演愈烈的態(tài)勢——不僅案例數量超過總量的三分之一(36%),而且攻擊者索要和獲得的贖金也在不斷增加,。究其原因,,主要是由于暗網中的工具價格低廉——甚至不到10美元,而且還出現了勒索軟件即服務模式和ChatGPT等AI工具,,大大降低了網絡犯罪的門檻,。

鑒于日益智能和先進的黑客技術所帶來的威脅迫在眉睫,,網絡安全行業(yè)必須擁有同等資源才能對抗這些AI驅動的攻擊。從長遠來看,,安全行業(yè)的目標不是僅讓一群人類威脅獵手通過猜測來零散地解決問題,。

當務之急是采取智能化的行動來化解這些不斷發(fā)展的威脅。好消息是自主響應如今能夠在無需人類干預的情況下有效解決威脅,。但隨著AI驅動的攻擊成為常態(tài),,受到自動化惡意軟件攻擊的企業(yè)、政府和個人需要越來越多地依靠AI和機器學習(ML)等新興技術做出自動化響應,。

 

更負責且道德地使用AI工具

從技術的復雜性到人為因素,,企業(yè)在確保AI網絡安全的過程中面臨著諸多挑戰(zhàn),尤其是需要高度重視機器,、人類和道德因素之間的平衡,。

制定企業(yè)策略對于兼顧經營道德和網絡安全至關重要。建立有效的治理和法律框架能夠增強人們對AI技術的信任,,并促進社會公平和可持續(xù)發(fā)展,。因此,AI和人類之間的微妙平衡將成為實現網絡安全的關鍵因素,,其中信任,、透明度和責任感為機器帶來了補充優(yōu)勢。


本站內容除特別聲明的原創(chuàng)文章之外,,轉載內容只為傳遞更多信息,,并不代表本網站贊同其觀點。轉載的所有的文章,、圖片,、音/視頻文件等資料的版權歸版權所有權人所有。本站采用的非本站原創(chuàng)文章及圖片等內容無法一一聯系確認版權者,。如涉及作品內容,、版權和其它問題,請及時通過電子郵件或電話通知我們,,以便迅速采取適當措施,,避免給雙方造成不必要的經濟損失。聯系電話:010-82306118,;郵箱:[email protected]