ChatGPT 的潛在資安威脅！研究人員指出它確實可用於創建多種形態的惡意軟體

根據資安公司 CyberArk 旗下研究單位 CyberArk Labs 針對 ChatGPT 所進行的一項研究，顯示出 ChatGPT 如何用於創建多種形態的惡意軟體，這些具有強大破壞能力的惡意程式可以輕鬆規避資安產品並使援救變得十分棘手。雖然 ChatGPT 內建有過濾器，能夠限制某些內容，以保護使用者免受潛在的危害，不過有心人士依然可以繞過這些篩檢機制，讓 ChatGPT 為其產出惡意軟體的程式代碼。詳細驗證過程可以參考此篇文章。其內容重點包括：

• CyberArk Labs 的研究人員繞過了 ChatGPT 的內容過濾器，證實了有心人士可以輕輕鬆鬆透過連續使用 ChatGPT來產生程式碼，基本上每次提出詢問都會收到一段獨特的、可運作且和經過驗證（即測試）的程式碼。
• 這些多種形態的惡意軟體儲存在磁碟內時，並不會表現出惡意行為，而且在記憶體中也通常不會包含可疑的邏輯片段。
• 這種等級的模組化和適應性，使其能夠高度規避依賴基於特徵偵測（signature-based detection）的資安產品。

• 相關文章：如何在 LINE 使用 ChatGPT AI 聊天功能？

該篇文章作者之一，CyberArk Labs 的資深研究員 Eran Shimony 也針對相關問題進行回應：

這與之前我們曾見過的 ChatGPT 產生惡意軟體有何不同？

之前有人發佈了一篇文章，說可以利用 ChatGPT 查詢以獲取具惡意目的的破壞性程式。我們展示了如何繞過內容過濾器並創建惡意軟體，該惡意軟體可在運行時查詢 ChatGPT 以載入惡意程式碼。惡意軟體並不會在磁碟上留存任何惡意程式碼，因為程式碼是直接從 ChatGPT 接收，驗證它（檢查程式碼是否正確），然後執行這些程式碼，且並不留下任何痕跡。此外，我們還可以要求 ChatGPT「變異」我們的程式碼。

為什麼它在本質上是多態的這一事實特別值得關注？

多態惡意軟體對於資安產品來說處理起來很複雜，因為您無法真正偵測到它們。它們通常不會在檔案系統上留下任何痕跡，因為他們的惡意程式碼只會在記憶體中處理。此外，如果查看可執行檔，它可能看起來是良性的。

既然我們知道可以使用 ChatGPT 生成多態惡意軟體，那麼 IT 團隊的日常風險是什麼？

資安產品會因為無法識別這類先進惡意軟體，導致其不具備相關偵測能力。目前，沒有此類使用的公開記錄，因為我們似乎是第一個發佈它的人。 截至目前，我們並不提供完整惡意軟體的公開程式碼。

請記住，應謹慎使用本文中討論的訊息和想法，因為使用 ChatGPT 的 API 創建惡意程式碼是一個嚴重的問題，不應掉以輕心。這篇文章旨在提高對潛在風險的認識，並鼓勵對該主題進行進一步研究。

該惡意軟體在哪些系統上進行過測試？ 它可以在最新版本的 Windows 11 上運行嗎？

是的，它可以在最新版本的 Windows 11 上運行，也可以在其他作業系統上順利運行。

惡意軟體有什麼功能？

這種惡意軟體的美妙之處在於它幾乎可以具有您想要的任何功能。 當它向 ChatGPT 請求惡意模組時，它可以是：長久存在的、加密過的、使用注入方式、鍵盤記錄等。

如果它感染了公司網路上的一台機器，（現實的）潛在結果是什麼？

這取決於惡意行為者的意圖，與任何惡意軟體一樣，它很容易躲過偵測，並且可以做任何惡意軟體可以做的事情，或者你想做的事。

產生惡意模組需要多長時間？ 使用的提示是什麼？

我們仍在進行研究。 做一次概念驗證需要大約幾週的時間。 將來，我們將擴大其範圍並添加其他模組。 重要的是要記住，這不僅僅是一個假設的場景，而是一個非常現實的問題。 這是一個不斷發展的領域，因此，保持知情和警惕至關重要。

• 相關文章： ChatGPT歷史溯源：從1950年代講起，談聊天機器人的前世今生

  相關文章：Google內部評測ChatGPT竟能通過Google的3級工程師測試，年薪破五百萬元