最近 網路犯罪分子正在利用人工智慧來製造新一代惡意軟體。 這使用戶和組織處於危險之中。雖然人工智慧已經積極地改變了無數領域，但它也使數位威脅更加難以檢測和應對。如今，了解這些攻擊的發展方式是最大限度地降低風險和保護最敏感資訊的關鍵。
這些由人工智慧創建的惡意程式的複雜程度已經達到了這樣的水平，它們不再僅僅能夠 繞過傳統防禦系統，但它們也可以即時適應環境並使用意想不到的方法進行分佈。 我們回顧了最相關的案例、所使用的主要技術以及如何減輕這些威脅。.
人工智慧惡意軟體：科技及其運作原理
人工智慧的進步打開了 前所未有的攻擊技術 在惡意軟體的世界中，一個突出的方面是人工智慧模型能夠分析漏洞、按需生成惡意程式碼並根據目標受害者或環境進行客製化。 這使得攻擊者可以創建更有效的漏洞，這些漏洞難以識別，甚至可以抵抗傳統的反惡意軟體系統。.
在新興趨勢中， 測謊文件的使用 它是最引人注目的病毒之一：它包括將可執行程式碼添加到看似無害的檔案（例如 JPEG 圖像）的末尾，這意味著只需打開它們即可觸發系統記憶體中有害腳本的執行。
另一種新穎的方法涉及 漏洞利用開發的完全自動化 使用大型語言模型 (LLM)，例如 ChatGPT 或 Llama 2。透過精心策劃的互動，研究人員成功地協同多個人工智慧來分析易受攻擊的程式、識別漏洞、策劃攻擊並最終生成惡意軟體程式碼。這使得研究人員能夠在極短的時間內有效地發動功能性網路攻擊。
近期案例：從 LameHug、FunkSec 到 Koske
人工智慧驅動的惡意軟體威脅不僅僅是一個假設：最近幾個月已經記錄了一些具體的例子，證明了這種技術在網路犯罪分子手中的真實程度。
烏克蘭 CERT-UA 研究人員檢測到 LameHug 惡意軟體它使用 Hugging Face API 與阿里巴巴語言模型即時交互，並針對每個受感染的 Windows 系統產生自訂的惡意指令。這種靈活性使得傳統的偵測方法失效，因為程式碼不是固定的，而是根據受攻擊電腦的上下文動態產生的。
另一方面，該集團 芬克塞克 開發了一款多用途、人工智慧驅動的勒索軟體，採用自動生成程式碼，並為其攻擊配備了高級加密、資料外洩和防禦規避功能。其策略包括以較低贖金成本獲取大量受害者，攻擊目標包括世界各地的政府、科技和教育部門。
同樣，據觀察， Koske惡意軟體針對Linux系統，隱藏在看似無害的JPEG影像中傳播。該惡意軟體利用多語言檔案濫用等技術，在檔案開啟時執行惡意程式碼，安裝加密貨幣挖礦程序，並修改關鍵系統設定。該程式碼顯然是在人工智慧的幫助下開發的，其文檔齊全且模組化的特性引人注目，揭示了人工智慧在攻擊者手中所代表的品質飛躍。
感染方法和使用的工具
人工智慧驅動的惡意軟體分發用途 多種攻擊媒介從電子郵件附件到上傳到合法平台的圖片，各種攻擊手法層出不窮。例如，在 Koske 的案例中，只需開啟受感染的圖片，就會導致隱藏腳本在記憶體中執行，安裝 rootkit 並更改防火牆和 DNS 設定。在其他情況下，攻擊者會利用洩漏的憑證或軟體漏洞來取得初始系統存取權限，然後將所有後續步驟的自動化委託給人工智慧。
生成工具和平台，例如 ChatGPT、Llama 2、FraudGPT、WormGPT 和 HackerGPT 它們被認為是攻擊分析專家和犯罪分子使用的資源，這表明研究和惡意攻擊之間的界限可能非常微妙。這些人工智慧引擎可以在幾秒鐘內分析配置、發現漏洞並編寫高效的腳本。
專家指出，攻擊者不再需要從頭開始編寫所有惡意程式碼：借助語言模型，他們可以創建 即時自訂惡意軟體這使得傳統安全解決方案的工作變得極為困難。
保護自己的技巧和策略
鑑於這張全景圖， 防範人工智慧驅動的惡意軟體需要採取主動的方法 並且多種多樣，結合了先進的技術解決方案和良好的實踐。
- 始終更新您的作業系統和所有應用程序，以防止攻擊者利用已知漏洞。
- 實施使用人工智慧來識別異常行為（而不僅僅是靜態簽名）的檢測解決方案。
- 執行分段和受保護的備份，以確保在發生攻擊時恢復，並監控關鍵系統檔案和服務的變更。
- 對員工進行社會工程學和網路釣魚的培訓，因為最常見的切入點仍然是人為錯誤。
- 確保強大的防火牆配置並限制對敏感實例的訪問，例如科學和學術環境中的 JupyterLab 伺服器。
在企業環境中，EDR 解決方案、反 APT 和威脅情報平台等專業工具已被證明在預測和回應基於 AI 的威脅方面非常有用。專家建議分析傳出流量並監控網路內的橫向移動，以偵測潛在的資料外洩。
最後，重要的是要記住，雖然其中許多威脅都有非常具體的目標（例如加密貨幣挖礦或資料加密），但它們的出現是由人工智慧驅動的，預示著更先進、更難以瞄準的變體的到來。
利用人工智慧開發惡意軟體代表著網路犯罪的質的飛躍。這使得越來越難以偵測的程式更容易被創建，甚至讓經驗不足的攻擊者也能發動複雜的攻擊活動。降低這些風險的關鍵在於採用創新的安全解決方案，保持謹慎的數位習慣，並提高各級安全意識。
