隨著生成性人工智慧模型的普及，我們面臨的威脅環境正在發生巨大變化。最近的一項報告揭示了一種名為 FraudGPT 的新型工具，自2023 年7 月22 日起，它在Telegram 頻道和暗網論壇中廣泛傳播。
Netenrich 的威脅研究團隊發現了這款名為「FraudGPT」的可能的人工智慧工具。這是一種專門為攻擊目標量身定制的人工智慧機器人，如製作尖端的網路釣魚電子郵件、創建破解工具、梳理等。這款工具目前正在暗網市場和Telegram 平台上銷售。
透過該工具可以草擬一封電子郵件，以高度可信的方式誘使收件人點擊所提供的惡意連結。這種狡猾的手段將在針對組織的商業電子郵件洩漏(BEC) 網路釣魚活動中發揮至關重要的作用。
這也有助於攻擊者向目標發送誘導性極強的惡意電子郵件。
如上圖所示，很明顯，該工具還有助於找到最具針對性的服務/網站，這可以進一步欺騙受害者。
訂閱費用從每月200 美元起，一年最多可達1,700 美元。它的功能包括編寫惡意程式碼、創建無法檢測的惡意軟體、尋找非VBV 垃圾箱、創建網路釣魚頁面、創建駭客工具、尋找團體、網站、市場，寫詐騙頁面/信件，尋找漏洞、漏洞，學習編碼/駭客，尋找可用於卡片製作的網站，提供24/7 的託管，以及擁有超過3,000 條已確認的銷售/評論。
一些功能包括：
編寫惡意程式碼
建立無法偵測的惡意軟體
尋找非VBV 垃圾箱
建立網路釣魚頁面
創建駭客工具
尋找團體、網站、市場
寫詐騙頁面/信件
查找漏洞、漏洞
學習編碼/駭客
尋找可卡網站
託管可用24/7
超過3,000 則已確認的銷售/評論
透過追蹤威脅行為者在暗網論壇上註冊的身份，我們發現他們的電子郵件地址是 canadiankingpin12@gmail.com。
與FraudGPT 類似的還有WormGPT，這是另一款於2023 年7 月13 日發布的工具。這些ChatGPT 的惡意版本持續吸引犯罪分子和技術知識薄弱者，他們尋求透過攻擊無辜的受害者來獲得經濟利益。
隨著時間推進，犯罪分子將會透過利用我們自身的創新工具來加強他們的犯罪能力。儘管我們可以創造具有道德保障的ChatGPT（和其他工具），但在沒有這些保障的情況下複製相同的技術並不困難。
在這種情況下，我們仍然需要關注網路釣魚，這是攻擊者嘗試進入環境的初步手段。我們可以使用傳統工具來偵測由人工智慧支援的網路釣魚，更為重要的是，我們還可以追蹤並偵測威脅行為者的後續行動。
原创文章，作者：lyon，如若转载，请注明出处：https://cncso.com/tw/fraudgpt-the-villain-avatar-of-chatgpt-html
