恶意AI工具FraudGPT在暗网售卖，引发网络安全问题

随着生成性人工智能模型的普及，我们面临的威胁环境正在发生巨大变化。最近的一项报告揭示了一种名为 FraudGPT 的新型工具，自 2023 年 7 月 22 日起，它在 Telegram 频道和暗网论坛中广泛传播。

Netenrich 的威胁研究团队发现了这款名为 “FraudGPT” 的可能的人工智能工具。这是一种专门为攻击目标定制的人工智能机器人，如制作尖端的网络钓鱼电子邮件、创建破解工具、梳理等。这款工具目前正在暗网市场和 Telegram 平台上销售。

通过该工具可以草拟一封电子邮件，以高度可信的方式诱使收件人单击所提供的恶意链接。这种狡猾的手段将在针对组织的商业电子邮件泄露 (BEC) 网络钓鱼活动中发挥至关重要的作用。

这也有助于攻击者向目标发送诱导性极强的恶意电子邮件。

如上图所示，很明显，该工具还有助于找到最具针对性的服务/网站，这可以进一步欺骗受害者。

订阅费用从每月 200 美元起，一年最多可达 1,700 美元。它的功能包括编写恶意代码、创建无法检测的恶意软件、寻找非 VBV 垃圾箱、创建网络钓鱼页面、创建黑客工具、寻找团体、网站、市场，写诈骗页面/信件，寻找漏洞、漏洞，学习编码/黑客，寻找可用于卡片制作的网站，提供 24/7 的托管，以及拥有超过 3,000 条已确认的销售/评论。

一些功能包括：

编写恶意代码
创建无法检测的恶意软件
查找非 VBV 垃圾箱
创建网络钓鱼页面
创建黑客工具
查找团体、网站、市场
写诈骗页面/信件
查找漏洞、漏洞
学习编码/黑客
查找可卡片网站
托管可用 24/7
超过 3,000 条已确认的销售/评论

通过跟踪威胁行为者在暗网论坛上注册的身份，我们发现他们的电子邮件地址是 canadiankingpin12@gmail.com。

与 FraudGPT 类似的还有 WormGPT，这是另一款于 2023 年 7 月 13 日发布的工具。这些 ChatGPT 的恶意版本持续吸引着犯罪分子和技术知识薄弱者，他们寻求通过攻击无辜的受害者来获得经济利益。

随着时间推进，犯罪分子将会通过利用我们自身的创新工具来加强他们的犯罪能力。尽管我们可以创建具有道德保障的 ChatGPT（和其他工具），但在没有这些保障的情况下复制相同的技术并不困难。

在这种情况下，我们仍然需要关注网络钓鱼，这是攻击者尝试进入环境的初步手段。我们可以使用传统工具来检测由人工智能支持的网络钓鱼，更为重要的是，我们还可以追踪并检测威胁行为者的后续行动。