恶意AI工具FraudGPT在暗网售卖,引发网络安全问题

随着生成式人工智能模型的兴起,威胁格局发生了巨大变化。如今又有黑客制造了一个名为 FraudGPT 的恶意 AI 工具,专门用于攻击目的,例如制作鱼叉式网络钓鱼电子邮件、创建破解工具、梳理等。该工具目前在各种暗网市场和 Telegram 平台上出售,据称“能够生成多种网络攻击代码”,“不到一周已经有逾 3000 名买家下单”。

随着生成性人工智能模型的普及,我们面临的威胁环境正在发生巨大变化。最近的一项报告揭示了一种名为 FraudGPT 的新型工具,自 2023 年 7 月 22 日起,它在 Telegram 频道和暗网论坛中广泛传播。

Netenrich 的威胁研究团队发现了这款名为 “FraudGPT” 的可能的人工智能工具。这是一种专门为攻击目标定制的人工智能机器人,如制作尖端的网络钓鱼电子邮件、创建破解工具、梳理等。这款工具目前正在暗网市场和 Telegram 平台上销售。

恶意AI工具FraudGPT在暗网售卖,引发网络安全问题

恶意AI工具FraudGPT在暗网售卖,引发网络安全问题

通过该工具可以草拟一封电子邮件,以高度可信的方式诱使收件人单击所提供的恶意链接。这种狡猾的手段将在针对组织的商业电子邮件泄露 (BEC) 网络钓鱼活动中发挥至关重要的作用。

恶意AI工具FraudGPT在暗网售卖,引发网络安全问题

这也有助于攻击者向目标发送诱导性极强的恶意电子邮件。

恶意AI工具FraudGPT在暗网售卖,引发网络安全问题

如上图所示,很明显,该工具还有助于找到最具针对性的服务/网站,这可以进一步欺骗受害者。

恶意AI工具FraudGPT在暗网售卖,引发网络安全问题

订阅费用从每月 200 美元起,一年最多可达 1,700 美元。它的功能包括编写恶意代码、创建无法检测的恶意软件、寻找非 VBV 垃圾箱、创建网络钓鱼页面、创建黑客工具、寻找团体、网站、市场,写诈骗页面/信件,寻找漏洞、漏洞,学习编码/黑客,寻找可用于卡片制作的网站,提供 24/7 的托管,以及拥有超过 3,000 条已确认的销售/评论。

一些功能包括:

编写恶意代码
创建无法检测的恶意软件
查找非 VBV 垃圾箱
创建网络钓鱼页面
创建黑客工具
查找团体、网站、市场
写诈骗页面/信件
查找漏洞、漏洞
学习编码/黑客
查找可卡片网站
托管可用 24/7
超过 3,000 条已确认的销售/评论

通过跟踪威胁行为者在暗网论坛上注册的身份,我们发现他们的电子邮件地址是 canadiankingpin12@gmail.com

与 FraudGPT 类似的还有 WormGPT,这是另一款于 2023 年 7 月 13 日发布的工具。这些 ChatGPT 的恶意版本持续吸引着犯罪分子和技术知识薄弱者,他们寻求通过攻击无辜的受害者来获得经济利益。

随着时间推进,犯罪分子将会通过利用我们自身的创新工具来加强他们的犯罪能力。尽管我们可以创建具有道德保障的 ChatGPT(和其他工具),但在没有这些保障的情况下复制相同的技术并不困难。

在这种情况下,我们仍然需要关注网络钓鱼,这是攻击者尝试进入环境的初步手段。我们可以使用传统工具来检测由人工智能支持的网络钓鱼,更为重要的是,我们还可以追踪并检测威胁行为者的后续行动。

原创文章,作者:lyon,如若转载,请注明出处:https://cncso.com/fraudgpt-the-villain-avatar-of-chatgpt.html

(0)
上一篇 2023年7月16日 上午12:36
下一篇 2023年8月1日 下午9:55

相关推荐