新型AI恶意软件FraudGPT的发现和潜在威胁

关键要点

新近出现的AI恶意软件FraudGPT被发现在各种暗网市场和Telegram账号上出售，专门用于发动网络攻击，包括制作用于钓鱼的电子邮件、破解工具和卡片欺诈等。Netenrich的主攻威胁猎人John Bambenek指出，他们的团队相信FraudGPT背后的威胁行为者很可能与此前报道的WormGPT黑客团伙属于同一伙，他们利用AI工具为不同受众开发多种网络攻击工具。

“我们认为，FraudGPT和WormGPT很可能源自同一黑客，报告显示这个罪犯正在开发多种工具以适应不同的市场，”Bambenek表示。“这有点类似于初创公司，似乎这个实体正在尝试用他们的技术寻找合适的市场。”

尽管目前还没有明确的证据显示FraudGPT工具正在被积极利用进行攻击，但Bambenek提到，FraudGPT更专注于快速、高容量的钓鱼攻击，而WormGPT则致力于长期的恶意软件和勒索软件攻击。

在7月25日的博客文章中，Netenrich的研究人员发现FraudGPT自7月22日以来已经在Telegram上传播，威胁行为者可以自信地撰写电子邮件，引诱受害者点击恶意链接。研究人员指出，这种工具可以帮助购买工具的黑客对组织实施商业电子邮件欺诈BEC钓鱼活动。

定价模式每月订阅每年订阅FraudGPT2001700

“随着时间的推移，罪犯们将找到更多的方法来强化他们的犯罪能力，”Netenrich的研究人员在博客中提到。“虽然组织可以创建具备伦理保障的ChatGPT等工具，但要没有这些保障重新实现相同的技术并不难。”

下一代产品降低了网络犯罪的门槛

针对即便是最基础的网络犯罪分子，ChatGPT已足够使用，而新出现的FraudGPT则增加了便利性，没有伦理防护，并且在钓鱼活动创建过程中提供指导。Hoxhunt的联合创始人兼CTO Pyry Avist表示，这大大降低了进入网络犯罪的门槛，并提高了复杂钓鱼攻击进一步民主化的可能性。

“这是网络犯罪经济版的下一代产品开发，用于钓鱼工具模型，”Avist说。

尽管这些钓鱼工具显示出语法和图形上的明显缺陷，Avist指出，这些钓鱼工具中找到的电子邮件文本和恶意网站模板便宜且效果良好。

“与钓鱼模板不同，FraudGPT允许黑客根据目标规范制作定制攻击，”Avist补充道。“这无疑令人担忧，但ChatGPT也能够做到这一点，并且可能做得更好。”

Tanium的端点安全研究主任Melissa Bischoping补充说，对于FraudGPT来说，他们在工具截屏中引用的“样本”，如钓鱼诱饵、网页的HTML代码及其他功能，与普通ChatGPT生成的差别不大，只是进行了些许绕过反滥用机制的改动。

“我甚至会挑战这种说法，问你是否真能做到‘更好，更快’，因为我们都知道GPT生成的代码容易出错，而目前尚没有大量确凿的研究显示GPT生成的钓鱼诱饵比人类生成的更有效，”Bischoping表示。“坦白说，这看起来像是在向那些技术不成熟的网络犯罪者索要现金，并利用大规模对基