악성 AI 툴 FraudGPT, 다크웹에서 판매돼 네트워크 보안 문제 유발

생성적 AI 모델이 더욱 널리 보급됨에 따라 우리가 직면한 위협 환경은 극적으로 변화하고 있습니다. 최근 보고서에 따르면 사기GPT Telegram 채널에서 사용할 수 있는 새로운 도구다크 웹포럼에 널리 퍼졌습니다.

Netenrich의 위협 연구팀은 "FraudGPT"라는 인공 지능 도구를 발견했습니다. 이는 최첨단 피싱 이메일 제작, 크래킹 도구 생성, 카딩 등과 같은 공격 목표를 위해 특별히 맞춤화된 인공 지능 봇입니다. 이 도구는 현재 다크넷 시장과 텔레그램 플랫폼에서 판매되고 있습니다.

이 도구를 사용하면 수신자가 제공된 악성 링크를 클릭하도록 속이는 이메일 초안을 작성할 수 있습니다. 이러한 교활한 접근 방식은 조직을 표적으로 삼는 BEC(Business Email Compromise) 피싱 캠페인에서 중요한 역할을 합니다.

이는 또한 공격자가 매우 오해의 소지가 있고 악의적인 이메일을 대상에게 보내는 데 도움이 됩니다.

위 이미지에서 볼 수 있듯이 이 도구는 피해자를 더욱 속일 수 있는 가장 표적화된 서비스/웹사이트를 찾는 데에도 도움이 된다는 것이 분명합니다.

구독료는 월 $200부터 시작하여 연간 $1,700까지 올라갑니다. 그 기능에는 악성 코드 작성, 감지할 수 없는 악성 코드 생성, VBV가 아닌 저장소 찾기, 피싱 페이지 생성, 생성 등이 포함됩니다.해커도구, 그룹, 웹사이트, 마켓플레이스 찾기, 사기 페이지/편지 쓰기, 버그 찾기, 허점 찾기, 코딩/해킹 배우기, 카드 제작 사이트 찾기, 연중무휴 호스팅 제공, 3,000개 이상의 확인된 판매/댓글 보유.

일부 기능은 다음과 같습니다.

악성 코드 작성
감지할 수 없는 악성코드 생성
VBV가 아닌 저장소 찾기
피싱 페이지 만들기
해킹 도구 만들기
그룹, 웹사이트, 마켓플레이스 찾기
사기 페이지/편지 쓰기
취약점, 취약점 찾기
코딩/해킹 배우기
카드 친화적인 사이트 찾기
연중무휴 24시간 호스팅 가능
3,000개 이상의 확인된 판매/리뷰

다크넷 포럼에 등록된 위협 행위자의 신원을 추적한 결과, 우리는 그들의 이메일 주소가 다음과 같다는 사실을 발견했습니다. canadiankingpin12@gmail.com.

FraudGPT와 유사한 도구는 2023년 7월 13일에 출시된 또 다른 도구인 WormGPT입니다. ChatGPT의 이러한 악성 버전은 범죄자와 무고한 피해자를 공격하여 재정적 이익을 얻으려는 기술 지식이 부족한 사람들을 계속해서 끌어들이고 있습니다.

시간이 지남에 따라 범죄자들은 우리의 혁신적인 도구를 활용하여 능력을 향상시킬 것입니다. 윤리적 보호 조치를 통해 ChatGPT(및 기타 도구)를 만들 수 있지만 이러한 보호 조치 없이 동일한 기술을 복제하는 것은 어렵지 않습니다.

이 경우에도 우리는 공격자가 환경에 진입하려고 시도하는 초기 수단인 피싱에 집중해야 합니다. 기존 도구를 사용하여 AI 기반 피싱을 탐지할 수 있으며, 더 중요한 것은 위협 행위자의 후속 조치를 추적하고 탐지할 수 있다는 것입니다.