WormGPT способствует мошенничеству, генерируемому искусственным интеллектом.

Киберпреступники все чаще используют генеративные инструменты искусственного интеллекта, такие как ChatGPT или WormGPT, специальную модель вредоносного ПО, для отправки организациям весьма убедительных поддельных электронных писем, что позволяет им обходить меры безопасности и представляет большую угрозу для компаний.

Новая волна весьма убедительных фейковых писем обрушивается на ничего не подозревающих сотрудников больших компаний. Так утверждает британский компьютерный хакер Дэниели Келли, который исследует WormGPT( — инструмент искусственного интеллекта, оптимизированный для киберпреступлений, таких как компрометация деловой электронной почты (BEC)).

Кроме того, происходит обмен специальными запросами, известными как «jailbreaks», для управления такими моделями, как ChatGPT, для генерации выходных данных, которые могут включать раскрытие конфиденциальной информации или выполнение вредоносного кода.

«Этот метод приводит к тому что: злоумышленники, даже те, кто не владеет определенным иностранным языком, теперь более способны, чем когда-либо, создавать убедительные электронные письма для фишинга или BEC-атак», — пишет Келли.

Электронные письма, созданные с помощью WormGPT или ChatGPT, грамматически правильны, что повышает вероятность того, что они останутся незамеченными, а простые в использовании модели ИИ снизили барьер входа для атак подобного типа.

WormGPT — это модель искусственного интеллекта, оптимизированная для онлайн-мошенничества.

WormGPT — это модель искусственного интеллекта, специально разработанная для борьбы с преступной и вредоносной деятельностью, которая публикуется на популярных онлайн-форумах по киберпреступности. Он позиционируется как «черная» альтернатива официальным моделям GPT и рекламируется с защитой конфиденциальности и «быстрыми деньгами».

Подобно ChatGPT, WormGPT может создавать убедительные и стратегически сложные электронные письма. Это делает его мощным инструментом для сложных фишинговых атак и BEC-атак. Келли описывает это как ChatGPT «без этических границ и ограничений».

WormGPT основан на модели GPT-J с открытым исходным кодом(open-source GPT-J model), которая по производительности приближается к GPT-3 и может выполнять текстовые задачи, аналогичные ChatGPT, а также писать или форматировать простой код. Сообщается, что производная WormGPT была обучена с использованием дополнительных наборов данных вредоносного ПО, хотя автор хакерского инструмента не раскрывает их.

Фишинговое письмо, созданное с помощью WormGPT. | Изображение: Дэниел Келли, через SlashNext

Келли протестировал WormGPT на фишинговом электронном письме, которое обманным путём пробует заставить представителя службы поддержки оплатить срочный поддельный счет. Отправителем электронного письма был генеральный директор целевой компании (см. скриншот выше).

Результаты эксперимента достаточно «тревожными», а созданное мошенническое электронное письмо «чрезвычайно убедительным, но в то же время стратегически хитрым». Даже неопытные киберпреступники могут представлять значительную угрозу с помощью такого инструмента, как WormGPT.

Лучшая защита от BEC-атак с использованием искусственного интеллекта — это профилактика.

Поскольку инструменты искусственного интеллекта продолжают распространяться, появляются новые векторы атак, что делает необходимым принятие строгих профилактических мер. Организациям следует разработать специальное обучение для BEC и внедрить расширенные меры проверки электронной почты для защиты от атак BEC на основе искусственного интеллекта.

Например, Келли ссылается на оповещения об электронных письмах, поступающих извне организации, которые выдают себя за менеджеров или поставщиков. Другие системы могут помечать сообщения такими ключевыми словами, как «срочный», «конфиденциальный» или «банковский перевод», которые связаны с атаками BEC.

Краткое содержание

• Киберпреступники используют генеративные приложения искусственного интеллекта, такие как ChatGPT и WormGPT от OpenAI, для создания убедительных поддельных электронных писем для корпоративных мошеннических атак(компрометация деловой электронной почты (BEC)).
• WormGPT — это модель искусственного интеллекта, разработанная специально для преступной и злонамеренной деятельности и позиционируемая как «черная» альтернатива официальным моделям GPT. Предположительно, он был настроен с использованием данных вредоносного ПО.
• Чтобы защититься от мошеннических атак с использованием искусственного интеллекта, организациям следует разработать специальное обучение по BEC и внедрить расширенные меры проверки электронной почты.