WormGPT способствует мошенничеству, генерируемому искусственным интеллектом.
Киберпреступники все чаще используют генеративные инструменты искусственного интеллекта, такие как ChatGPT или WormGPT, специальную модель вредоносного ПО, для отправки организациям весьма убедительных поддельных электронных писем, что позволяет им обходить меры безопасности и представляет большую угрозу для компаний.
Новая волна весьма убедительных фейковых писем обрушивается на ничего не подозревающих сотрудников больших компаний. Так утверждает британский компьютерный хакер Дэниели Келли, который исследует WormGPT( — инструмент искусственного интеллекта, оптимизированный для киберпреступлений, таких как компрометация деловой электронной почты (BEC)).
Кроме того, происходит обмен специальными запросами, известными как «jailbreaks», для управления такими моделями, как ChatGPT, для генерации выходных данных, которые могут включать раскрытие конфиденциальной информации или выполнение вредоносного кода.
«Этот метод приводит к тому что: злоумышленники, даже те, кто не владеет определенным иностранным языком, теперь более способны, чем когда-либо, создавать убедительные электронные письма для фишинга или BEC-атак», — пишет Келли.
Электронные письма, созданные с помощью WormGPT или ChatGPT, грамматически правильны, что повышает вероятность того, что они останутся незамеченными, а простые в использовании модели ИИ снизили барьер входа для атак подобного типа.
Continue reading…