Киберзащитники обнаружили вредоносную версию чат-бота на основе GPT

Хакер создал чат-бот WormGPT на основе генеративного ИИ для помощи онлайн-преступникам, сообщает DataConomy. WormGPT был создан после обучения модели GPT с использованием информации о производстве вредоносных программ.

Служба безопасности электронной почты SlashNext, которая использовала вредоносную версию ChatGPT, утверждает, что создатель WormGPT продает доступ к программному обеспечению на известном хакерском форуме. Компания заявила в своем блоге, что «мы видим, что злоумышленники теперь создают свои собственные пользовательские модули, похожие на ChatGPT, но нацеленные на использование в корыстных целях».

Похоже, что чат-бот был первоначально представлен хакером в марте, а в прошлом месяце стал доступен всем желающим. В отличие от ChatGPT или Google Bard инструмент WormGPT не имеет никаких средств защиты от ответов на неэтичные запросы - от создания вредоносного ПО с кодом Python до запроса инструкции по разработке кибератаки.