Бот на базе ChatGPT заманивает на вредоносные сайты

Ботнет на базе чат-бота ChatGPT заманивает пользователей «Твиттера» на поддельные криптоновостные сайты. Об этом сообщило издание Protos.

По его данным, ботнета под названием Fox8 обнаружили исследователи из Университета Индианы в Блумингтоне. Он включает в себя как минимум 1140 учетных записей, предназначенных для обмена оригинальными твитами, ретвитнутыми сообщениями и изображениями, взятыми с сайтов за пределами «Твиттера».

Ботнет также публикует контент, связанный с криптовалютой, блокчейном и NFT, взаимодействует с влиятельными лицами и продвигает подозрительные веб-сайты. Автоматически сгенерированный контент разработали для того, чтобы заманить ничего не подозревающих людей на вредоносные сайты.

«Правильно настроенный ботнет на основе ChatGPT будет трудно обнаружить, он будет способен обманывать пользователей и более эффективно обманывать алгоритмы, используемые для определения приоритета контента в социальных сетях», — отмечает издание.

Проблемы могут оказаться куда больше

Эксперты предупреждают, что проблема может быть куда масштабнее, чем кажется на первый взгляд. Профессор Университета Индианы в Блумингтоне Филиппо Менцер заявил, что единственная причина, по которой исследователи заметили этого конкретного бота, заключается в том, что он «работал небрежно».

Легкость, с которой искусственный интеллект (ИИ) OpenAI был использован для мошенничества, означает, что продвинутые чат-боты могут использовать другие ботнеты, которые еще предстоит обнаружить, пояснил Менцер.

ИИ обходит защиту от интернет-ботов лучше человека

Другое исследование показало, что боты с ИИ теперь лучше людей расшифровывают CAPTCHA. По словам аналитиков, точность ботов при прохождении CAPTCHA колеблется от 85 до 100%, у большинства выше 96%. Такие показатели оказались существенно выше по сравнению с точностью людей — 50–85%.

В контекстуальной обстановке время решения CAPTCHA человеком замедлилось до 22 секунд. Это означает, что в более естественной обстановке боты ИИ решали головоломку значительно быстрее людей.

Источник