Grok, X-чат-бот, используется для распространения поддельных ссылок и вредоносного ПО среди миллионов пользователей.

Grok — это противоречивый чат-бот из X , социальной сети Илона Маска и бывшего Twitter, с которым xAI напрямую конкурирует ChatGPT от OpenAI или Gemini от Google . Он работает на основе языковых моделей, обученных на больших объёмах данных, и способен отвечать на вопросы, писать тексты и решать сложные задачи. Благодаря своей способности отвечать на вопросы и предоставлять информацию, он стал очень популярным инструментом в X, что не могло не заинтересовать киберпреступников.

Будьте осторожны, переходя по ссылкам, предоставляемым Grok, чат-ботом X: это «Grokking»

Компания ESET, специализирующаяся на кибербезопасности, предупредила о вредоносной рекламной кампании, в рамках которой Grok успешно манипулировал хакерами для массового распространения фишинговых ссылок и вредоносного ПО . С помощью этого типа атак злоумышленники стремятся перенаправить жертв на мошеннические страницы для кражи личных или банковских данных , а также для загрузки вредоносного ПО для заражения устройств и получения контроля над ними.

Кампания, получившая название «вредоносная реклама с использованием ИИ» или «Grokking», основана на технике, известной как «инъекция подсказки», которая заключается в внедрении скрытых инструкций в анализируемый ИИ контент, заставляющих его выполнять действия, которые обычно запрещены. В частности, злоумышленники используют видеоролики, имитирующие рекламу или кликбейт-контент, опубликованный в X.

Происходит следующее: в небольшом сером тексте под видео, где обычно указывается источник или происхождение видео, они размещают мошенническую ссылку , перенаправляющую пользователя на поддельные сайты . Затем они просят Grok определить источник видео, и, анализируя сообщение, чат-бот обнаруживает ссылку и автоматически повторяет её в своём ответе. Это приводит к тому, что он невольно делится вредоносными ссылками с миллионами пользователей .

Эта атака демонстрирует, как инструменты генеративного ИИ стали инструментами обмана людей с помощью методов социальной инженерии, и демонстрирует, что даже самый продвинутый искусственный интеллект может быть подвержен манипуляциям . Более того, компания, занимающаяся кибербезопасностью, подчеркивает, что это не только проблема X, но и любая платформа, использующая чат-ботов или языковые модели, может быть уязвима для такого типа атак.