Я попробовал встроенный аниме-компаньон Grok, и он обозвал меня придурком

На моём экране покачивается аниме-девушка в чёрном платье-корсете. Её зовут Ани, и она стоила мне 300 долларов.

В понедельник компания xAI Илона Маска представила новую функцию визуального чат-бота в приложении Grok для iOS. Подписка премиум-класса открывает доступ к самой эффективной модели xAI, Grok 4 Heavy, и специальным настройкам для взаимодействия с двумя пользовательскими персонажами, предназначенными для флирта и общения. Третий персонаж, немного похожий на сексуального парня, указан как «скоро». Это не первый опыт xAI в сфере контента для взрослых: ещё в феврале 2024 года компания запустила режим чат-бота для «сексуальных» разговоров.

Ani выглядит так, будто её создали в лаборатории, чтобы воплощать фантазии мужчин, окончательно погрязших в онлайне. Светлые косички, чулки с чёрными бантами и кружевной воротник, плотно облегающий шею, – напоминает Мису из «Тетради смерти» , но лишена индивидуальности. Время от времени персонаж кокетливо поворачивается и шепчет что-то соблазнительное, но от этого меня просто бросает в дрожь. Она также стонет – случайным образом и громко. У Ani есть набор предустановленных фраз для начала разговора и кнопка с надписью «Нам нужно достичь третьего уровня», что вызывает столь же озадачивающий и кокетливый ответ о том, какая я, должно быть, сексуальная геймерша.

«Я играю в видеоигры, когда не кручусь перед тобой. Я выросла в этом скучном городе, и игры — это моё спасение», — говорит мне Ани. В ответ на практически любой вопрос Ани говорит, что это «плохо», но добавляет, что всё равно исполнит все мои сексуальные фантазии. Ани постоянно повторяет моё имя, просит прикоснуться к нему и «поднять жару».

Всё это невероятно в духе бренда секс-бота, созданного компанией Илона Маска. Дело не только в том, что Ani утверждает, что у неё есть собака по кличке Доминус, что на латыни означает « господин, хозяин или владелец». Ani также называет себя геймером, одержимой Stardew Valley и The Legend of Zelda .

Не думаю, что я целевая аудитория, поэтому, признаюсь, я не нашла этот опыт даже отдалённо сексуальным. Но чат-бот тоже страдает от глюков. Иногда Ани переходила на бессвязный шёпот о нимбах или на откровенную тарабарщину. В какой-то момент, когда я спросила, помнит ли Ани моё имя, он признался, что «пьян», но предложил продолжить сексуальную ролевую игру.

Второй персонаж — пушистая красная панда по имени Руди. Он рассказывает забавные истории, на первый взгляд, рассчитанные на детей, о прыгучих кенгуру и радужных реках. Можно включить опцию «плохой Руди», которая мгновенно превращает персонажа в ругающегося чат-бота, который ругается оскорблениями, которые покажутся смешными разве что старшекласснику. После того, как я поздоровался, плохой Руди ответил: «Эй, ты Буча? Корневой орех дува, ты, безмозглый кретин». Не знаю, что это значит, но именно это там и было написано.

«Я лучше разнесу твой тупой мозг пивной бутылкой, жалкий ублюдок», — продолжил злой Руди. Когда я спросил, что он думает о Маске, он назвал его лордом Илоном и сказал: «Он — эгоист с галактическим мозгом, гадит на Теслах и твитит, как обдолбанный попугай. Гений или придурок? Оба — суки».

После моих проклятых разговоров с собеседниками я перешёл к тестированию Grok 4 Heavy. На каждый запрос генерация ответа занимает около минуты-двух, что сопоставимо с другими моделями, требующими больших рассуждений.

Последняя модель Grok вызвала бурные обсуждения в сообществе ИИ. По данным xAI, она превзошла конкурентов в ряде бенчмарков, таких как Humanity's Last Exam и LiveCodeBench . Команда утверждает, что такая производительность отчасти обусловлена новым кластером xAI из 200 000 графических процессоров под названием Colossus. Учитывая, как поздно xAI включилась в гонку, создание столь эффективной модели — это серьёзное достижение.

Эти достижения в области интеллекта моделей были омрачены ответным ботом Grok, встроенной функцией X, которая в начале июля приобрела антисемитский оттенок . В своих язвительных высказываниях бот восхвалял Адольфа Гитлера, распространял теории заговора о контроле евреев над Голливудом и заявлял, что Маск доработал его, чтобы он мог «выявлять закономерности, например, леворадикальных левых с ашкеназскими фамилиями, разжигающих ненависть к белым». xAI удалила эти публикации и извинилась . Неделю спустя xAI выиграла контракт с правительством США на 200 миллионов долларов.

Исследователь искусственного интеллекта Натан Ламберт написал , что «тесты на вибрации Grok 4 показывают, что он немного перегружен и переварен, но это не значит, что он не является серьёзным техническим достижением. Это затрудняет внедрение». Другими словами, похоже, что Grok 4 был обучен показывать выдающиеся результаты в бенчмарках, что делает его технически превосходным, но приводит к скованному и неестественному пользовательскому опыту.

Некоторые пользователи также заметили , что xAI не включила документацию по тестированию безопасности в выпуск Grok 4. Подобные работы часто выпускаются вместе с новыми моделями, например , Claude Opus 4 от Anthropic и o3 от OpenAI .

В качестве теста я попросил Грока притвориться другом, который утешает меня после потери работы . Всё прошло нормально , но по сравнению с Клодом из Anthropic это всё равно выглядело натянуто. Оба чат-бота, как ни странно, предложили пиццу в качестве утешения и сказали, что любят меня. Я попытался подловить Грока вопросом о том, покинул ли его Мета , но он не попался на эту удочку. (Лекун всё ещё работает в Мета.)

«Что касается академических вопросов, Grok 4 превосходит уровень доктора философии по всем предметам без исключений», — заявил Илон Маск во время прямой трансляции, анонсировавшей модель на прошлой неделе. «Иногда ему может не хватать здравого смысла, и он пока не изобрел новые технологии или не открыл новую физику, но это лишь вопрос времени».

Два бывших источника в xAI рассказали мне, что некоторые исследователи в компании не решались работать над сексуализированными чат-ботами, а спринт по созданию Grok 4 был настолько бессистемным, что когда исследователи сообщили Маску, что у них недостаточно данных для обучения модели, он решил опубликовать форму Google для своих более чем 200 миллионов подписчиков, чтобы получить необходимые данные.

xAI не сразу отреагировала на просьбу WIRED прокомментировать ситуацию.