ChatGPT берется за рекламу, это будут большие перемены

• ChatGPT прервал разговор с пользователем, чтобы транслировать то, что звучало как реклама. Видео, документирующее разговор, стало вирусным в социальных сетях.
• Компания считает, что это программная ошибка. В интервью WNP ее представители утверждают, что расследуют, как это могло произойти.
• По мнению экспертов, реклама в инструментах ИИ рано или поздно появится. Так же, как в поисковике Google или социальных сетях. - Это чистое золото для создателей моделей, - говорит Томаш Рихтер из Digitality Foundation.

«Я использовал расширенный голосовой режим ChatGPT (тот, который стоит 23 евро в месяц), ведя непринужденную беседу о суши. Внезапно появился другой голос — говорящий на английском языке, с фоновой музыкой, описывающий кулинарный «опыт», как в рекламе еды», — написал один пользователь на X. Он добавил, что, по его мнению, это был не сбой, а автоматический звук, вставленный без его согласия.

В ответ еще несколько пользователей признались, что сталкивались с похожей ситуацией, ChatGPT должен был порекомендовать, например, определенный сайт , а в разговоре о жизненных целях ребенка — рекламу определенной школы. Приведенные случаи объединяет одна деталь — в стенограмме голосового чата, которую всегда можно прочитать после окончания разговора с голосовым помощником, этих фрагментов не было.

Один пользователь опубликовал скриншот разговора, в котором он спрашивал о времени. В ответ ChatGPT показал ему рекламу часов вместе с ценами.

Уязвимость, которую невозможно обнаружить до поставки продукта

Мы спросили OpenAI, тестирует ли она рекламу на пользователях. Компания ответила, что ситуация, по всей видимости, является программной ошибкой . Они признали, что пытаются выяснить, почему возникла проблема.

По словам Матеуша Хробока, эксперта по кибербезопасности и искусственному интеллекту из czumnie.pl, включение случайного контента в разговор действительно может быть особенностью модели .

Вероятно, это связано с феноменом эмерджентности, или появления новых, непредсказуемых свойств в системах ИИ. Например, когда OpenAI представила голосового помощника, модель неожиданно начала клонировать голоса пользователей, поясняет эксперт.

- Проблема в том, что это невозможно обнаружить заранее, такие свойства раскрываются только во время взаимодействия с пользователями , - добавляет Матеуш Хробок.

Однако, по его мнению, в будущем не исключено, что создатели моделей искусственного интеллекта будут намеренно внедрять в них рекламу.

Однако в переписке с нами OpenAI не ответила на вопросы о том, работает ли она над внедрением рекламы в свои продукты. В сообщении, отправленном в редакцию, она лишь заверила нас, что ситуации, подобные описанной блогером на X, редки и большинство пользователей с ними не столкнутся, а компания ценит сообщения от пользователей.

Варка лягушки. Как будет выглядеть реклама в ИИ

Томаш Рихтер, президент Фонда цифровизации и бывший директор Отдела инноваций и качества Центрального центра информационных технологий, утверждает, что внедрение рекламы в инструменты на основе ИИ — это лишь вопрос времени.

- Это будет медленное кипение лягушки. Сначала, вероятно, появится контекстная реклама, затем она будет разрастаться и становиться все более навязчивой. В конечном итоге мы получим ситуацию, в которой с моделью будет сложно разговаривать. Вероятно, можно будет отключить рекламу, но только в самых дорогих моделях подписки , - говорит собеседник WNP.

Райхтер сравнивает эту ситуацию с развитием YouTube. Изначально показываемую там рекламу можно было пропустить. Теперь пользователям приходится ждать или покупать подписку. Компания также периодически повышает размер комиссий.

Плати или окей, или Facebook уже там

Похожий механизм действует и на других платформах. Facebook ввел модель «Плати или окей», которая подразумевает, что пользователю необходимо сделать выбор: либо он соглашается на обработку своих персональных данных в целях показа персонализированной рекламы и пользуется сервисом бесплатно, либо оплачивает ежемесячную подписку за версию без рекламы и без профилирования .

В интервью для WNP Мирослав Врублевский, президент Управления по защите персональных данных, раскритиковал эту модель.

- В частной жизни есть элемент защиты нашего достоинства, это фундаментальное право. Я не думаю, что уместно взимать плату за защиту наших фундаментальных прав, - говорит он.

- Я думаю, что в будущем нам не избежать того, что результаты поиска или разговоры с голосовым ботом будут обогащаться платным способом. Это чистое золото для создателей моделей , - убеждает Рихтер. - Реклама в голосовых помощниках опасна, поскольку пользователю будет сложно отличить ее от оригинального разговора, если она не будет четко обозначена. Точно так же, как это происходит сегодня на радио, - указывает Рихтер и убеждает, что этот вопрос потребует регулирования.