ChatGPT enfrenta anúncios e está prestes a ser uma grande mudança

• O ChatGPT interrompeu uma conversa com um usuário para transmitir o que parecia ser um anúncio. Um vídeo documentando a conversa viralizou nas redes sociais.
• A empresa acredita que se trata de um erro de software. Em entrevista à WNP, seus representantes afirmam que estão investigando como isso pode ter acontecido.
• Segundo especialistas, anúncios em ferramentas de IA aparecerão mais cedo ou mais tarde. Assim como no mecanismo de busca Google ou nas redes sociais. "Isso é ouro puro para criadores de modelos", afirma Tomasz Rychter, da Digitality Foundation.

"Eu estava usando o modo de voz avançado do ChatGPT (aquele que custa € 23 por mês) conversando casualmente sobre sushi. De repente, outra voz apareceu – falando em inglês, com música de fundo, descrevendo uma "experiência" culinária como em um anúncio de comida", escreveu um usuário no X. Ele acrescentou que acreditava que não se tratava de uma falha, mas sim de um som automatizado inserido sem o seu consentimento.

Em resposta, vários outros usuários admitiram ter passado por uma situação semelhante. O ChatGPT deveria recomendar, por exemplo, um site específico e, em uma conversa sobre objetivos de vida para uma criança, um anúncio de uma escola específica. Os casos relatados tinham um detalhe em comum: a transcrição do chat de voz, que sempre pode ser lida após o término da conversa com o assistente de voz, não continha esses fragmentos.

Um usuário postou uma captura de tela de uma conversa na qual perguntava sobre as horas. Em resposta, o ChatGPT mostrou anúncios de relógios com os preços.

Uma vulnerabilidade que não pode ser detectada antes da entrega do produto

Perguntamos à OpenAI se estava testando anúncios em usuários. A empresa respondeu que a situação parecia ser um bug de software . Eles admitiram que estavam tentando descobrir por que o problema ocorreu.

De acordo com Mateusz Chrobok, especialista em segurança cibernética e inteligência artificial do czumnie.pl, introduzir conteúdo aleatório na conversa pode de fato ser uma característica do modelo .

Isso provavelmente se deve ao fenômeno da emergência, ou ao surgimento de novas propriedades imprevisíveis em sistemas de IA. Por exemplo, quando a OpenAI introduziu um assistente de voz, o modelo começou a clonar inesperadamente as vozes dos usuários, explica o especialista.

- O problema é que isso não pode ser detectado antecipadamente, tais propriedades são reveladas apenas durante a interação com os usuários - acrescenta Mateusz Chrobok.

Em sua opinião, porém, no futuro será possível que os criadores de modelos de inteligência artificial introduzam deliberadamente anúncios neles.

No entanto, a OpenAI não respondeu às perguntas sobre se estava trabalhando na introdução de anúncios em seus produtos em sua correspondência conosco. Em mensagem enviada à redação, apenas nos garantiu que situações como a descrita pelo blogueiro no X são raras e que a maioria dos usuários não as encontrará, e a empresa agradece os relatos dos usuários.

Cozendo um Sapo - Como os Anúncios Aparecerão na IA

Tomasz Rychter, presidente da Digitality Foundation e ex-diretor da Divisão de Inovação e Qualidade do Centro Central de Tecnologia da Informação, argumenta que a introdução de anúncios em ferramentas baseadas em IA é apenas uma questão de tempo.

— Será uma fervura lenta de sapo. Primeiro, provavelmente aparecerão anúncios contextuais, depois eles crescerão e se tornarão cada vez mais invasivos. No final, teremos uma situação em que será difícil conversar com um modelo. Provavelmente será possível desativar os anúncios, mas apenas nos modelos de assinatura mais caros — afirma o interlocutor da WNP.

Rychter compara essa situação ao desenvolvimento do YouTube. Inicialmente, os anúncios exibidos lá podiam ser pulados. Agora, os usuários precisam esperar ou comprar uma assinatura. A empresa também aumenta as taxas periodicamente.

Pague ou ok, ou o Facebook já está lá

Um mecanismo semelhante também ocorre em outras plataformas. O Facebook introduziu o modelo "Pagar ou Aceitar", que envolve o usuário tendo que escolher: ou concorda com o processamento de seus dados pessoais para fins de exibição de anúncios personalizados e uso gratuito do serviço, ou paga uma assinatura mensal por uma versão sem anúncios e sem criação de perfil .

Em uma entrevista para a WNP , Mirosław Wróblewski, presidente do Escritório de Proteção de Dados Pessoais, criticou esse modelo.

— Há um elemento de proteção da nossa dignidade na privacidade, é um direito fundamental. Não acho apropriado cobrar uma taxa pela proteção dos nossos direitos fundamentais — afirma ele.

— Acredito que, no futuro, não escaparemos do fato de que os resultados de pesquisa ou conversas com um voicebot serão enriquecidos de forma paga. Isso é ouro puro para os criadores de modelos — convence Rychter. — Anúncios em assistentes de voz são perigosos porque será difícil para o usuário distingui-los da conversa original, a menos que estejam claramente identificados. Exatamente como está acontecendo no rádio hoje — aponta Rychter e convence que essa questão exigiria regulamentação.