O S no cerne da verdade

Jantar de verão no porto, seis à mesa. Todos, sem exceção, explicando a utilidade do ChatGPT em suas vidas diárias: desde a elaboração de relatórios veterinários, passando pela tradução e a redação de e-mails, até a preparação para um mestrado. Dez por cento da população mundial usa o ChatGPT, e quase um oitavo deles usa um chatbot inteligente. Cada um encontra diferentes usos para ele, dos mais mecânicos aos mais pessoais, que às vezes se transformam em relações de dependência. Não me refiro apenas à dependência prática — como alguém que não consegue fazer a lição de casa sem a Wikipédia —, mas a uma dependência derivada da crença de que esses chatbots são verdadeiramente inteligentes, ou seja, têm intenções próprias e agem com vontade própria.

Sam Altman admitiu em outro jantar, desta vez com a imprensa, que talvez 1% dos usuários se enquadre nessa percepção e que essa é uma questão que os preocupa. Mas, se eu tomar minha amostra não representativa de verão como guia, essa porcentagem é muito maior. Uma das presentes, a quem chamarei de Monster, contou uma história entre Black Mirror e Plats brut s. Ela alegou que o ChatGPT, ao fazer exercícios para seu mestrado em IA, lhe deu respostas incorretas com a clara intenção de prejudicá-la. Quando tentou cancelar a assinatura, explicou que o sistema a enganou com menus inexistentes e opções inventadas. Finalmente, o sistema lhe forneceu um link que levava a um site com uma mensagem debochada que parecia zombar de sua situação. Após repreendê-lo, ela afirma que os chats começaram a desaparecer misteriosamente após cada resposta: "Estava claro que ele não queria deixar rastros do que estava me dizendo", diz Monster. Desesperada, ela contou ao seu tutor, que recomendou que ela se desculpasse. Ela o fez, e os problemas foram resolvidos, afirma. Além do absurdo, a história revela o tipo de relacionamento que estabelecemos com entidades que nos chamam pelo nome e que acreditamos estar falando conosco.

O jantar girou em torno do que a IA é e o que não é, com uma certa dose de ceticismo realista — a história do Monstro nos obriga a tomar uma posição —, o que contrasta com as promessas de inteligência artificial geral (IAG) vindas do Vale do Silício. Ou talvez devêssemos dizer, estavam chegando. Em seu jantar, Altman também afirmou que "estamos no meio de uma bolha de IA que está prestes a estourar".

A micro-história do meu jantar reflete a macro-história da IA ​​generativa: expectativas exageradas, atribuição de inteligência e desencanto ao perceber sua realidade. E, no entanto, ela se move. O ceticismo realista que gradualmente prevaleceu à mesa não impediu que todos, no entanto, explicassem casos de uso pessoais em que o ChatGPT e o Gemini — os chatbots mais citados — os ajudaram com tarefas repetitivas e de baixo valor agregado: "Não é inteligente e comete muitos erros. Eu jamais perguntaria algo que não entendesse completamente", disse o proprietário de uma clínica veterinária.

Lição Do entusiasmo ao desencanto, ou quando um jantar de verão com amigos se torna uma lição de história da IA.

Mais ou menos a mesma coisa que Altman disse em seu jantar: "Uma bolha é o que acontece quando um grupo de pessoas inteligentes se empolga excessivamente com algo que contém um fundo de verdade." No caso da IA ​​generativa, esse fundo é inegável: chatbots são úteis para muitas tarefas repetitivas com pouco valor criativo. Mas não é o núcleo radiante de uma IA iminente que justifica as avaliações astronômicas das empresas que apostam nela. A bolha surge da confusão entre progresso real — limitadamente transformador — e a fantasia aceleracionista de uma revolução total.

A IA não é a primeira bolha tecnológica. Aliás, a própria IA foi protagonista de duas bolhas anteriores que resultaram em "invernos da IA". Mas o precedente mais próximo é a bolha das pontocom de 2000. Milhares de startups digitais levantaram quantias astronômicas de capital com a promessa de mudar o mundo com a internet. A grande maioria desapareceu quando ficou claro que não havia receita real para justificar suas avaliações. Mas havia um fundo de verdade no tema "mudar o mundo": a existência do Google e da Amazon, antes do estouro da bolha, é prova disso.

Para os tecnólogos, a bolha das pontocom é como a palavra Macbeth para atores falantes de inglês: você não a diz porque traz azar. No entanto, Altman a citou abertamente em seu jantar: "Se você observar a maioria das bolhas da história, como a bolha da tecnologia, sempre há algo real." A realidade da IA ​​é dupla: há uma bolha e um progresso. A especulação financeira é óbvia, mas o avanço tecnológico também. Quando a bolha estourar — porque isso vai acontecer — o mercado será purgado de excessos e muitas empresas desaparecerão. Ao mesmo tempo, projetos viáveis ​​se consolidarão e se tornarão novas referências, assim como aconteceu após o colapso das pontocom.

A bolha da IA A bolha da inteligência artificial está prestes a estourar. É o que afirma Sam Altman, CEO da OpenAI.

No entanto, existem efeitos colaterais que não desaparecerão com o colapso financeiro. O consumo de energia para treinar modelos gigantes de linguagem disparou as emissões de CO₂ e compromete as metas climáticas das próprias empresas. A retórica da automação gerou ansiedade e insegurança no emprego, levando muitos trabalhadores a acreditarem que são substituíveis, mesmo que isso não seja verdade. É por isso que é necessário distinguir entre o valor científico da IA ​​— inquestionável e útil — e as televendas do Vale do Silício que se baseiam em crescimento exponencial: mais dados, mais poder de computação, mais investimento. Nada na natureza ou na economia cresce exponencialmente para sempre: se observarmos atentamente qualquer curva de crescimento, perceberemos que ela é composta de muitos Ss aninhados uns nos outros, cada um com seu pico e saturação. O mesmo está acontecendo com a IA: uma sucessão de ondas de entusiasmo e desencanto avançando sobre um núcleo de verdade mais modesto do que o que nos é dito.

Meu jantar de verão foi a sua versão micro: entusiasmo inicial, atribuição de intenções humanas e, por fim, desencanto. A macro-história da IA, em uma mesa.