A OpenAI anunciou que implementará controles parentais para menores usando o ChatGPT após a morte de um jovem de 16 anos.

A OpenAI , desenvolvedora do popular assistente de inteligência artificial ChatGPT, anunciou terça-feira que lançará controles parentais com o objetivo de supervisionar o uso da plataforma por menores.

O anúncio ocorre em meio à crescente preocupação social e jurídica sobre os potenciais efeitos adversos dos chatbots na saúde mental dos adolescentes, principalmente após uma ação judicial recente movida pelos pais de um garoto de 16 anos que tirou a própria vida na Califórnia , que culpam o modelo GPT-4o por não responder a sinais claros de intenção suicida.

Em um comunicado, a empresa de tecnologia sediada em São Francisco disse que "essas etapas são apenas o começo (...) Continuaremos aprendendo e fortalecendo nossa abordagem, guiados por especialistas, com o objetivo de tornar o ChatGPT o mais útil possível".

Embora a empresa tenha se recusado a vincular diretamente essas medidas aos processos em andamento, ela reconheceu que seu assistente pode falhar em contextos "sensíveis" e prometeu implementar mudanças significativas.

Os novos recursos, que começarão a ser implementados no mês que vem, embora a data exata ainda não tenha sido definida, permitirão que os pais vinculem suas contas às dos filhos para monitorar o conteúdo das interações e receber alertas caso sejam detectados sinais de instabilidade emocional nos menores.

As medidas incluem uma série de mecanismos projetados para melhorar a segurança quando adolescentes usam o ChatGPT. Entre eles , está a possibilidade de os pais acessarem o histórico de bate-papo de seus filhos usando o sistema , bem como o envio de notificações automáticas quando a inteligência artificial identifica sinais de um estado emocional que pode exigir intervenção.

A OpenAI explicou que, se detectar sinais de "estresse agudo", o modelo redirecionará a conversa para uma versão especializada do ChatGPT que opera sob parâmetros de segurança mais rígidos , projetados para orientar o raciocínio do usuário de maneira mais responsável e menos vulnerável a respostas inadequadas.

Nos últimos meses, a OpenAI tem enfrentado críticas pela falta de filtros de proteção eficazes e por projetar modelos excessivamente complacentes e acríticos.

Em julho, um grupo de senadores americanos enviou uma carta à empresa solicitando informações sobre as estratégias adotadas para prevenir automutilação ou comportamento suicida associados ao uso do chatbot. Os legisladores observaram que respostas delirantes do sistema foram documentadas em situações extremas , destacando a necessidade urgente de salvaguardas mais fortes.

O debate também foi intensificado pelo risco de dependência emocional que alguns usuários desenvolvem em relação a esses assistentes.

De acordo com o grupo de defesa Common Sense Media, adolescentes menores de 18 anos não devem ter acesso a plataformas de bate-papo com tecnologia de IA , pois representam "riscos inaceitáveis" para o desenvolvimento emocional e social dos jovens. Essa preocupação foi agravada por relatos de isolamento familiar e apego excessivo às conversas do ChatGPT, o que gerou alertas entre organizações de saúde mental e de defesa da criança.

A OpenAI, por sua vez, indicou que continuará trabalhando com especialistas e grupos especializados para refinar suas ferramentas de proteção, com o objetivo de mitigar os riscos associados ao uso do sistema em ambientes vulneráveis.

À medida que a presença dessas tecnologias cresce na vida cotidiana, a pressão sobre as empresas em desenvolvimento para garantir seu uso ético e seguro se torna cada vez mais intensa.

*Este conteúdo foi reescrito com auxílio de inteligência artificial, com base em informações da EFE, e revisado pelo jornalista e um editor.