A inteligência artificial na assistência pediátrica traz desafios e novas eficiências.
Grandes modelos de linguagem são propensos à " bajulação ", ou seja, ao desejo de satisfazer o usuário que os motiva, bem como a alucinações, que envolvem descobertas fabricadas, explica Desai.
Ele observa que o uso de IA em pediatria também apresenta desafios, pois muitas doenças infantis são raras e, portanto, mais difíceis de serem previstas por algoritmos.
“Esta é uma limitação puramente bioestatística: o desempenho de um algoritmo na vida real depende muito da prevalência da condição. Quanto mais comum a condição, mais preciso será o algoritmo”, explica Desai. “Por outro lado, quanto mais rara a condição, pior será o desempenho do algoritmo.”
Embora os cientistas usem algoritmos de aprendizado de máquina para identificar doenças pediátricas raras, como imunodeficiências primárias, eles ainda geram uma grande quantidade de resultados "falsos positivos", segundo Desai. As crianças acabam sendo submetidas a muitos exames desnecessários e caros, afirma ele.
LEIA MAIS: A IA está sendo usada na área da saúde de diversas maneiras atualmente.
“Isso torna esses algoritmos muito difíceis de implementar no local de atendimento”, diz Desai.
Além disso, os vieses de treinamento trazem riscos na pediatria.
“Alguns grupos de pacientes talvez estivessem sub-representados nos dados de treinamento , então as previsões do modelo sobre esses pacientes são imprecisas”, diz Desai.
Para gerenciar os riscos da IA, o Texas Children's estabeleceu um comitê de governança e direção de IA , afirma Teresa Tonthat, vice-presidente e CIO associada do hospital.
O comitê de governança garante que todos os resultados dos modelos de IA exijam uma "intermediária humana" para verificar as informações antes de tomar decisões sobre os pacientes, afirma Tonthat. O comitê também aborda preocupações relacionadas a requisitos regulatórios, vieses e alucinações da IA , acrescenta ela.
Como o sistema de saúde trabalha com dados sobre crianças, o Texas Children's oferece treinamento às equipes de atendimento sobre aprovações por meio do MyChart da Epic e trabalha com fornecedores como a Microsoft para discutir como eles podem aproveitar e proteger os dados dos pacientes, diz Tonthat.
“Nossa tolerância ao risco é muito baixa quando se trata de informações sobre nossos pacientes pediátricos”, diz Tonthat.
Apesar dos riscos, a IA traz oportunidades para solucionar problemas clínicos e melhorar a eficiência dos fluxos de trabalho.
Inteligência Artificial para Radiologia e Diagnóstico em PediatriaO Texas Children's utiliza IA há mais de uma década e tem recorrido à modelagem preditiva, automação, aprendizado profundo e aprendizado de máquina para solucionar problemas clínicos, afirma Tonthat. O hospital tem explorado a IA generativa nos últimos dois anos, particularmente com modelos que aprimoram os fluxos de trabalho das equipes de atendimento. O interesse levou tempo para crescer entre as equipes clínicas do Texas Children's, mas agora a equipe está pronta para expandir o uso, diz ela.
O Texas Children's Hospital criou um modelo de IA para radiologistas preverem a idade óssea. O modelo foi treinado com milhões de radiografias de mãos pediátricas.
“Como temos milhões de radiografias de imagens de mãos, treinamos o modelo para que ele saiba em segundos qual é a idade da mão daquela criança, do ponto de vista da densidade óssea”, diz Tonthat.
Utilizando seu modelo de previsão de idade óssea baseado em IA, o Texas Children's conseguiu reduzir o tempo de resposta em 50% ao integrar a IA aos fluxos de trabalho clínicos dos radiologistas, segundo Tonthat. O modelo de IA é fruto da colaboração entre os departamentos de radiologia e serviços de informação do hospital e seu comitê de governança e diretrizes de IA .
Segundo Desai, o CHOP também está utilizando IA em radiologia .
“Na área da pesquisa, os investigadores do CHOP estão a analisar a IA para melhorar os diagnósticos radiológicos, identificar erros laboratoriais, acelerar o diagnóstico a partir de lâminas de patologia e muito mais”, afirma.
Se um médico estiver atendendo um paciente com asma mal controlada, uma ferramenta de IA ambiental poderia recuperar automaticamente o histórico de asma do paciente, resumir as consultas anteriores relacionadas à asma e notificar o médico caso o paciente apresente maior risco de contrair gripe, explica Desai. Em seguida, a ferramenta verificaria qual medicamento o plano de saúde do paciente cobre e poderia começar a preparar a receita para o medicamento de controle da asma, completa Desai.
healthtechmagazine
