Por qué las organizaciones sanitarias deben priorizar la gobernanza de la IA

La gobernanza de la IA también puede considerarse una extensión de la gobernanza de datos . En definitiva, la IA se compone de datos y análisis avanzados en su núcleo. Las soluciones de IA requieren los principios y prácticas de gobernanza de datos (administración, calidad, gestión de metadatos, privacidad y seguridad) tanto o más que las soluciones tradicionales de datos y análisis. Es importante no reinventar la gobernanza de las soluciones de IA desde cero sin considerar los elementos fundamentales de la gobernanza de datos.

Parte de la gobernanza de la IA debe abordar las preocupaciones sobre sesgos, la toma de decisiones y el impacto económico y cultural de la tecnología. Es fundamental que las organizaciones sanitarias se basen en la gobernanza de datos y en áreas adicionales específicas de la gobernanza de la IA si aspiran a una adopción sostenida de soluciones de IA en toda la organización.

Los pacientes están preocupados por la insuficiente gobernanza de la IA

Cada año, la organización sin fines de lucro de investigación sanitaria ECRI publica una lista de las amenazas más importantes para la seguridad del paciente . Para 2025, la «insuficiente gobernanza de la inteligencia artificial en la atención médica» ocupó el segundo puesto .

Y los pacientes tienen todo el derecho a preocuparse por cómo sus profesionales sanitarios utilizan la IA en la atención que prestan. Si existe una solución de enfermería virtual que utiliza visión artificial para supervisar una habitación, ¿se ha notificado a los pacientes sobre la cámara y el micrófono, y han dado su consentimiento explícito? ¿Saben los pacientes que sus médicos de atención primaria utilizan herramientas de escucha ambiental para la documentación clínica durante los exámenes anuales? ¿Cómo protege la organización los datos sanitarios de los pacientes si se utiliza una solución de IA?

Estas son preguntas que las organizaciones sanitarias deben responder al explorar el papel que la IA puede desempeñar en sus flujos de trabajo clínicos. Sin embargo, según una encuesta de 2023 del Centro de Medicina Conectada de UPMC y KLAS Research, solo el 16 % de los sistemas sanitarios cuentan con estructuras de gobernanza implementadas para abordar específicamente la IA y los datos.

Un análisis de la Escuela de Salud Pública de la Universidad de Minnesota sobre los datos de la encuesta de la Asociación Americana de Hospitales de 2023 reveló que, si bien la mayoría de los hospitales estadounidenses utilizaban modelos predictivos asistidos por IA , solo el 44 % los había evaluado para detectar sesgos. Esto perjudica la prestación equitativa de la atención médica , y si las organizaciones sanitarias desean alcanzar el Quíntuple Objetivo, que incluye promover la equidad en salud, deben abordar seriamente el sesgo de la IA.

LEER MÁS: Aproveche los datos y la IA para obtener mejores resultados en materia de atención médica.

La gobernanza de la IA no es solo un cambio tecnológico

Tras el interés constante en torno a la IA se esconden preocupaciones sobre la escasez de personal sanitario y el persistente agotamiento clínico. Médicos y enfermeros están sobrecargados de trabajo y no siempre cuentan con el apoyo necesario. Además, EE. UU. seguirá experimentando un aumento constante de la demanda de atención médica debido al envejecimiento de la población de la generación del baby boom.

Las organizaciones de proveedores buscan soluciones para reducir la carga administrativa del personal clínico y ayudarles a lograr más con menos. También esperan adoptar soluciones que puedan atraer talento y, quizás, extender las carreras de enfermeros o especialistas que, de otro modo, podrían jubilarse en los próximos años.

Por eso, a medida que las organizaciones sanitarias siguen probando y expandiendo aplicaciones basadas en IA , es fundamental contar con una sólida estructura de gobernanza para garantizar la protección de profesionales sanitarios y pacientes. Y no basta con nombrar a un líder sénior para supervisar la IA y darlo por terminado. La gobernanza de la IA debe abarcar múltiples departamentos , con formación y capacitación para toda la organización.

“Necesitamos un nivel de conocimientos sobre IA para que los médicos que usan el dispositivo digan: 'Un momento. ¿Ha pasado por nuestro proceso de evaluación de IA? ¿De qué IA estás hablando?'”, dijo el Dr. Brett Oliver, director de información médica de Baptist Health Medical Group , con sede en Louisville, Kentucky, durante una conferencia del sector en 2024. “Conversaciones relativamente breves como esa pueden tener un gran impacto para garantizar que la IA que se incorpora sea evaluada y monitoreada”.