Estudio examina riesgos de ciberataques contra modelos de IA en el sector salud
Los sistemas de inteligencia artificial utilizados en el ámbito médico son entrenados con grandes volúmenes de información clínica, incluidos datos sensibles de pacientes, lo que podría representar riesgos para la privacidad en caso de sufrir ciberataques. La situación resulta especialmente delicada para personas que pertenecen a grupos reducidos o con características específicas, como quienes padecen enfermedades poco frecuentes.
Una investigación publicada en la revista científica Nature y liderada por la Universidad Técnica de Múnich analizó los denominados ataques de inferencia de pertenencia (MIA, por sus siglas en inglés), una técnica que busca determinar si la información de una persona en particular fue utilizada para entrenar un modelo de inteligencia artificial.
Te recomendamos: Revelan la edad del cometa 3I Atlas, sería más antiguo que el sistema solarSegún los investigadores, estos ataques se basan en realizar múltiples consultas al sistema para detectar patrones que permitan inferir si determinados datos formaron parte del conjunto de entrenamiento, lo que podría comprometer la confidencialidad de los pacientes y abrir nuevos desafíos en materia de seguridad y protección de datos en el sector salud.
Las investigaciones anteriores sobre el riesgo de los datos se han basado en conjuntos de datos completos y no tienen en cuenta el riesgo individual; sin embargo, los nuevos resultados muestran que los ataques contra la privacidad, son más eficaces de lo que se pensaba a la hora de atacar con éxito a nivel individual.
Los MIA "pueden ser muy eficaces a la hora de comprometer la privacidad de los pacientes que aportan datos de forma individual", pues es posible determinar los datos médicos y la información privada de un paciente, indica el artículo.
Los investigadores usaron siete grandes conjuntos de datos compuestos por información clínica real, entre los que se incluyen imágenes médicas, electrocardiogramas e historiales clínicos electrónicos, para determinar quiénes son los pacientes más vulnerables de entre los que han aportado datos.
El resultado fue que los MIA "pueden alcanzar tasas de éxito casi perfectas para pacientes individuales", pero este riesgo no queda reflejado adecuadamente en el protocolo de evaluación estándar, que mide la eficacia de los ataques de forma agregada a través de los registros.
El estudio indica que los grupos infrarrepresentados, es decir aquellos pacientes que representan una minoría en el conjunto de datos de entrenamiento, "se enfrentan a un índice de éxito de los ataques desproporcionadamente alto".
Lee también: ¿Qué guarda en su interior? La cápsula del tiempo que será abierta hasta 2276 Las personas identificadas en los conjuntos de datos se incluyen aquellas con enfermedades rarasA nivel de grupo, entre las personas identificadas como tal en los conjuntos de datos se incluyen aquellas con enfermedades raras, las pertenecientes a un grupo racial minoritario, con una situación socioeconómica desfavorable, o aquellas cuyo género es menos común.
Al contar con datos más específicos codificados por modelos de IA, se ha constatado que estos grupos y personas son más vulnerables.
Además, observaron que el número de pacientes con un alto índice de éxito de los ataques aumenta considerablemente con la capacidad del modelo.
El grupo estima que los modelos de IA médica y sus contextos de implementación deben evaluarse en cuanto a la información sensible que los atacantes podrían obtener si lograran deducir la pertenencia a un conjunto de datos de entrenamiento.
Así, recomiendan que, para evitar daños a la privacidad, los modelos vulnerables se protejan mediante estrategias verificables de mitigación de riesgos o controles de acceso estricto.
Mantente al día con las noticias, únete a nuestro canal de WhatsApp
NA
informador
