En la actualidad, el Big Data y la IA están transformando el sector de la salud.
Como ya expliqué en mi artículo: “El papel de la inteligencia artificial en la medicina del futuro”. “¿Oportunidad o amenaza? ”, estas tecnologías tienen el poder de mejorar diagnósticos, personalizar tratamientos y mejorar la eficiencia del sector sanitario, entre otros beneficios.
Sin embargo, el manejo de datos médicos sensibles plantea desafíos en el ámbito de la ética y la privacidad que debemos plantearnos.
¿De qué forma se podría garantizar la privacidad de datos de los pacientes? ¿Cómo podríamos evitar sesgos en los datos? ¿Quién sería responsable de los errores cometidos por la IA?
¿Existen regulaciones del uso de la IA? ¿Deberíamos poner límites al desarrollo de la IA?
¿Por qué es tan importante la privacidad en datos de salud?
Primero, hemos de tener en cuenta que un paciente, cuando va al médico, ya sea en un hospital o centro médico, tiene derecho a la privacidad de sus datos. Existe un deber de confidencialidad que el médico debe velar para que se cumpla si quiere mantener su buena reputación.
Si queremos proteger esta privacidad, es necesario implementar marcos adecuados de protección de datos a lo largo de todo el ciclo de vida de la IA, según lo que aconseja la UNESCO. Me refiero a todas las etapas de desarrollo de la IA: la recolección, almacenamiento, procesamiento y eliminación de los datos.
Debemos tener en cuenta que, tras la digitalización en el sector salud, se almacenan muchos datos confidenciales de pacientes de forma digital; estos datos son muy valiosos para los cibercriminales.
Si, por ejemplo, un historial médico cae en manos con malas intenciones, puede provocar robo de identidad, fraude de seguros o algún tipo de discriminación, como en el ámbito laboral.
Desafíos actuales para almacenar y compartir historiales médicos.
Los historiales médicos contienen diagnósticos, tratamientos, imágenes de diagnóstico y mucho más. Sin embargo, de forma frecuente nos podemos enfrentar a:
- Fragmentación de datos: Cuando el paciente tiene historiales en distintos centros, lo que dificulta obtener toda la información del estado de su salud.
- Problemas de acceso: Pacientes y profesionales pueden tener problemas de acceso debido a requisitos burocráticos cuando intentan acceder a estos datos.
- Seguridad y privacidad: La seguridad de los datos sanitarios es muy necesaria debido al aumento de ciberdelitos.
Alternativas tecnológicas para hacer frente a estos desafíos.
- Plataformas unificadas en la nube. Pacientes y profesionales podrán acceder a ellas mediante procedimientos adecuados, de tal forma, que la información esté disponible siempre donde se necesite.
- Tecnología blockchain: podría proporcionar un sistema de almacenamiento seguro y los datos solo podrían compartirse con determinados permisos, manteniendo la confidencialidad de la información de los pacientes.
- Aplicaciones de seguimiento de pacientes: permite a los pacientes mantener el control de sus datos en todo momento, decidir con quién compartirlos y acceder a ellos desde cualquier dispositivo.
- Sistema de identificación biométrica: como el reconocimiento facial o huellas dactilares, para garantizar que sólo las personas autorizadas acceden a los datos.
- Inteligencia Artificial: útil para organizar, categorizar y analizar grandes cantidades de datos médicos, facilitando el diagnóstico y el tratamiento personalizado.
Ejemplo de un caso de filtración de datos médicos.
La compañía Shields Health Care Group sufrió una violación de datos que afectó a 2.000.000 de personas en Estados Unidos en el año 2022.
Esta empresa es un proveedor de servicios médicos con sede en Massachusetts que está especializada en imágenes de diagnóstico por resonancia magnética y PET/CT, oncología radioterápica y servicios quirúrgicos ambulatorios.
La información robada se podría utilizar para ingeniería social, phishing, estafa e incluso extorsión, ya que se trata de datos bastante sensibles.
Shields comenta que no ha visto evidencia de que la información robada haya sido difundida en canales ilegales o haya sido mal utilizada.
Regulaciones globales que protegen datos médicos.
- GDPR (Reglamento General de Protección de Datos de la Unión Europea):
Es la norma más estricta del mundo en materia de privacidad y seguridad.
Entró en vigor en el año 2018.
En este reglamento se detalla:
– Los derechos fundamentales de las personas en la era digital.
– Las obligaciones de los encargados del tratamiento de datos.
– Los métodos para garantizar el cumplimiento.
– Las sanciones para quienes infrinjan las normas.
Derechos de las personas:
Proporcionan a las personas un mayor control sobre sus datos personales. Como, por ejemplo, los derechos de supresión, rectificación y “al olvido”.
Los encargados del tratamiento de datos:
Han de aplicar medidas de seguridad adecuadas en función del riesgo derivado de los tratamientos de datos.
———————————————————————————————————–
- HIPAA (1996 Ley de Portabilidad y Responsabilidad de Seguro Médico en EE.UU.):
Esta ley protege el uso y divulgación de la información de salud que incluye información médica de una persona y también datos personales como nombre, dirección, fecha de nacimiento y número de Seguro Social.
Existen 3 normas principales que deben seguir los centros de salud:
- Norma de privacidad: Establece un estándar para la protección de la información de salud y limita cuándo se puede usar.
- Norma de seguridad: Medidas de protección que se han de implementar para proteger la confidencialidad e integridad.
- Norma de notificación de infracción: Las entidades cubiertas y los colaboradores comerciales notificarán cualquier “infracción” a la privacidad.
Las metas de la Ley HIPAA son:
Garantizar la portabilidad de los seguros médicos.
Reducir los abusos y el fraude en la atención sanitaria.
Garantizar la seguridad y privacidad de la información sanitaria.
Velar por el cumplimiento de las normas relativas a la información sanitaria.
———————————————————————————————————–
- Normativas clave en España sobre protección de datos de salud.
Ley Orgánica de Protección de Datos Personales y Garantía de los Derechos Digitales (LOPDGDD – Ley 3/2018).
- Adapta el GDPR al contexto español.
- Regula específicamente los tratamientos de datos de salud en el ámbito sanitario.
- Refuerza el consentimiento explícito para el tratamiento de datos médicos.
Ley 41/2002, de Autonomía del Paciente.
- Regula los derechos y deberes de los pacientes en materia de información y documentación clínica.
- Establece que el acceso a la historia clínica debe ser restringido y solo permitido a profesionales sanitarios autorizados.
Ley General de Sanidad (Ley 14/1986).
- Regula la organización del sistema sanitario en España.
- Incluye disposiciones sobre la confidencialidad de los datos de los pacientes.
Normativa específica para la historia clínica electrónica.
- España ha desarrollado estándares específicos para la historia clínica digital, garantizando la interoperabilidad y seguridad de los datos en sistemas electrónicos de salud.
Dilemas éticos para el uso de la IA en salud.
Privacidad de datos:
Gracias a la evolución y avance de la inteligencia artificial en este sector, tenemos la necesidad de entrenar algoritmos con grandes cantidades de datos de salud, lo que plantea grandes desafíos: cómo proteger la privacidad de los pacientes al mismo tiempo que se aprovecha el potencial de la IA para mejorar la atención médica.
Los sistemas de IA, en especial aquellos que necesitan datos genéticos o historiales médicos completos, dependen de conjuntos de datos masivos (Big Data) para aprender y funcionar. Sin embargo, estos datos son personales y sensibles; su recopilación y uso plantean riesgos significativos para la privacidad de los pacientes.
Sesgos algorítmicos:
Los algoritmos de IA necesitan entrenarse con grandes volúmenes de datos médicos. Pero, si estos datos no representan de manera equitativa a toda la población, la IA puede generar diagnósticos o predicciones menos precisas para ciertos grupos demográficos.
Por ejemplo, algunos estudios han demostrado que algunos algoritmos de detección de enfermedades de la piel funcionan mejor en pacientes de piel clara porque han sido entrenados mayoritariamente con imágenes de personas caucásicas. Si quieres diagnosticar a una persona con un tono de piel más oscuro, podría llevar a diagnósticos erróneos.
Responsabilidad:
La implementación y desarrollo de la Inteligencia Artificial (IA) ha supuesto muchos beneficios, pero además ha planteado desafíos éticos y legales complejos, en especial, en temas de responsabilidad en caso de errores o daños causados por sistemas de IA.
El dilema de la responsabilidad. Por ejemplo, un sistema de IA diseñado para detectar cáncer en radiografías. Si el algoritmo comete un error en la detección del tumor y el paciente no recibe su tratamiento a tiempo, ¿de quién es la culpa?
- ¿Del desarrollador del algoritmo? Porque diseñó el modelo y entrenó a la IA.
- ¿Del hospital o institución de salud? Porque decidió implementar la herramienta.
- ¿Del médico que usó la IA? Porque podría haber contrastado el resultado con su criterio clínico.
La respuesta no es sencilla y depende de múltiples factores, como la naturaleza del error, el grado de autonomía del sistema de IA, la relación causal entre el error y el daño, y el marco legal aplicable.
Transparencia y explicabilidad:
Los modelos complejos de IA, como las redes neuronales profundas, en el sector de la medicina presentan desafíos importantes, debido a la falta de transparencia y explicabilidad. Estos modelos, son muy precisos en muchas tareas, pero funcionan como “cajas negras” (black box); lo que quiero decir, es que es difícil entender cómo llegan a sus decisiones.
Esto último, plantea problemas éticos, legales y prácticos, en especial cuando las decisiones afectan la salud y bienestar de las personas.
¿Cómo conseguir un balance entre la Innovación y la Privacidad?
En un sector como el de la salud, tenemos el desafío de equilibrar la innovación tecnológica, especialmente en el ámbito de la inteligencia artificial (IA), pero también con el respeto a la privacidad y la ética.
Si queremos conseguirlo, necesitamos adoptar un enfoque que combine medidas técnicas, regulatorias y educativas. ¿Qué estrategias podríamos aplicar para alcanzar este equilibrio?
Estrategias para proteger la privacidad y la ética en la IA del sector salud:
✅ Uso de datos anonimizados o seudonimizados.
Una forma de utilizar datos de salud para entrenar algoritmos sin comprometer la identidad de los pacientes es mediante la anonimización (eliminación de información personal identificable) y la seudonimización (sustitución de datos sensibles por códigos o identificadores que solo pueden ser decodificados mediante condiciones estrictas de seguridad).
✅ Implementación de sistemas de privacidad diferencial.
Consiste en introducir ruido matemático en los datos, asegurando que ninguna información individual pueda ser identificada dentro del conjunto de datos de entrenamiento.
✅ Creación de comités éticos en el desarrollo de tecnologías médicas basadas en IA.
Decisiones como el diseño, entrenamiento y aplicación de la IA en salud deben ser revisadas por comités multidisciplinarios que incluyan expertos en ética médica, profesionales sanitarios, ingenieros en IA y representantes de pacientes.
✅ Educación y concienciación sobre el uso de la IA en salud.
El colectivo de profesionales médicos, al igual que los pacientes, debe entender cómo funciona la IA y qué implicaciones tiene en sus decisiones de salud.
Casos polémicos y buenas prácticas.
La implementación de la IA en el sector salud no ha dejado indiferente a nadie; ha generado beneficios y avances positivos, pero también mucha controversia.
A continuación os explicaré algunos casos polémicos que han puesto en evidencia la ética y privacidad de los datos y también de buenas prácticas que muestran cómo implementar la IA de manera ética y responsable.
Casos polémicos:
Uso de datos sin consentimiento explícito.
En el año 2016, salió a la luz que el Servicio Nacional de Salud (NHS) del Reino Unido había compartido datos de 1.6 millones de pacientes con Google DeepMind para el desarrollo de una aplicación de IA llamada Streams, diseñada para detectar enfermedades renales.
El problema estuvo en que ninguno de los pacientes fue informado ni dio su consentimiento explícito para el uso de sus datos. Se formó un gran revuelo debido a la falta de transparencia y consentimiento, ya que los datos incluían información sensible de los pacientes.
El Comisionado de Información del Reino Unido (ICO), realizó una investigación y llegó a la conlusión de que el NHS había violado la ley de protección de datos.
Sesgos en algoritmos de priorización de pacientes.
En España, algunos sistemas de triaje (clasificación de pacientes según la urgencia de su atención) basados en IA han sido criticados por posibles sesgos en la priorización de pacientes. Por ejemplo, se ha cuestionado que hayan podido favorecer a grupos demográficos en detrimento de otros, como personas mayores o con condiciones crónicas.
El problema está en que, si los algoritmos presentan sesgos, podría llevarlos a tomar decisiones injustas o discriminatorias.
Buenas prácticas:
Proyecto Dravet (España).
Este proyecto está liderado por la Fundación Síndrome de Dravet en colaboración con investigadores españoles; usan la IA para analizar datos genéticos y clínicos de pacientes con este síndrome (una forma rara de epilepsia).
Su objetivo es mejorar el diagnóstico y el tratamiento personalizado.
Privacidad y consentimiento: Los pacientes y sus familias dan su consentimiento explícito para el uso de los datos, y se asegura la anonimización de la información.
Transparencia: Los investigadores se comunican de forma clara con los pacientes sobre cómo se utilizan sus datos y los beneficios esperados.
Enfoque colaborativo: El proyecto involucra a médicos, genetistas, expertos en IA y familias de pacientes, para conseguir que las soluciones sean éticas y centradas en el paciente.
Federated Learning en el proyecto MELLODDY (Europa).
MELLODDY (Machine Learning Ledger Orchestration for Drug Discovery) es un proyecto europeo que usa aprendizaje federado para acelerar el descubrimiento de fármacos. Dónde colaboran compañías farmacéuticas, universidades y centros de investigación de toda Europa.
Privacidad de datos: Los datos de las compañías farmacéuticas no se comparten directamente. En su lugar, se entrenan modelos locales que luego se combinan de forma segura.
Colaboración multidisciplinaria: Está fomentando la colaboración entre empresas competidoras para avanzar en la investigación sin comprometer la confidencialidad de los datos.
Cumplimiento normativo: Cumple con el GDPR (Reglamento General de Protección de Datos) de la UE, velando para que los datos se manejen de manera ética y legal.
Plataforma Health Data Hub (Francia).
Se trata de una plataforma francesa que centraliza datos de salud anonimizados para facilitar la investigación y el desarrollo de soluciones de IA en medicina.
Anonimización y seguridad: Los datos se anonimizan de forma rigurosa y se protegen con medidas de seguridad avanzadas.
Transparencia y control: Se informa a los pacientes sobre cómo se utilizan sus datos y tienen la opción de no participar en la plataforma.
Enfoque ético: La plataforma cuenta con un comité ético que comprueba el uso de los datos y garantiza que se respeten los derechos de los pacientes.
Conclusiones.
Las nuevas tecnologías como el Big Data y la IA han cambiado nuestra forma de vivir y los beneficios que estamos obteniendo con el avance y desarrollo de estas tecnologías son sorprendentes en muchos sectores profesionales.
En concreto, en el sector salud, estas tecnologías ofrecen grandes oportunidades para mejorar la sanidad y la atención médica, permitiendo cada vez más personalizar los tratamientos de los pacientes. Pero, el manejo de datos sensibles plantea desafíos éticos y de privacidad que no podemos pasar por alto.
Lo ideal es conseguir un equilibrio entre innovación y protección de los derechos de los pacientes; me parece importante ejercer marcos regulatorios sólidos, desarrollar tecnologías con privacidad desde el diseño y fomentar la transparencia en los algoritmos.
Conseguir una IA en salud ética y responsable no solo depende de los desarrolladores y las instituciones médicas, sino también de la sociedad en general. La educación y la participación activa de los pacientes serán factores fundamentales para garantizar un futuro donde la tecnología mejore nuestra calidad de vida sin comprometer nuestros derechos.
Dependerá de las decisiones que se tomen en la actualidad si la IA será una herramienta para la igualdad y el progreso, o un nuevo motor de desigualdad.
¿Estamos preparados para manejar estas tecnologías de manera ética?
Bibliografía:
https://www.unesco.org/es/artificial-intelligence/recommendation-ethics?utm_source=chatgpt.com
https://www.astera.com/es/knowledge-center/health-data-management-challenges-and-best-practices
chrome-extension://efaidnbmnnnibpcajpcglclefindmkaj/https://www.boe.es/doue/2016/119/L00001-00088.pdf
https://www.powerdata.es/gdpr-proteccion-datos
https://www.consilium.europa.eu/es/policies/data-protection/data-protection-regulation
https://dravetfoundation.eu/proyectos
https://www.health-data-hub.fr
https://www.ihi.europa.eu/projects-results/project-factsheets/melloddy
