MADRID, 19 Oct. (EUROPA PRESS) -
La Organización Mundial de la Salud (OMS) ha reconocido que el uso de la inteligencia artificial (IA) puede mejorar los resultados en salud; si bien ha advertido de la importancia de establecer "seguridad y eficacia" en estos sistemas, en el marco de la publicación de unas nuevas orientaciones al respecto.
En este sentido, la OMS alerta de que, al utilizar datos sanitarios, los sistemas de IA podrían tener acceso a información personal sensible, lo que requiere "marcos jurídicos y normativos sólidos para salvaguardar la privacidad, la seguridad y la integridad".
"La IA es muy prometedora para la salud, pero también plantea graves problemas, como la recopilación de datos no ética, las amenazas a la ciberseguridad y la amplificación de sesgos o información errónea", ha dicho el director general de la OMS, Tedros Adhanom Ghebreyesus. "Estas nuevas orientaciones ayudarán a los países a regular eficazmente la IA, para aprovechar su potencial, ya sea en el tratamiento del cáncer o en la detección de la tuberculosis, minimizando al mismo tiempo los riesgos", ha añadido.
Así, en el documento, el organismo sanitario de las Naciones Unidas enumera las principales consideraciones normativas sobre la IA para la salud. En este sentido, aboga por "poner rápidamente los sistemas adecuados a disposición de quienes los necesitan y fomentar el diálogo entre las partes interesadas, incluidos desarrolladores, reguladores, fabricantes, trabajadores sanitarios y pacientes".
Con la creciente disponibilidad de datos sanitarios y el rápido progreso de las técnicas analíticas --ya sean de aprendizaje automático, basadas en la lógica o estadísticas--, las herramientas de IA podrían transformar el sector sanitario.
Por ello, la OMS reconoce el potencial de la IA para mejorar los resultados sanitarios reforzando los ensayos clínicos; mejorando el diagnóstico médico, el tratamiento, el autocuidado y la atención centrada en la persona; y complementando los conocimientos, habilidades y competencias de los profesionales sanitarios. Por ejemplo, la IA podría ser beneficiosa en entornos con escasez de especialistas médicos, por ejemplo en la interpretación de escáneres de retina e imágenes radiológicas, entre muchas otras.
"Sin embargo, las tecnologías de IA --incluidos los grandes modelos lingüísticos-- se están desplegando rápidamente, a veces sin una comprensión plena de cómo pueden funcionar, lo que podría beneficiar o perjudicar a los usuarios finales, incluidos los profesionales sanitarios y los pacientes", alertan desde la organización.
SEIS PROPUESTAS PARA REGULAR LA IA EN SALUD
En respuesta a la creciente necesidad de los países de gestionar de forma responsable el rápido aumento de las tecnologías sanitarias de IA, la publicación esboza seis áreas para la regulación de la IA para la salud.
Para fomentar la confianza, la publicación subraya la importancia de la transparencia y la documentación, por ejemplo documentando todo el ciclo de vida del producto y haciendo un seguimiento de los procesos de desarrollo.
En cuanto a la gestión de riesgos, deben abordarse de forma exhaustiva cuestiones como el "uso previsto", el "aprendizaje continuo", las intervenciones humanas, los modelos de formación y las amenazas a la ciberseguridad, simplificando al máximo los modelos.
Por otro lado, la validación externa de los datos y la claridad sobre el uso previsto de la IA ayudan a garantizar la seguridad y facilitan la regulación. Además, el compromiso con la calidad de los datos, por ejemplo mediante la evaluación rigurosa de los sistemas antes de su lanzamiento, es "vital" para garantizar que los sistemas no amplifiquen los sesgos y los errores.
"Los retos que plantean normativas importantes y complejas --como el Reglamento General de Protección de Datos (RGPD) en Europa y la Ley de Portabilidad y Responsabilidad de los Seguros Médicos (HIPAA) en Estados Unidos-- se abordan haciendo hincapié en la comprensión del alcance de la jurisdicción y los requisitos de consentimiento, al servicio de la privacidad y la protección de datos", aseguran desde la OMS.
Por otro lado, el organismo sanitario insta a fomentar la colaboración entre los organismos reguladores, los pacientes, los profesionales sanitarios, los representantes de la industria y los socios gubernamentales, ya que puede ayudar a garantizar que los productos y servicios cumplan la normativa durante todo su ciclo de vida.
"Los sistemas de IA son complejos y dependen no solo del código con el que se construyen, sino también de los datos con los que se entrenan, que proceden, por ejemplo, de entornos clínicos e interacciones de los usuarios. Una mejor regulación puede ayudar a gestionar los riesgos de que la IA amplifique los sesgos en los datos de entrenamiento", han asegurado.
Por otro lado, afirman que puede ser "difícil" que los modelos de IA representen con exactitud la diversidad de las poblaciones, lo que puede dar lugar a "sesgos, imprecisiones o incluso fallos". Para ayudar a mitigar estos riesgos, se pueden utilizar normas que garanticen que se informa de los atributos -como el sexo, la raza y la etnia- de las personas que figuran en los datos de entrenamiento y que los conjuntos de datos se hacen intencionadamente representativos.
Así las cosas, la nueva publicación de la OMS pretende esbozar los principios clave que los gobiernos y las autoridades reguladoras pueden seguir para elaborar nuevas orientaciones o adaptar las existentes sobre la IA a escala nacional o regional.