Impacto de la inteligencia artificial en el sector salud: un análisis bibliográfico de gestión de riesgos con enfoque en el Sistema de Gestión ISO/IEC 42001:2023

Abstract

Desde una perspectiva analítica, la intención de esta investigación es explorar y describir el impacto de la inteligencia artificial (IA) en el sector salud. El trabajo se focaliza en la identificación de desafíos éticos que surgen a lo largo del ciclo de vida de algunas aplicaciones de IA, desde su diseño y desarrollo hasta su implementación. Para lograrlo, se establece un marco teórico que familiarice al lector con los conceptos fundamentales de la IA y sus aplicaciones en el ámbito de la salud. Además, se contextualiza el desarrollo de esta tecnología a nivel global y, de manera específica, en América Latina, haciendo un énfasis particular en Ecuador. Se constata, a su vez, que los aspectos legales y normativos son una instancia fundamental de mediación en este proceso. Se destaca la importancia de la norma ISO/IEC 42001:2023 y otras normativas ISO de soporte como herramientas clave para la gestión ética y responsable de los sistemas de IA por parte de las organizaciones, reconociendo también la relevancia de marcos normativos complementarios, como los elaborados por el NIST, para fortalecer la seguridad y confiabilidad de la IA en entornos clínicos. Posteriormente, esta investigación explora conceptos éticos como la responsabilidad y la confiabilidad, apoyándose en un marco propuesto por la OMS. Se utiliza esta estructura para validar los desafíos éticos identificados en áreas de la salud como el diagnóstico automático, el diagnóstico por imagen, la salud mental y el desarrollo de medicamentos. En la última parte de este análisis, se presentan recomendaciones elaboradas con base en la norma ISO/IEC 42001:2023 para mitigar dichos desafíos. Además, se detallan mecanismos que promueven una implementación segura, equitativa y confiable de la IA en el ámbito sanitario. Esta investigación no solo busca visibilizar la importancia de que las organizaciones que desarrollan o utilizan la IA actúen en conformidad con valores éticos, sino que también resalta la necesidad de que el país cuente con instituciones regulatorias robustas. Estas instituciones deben ser inclusivas para generar confianza, permitir un desarrollo ético de la IA en el sector de la salud y convertirse en catalizadores en el aprovechamiento de esta tecnología para el desarrollo del país.