Las oportunidades de esta tecnología en la salud no están exentas de desafíos y riesgos, desde un mal uso de los datos hasta impacto ambiental.
La inteligencia artificial (IA) ya ha demostrado su gran potencial para mejorar la salud y la medicina en todo el mundo.
Puede, por ejemplo, mejorar la velocidad y precisión de la detección y diagnóstico de enfermedades; apoyar la atención clínica; impulsar la investigación y el desarrollo de medicamentos; o ayudar en el monitoreo y respuesta a brotes.
La propia Organización Mundial de la Salud (OMS) reconoció a esta tecnología como “prometedora” en ese sentido, sin embargo advirtió que solo será así “si la ética y los derechos humanos se sitúan en el centro de su diseño, implementación y uso”.
En su informe Ética y gobernanza de la inteligencia artificial para la salud, destacó que las oportunidades de la IA no están exentas de desafíos y riesgos, incluyendo la recolección y uso de datos de salud de manera no ética; sesgos en algoritmos y otros peligros para la seguridad del paciente, la ciberseguridad y el medio ambiente.
“Por ejemplo, aunque la inversión del sector público y privado en el desarrollo y despliegue de la IA es fundamental, el uso no regulado de la IA podría subordinar los derechos e intereses de los pacientes y las comunidades a los poderosos intereses comerciales de las empresas de tecnología o de los gobiernos en la vigilancia control social”, indicó la OMS.
En el informe, explicó también que los sistemas alimentados con datos recopilados de personas en países de ingresos altos pueden no funcionar para personas en entornos de ingresos bajos y medianos.
“Por lo tanto, los sistemas de IA deben diseñarse cuidadosamente para reflejar la diversidad de entornos socioeconómicos y de atención de la salud”, subrayó.
Ante estos retos, la OMS acompañó su estudio con una lista de seis recomendaciones para garantizar que la IA funcione para el interés público en todos los países.
Proteger de la autonomía humana: La OMS detalló que esto se refiere a que las personas deben mantener el control de los sistemas de atención de la salud y las decisiones médicas. “Se debe proteger la privacidad y la confidencialidad, y los pacientes deben dar un consentimiento informado a través de los marcos legales apropiados para la protección de datos”, agregó.
Promover el bienestar y la seguridad humanas: Los desarrolladores de IA deben satisfacer los requisitos reglamentarios de seguridad, precisión y eficacia, apuntó la organización. “Deben estar disponibles medidas de control de calidad en la práctica y mejora del uso de IA”, dijo.
Asegurar transparencia, accesibilidad y comprensión: La transparencia requiere que se documente y publique suficiente información antes del desarrollo e implementación de una tecnología de IA. “Dicha información debe ser fácilmente accesible y facilitar una consulta pública significativa, así como un debate sobre cómo se diseña la tecnología y cómo debe o no debe usarse”, subrayó la OMS.
Fomentar la responsabilidad y la rendición de cuentas: Aunque las tecnologías de IA realizan tareas específicas, es responsabilidad de las partes asegurarse de que se utilicen en las condiciones adecuadas y por personas capacitadas. “Deben estar disponibles mecanismos efectivos para reparar a las personas o grupos que se vean afectados negativamente por decisiones basadas en algoritmos”, añadió en el estudio.
Garantizar la inclusión y la equidad: La inclusión requiere que la IA para la salud se diseñe para fomentar el uso y el acceso equitativo más amplio posible, independientemente de la edad, sexo, género, ingresos, raza, etnia, orientación sexual, capacidad “u otras características protegidas por los códigos de derechos humanos”, recomendó.
Promover una IA receptiva y sostenible: Tanto desarrolladores como usuarios deben evaluar de forma continua y transparente las aplicaciones de la IA durante su uso real para determinar si responde de manera adecuada y apropiada a las expectativas y requisitos, sugirió la organización. “Los sistemas de IA también deben diseñarse para minimizar sus consecuencias ambientales y aumentar la eficiencia energética”, agregó.
La Organización Mundial de la Salud dio a conocer además que estos principios guiarán su trabajo para apoyar los esfuerzos encaminados a garantizar que todo el potencial de la inteligencia artificial para la saludrealmente se utilice en beneficio de todos.
