A medida que la inteligencia artificial (IA) se vuelve más frecuente en la atención médica, las organizaciones y los médicos deben tomar medidas para garantizar su implementación y uso seguros en entornos clínicos del mundo real, según un artículo coescrito por Dean Sittig, PhD, profesor de la Escuela de Informática Biomédica McWilliams en UTHealth Houston y Hardeep Singh, MD, MPH, profesor en Baylor College of Medicine.
La guía se publicó el 27 de noviembre de 2024, en el Journal of the American Medical Association .
A menudo oímos hablar de la necesidad de que la IA se desarrolle de forma segura, pero no de cómo utilizarla de forma segura en los entornos sanitarios.
Es una herramienta que tiene el potencial de revolucionar la atención médica, pero sin salvaguardas, la IA podría generar resultados falsos o engañosos que podrían perjudicar a los pacientes si no se controla.
Dean Sittig, PhD, profesor de la Escuela McWilliams de Informática Biomédica, UTHealth Houston
A partir de opiniones de expertos, revisiones bibliográficas y experiencias con el uso de TI en salud y la evaluación de la seguridad, Sittig y Singh desarrollaron un enfoque pragmático para que las organizaciones de atención médica y los médicos monitoreen y gestionen los sistemas de IA.
“Las organizaciones que prestan servicios de atención médica deberán implementar sistemas de gobernanza sólidos y procesos de prueba a nivel local para garantizar una IA segura y un uso seguro de la IA, de modo que, en última instancia, la IA pueda utilizarse para mejorar la seguridad de la atención médica y los resultados de los pacientes”, afirmó Singh.
“Todas las organizaciones que prestan servicios de atención médica deberían consultar estas recomendaciones y comenzar a prepararse de manera proactiva para la IA ahora”.
A continuación se enumeran algunas de las acciones recomendadas para las organizaciones de atención médica:
Revisar las guías publicadas en revistas revisadas por pares de alta calidad y realizar pruebas rigurosas en el mundo real para confirmar la seguridad y la eficacia de la IA.
Establecer comités especializados con expertos multidisciplinarios para supervisar la implementación de sistemas de IA y garantizar el cumplimiento de los protocolos de seguridad.
Los miembros de los comités deben reunirse periódicamente para revisar las solicitudes de nuevas aplicaciones de IA, considerar su seguridad y eficacia antes de implementarlas y desarrollar procesos para supervisar su desempeño.
Capacitar formalmente a los médicos sobre el uso de la IA y sus riesgos, pero también ser transparente con los pacientes cuando la IA forme parte de sus decisiones de atención médica.
Esta transparencia es clave para generar confianza en el papel de la IA en la atención médica.
Mantenga un inventario detallado de los sistemas de IA y evalúelos periódicamente para identificar y mitigar cualquier riesgo.
Desarrollar procedimientos para apagar los sistemas de IA en caso de que funcionen mal, garantizando así transiciones fluidas de regreso a los procesos manuales.
“La implementación de la IA en los entornos clínicos debería ser una responsabilidad compartida entre los proveedores de atención médica, los desarrolladores de IA y los proveedores de registros médicos electrónicos para proteger a los pacientes”, afirmó Sittig.
“Al trabajar juntos, podemos generar confianza y promover la adopción segura de la IA en la atención médica”.
También contribuyeron al artículo Robert Murphy, MD, profesor asociado y decano asociado, y Debora Simmons, PhD, RN, profesora asistente, ambos del Departamento de Informática Clínica y de Salud de la Escuela de Informática Biomédica McWilliams; y Trisha Flanagan, RN, MSN.
