La inteligencia artificial iba a reducir los costos de salud, pero resulta que necesita de costosos seres humanos

Una de las tareas fundamentales de los oncólogos es preparar a los pacientes con cáncer para tomar decisiones difíciles cuando se acerca el final de su vida. Sin embargo, en ocasiones, esta tarea no se lleva a cabo como debería.

En el sistema de salud de la University of Pennsylvania (Penn Medicine), en Pensilvania, Estados Unidos, un algoritmo de inteligencia artificial (IA) que predice las probabilidades de muerte de los pacientes impulsa a los médicos a hablar con ellos sobre sus preferencias y el tratamiento al final de la vida. No obstante, esta herramienta no es tan sencilla de usar como parece y no siempre funciona de manera efectiva.

Un estudio realizado en 2022 reveló que, durante la pandemia de COVID-19, el algoritmo sufrió un deterioro en su desempeño, con una caída del 7% en la precisión de sus predicciones sobre qué pacientes morirían. Este deterioro probablemente tuvo consecuencias reales, ya que, en varios casos, la herramienta no alertó a los médicos para iniciar conversaciones cruciales con los pacientes, lo que podría haberles evitado tratamientos innecesarios como la quimioterapia.

El Dr. Ravi Parikh, oncólogo de la Emory University en Atlanta y autor principal del estudio, señaló que no solo el algoritmo de Penn Medicine se vio afectado, sino que otros sistemas de IA también experimentaron fallas durante la pandemia. Según él, muchas instituciones no monitorean de manera sistemática el rendimiento de sus sistemas de IA.

Las fallas de los algoritmos destacan un problema más amplio relacionado con el uso de la inteligencia artificial en la atención médica. Estos sistemas requieren supervisión continua y un equipo especializado para garantizar que se implementen correctamente y funcionen de manera eficaz. Sin este monitoreo, los algoritmos pueden perder precisión y tener consecuencias negativas en la atención al paciente.