Como ocurrió en su momento con Internet, la inteligencia artificial (IA) llegó para quedarse. Y, como la tecnología que la precedió, plantea interrogantes éticos, de privacidad y regulatorios, además de la necesidad de crear directrices para su uso en la atención médica.

Investigadores y reguladores discuten marcos de uso de la IA, para aprovechar sus beneficios y prevenir su mal uso, a la vez que grupos de la industria de la atención de salud publican normas de uso.

Una de las ventajas ya visibles del uso de IA es aliviar la carga de trabajo administrativo en los consultorios. Como dice el doctor Eric Boose, médico de familia del sistema de salud de la Clínica Cleveland, en una entrevista para KFF Health News: “la inteligencia artificial me permite volver a ejercer la medicina a la antigua, hablando con el paciente y mirándolo cara a cara”.

Hace aproximadamente dos años, comenzó a utilizar una aplicación de IA para tomar notas durante las consultas. La herramienta escucha mientras Boose habla con sus pacientes y luego genera automáticamente un resumen de la visita basado en la conversación.

Este resumen suele estar listo en cuestión de segundos después de que termina la cita.

En los Estados Unidos, casi un tercio de las prácticas médicas están utilizando asistentes de IA para tomar notas, y otras están trabajando para incorporar esta herramienta, con el objetivo de reducir el trabajo administrativo de los profesionales de salud.

En ese país, en septiembre pasado, la Comisión Conjunta (The Joint Commission), organización que acredita hospitales, y la Coalición para la IA en Salud (Coalition for Health AI) emitieron recomendaciones para implementar la inteligencia artificial en la atención médica. “Se trata del primer conjunto de directrices nacionales para ayudar a organizaciones de salud en Estados Unidos a prepararse para el creciente papel de la inteligencia artificial en la prestación de atención médica”, dice su introducción.

Esta guía aborda la IA desde diferentes perspectivas, desde las políticas de regulación que deben regir su uso y la protección de los datos, hasta el entrenamiento del profesional de salud.

El desafío es muy grande. Algunos productos de IA médica interactúan directamente con consumidores, como chatbots que las personas podrían usar para su salud mental. En esos casos, ni siquiera existe revisión interna hospitalaria, y la necesidad de regulación es mucho más clara.

En el caso de plataformas de IA que coordinan la administración de una cita médica, el riesgo pasa por las “alucinaciones” que pueden sufrir estos programas que los llevan a inventar o tergiversar información o poner en riesgo la privacidad de los datos del paciente.

De hecho, incluso radiólogos con experiencia tienen dificultades para distinguir entre radiografías reales e imágenes generadas por inteligencia artificial.

En un estudio, publicado en la revista Radiology, solo el 41% de los radiólogos notó que algunas imágenes parecían extrañas. Incluso después de que se les informara de que algunas imágenes habían sido generadas por IA, la precisión promedio para diferenciar entre imágenes reales y deepfakes siguió siendo de 75%. Un deepfake es una imagen, video o grabación de audio generada por computadora que parece o suena como si fuera real.

La mayoría (76%) de los radiólogos que participaron en el estudio no sabía que herramientas como ChatGPT podían usarse para producir radiografías de apariencia realista.

Un análisis publicado en JAMA Network resume bien el desafío. “Si una persona toma una aspirina o una estatina, existen diferencias en cómo funcionan según cada individuo, pero en gran medida esas diferencias pueden caracterizarse con anticipación. Cuando la IA médica interpreta una radiografía o actúa en el campo de la salud mental, la forma en que se implementa es clave para su desempeño. Se pueden obtener resultados muy distintos entre sistemas hospitalarios, según recursos, personal, capacitación y experiencia o edad de quienes las utilizan. Por eso, la implementación debe estudiarse con mucho cuidado”.

Y agrega un ángulo que ya se analiza: “Esto crea un desafío inusual para una agencia como la FDA —que con frecuencia dice que no regula la práctica médica— porque no está claro dónde termina la aprobación de un sistema de IA y dónde comienza la práctica de la medicina”.

Muchos académicos y organizaciones no sostienen que siempre deba revelarse el uso de IA médica cuando impacta directamente la atención, y mucho menos que siempre deba pedirse consentimiento informado. Sin embargo, en Estados Unidos, el paciente tiene derecho a saber que se está utilizando la inteligencia artificial ya sea en un consultorio como en la interpretación de una tomografía computarizada.

Además, está la cuestión del mantenimiento de la Plataforma de IA. Evaluar adecuadamente un nuevo algoritmo complejo y su implementación puede costar entre $300.000 y $500.000. Eso simplemente está fuera del alcance de muchos hospitales.

Y la pregunta ética subyacente en todo este debate: las diferencias que puede generar esto en los distintos sistemas de salud.

El acceso a la IA que mejora la atención dependería de si una persona está en redes de grandes centros médicos académicos, numerosos en lugares como Boston o San Francisco, y no en otras partes del país sin esa infraestructura médica. Lo mismo puede reproducirse en las grandes capitales de América Latina frente a zonas más desprotegidas del interior de los países.