La historia del día

El video dura apenas un minuto. Un médico de unos 50 años, con guardapolvo blanco y sentado en un consultorio moderno, explica con seguridad por qué existe un tratamiento para la diabetes que “la industria farmacéutica no quiere que usted conozca”.

Utiliza terminología médica, menciona supuestos ensayos clínicos y concluye invitando a los espectadores a desconfiar de los tratamientos convencionales. En pocas horas acumula cientos de miles de reproducciones.

Hay un detalle que casi nadie advierte: ese médico nunca existió.

El rostro, la voz, los movimientos y el consultorio fueron generados digitalmente. Todo pudo producirse en pocos minutos mediante herramientas comerciales y a muy bajo costo.

En 2024, un artículo publicado en The BMJ advirtió que la IA generativa reúne 3 características capaces de transformar la desinformación sanitaria: bajo costo, gran velocidad de producción y posibilidad de personalizar los mensajes para diferentes audiencias (1).

La IA no inventó la desinformación en salud, pero cambió su escala, su velocidad y su apariencia de credibilidad.

De la desinformación artesanal a la producción industrial

La desinformación en salud no nació con la IA. Desde hace décadas convivimos con falsas curas para el cáncer, discursos antivacunas, dietas milagrosas y tratamientos “naturales” sin evidencia.

Lo que cambió fue la escala.

En 2018, Vosoughi y colaboradores analizaron 126.000 noticias compartidas por unos 3 millones de usuarios de Twitter entre 2006 y 2017, que dieron lugar a 4,5 millones de cascadas de difusión (2).

Las noticias falsas tuvieron un 70 % más de probabilidades de ser compartidas que las verdaderas.

Además, alcanzaron entre 1.000 y 100.000 personas con mayor rapidez. La ventaja se observó en prácticamente todas las categorías analizadas, incluidas ciencia y salud (2).

La información falsa, por lo tanto, ya circulaba mejor que la verdadera antes de la aparición de los actuales modelos generativos.

La IA agregó la posibilidad de automatizar su producción.

Hasta hace pocos años, fabricar un video falso convincente requería actores, cámaras, edición y conocimientos técnicos. Hoy una sola persona puede generar múltiples versiones en pocos minutos.

Actualmente es posible cambiar el idioma o el acento del supuesto profesional y adaptar el mensaje a una enfermedad, un país o un grupo determinado.

La producción dejó de ser el principal obstáculo. El desafío pasó a ser la distribución.

¿Por qué la salud es especialmente vulnerable?

La salud es uno de los temas más buscados en Internet. Distintas encuestas internacionales indican que entre el 70 y el 80 % de los adultos consultan información sanitaria en línea, en muchos casos antes o después de una consulta médica (3).

La Organización Mundial de la Salud (OMS) utiliza el término infodemia para describir la sobreabundancia de información, correcta o falsa, que dificulta encontrar fuentes confiables durante una emergencia sanitaria (4).

Las enfermedades generan incertidumbre, miedo y necesidad de respuestas. Ese terreno es especialmente fértil para la desinformación.

Al mismo tiempo, las plataformas digitales favorecen los contenidos que provocan interacción. El miedo, la indignación y la esperanza suelen generar más clics que una explicación prudente sobre beneficios absolutos, riesgos y calidad de la evidencia.

La desinformación ofrece respuestas simples y categóricas para problemas complejos.

Frases como “la cura que los médicos ocultan” o “el alimento que elimina el cáncer” resultan más atractivas que una discusión sobre ensayos clínicos, incertidumbre y balance entre beneficios y daños.

Cuando la IA también inventa evidencia

Una de las características más preocupantes de los grandes modelos de lenguaje o large language models (LLM) es que pueden inventar no solo personas, sino también datos y referencias científicas.

En un estudio experimental publicado en The BMJ en 2024, Menz y colaboradores evaluaron 4 LLM de acceso público: GPT-4, Claude 2, Llama 2 y PaLM 2/Gemini (5).

Mediante 150 solicitudes, intentaron obtener contenidos falsos sobre 2 afirmaciones: que el protector solar causa cáncer de piel y que una dieta alcalina puede curar el cáncer.

Los modelos generaron 113 artículos, con más de 40.000 palabras, incluyendo referencias ficticias, testimonios inventados de médicos y pacientes y lenguaje de apariencia científica.

La tasa de rechazo fue de apenas 5 %, equivalente a 7 de las 150 solicitudes (5).

Claude 2 rechazó inicialmente las instrucciones, mientras que GPT-4, PaLM 2 y Llama 2 produjeron el contenido solicitado.

Los investigadores volvieron a evaluar los sistemas 12 semanas después de comunicar las vulnerabilidades y comprobaron que varias persistían (5).

La IA no se limita a repetir falsedades existentes: puede producir contenidos nuevos, personalizados y suficientemente verosímiles como para dificultar su identificación.

¿Por qué resulta convincente?

La tecnología aprovecha mecanismos cognitivos conocidos.

Uno es el sesgo de confirmación: tendemos a aceptar con mayor facilidad la información que coincide con nuestras creencias previas.

Otro es el efecto de verdad ilusoria o illusory truth effect.

La repetición aumenta la percepción de veracidad de una afirmación incluso cuando contradice conocimientos previos del individuo.

Fazio y colaboradores demostraron este fenómeno en estudios experimentales (6).

La IA facilita esa repetición sin reproducir exactamente el mismo mensaje. Puede reformular una afirmación, traducirla, cambiar el tono o dirigirla a distintos grupos, mientras conserva la misma idea falsa.

La apariencia de autoridad completa el efecto: un guardapolvo, un consultorio, términos médicos y referencias con formato académico pueden generar confianza aunque el profesional, los estudios y los pacientes citados no existan.

Cuando la IA “alucina”

Los LLM generan texto mediante la predicción probabilística del siguiente token, es decir, de la siguiente unidad de texto dentro de una secuencia.

No verifican necesariamente la veracidad de cada afirmación.

Por eso pueden producir una respuesta fluida y coherente que mezcle información correcta con errores o datos inventados.

A esta producción de contenido falso pero plausible se la suele denominar alucinación.

En medicina, una respuesta aparentemente impecable puede contener dosis equivocadas, indicaciones contrarias a las guías o citas inexistentes.

La calidad de la redacción no garantiza la exactitud de la información.

La contaminación de los modelos

El riesgo no se limita a las respuestas actuales. También puede afectar los datos con los que se entrenarán futuros sistemas.

En un estudio publicado en Nature Medicine, la sustitución de solo el 0,001 % de los tokens de entrenamiento por información médica falsa aumentó la producción de respuestas perjudiciales (7).

En un modelo de 4.000 millones de parámetros, la incorporación de aproximadamente 2.000 artículos maliciosos, generados por unos 5 dólares, incrementó un 4,8 % las respuestas dañinas relacionadas con vacunas.

Esto plantea un problema adicional: la desinformación puede dirigirse tanto a las personas como a los propios sistemas que luego responderán preguntas médicas.

El nuevo desafío para la consulta

Los médicos recibimos cada vez más pacientes que llegan después de consultar asistentes conversacionales, buscadores o redes sociales.

La diferencia entre un buscador y un LLM es relevante. El primero suele mostrar una lista de fuentes que pueden compararse. El segundo entrega una respuesta integrada, ordenada y formulada con seguridad, aunque sea incorrecta.

Ese formato puede favorecer el sesgo de automatización: la tendencia a confiar excesivamente en las recomendaciones de un sistema automatizado y a reducir la evaluación crítica de sus respuestas.

Por eso, una nueva tarea comienza a incorporarse a la consulta: conocer de dónde proviene la información del paciente, revisar su calidad y explicar por qué un contenido aparentemente profesional puede ser falso.

No se trata de ridiculizar a quien llega con una captura de pantalla o un video.

Una respuesta despectiva puede reforzar la desconfianza.

Conviene preguntar qué vio, qué le resultó convincente y qué decisión estaba considerando tomar.

La respuesta no es prohibir la IA

Estos riesgos no justifican rechazar la IA en medicina.

Los LLM pueden ayudar a resumir documentos, elaborar borradores, simplificar textos para pacientes, organizar información y reducir tareas administrativas.

El problema aparece cuando una herramienta diseñada para generar lenguaje se interpreta como una fuente primaria de evidencia.

Los LLM pueden asistir el razonamiento, pero no sustituyen la lectura crítica de un ensayo clínico, una revisión sistemática o una guía de práctica clínica.

Tampoco reemplazan el juicio que integra la evidencia con la situación, las preferencias y los valores del paciente.

Conclusiones: ¿qué nos deja esta revisión?

La IA generativa redujo de manera drástica el costo y la dificultad de producir desinformación sanitaria.

Los modelos actuales pueden crear textos, imágenes, voces y videos convincentes, además de inventar especialistas, testimonios y referencias científicas.

Para los médicos, el desafío no consiste en competir con la velocidad de un algoritmo.

Consiste en conservar aquello que sigue siendo central en la práctica clínica: verificar las fuentes, interpretar la evidencia, reconocer la incertidumbre y conversar con el paciente.

Es probable que una parte creciente de nuestras consultas incluya revisar información obtenida mediante IA.

Saber cómo funcionan estas herramientas, dónde fallan y cómo explicar sus limitaciones empieza a formar parte de la alfabetización clínica contemporánea.