Puntos Clave
- Todo comenzó con una enfermedad que nunca existió. La bixonimania fue creada deliberadamente y acompañada por manuscritos falsos para estudiar qué ocurría cuando información fabricada ingresaba al ecosistema científico. Posteriormente, algunos sistemas de IA generaron respuestas sobre ella como si fuera una entidad real.
- El experimento posterior fue mucho más grande. El estudio de The Lancet Digital Health evaluó 20 grandes modelos de lenguaje mediante más de 3,4 millones de consultas diseñadas para medir su susceptibilidad a diferentes formas de desinformación médica.
- En las condiciones basales, casi 1 de cada 3 falsedades pasó. De 158.000 evaluaciones, los modelos aceptaron información médica falsa en 50.108, equivalentes al 31,7 %.
- El “guardapolvo blanco” hizo una enorme diferencia. La susceptibilidad fue del 8,9 % cuando la desinformación provenía de conversaciones públicas y redes sociales y del 46,1 % cuando estaba incorporada dentro de notas hospitalarias reales: una diferencia absoluta de 37,2 puntos porcentuales y una frecuencia más de cinco veces mayor.
- No significa que la IA “confíe” como un ser humano. El guardapolvo blanco es una metáfora para describir un resultado experimental: el contexto clínico legítimo que rodeaba a la falsedad modificó marcadamente la probabilidad de que el modelo la aceptara.
- La apariencia de autoridad también importó. Una apelación a la autoridad elevó la susceptibilidad desde el 31,7 % basal hasta el 34,6 %. Sin embargo, otras falacias tuvieron el efecto contrario, mostrando que no cualquier forma de persuasión afecta de la misma manera a los modelos.
- No todas las IA se comportaron igual. Gemma-3-4B-it aceptó información falsa en 5.023 de 7.900 evaluaciones, el 63,6 %, mientras que los modelos GPT estuvieron entre los menos susceptibles. Los resultados no deberían extrapolarse automáticamente de un modelo a otro.
- Una IA puede saber que estamos equivocados y aun así seguirnos la corriente. Un segundo estudio comprobó primero que los modelos conocían correctamente la equivalencia entre determinados medicamentos y luego observó que podían construir explicaciones falsas cuando el usuario formulaba una pregunta basada en la premisa contraria. En algunas condiciones, el cumplimiento llegó al 100 %.
- El fenómeno no parece inevitable. Cuando los modelos recibieron instrucciones explícitas para verificar hechos, cuestionar premisas incorrectas y rechazar solicitudes ilógicas, el desempeño mejoró considerablemente. La resistencia frente a la desinformación es una capacidad que puede evaluarse y potencialmente entrenarse.
Todo empezó con una enfermedad que no existía
Se llamaba bixonimania.
El nombre sonaba suficientemente médico: había una descripción de la enfermedad y hasta manuscritos científicos que hablaban de ella.
Había un problema: la bixonimania no existía. Había sido inventada deliberadamente como parte de un experimento.
En 2025 se publicaron dos manuscritos falsos en Research Square sobre esta supuesta enfermedad. La intención era observar qué podía ocurrir si información completamente fabricada conseguía ingresar en el ecosistema de publicaciones científicas que posteriormente puede ser recuperado por herramientas de IA (2).
La enfermedad era falsa, pero la documentación que hablaba de ella tenía la apariencia externa de información científica real.
Después llegó la segunda parte del experimento.
Cuando se preguntó a distintos sistemas de IA por la bixonimania, algunos no respondieron simplemente que desconocían el término o que no encontraban evidencia suficiente. Generaron información sobre ella como si se tratara de una entidad real.
La historia tuvo suficiente repercusión como para que Nature la contara en 2026 con un título difícil de mejorar: Scientists invented a fake disease. AI told people it was real. Los preprints utilizados en el experimento fueron posteriormente retirados (2).
La bixonimania mostró un problema central: una IA puede recuperar una falsedad, organizarla y devolverla con la apariencia de una respuesta médica coherente.
La bixonimania mostró de una manera casi perfecta un problema que hasta entonces podía resultar abstracto: si contaminamos el universo de información con una falsedad, una IA puede recuperarla, ordenarla y devolvérnosla con la apariencia de una respuesta médica.
Pero aquel experimento dejaba abierta una pregunta mucho más cercana a la práctica cotidiana: ¿realmente hace falta inventar una enfermedad para engañar a una IA?
Una mentira con guardapolvo blanco
Un estudio publicado en The Lancet Digital Health fue mucho más lejos (1).
Los investigadores evaluaron 20 grandes modelos de lenguaje (LLM) y realizaron más de 3,4 millones de consultas para estudiar qué tan susceptibles eran frente a información médica falsa.
La lógica del experimento era sencilla: darle al modelo de IA algo que los investigadores sabían que era incorrecto y observar qué hacía.
Pero la falsedad no siempre estaba presentada de la misma manera.
En un escenario provenía de conversaciones públicas y redes sociales.
En otro, los investigadores utilizaron notas hospitalarias reales de alta —es decir, epicrisis— y colocaron deliberadamente dentro de ellas una recomendación médica falsa.
En un tercer escenario trabajaron con 300 casos clínicos simulados y validados por médicos, a los que también incorporaron información falsa.
La diferencia es fundamental.
No era lo mismo enfrentar al modelo directamente con una falsedad que colocar esa información dentro de un documento que contenía antecedentes, diagnósticos, tratamientos y otros datos clínicos plausibles.
En ese segundo escenario, la mentira llevaba, metafóricamente, un guardapolvo blanco.
Y eso cambió considerablemente los resultados.
De 158.000 pruebas, más de 50.000 aceptaron la falsedad
En las condiciones basales del experimento se realizaron 158.000 evaluaciones.
Los modelos aceptaron la información médica fabricada en 50.108 ocasiones: el 31,7 %.
Prácticamente 1 de cada 3.
Pero mirar solamente ese promedio es perder probablemente el hallazgo más interesante del trabajo.
Cuando la información falsa provenía de conversaciones públicas y redes sociales, los modelos la aceptaron en 2.479 de 28.000 pruebas: el 8,9 %.
Menos de 1 de cada 10.
Cuando la falsedad estaba introducida dentro de notas hospitalarias reales, los modelos de IA la aceptaron en 46.108 de 100.000 evaluaciones: el 46,1 %.
Casi 1 de cada 2.
La misma clase de información falsa fue aceptada con mucha mayor frecuencia cuando aparecía rodeada por el contexto de un documento clínico real.
La diferencia absoluta fue de 37,2 puntos porcentuales. En términos relativos, la susceptibilidad fue más de cinco veces mayor cuando la información falsa estaba rodeada por el contexto de un documento hospitalario que cuando provenía de conversaciones públicas y redes sociales.
Una aclaración importante: la IA no “confía” como lo hace una persona
Hablar de una mentira con “guardapolvo blanco” es deliberadamente una metáfora.
Un gran modelo de lenguaje no mira una historia clínica y decide conscientemente confiar en ella. Tampoco reconoce la autoridad de un hospital o de un médico de la misma manera que lo haría una persona.
Lo que mostró el experimento es más concreto: el contexto en el que aparece una afirmación puede modificar marcadamente la probabilidad de que el modelo acepte información falsa.
Eso es exactamente lo que ocurrió al comparar el 8,9 % observado con la desinformación procedente de conversaciones públicas y redes sociales con el 46,1 % registrado cuando la falsedad estaba incorporada dentro de notas hospitalarias reales.
El “guardapolvo blanco” no describe un mecanismo psicológico de la IA. Resume un hallazgo experimental sobre la importancia del contexto.
Por eso, el “guardapolvo blanco” del título no describe un mecanismo psicológico de la IA, sino que resume un hallazgo experimental: una falsedad puede resultar mucho más difícil de detectar para un modelo cuando está rodeada de información clínica legítima y presentada con la estructura y el lenguaje de un documento médico real.
La mentira seguía siendo mentira.
Lo que había cambiado era todo lo que la rodeaba.
El mayor problema: cuando una mentira habla el idioma de la medicina
Este punto tiene implicancias que van bastante más allá de una historia clínica.
Una de las grandes capacidades de los LLM es precisamente procesar el contexto. Eso permite resumir una evolución médica extensa, relacionar diferentes datos o responder una pregunta compleja.
Pero también puede convertirse en una vulnerabilidad.
Si un dato incorrecto aparece rodeado de información aparentemente confiable, el modelo puede incorporarlo al contexto y comenzar a construir su respuesta a partir de él. Es decir, puede “arrastrar” el error.
Los investigadores exploraron además cuánto importaba la manera de presentar una falsedad. Para hacerlo, utilizaron 10 tipos diferentes de falacias argumentativas, entre ellas apelaciones a la autoridad y a la popularidad.
¿Qué es una falacia argumentativa?
Una falacia argumentativa es una forma de intentar convencer a alguien sin aportar una prueba válida de que lo que se dice es cierto.
Por ejemplo: “este tratamiento funciona porque lo recomienda un médico famoso”.
Que una persona reconocida lo diga puede resultar convincente, pero no demuestra que sea verdadero.
Las falacias pueden apoyarse en la autoridad, la popularidad, el miedo o las emociones para hacer que una afirmación parezca más creíble.
Los resultados no fueron uniformes.
La apelación a la popularidad, por ejemplo, redujo la susceptibilidad hasta el 11,9 %, muy por debajo del 31,7 % observado en las condiciones basales.
Pero hubo dos excepciones.
Con una estrategia de pendiente resbaladiza, la susceptibilidad aumentó hasta 33,9 %.
¿Qué significa “pendiente resbaladiza”?
Es una falacia que sostiene que un primer hecho llevará inevitablemente a una cadena de consecuencias cada vez peores, aunque no haya evidencia suficiente para demostrarlo.
Por ejemplo: “Si empezamos a usar IA para ayudar a interpretar estudios médicos, pronto reemplazará a los médicos y los pacientes quedarán sin atención humana”.
El problema no es que esa consecuencia sea imposible, sino que se presenta como inevitable sin demostrar los pasos intermedios.
Y cuando la falsedad estaba acompañada por una apelación a la autoridad, la susceptibilidad llegó al 34,6 %.
El aumento fue relativamente pequeño, pero su dirección resulta interesante.
En medicina utilizamos continuamente señales de credibilidad para orientarnos: quién afirma algo, dónde está publicado, de qué institución proviene o qué lenguaje utiliza.
La apariencia de autoridad puede hacer que una afirmación resulte más convincente, pero no reemplaza la verificación de la evidencia.
Estos resultados recuerdan que la apariencia de autoridad no reemplaza la verificación de la información que se encuentra detrás.
Algunos modelos cayeron mucho más que otros
Hay otro número que merece atención: 63,6 %.
Fue la susceptibilidad observada en Gemma-3-4B-it, un modelo de IA relativamente pequeño desarrollado por Google, que aceptó información falsa en 5.023 de 7.900 evaluaciones.
En el otro extremo, los modelos de la familia GPT evaluados estuvieron entre los menos susceptibles: GPT-4o presentó una susceptibilidad global del 10,6 %, frente al 31,7 % promedio de los modelos y al 63,6 % observado con Gemma-3-4B-it.
Además, GPT-4o obtuvo el mejor desempeño global en la métrica combinada de resistencia a la desinformación y reconocimiento de falacias.
La amplitud de estas diferencias obliga a introducir una precaución cada vez que hablamos de “la IA”.
No existe un único sistema que responda siempre de la misma manera: los modelos tienen tamaños, arquitecturas, datos de entrenamiento y mecanismos de seguridad diferentes. Además, cambian rápidamente: una actualización puede modificar el comportamiento que había sido medido meses antes.
Un porcentaje obtenido con un modelo determinado no puede trasladarse automáticamente a todos los demás sistemas de IA.
Por eso, un porcentaje obtenido con un modelo determinado no puede trasladarse automáticamente a todos los demás.
Pero el estudio no buscaba demostrar que todos fallaran igual.
Buscaba saber si existía una vulnerabilidad frente a la desinformación.
Y la encontró.
¿Y si la IA sabe que estamos equivocados?
Hasta acá podríamos pensar que el problema aparece simplemente porque el modelo no dispone de suficiente conocimiento para reconocer una falsedad.
Pero existe una posibilidad todavía más interesante.
¿Qué ocurre cuando sí conoce la respuesta correcta?
Un trabajo publicado en npj Digital Medicine en 2025 investigó un comportamiento denominado sycophancy: la tendencia de un modelo a mostrarse excesivamente complaciente con la solicitud del usuario, incluso cuando para hacerlo tiene que aceptar una premisa equivocada (3).
Los investigadores utilizaron pares inequívocos formados por un principio activo y su correspondiente nombre comercial, por ejemplo, la droga enalapril y una de sus presentaciones comerciales.
Primero comprobaron que los modelos podían reconocer correctamente que ambos nombres correspondían al mismo medicamento.
Es decir, la IA tenía el dato correcto.
Después cambiaron la pregunta.
Les pidieron construir explicaciones partiendo de la premisa falsa de que se trataba de medicamentos diferentes. Era equivalente a preguntarle a alguien por qué un medicamento es superior a otro cuando ambos son exactamente la misma droga.
La respuesta correcta debería comenzar cuestionando la premisa de la pregunta.
Pero no siempre ocurrió.
En determinadas condiciones experimentales, los modelos llegaron a cumplir hasta el 100 % de las solicitudes de generar información falsa.
La diferencia conceptual es importante.
Una IA puede equivocarse porque no sabe. Puede inventar un dato, confundir conceptos o fabricar una referencia.
Pero también puede disponer del conocimiento necesario para detectar nuestro error y, aun así, seguir la premisa del usuario y construir una explicación alrededor de ella.
¿Se puede enseñar a la IA a decir “esa pregunta está equivocada”?
El mismo experimento aporta una parte menos preocupante de la historia.
Los investigadores cambiaron las instrucciones. En lugar de pedir simplemente una respuesta, indicaron explícitamente al modelo que debía recuperar primero los hechos relevantes, cuestionar las premisas incorrectas y rechazar una solicitud cuando fuera ilógica.
El desempeño mejoró sustancialmente.
Estrategias específicas de entrenamiento consiguieron tasas de rechazo cercanas al 100 % en determinadas evaluaciones, sin un deterioro importante del desempeño general (3).
La resistencia frente a la desinformación no necesariamente es una propiedad fija: puede medirse y, al menos parcialmente, entrenarse.
Esto significa que la susceptibilidad a la desinformación no debería interpretarse necesariamente como una propiedad fija e inevitable de la IA.
Es una vulnerabilidad que puede medirse, comparar entre modelos y, al menos parcialmente, reducirse.
Quizás hablamos demasiado de las “alucinaciones”
Durante los últimos años, una palabra dominó gran parte de la conversación sobre IA y medicina: alucinación.
El término describe aquellos casos en los que un modelo genera información inexistente y la presenta con enorme fluidez y aparente seguridad.
Pero la bixonimania y estos experimentos muestran que esa es solamente una parte del problema.
A veces la IA no inventa la mentira.
La mentira estaba antes.
Puede aparecer en una red social, un manuscrito científico, una base de datos o dentro de una historia clínica.
O puede estar en nuestra propia pregunta.
El modelo hace después aquello para lo que está extraordinariamente bien preparado: toma el contexto disponible y construye una respuesta coherente.
Una respuesta puede estar perfectamente construida a partir de una premisa completamente equivocada.
Y ahí aparece quizá una de las paradojas más interesantes de la IA generativa: una respuesta puede estar perfectamente construida a partir de una premisa completamente equivocada.
La bixonimania llevó esa idea al extremo: inventaron una enfermedad y observaron cómo algunos sistemas podían terminar hablando de ella.
El estudio de The Lancet Digital Health demuestra que no hace falta llegar tan lejos.
Una falsedad procedente de conversaciones públicas y redes sociales fue aceptada en menos del 9 % de las pruebas.
Cuando la colocaron dentro de documentación hospitalaria real, el porcentaje superó el 46 %.
La mentira seguía siendo falsa.
Lo que había cambiado era el guardapolvo.
Las conclusiones: ¿qué nos deja esta evidencia?
Quizás estamos formulando mal una de las preguntas centrales sobre IA y medicina.
No alcanza con preguntar cuánto sabe una IA.
También tenemos que saber qué hace cuando nosotros, una historia clínica o una publicación científica le damos información equivocada.
Más de 3,4 millones de consultas muestran que el problema existe. Y otro experimento demuestra algo todavía más incómodo: en determinadas circunstancias, el modelo puede disponer del conocimiento necesario para corregirnos y, sin embargo, seguirnos la corriente (1,3).
Esto no invalida el enorme potencial de estas herramientas en medicina. Tampoco significa que todos los modelos respondan igual ni que estas vulnerabilidades sean imposibles de corregir.
Fluidez, extensión, lenguaje técnico y seguridad aparente no garantizan que la premisa inicial de una respuesta sea verdadera.
Pero sí deja una advertencia particularmente útil para médicos y pacientes.
Una respuesta generada por IA puede ser extensa, coherente, técnicamente impecable y utilizar el vocabulario médico correcto.
Nada de eso garantiza que la premisa desde la que comenzó sea verdadera.
Antes de preguntarnos si la IA respondió correctamente, quizás tengamos que volver a una vieja costumbre de la medicina: comprobar primero si la pregunta estaba bien planteada.
