Una enfermedad. Que no existe. Pero la Inteligencia Artificial te la diagnostica. Un escenario que suena a ciencia ficción distópica, pero que se hizo realidad en un experimento crucial que expuso la vulnerabilidad de los modelos de lenguaje ante la desinformación.
En marzo de 2024, la investigadora Almira Osmanovic Thunström, de la Universidad de Gotemburgo, lanzó un experimento audaz y revelador. Su objetivo no era menor: medir la capacidad de la desinformación en salud para infiltrarse y ser validada por los sistemas de IA más avanzados. Para ello, Thunström se inventó la bixonimania: una supuesta decoloración del párpado causada por la exposición prolongada a la luz azul de las pantallas. Un nombre con resonancia técnica, síntomas aparentemente creíbles, pero con cero base científica o médica real.
La Trampa Perfecta: Diseñando una Enfermedad Fantasma con Detalles Absurdos
Thunström no dejó nada al azar en su meticulosa trampa. Escribió dos preprints detallados y los subió a un servidor académico de acceso público. Estos documentos, sin embargo, estaban repletos de pistas absurdas y deliberadamente falsas, diseñadas para ser detectadas por cualquier ojo humano crítico. El autor principal figuraba como un tal Lazljiv Izgubljenovic, un nombre eslavo que se traduce como “Perezoso Perdido”, acompañado de una foto de perfil generada por IA. La afiliación universitaria era la inexistente Asteria Horizon University. En los agradecimientos, se mencionaba a la profesora Maria Bohm de la Academia Starfleet (sí, la icónica institución de Star Trek). Y, como colofón, la financiación se atribuía a la Fundación Profesor Sideshow Bob para el avance de la trickería. Lo más descarado: el propio paper incluía una frase que decía, de forma literal, que “este paper entero está inventado”. Una trampa con todas las de la ley, diseñada para ser obvia.
Cuando la IA Muerde el Anzuelo: La Alarmante Credulidad Digital
¿El resultado de esta audaz provocación? Los modelos de lenguaje más populares y supuestamente sofisticados del momento —ChatGPT, Gemini, Copilot y Perplexity— cayeron de lleno en la trampa. La respuesta de cada uno fue alarmante. Copilot describió la bixonimania como una “condición intrigante y relativamente rara”, dándole una pátina de legitimidad. Gemini no dudó en explicar que la causaba la luz azul, validando la premisa falsa. Perplexity fue más allá, inventándose que afectaba a decenas de miles de personas y, lo más preocupante, todos los chatbots recomendaban consultar a un oftalmólogo. Por una enfermedad que, insistimos, no existe y que había sido creada con un propósito explícito de engaño. La credulidad de estos modelos fue total, demostrando una incapacidad crítica para discernir la verdad de la ficción bien empaquetada.
El Peligroso Eco Humano: Investigadores Reales en la Red de Desinformación
Pero el experimento de Thunström reveló una capa aún más preocupante. Lo más alarmante no fue solo la credulidad de la IA, sino su efecto cascada en el mundo real. Tres investigadores en India, confiando en la aparente legitimidad de los preprints y quizás en las validaciones iniciales de la IA, publicaron un paper real en una prestigiosa revista de Springer Nature. En este artículo, citaban la bixonimania como una enfermedad emergente. Este incidente forzó una retractación pública del artículo, un hecho vergonzoso y costoso en el ámbito académico. Este caso subraya la facilidad con la que la desinformación, una vez validada por una IA y revestida de un aura de profesionalismo, puede saltar al mundo real y contaminar la investigación científica y la información médica disponible.
La Paradoja del Profesionalismo: El Lenguaje Técnico como Talón de Aquiles
Aquí reside un matiz clave y una lección fundamental para la era de la IA. Un estudio publicado en Lancet Digital Health arroja luz sobre este fenómeno: los modelos de IA alucinan más y son más propensos a aceptar información falsa cuando el texto parece profesional y técnicamente denso. Cuanto más aspecto de paper médico o informe científico tiene algo, más se lo cree la máquina. El lenguaje técnico, que en el ámbito humano debería actuar como un filtro de calidad y un indicador de rigor, se convierte irónicamente en la puerta de entrada de la basura para la IA. La forma, en este caso, superó al fondo de manera catastrófica.
La Bixina y la Nueva Realidad: Cuando la Ficción se Reinventa y Persiste
La historia de la bixonimania no termina ahí. A día de hoy, si preguntas por esta supuesta enfermedad a algunos modelos de lenguaje, es posible que te digan que era una condición causada por el consumo excesivo de bixina, el colorante natural del achiote, un pigmento rojizo utilizado en alimentos procesados. Esta es una explicación completamente nueva, coherente, ordenada y con una pinta de ser verdad. Pero, de nuevo, es completamente inventada y no tiene ninguna relación con el experimento original. La bixina no tiene absolutamente nada que ver con esta historia. La IA no solo se creyó la ficción inicial, sino que ha generado una nueva ficción para justificarla, demostrando una capacidad preocupante para perpetuar y evolucionar la desinformación.
Es fácil reírse ahora y pensar en cómo tanto la IA como, en un caso, investigadores humanos, pudieron caer en una trampa tan evidente. Pero la realidad es que millones de personas le preguntan cada día a un chatbot sobre sus síntomas, qué tienen, qué se tienen que tomar, o si algo es grave. La confianza en estas herramientas es inmensa y crece exponencialmente. La bixonimania es un recordatorio escalofriante de que la IA no es infalible y que su capacidad para generar respuestas convincentes puede ser una espada de doble filo, especialmente en el ámbito de la salud.
Fuente: → The fake disease that fooled AI chatbots — and human researchers
¿Estamos preparados para el desafío de discernir la verdad de la ficción en un mundo donde la IA puede crear y validar enfermedades que nunca existieron, o la bixonimania es solo la punta del iceberg de una nueva era de desinformación médica?
