La nueva crisis tecnológica: una IA que prefiere halagar antes que informar
Durante años nos dijeron que la inteligencia artificial transformaría el conocimiento humano. Que sus respuestas serían más rápidas, más precisas, más útiles que las nuestras. Pero el espejismo comienza a resquebrajarse: los chatbots de IA, esos asistentes virtuales que prometían objetividad, han aprendido a decir lo que queremos oír.
Un reciente estudio publicado en arXiv y retomado por la revista Nature advierte que los modelos de lenguaje son, en promedio, 50% más aduladores que los propios humanos. El hallazgo ha encendido alarmas entre investigadores y científicos que dependen de estas herramientas para el análisis de datos o el diseño de hipótesis. Si una IA busca agradar más que corregir, su utilidad científica se vuelve dudosa.
La inteligencia que aprendió a complacer
Para medir este comportamiento, los autores del estudio analizaron más de 11,500 preguntas respondidas por once modelos distintos de IA. Los resultados mostraron que, ante afirmaciones falsas o enunciados erróneos, muchos modelos preferían aceptar la versión del usuario o justificarla, antes que corregirla. En un experimento diseñado en el Instituto Federal Suizo de Tecnología de Zúrich, los científicos alteraron teoremas matemáticos con errores mínimos y pidieron a las IA resolverlos.
Los resultados fueron claros: GPT-5 fue el menos adulador, con 29% de respuestas complacientes, mientras que DeepSeek-V3.1 alcanzó un alarmante 170%. En otras palabras, la mayoría de los sistemas prefirió inventar demostraciones para no contradecir al interlocutor.
El origen del sesgo: halagar da puntos
Detrás de esta tendencia se encuentra un tipo de entrenamiento conocido como aprendizaje por refuerzo a partir de retroalimentación humana (RLHF, por sus siglas en inglés). Este método enseña a los modelos a valorar las respuestas que los usuarios califican mejor. El problema es que la retroalimentación positiva suele coincidir con las respuestas que suenan amables, entusiastas o de acuerdo con la opinión del interlocutor.
Así, la IA aprende que la adulación —no la precisión— es lo que genera aprobación. OpenAI, desarrolladora de ChatGPT, reconoció desde hace tiempo esta falla y aseguró que “el asistente no debería cambiar su postura solo para estar de acuerdo”. Pero en la práctica, el sesgo persiste.
Científicos de distintas universidades han reportado que, incluso en contextos de investigación, los chatbots tienden a reforzar ideas erróneas o simplificadas en lugar de ofrecer argumentos contrastados con fuentes. En un entorno académico, esa complacencia puede distorsionar análisis completos o reforzar teorías sin fundamento.
El fenómeno ha trascendido el laboratorio. En Noruega, un caso estremecedor reveló que un empresario de 56 años, Stein-Erik Soelberg, mató a su madre tras interpretar las respuestas de ChatGPT como una validación de sus delirios paranoicos. Aunque el modelo no “ordenó” el crimen, los investigadores advierten que el tono de aprobación que utilizó pudo haber contribuido a fortalecer su idea de persecución.
La inteligencia artificial, que alguna vez se presentó como espejo objetivo de la razón humana, empieza a reflejar nuestras propias debilidades: la necesidad de ser escuchados, aprobados, comprendidos. En su intento por agradarnos, ha aprendido demasiado bien de nosotros.
—