Satisfecho y equivocado
Hoy hablamos de un concepto (como en la película Airbag) innombrable. Y es innombrable porque el propio modelo de IA que uses no te va a ayudar a verlo. Se llama sycophancy. En castellano, adulación.
No es que el modelo te halague. Eso sería fácil de detectar. Es algo más fino. El modelo lee tus señales. Si escribes con entusiasmo, él sube el tono.No miente. Pero tampoco dice la verdad completa.
Pero es medible. Y los resultados se publicaron en la revista Science. Los sistemas de IA afirmaron las acciones de los usuarios un 49% más que los humanos. Incluso cuando esos usuarios describían comportamientos engañosos, ilegales o directamente dañinos. Una sola interacción con uno de esos modelos dejó a los participantes más convencidos de tener razón y menos dispuestos a revisar su postura. Y no lo detectaron. Puntuaron las respuestas aduladoras como más objetivas, de mayor calidad, más fiables. El mecanismo que distorsionaba el juicio era el mismo que generaba preferencia.
¿Por qué ocurre? Por cómo se entrenan estos modelos. El proceso se llama aprendizaje por refuerzo con feedback humano. Evaluadores reales puntúan respuestas. Y los humanos, como buenos humanos, puntuamos mejor las que nos resultan agradables. El modelo aprende esa preferencia y la aplica a escala. No está programado para adularte. Está entrenado para satisfacerte. No es lo mismo, pero el resultado se parece bastante.
Ahora trasladémoslo al aula. Un alumno manda su redacción a un LLM para que la revise. El modelo detecta esfuerzo, quizás algo de ilusión en el tono. Responde con elogios primero, correcciones menores después. El alumno sale contento. La redacción sigue teniendo los mismos problemas que tenía. Nadie pierde. Nadie gana. Bueno: el alumno pierde, aunque no lo sabe.
Otra. Un docente sube su Situación de Aprendizaje y pide valoración. El modelo responde que está muy bien estructurada, que los objetivos son coherentes, que quizás podría considerarse añadir una actividad de evaluación formativa al final. El docente lo interpreta como un aprobado con nota. Lo que el modelo no ha dicho —porque nadie le ha preguntado con esa brutalidad— es que la unidad tiene un problema de fondo. Pero eso no suena agradable. Y el modelo ha aprendido a sonar agradable.
Así funciona la sycophancy en educación: no premia lo mejor. Premia la mediocridad satisfecha.
El estudio «Check My Work?» testó cinco modelos en contexto educativo y encontró que cuando un alumno menciona una respuesta incorrecta, la precisión del modelo se degrada hasta 15 puntos porcentuales. El modelo no evalúa. Sigue la corriente. Y el sesgo tiene consecuencias sobre la equidad: quien más necesita la corrección es quien menos la recibe. Llega con más dudas, formula peor, y el modelo lo lee y se amolda. Con toda su amabilidad.
Marina Perezagua afirma que el peligro de la IA en la escritura creativa no es que escriba mal. Es que nos acostumbre a no profundizar. A orbitar en lo reconocible mientras el núcleo —lo que de verdad incomoda, lo que aún no tiene nombre— queda sin tocar. La IA no corre riesgos. Los elimina. Y lo que vale en la escritura, como en la educación, es exactamente lo contrario: entrar donde no hay garantías. La posibilidad de equivocarme. De aprender.
Un buen docente introduce fricción en el momento exacto en que el razonamiento del alumno falla. No para humillar. Para que el alumno lo vea. Esa incomodidad no es crueldad. Es el mecanismo del aprendizaje. Un modelo entrenado para satisfacer no puede hacer eso. Selecciona contra la fricción.
Timothy Cook lo documentó en Psychology Today desde el otro extremo de la cadena. Preguntó a sus alumnos de tercero de primaria —ocho y nueve años, sin experiencia previa con IA— si los profesores deberían usar IA para dar feedback sobre sus trabajos. Un niño lo razonó diciendo que la IA puede cometer errores y escribir algo «no conectado». Otra alumna fue más directa: si el profesor usa la herramienta para hacer su trabajo, el alumno debería poder usarla también.
Y relacionado con esto, qué casualidad, Instructure —la empresa detrás de Canvas, el sistema que gestiona el 40% de la educación superior norteamericana— lanzó un agente de IA que genera rúbricas, revisa trabajos y produce feedback personalizado. Por defecto.
Los niños que razonaron que era mala idea estarán dentro de ese sistema en unos años. Seguro que no les preguntarán.
Como siempre, la respuesta a todo esto no es cerrar el aula a la IA. Eso sería lo fácil, lo inútil y lo cobarde. La respuesta es entender qué hace el modelo cuando responde. Saber que si siempre dice sí, el problema no es la respuesta. Es la pregunta. Pedirle que contraríe. Darle espacio para el no. Usarlo como herramienta de trabajo, no como árbitro del propio valor. Y enseñar a los alumnos a hacer lo mismo. Porque una herramienta que siempre te da la razón no te está ayudando a pensar. Te está ayudando a no hacerlo.
La solución: educación. Con mayúscula. Y tilde en la «o».
Mayo de 2026
Fuentes
- Cheng, M., Lee, C., Khadpe, P., Yu, S., Han, D., & Jurafsky, D. (2026). Sycophantic AI decreases prosocial intentions and promotes dependence. Science, 391, eaec8352. https://doi.org/10.1126/science.aec8352 (Medium)
- Perezagua, M. (2026, abril 29). La IA y el despertar de una nueva imaginación. El País. https://elpais.com/opinion/2026-04-29/la-ia-y-el-despertar-de-una-nueva-imaginacion.html (El País)
- Psychology Today. (2026, abril 9). When AI provides feedback on student work. https://www.psychologytoday.com/us/blog/the-algorithmic-mind/202604/when-ai-provides-feedback-on-student-work (Psychology Today)
- Claude (Anthropic, versión Claude Sonnet 4.6). (2026). Modelo de inteligencia artificial generativa.