La Comisión Europea publicó en 2022 las Ethical guidelines on the use of artificial intelligence (AI) and data in teaching and learning for educators, una guía dirigida a docentes y equipos directivos. Su propósito es ayudarles a reconocer tanto las posibilidades de la inteligencia artificial (IA) en la enseñanza como los riesgos que pueden surgir al usar sistemas que procesan datos del alumnado.
La guía no es un catálogo de herramientas ni una receta para introducir IA en el aula. Propone principios, preguntas y situaciones escolares para orientar decisiones: qué problema se quiere resolver, qué datos necesita el sistema, quién supervisa sus resultados y cómo se protegen los derechos y el bienestar de las personas. La idea de fondo es que el uso educativo de la IA exige criterio pedagógico y responsabilidad compartida.
Ya habíamos tratado estas directrices en un artículo anterior del blog, donde repasamos algunos de sus usos educativos y riesgos principales. Hemos decidido revisitar el documento con más profundidad: esta vez examinaremos con mayor detalle sus principios, las preguntas que propone para los centros y sus recomendaciones para planificar y supervisar el uso de la IA, además de situar la guía en el contexto normativo actual.
El documento en 1 minuto
- ☑️ Está pensado para educadores y responsables escolares que quieran valorar el uso de sistemas de IA y datos en la enseñanza, el aprendizaje, la evaluación o la gestión del centro.
- ☑️ Describe usos diversos, desde tutores adaptativos y recomendaciones de recursos hasta evaluación automatizada, chatbots y análisis de datos para planificar apoyos.
- ☑️ Organiza la reflexión ética en torno a cuatro consideraciones: agencia humana, equidad, humanidad y elección justificada.
- ☑️ Ofrece preguntas prácticas sobre transparencia, sesgos, accesibilidad, privacidad, seguridad, supervisión humana y rendición de cuentas.
- ☑️ Para el profesorado, su principal utilidad es proporcionar un punto de partida para conversar con el equipo directivo, las familias, el alumnado y los proveedores antes de adoptar un sistema y mientras se utiliza.
Análisis del documento
La IA educativa también trata de datos
⚠️ La guía recuerda que los sistemas de IA dependen de datos. En un contexto escolar, estos pueden incluir calificaciones, información administrativa y registros de las interacciones digitales del alumnado: qué materiales consulta, cuánto tiempo dedica a una actividad o qué respuestas produce en una plataforma.
Ese rastro de actividad puede utilizarse para personalizar recursos, detectar necesidades o orientar decisiones. Pero reunir más datos no garantiza una mejor enseñanza. Cada centro necesita preguntarse qué información recoge, con qué finalidad, quién puede acceder a ella y durante cuánto tiempo la conserva. También debe valorar si puede lograr el mismo objetivo utilizando menos datos o datos menos detallados.
Esta cuestión afecta a decisiones pedagógicas, no solo técnicas. Una predicción sobre el rendimiento puede influir en las expectativas que se depositan en un estudiante; una recomendación automática puede limitar las opciones que se le presentan. Por eso, conviene comprobar qué puede hacer realmente el sistema y qué consecuencias tienen sus resultados para las personas.
Principios para orientar las decisiones
La guía agrupa su reflexión en cuatro consideraciones éticas:
- ☑️ Agencia humana: preservar la capacidad de docentes y estudiantes para comprender, decidir y actuar, con supervisión humana cuando el sistema interviene.
- ☑️ Equidad: atender a la inclusión, la accesibilidad y el riesgo de que los datos o el diseño reproduzcan desigualdades.
- ☑️ Humanidad: cuidar la dignidad, la seguridad, el bienestar y las relaciones humanas, sin reducir a las personas a perfiles o datos.
- ☑️ Elección justificada: tomar decisiones con razones comprensibles, información pertinente y participación de las personas afectadas.
A estas consideraciones se suman siete requisitos para una IA confiable: supervisión humana; transparencia; diversidad, no discriminación y equidad; bienestar social y ambiental; privacidad y gobernanza de datos; solidez técnica y seguridad; y rendición de cuentas. La lista ayuda a ampliar la mirada: además de preguntarse si una herramienta funciona, invita a valorar para quién funciona, qué efectos puede producir y quién se responsabiliza de ellos.
Preguntas que ayudan a revisar un sistema
En lugar de exigir que cada docente comprenda los detalles técnicos de un algoritmo, el documento propone que pueda formular preguntas relevantes a quienes deciden, desarrollan o suministran el sistema. Por ejemplo:
- 💡¿Está claro qué tareas realiza la IA y cuáles siguen bajo responsabilidad docente?
- 💡¿Se conocen las limitaciones de sus predicciones, recomendaciones o evaluaciones?
- 💡¿Se ha comprobado que el sistema sea accesible para el grupo de estudiantes que lo utilizará?
- 💡¿Qué datos recoge y se usan solo para la finalidad comunicada?
- 💡¿Hay procedimientos para detectar resultados sesgados o corregir errores?
- 💡¿Quién revisa los resultados y responde por las decisiones tomadas a partir de ellos?
Las preguntas no son una certificación de que el sistema sea seguro ni una garantía de que su uso resulte adecuado. La propia guía advierte que sirven para orientar la reflexión y no sustituyen una evaluación ética o jurídica completa. Su valor está en hacer visibles asuntos que podrían quedar fuera de una demostración comercial o de una prueba limitada de funcionamiento.
¿Está claramente definido el papel del docente para garantizar que haya un profesor supervisando el sistema de IA mientras se utiliza?
Los ejemplos muestran que el contexto importa
Los casos del documento recorren situaciones muy distintas: plataformas adaptativas, paneles de seguimiento del aprendizaje, sistemas que sugieren apoyos para necesidades educativas, evaluación automatizada de textos, planificación de recursos y chatbots para consultas administrativas.
👉 La evaluación automática de textos ilustra bien el tipo de análisis que propone la guía. Aunque un sistema pueda señalar errores o generar una calificación, el centro debería preguntarse cómo se ha comprobado su fiabilidad, si trata de forma equitativa distintos estilos de expresión y quién revisa y responde por las notas. El resultado de una herramienta no se convierte en una valoración educativa completa por el mero hecho de ser automático.
👉 También importa cómo se presenta la tecnología al alumnado. En los casos de asistentes conversacionales, la guía invita a dejar claro que la interacción es simulada y que el sistema no siente ni posee empatía. Esa transparencia puede ayudar a evitar expectativas equivocadas, en especial cuando los estudiantes reciben apoyo o mantienen conversaciones en contextos sensibles.
Los ejemplos son escenarios para deliberar, no pruebas de que esas aplicaciones mejoren por sí mismas el aprendizaje. La utilidad de cada sistema dependerá de su diseño, del contexto, de los objetivos educativos y de cómo se supervise.
De la elección de una herramienta a la responsabilidad del centro
✅ La guía plantea el uso de IA como un proceso gradual. Recomienda revisar qué sistemas y datos ya se utilizan en el centro, establecer criterios y procedimientos, probar nuevas soluciones en un ámbito acotado, consultar a la comunidad educativa y evaluar los resultados de forma continuada. Si aparecen consecuencias no previstas, el centro debería poder corregir el uso o reconsiderar la decisión.
Ese proceso requiere responsabilidades claras. Antes de incorporar un sistema, conviene concretar qué necesidad educativa se quiere atender, qué evidencias permitirían valorar si funciona y quién monitorizará sus efectos. También es necesario pedir información comprensible al proveedor, acordar cómo se comunicarán los problemas y saber qué opciones tiene el centro si decide cambiar de servicio.
La participación de estudiantes y familias forma parte de esa responsabilidad. El documento recomienda explicar qué datos se recogen, para qué se emplean y cómo se protegen, además de ofrecer oportunidades para plantear dudas. La comunicación no debería limitarse a anunciar una herramienta una vez elegida: puede contribuir a valorar si su uso tiene sentido y bajo qué condiciones.
Una competencia docente que combina pedagogía y criterio crítico
Las competencias descritas en la guía van más allá de manejar aplicaciones. Incluyen comprender, al menos en términos básicos, cómo se usan la IA y los datos; valorar sus efectos en la autonomía docente; reconocer posibles sesgos; y tener en cuenta qué aspectos del aprendizaje mide un sistema y cuáles puede dejar fuera.
Esto es especialmente relevante en evaluación y personalización. Un modelo automatizado se basa en determinados datos y en una representación concreta de lo que cuenta como progreso. Puede ofrecer información útil, pero no necesariamente captar la creatividad, la colaboración o las circunstancias personales de cada estudiante. El profesorado necesita interpretar esa información desde el conocimiento del grupo y los objetivos de aprendizaje.
La guía invita además a que el alumnado aprenda sobre la ética de la IA y los datos. Así, la reflexión no queda reservada a quienes compran o configuran herramientas: puede convertirse también en una oportunidad para desarrollar pensamiento crítico y participación responsable.
Qué contexto normativo conviene tener presente
👉 El documento se publicó en 2022 y, cuando describe el Reglamento de IA de la Unión Europea, se refiere a una propuesta que entonces estaba en preparación. Desde entonces, el marco cambió: el Reglamento (UE) 2024/1689 ya fue aprobado y su aplicación se desarrolla por fases. A fecha de este artículo, el Reglamento es aplicable con carácter general desde el 2 de agosto de 2026, aunque algunas obligaciones para sistemas de alto riesgo se aplicarán más adelante. Texto del Reglamento de IA en EUR-Lex
⚠️ La guía sigue siendo útil como marco de preguntas, pero no debe utilizarse por sí sola para determinar las obligaciones legales actuales de un centro o proveedor. También conviene evitar interpretar la protección frente a decisiones automatizadas como una prohibición absoluta: el artículo 22 del Reglamento General de Protección de Datos establece un derecho con condiciones y excepciones. Reglamento General de Protección de Datos, artículo 22
Conclusión y valoración final
✅ La principal aportación de estas directrices es ofrecer una estructura para decidir con más cuidado. Sus principios y preguntas permiten analizar los usos de IA desde la pedagogía, los datos, la equidad, la supervisión y la responsabilidad, e invitan a tratar su adopción como un proceso que requiere revisión continua y participación de la comunidad educativa.
✅ Para el profesorado, es una lectura útil como punto de partida para conversaciones y decisiones de centro, especialmente cuando una herramienta influye en la evaluación, la personalización o el seguimiento del alumnado. Su límite es igualmente claro: la guía no acredita la calidad de una aplicación concreta ni sustituye las evaluaciones y obligaciones vigentes. Su mensaje educativo más duradero es que la IA debe someterse a preguntas sobre qué aprendizaje promueve, qué datos necesita, qué puede pasar por alto y quién conserva la responsabilidad de decidir.
Ficha técnica
- Documento: Ethical guidelines on the use of artificial intelligence (AI) and data in teaching and learning for educators
- Organización: Comisión Europea, Dirección General de Educación, Juventud, Deporte y Cultura