El Manifiesto para la enseñanza y el aprendizaje en la era de la IA generativa: una postura colectiva crítica para navegar mejor por el futuro (Manifesto for Teaching and Learning in a Time of Generative AI: A Critical Collective Stance to Better Navigate the Future) es un documento colectivo que examina críticamente la integración de la Inteligencia Artificial Generativa (GenAI), los chatbots y los algoritmos en la educación superior.
Publicado el 29 de noviembre de 2024 en la revista Open Praxis, fue elaborado por un grupo internacional de más de 50 académicos y profesionales de la educación. El manifiesto destaca que la GenAI, aunque ofrece oportunidades para personalizar el aprendizaje y mejorar la eficiencia, no es una herramienta neutral y puede reforzar sesgos existentes y marginar voces diversas. Subraya la importancia de una investigación robusta y decisiones conscientes para asegurar que la GenAI potencie la agencia humana y la responsabilidad ética en la educación.
Introducción: Una mirada crítica a la IA en la educación superior
Este manifiesto presenta una perspectiva crítica y colectiva sobre la integración de la Inteligencia Artificial Generativa (GenAI), los chatbots y los algoritmos en la educación superior. Sus autores, un grupo diverso de educadores e investigadores internacionales, destacan:
- El potencial de la GenAI para personalizar, agilizar y hacer más accesible la educación.
- La falta de neutralidad de estas herramientas, que pueden reforzar sesgos y excluir voces diversas.
- El riesgo de desplazar interacciones humanas esenciales, como la creatividad, el pensamiento crítico y la empatía.
- La necesidad de un enfoque consciente y ético, sustentado en investigación robusta, para que la GenAI potencie la agencia humana.
2. Potenciales beneficios de la GenAI en la educación
✅ Eficiencia y ahorro de tiempo
- Automatización de tareas repetitivas.
- Análisis de grandes volúmenes de datos.
- Advertencia: no debe comprometer la calidad del aprendizaje.
✅ Aprendizaje personalizado
- Adaptación al nivel y ritmo de cada estudiante.
- Retroalimentación inmediata.
- Riesgo: sesgos en los datos y limitación de la exploración crítica.
✅ Autoeducación y aprendizaje a lo largo de la vida
- Herramientas accesibles para aprendices autónomos.
- Requiere orientación para evitar sobrecarga o dependencia.
✅ Preparación para el futuro laboral
- Competencias en IA como parte de la alfabetización digital.
- Formación ética y crítica.
- Comprensión del impacto de la IA en el empleo y la privacidad.
✅ Redefinición de prácticas y evaluación educativa
- Evaluaciones más centradas en el proceso y pensamiento crítico.
- Reto: evitar uso indebido y promover evaluaciones significativas.
✅ Innovación educativa
- Nuevos modelos pedagógicos y metodologías.
- Imprescindible basarse en investigación rigurosa.
✅ Mejora de la labor docente
- Agiliza programación, diseño de materiales y evaluación.
- Peligro: degradar el rol docente a tareas de supervisión.
✅ Autonomía del estudiante y pensamiento crítico
- Fomento del aprendizaje independiente y habilidades metacognitivas.
- Atención: evitar andamiaje excesivo y dependencia.
✅ Accesibilidad e inclusión
- Apoyo a estudiantes con discapacidades o en contextos desfavorecidos.
- Educación multilingüe mediante traducción automática.
- Condición: diseño inclusivo desde el inicio.
✅ Fortalecimiento institucional y profesional
- Formación docente continua.
- Infraestructura pública y comunidades de práctica.
- Políticas que incluyan ética, no solo técnica.
✅ Uso ético y equitativo
- Mitigación de sesgos algorítmicos.
- Transparencia sobre funcionamiento y limitaciones de la IA.
- Formación en alfabetización digital crítica.
✅ Fomento de la creatividad
- Generación de ideas y nuevos medios.
- Precaución: evitar homogeneización y pérdida de esfuerzo cognitivo.
✅ Aprendizaje transdisciplinario
- Conexión entre disciplinas y visión sistémica.
- Formación para evaluar calidad, sesgo y relevancia de la información.
✅ Interacción y colaboración asistida
- GenAI como mediador en dinámicas de grupo.
- Clave: no reemplazar la interacción humana auténtica.
✅ Potenciación cognitiva
- Liberar carga mental para centrarse en tareas de mayor nivel.
- Peligro: pasividad y pérdida de habilidades cognitivas esenciales.
3. Riesgos y desafíos de la GenAI en educación
⚠️ Brecha digital y desigualdad
- Acceso desigual a tecnología y formación.
- Aumento de la desigualdad educativa a escala global.
⚠️ Sesgos y falta de diversidad
- Reproducción de estereotipos y marginación de voces.
- Algoritmos que refuerzan desigualdades existentes.
⚠️ Ética y propiedad intelectual
- Uso de datos sin consentimiento.
- Explotación de creadores y pérdida de derechos.
⚠️ Integridad académica
- Facilita el plagio y la trampa.
- Fomenta aprendizaje superficial y pérdida de habilidades críticas.
⚠️ Fiabilidad y desinformación
- Contenido inexacto o falso.
- Dificultades para discernir verdad de error.
⚠️ Pérdida de valores humanos
- Carencia de empatía, compasión y mentoría real.
- Predominio de intereses corporativos.
⚠️ Dependencia tecnológica
- Reducción de la agencia humana.
- Sistemas vulnerables ante fallos tecnológicos.
⚠️ Degradación de procesos cognitivos
- Compromiso superficial con el conocimiento.
- Retraso en el desarrollo del pensamiento crítico profundo.
⚠️ Obstrucción al pensamiento de orden superior
- Supresión del análisis, evaluación y creatividad.
- Reducción de oportunidades de pensamiento original.
⚠️ Opacidad y falta de comprensión
- Algoritmos de «caja negra» y confianza injustificada.
- Ausencia de alfabetización en IA.
⚠️ Impacto en el rol docente
- Riesgo de desprofesionalización.
- Sustitución del juicio y la experiencia pedagógica.
⚠️ Concentración de poder y comercialización
- Dominio de pocas empresas tecnológicas.
- Falta de transparencia e innovación abierta.
⚠️ Falta de regulación eficaz
- Vacíos legales y de supervisión.
- Ausencia de políticas éticas claras.
⚠️ Riesgos de privacidad y seguridad
- Mal uso de datos personales.
- Vulnerabilidad ante ciberataques.
⚠️ Posible uso malintencionado
- Generación de contenido para fraudes o amenazas.
- Riesgos para la equidad en evaluaciones.
⚠️ Impacto ambiental
- Alta huella energética y uso intensivo de recursos naturales.
⚠️ Riesgos en la simbiosis humano-IA
- Erosión del juicio y de la creatividad humana.
- Pérdida de control sobre decisiones complejas.
⚠️ Falta de representación global
- Dominancia de visiones occidentales.
- Poca inclusión de lenguas y culturas diversas.
⚠️ Degradación del conocimiento
- Entrenamiento recursivo con contenido generado por IA.
- Creación de cámaras de eco y pérdida de diversidad epistemológica.
⚠️ Disrupción sin preparación
- Falta de formación docente.
- Ansiedad e implementación ineficaz por expectativas desalineadas.
4. Conclusión
La GenAI representa una encrucijada para la educación. Su integración puede mejorar la personalización, eficiencia e innovación, pero también conlleva riesgos profundos: desigualdad, sesgos, pérdida de pensamiento crítico, dependencia y erosión de valores humanos.
No se trata de aceptar o rechazar la tecnología, sino de decidir conscientemente cómo usarla. Como educadores, instituciones y sociedad, debemos promover:
- Un enfoque ético y proactivo.
- Decisiones informadas que prioricen el desarrollo humano, la equidad y el pensamiento crítico.
- Rechazo a una adopción acrítica dictada por la tecnología o intereses comerciales.
FAQs
☑️ ¿Qué es la Inteligencia Artificial Generativa (GenAI) en el contexto educativo?
Es la integración de tecnologías como chatbots y algoritmos basados en Grandes Modelos de Lenguaje (LLMs) capaces de analizar y generar contenido similar al humano (texto, audio, multimedia). Su uso está transformando la enseñanza y el aprendizaje.
☑️ ¿La GenAI es una herramienta neutral para la educación?
No. La GenAI refleja cosmovisiones y valores culturales presentes en los datos con los que fue entrenada, por lo que puede contener y amplificar sesgos. No es una tecnología neutral.
☑️ ¿Cuáles son algunos de los principales beneficios potenciales de la GenAI en la educación?
- Ahorro de tiempo para docentes y estudiantes
- Personalización del aprendizaje
- Apoyo a la autoeducación
- Preparación para el futuro laboral
- Mejora de la accesibilidad
- Fomento de la innovación
- Aumento de la capacidad cognitiva humana
☑️ ¿Cómo puede la GenAI ayudar a personalizar el aprendizaje?
Actúa como un tutor adaptativo, ofreciendo rutas de aprendizaje personalizadas y retroalimentación inmediata, ajustada al ritmo y necesidades individuales del estudiante.
☑️ ¿Qué riesgos plantea la GenAI para la integridad académica?
Puede facilitar el plagio y la trampa, socavando la autenticidad del aprendizaje y debilitando habilidades críticas como la reflexión y el análisis profundo.
☑️ ¿La GenAI afecta a la calidad de la información?
Sí. Puede generar errores o “alucinaciones” (información incorrecta) y contribuir a la desinformación, dificultando la verificación de la fiabilidad del contenido.
☑️ ¿Existe el riesgo de que la GenAI reemplace a los profesores?
Sí. La automatización puede llevar a la desprofesionalización docente. La GenAI no puede sustituir la empatía, el juicio pedagógico ni la mentoría humana.
☑️ ¿La dependencia de la GenAI podría afectar a las habilidades de pensamiento de los estudiantes?
Sí. Un uso excesivo puede reducir el pensamiento crítico, la resolución de problemas y la creatividad, fomentando una actitud pasiva ante el conocimiento.
☑️ ¿La GenAI podría aumentar las desigualdades en educación?
Sí. Si no se gestiona con equidad, puede ampliar la brecha digital y profundizar las desigualdades entre estudiantes e instituciones con distintos niveles de recursos.
☑️ ¿Qué se necesita para integrar la GenAI de forma responsable en educación?
- Investigación basada en evidencia
- Políticas institucionales claras
- Regulaciones éticas
- Formación docente continua
- Transparencia sobre el funcionamiento de la IA
- Fomento de la alfabetización en IA para todos los actores educativos
Podcast – Educación y GenAI: beneficios, riesgos y respuestas necesarias
Además de la redacción del texto, hemos usado NotebookLM para la creación de un podcast personalizado que señale los aspectos más relevantes del documento.
⚠️ ATENCIÓN: El material de este artículo y del podcast ha sido generado de forma completa con la herramienta de IA de NotebookLM. Aunque ha sido revisado por los autores del blog, puede contener errores en su contenido.