Continuamos con esta serie de artículos en los que analizamos con la ayuda de la IA de NotebookLM algunos de los materiales técnicos que se están publicando a nivel institucional o de investigación sobre el impacto de la Inteligencia Artificial en la educación.
En este artículo vemos la Guía para integrar las tecnologías basadas en inteligencia artificial generativa en los procesos de enseñanza y aprendizaje, elaborada por el Vicerrectorado de Innovación Educativa de la UNED (Universidad Española de Educación a Distancia), cuyo objetivo es orientar sobre la integración de estas tecnologías en los procesos de enseñanza y aprendizaje, centrado principalmente en el ámbito universitario. Este documento nos ofrece una visión detallada de qué son estas herramientas, su valor en la educación, sus limitaciones y cómo están impactando en la evaluación.
Introducción
La guía comienza contextualizando la rápida expansión de las tecnologías basadas en inteligencia artificial generativa (IAG), como ChatGPT, y su potencial transformador en la educación, similar al impacto que tuvieron en su momento internet o la calculadora.
Se destaca la diversidad de opiniones entre los educadores, desde quienes ven en la IAG una oportunidad para optimizar tareas hasta quienes la perciben como una amenaza a la integridad académica. Sin embargo, el documento subraya que la cuestión central ya no es prohibir estas herramientas, sino cómo integrarlas de manera eficaz, responsable y ética en las instituciones educativas. Para lograrlo, la guía propone establecer políticas de uso, formar al profesorado y al estudiantado, y realizar una revisión continua de estas políticas y herramientas.
¿Qué son las herramientas de inteligencia artificial generativa?
El documento define la inteligencia artificial generativa como aquella rama de la IA capaz de generar contenido de forma automática a partir de instrucciones escritas. Este contenido puede ser muy variado, incluyendo textos, código, imágenes, vídeos o música.
La IAG funciona analizando estadísticamente grandes cantidades de datos para identificar y reproducir patrones, como la secuencia de palabras en un texto. Aunque las respuestas generadas por IAG de texto pueden parecer escritas por humanos, es importante recordar que estas herramientas no comprenden realmente ni las instrucciones ni el contenido que generan. Por lo tanto, siempre se debe adoptar una perspectiva crítica ante sus resultados, ya que pueden ser superficiales, inexactos o poco fiables.
El valor de integrar la IAG en la enseñanza y el aprendizaje
La guía enfatiza que las herramientas de IAG deben considerarse como un complemento a la labor docente, nunca como un sustituto. Para el profesorado, estas tecnologías pueden ser muy valiosas para elaborar ejemplos didácticos que faciliten la comprensión de conceptos complejos, preparar material docente en múltiples formatos (texto, audio, imagen, vídeo), personalizar los procesos de enseñanza adaptándose al progreso del alumnado, generar amplios bancos de preguntas para la autoevaluación, y diseñar actividades de simulación como roleplay.
Es fundamental que el profesorado evalúe rigurosamente los resultados proporcionados por estas herramientas, basándose en su criterio pedagógico y científico, y sea transparente sobre su uso, referenciándolo correctamente.
En cuanto al estudiantado, la IAG puede mejorar significativamente su experiencia de aprendizaje. Pueden utilizar estas herramientas para generar resúmenes, convertir contenido a diferentes formatos, crear imágenes para enriquecer sus trabajos, mejorar la calidad de la redacción de textos escritos ofreciendo sugerencias gramaticales y de estilo, escribir y depurar código de programación, superar el bloqueo inicial ante un nuevo proyecto, y emplear agentes conversacionales como compañeros de aprendizaje para adquirir conocimientos, poner a prueba lo aprendido, elaborar mapas conceptuales o generar preguntas de autoevaluación.
Además, pueden recibir retroalimentación instantánea sobre su desempeño en pruebas de evaluación. Sin embargo, es importante que los estudiantes aprendan a usar estas herramientas correctamente, conozcan sus limitaciones y sigan las normas de la universidad.
Limitaciones técnicas y legales de la IAG
El documento dedica un apartado importante a las limitaciones y riesgos asociados al uso de la IAG. Entre las limitaciones técnicas, destaca que las IAG de texto pueden generar respuestas bien escritas pero erróneas o sin sentido, fenómeno conocido como «alucinaciones». También pueden incluir citas o referencias bibliográficas inventadas.
Otra limitación importante son los sesgos inherentes a los datos con los que han sido entrenadas estas herramientas (sesgos de género, cultura, raza), así como la posibilidad de que la información generada no esté actualizada. Finalmente, la calidad de los resultados depende en gran medida de la precisión de las instrucciones proporcionadas (prompts).
En cuanto a las implicaciones legales, la guía señala el riesgo de plagio si los resultados generados incluyen ideas de otros autores sin la adecuada citación. Existe también inseguridad jurídica en materia de derechos de autor, ya que la ley considera autor a la persona natural que crea una obra, por lo que el contenido generado por algoritmos de IAG no otorga derechos de autor al usuario, debiendo citarse al autor del algoritmo.
Además, hay dudas sobre la legalidad del contenido utilizado para entrenar estos modelos. Por último, se advierte sobre la importancia de no proporcionar datos personales o confidenciales a estas herramientas, ya que se pierde el control sobre ellos. En el ámbito de la evaluación, generalmente no se permite el uso de contenido generado por IAG en pruebas y trabajos finales, a menos que el profesorado indique lo contrario, y su uso indebido se considera deshonestidad académica. Por todo ello, es fundamental ser crítico con la información generada por IAG y contrastarla con fuentes fiables.
La evaluación ante la irrupción de las herramientas de IAG
La aparición de la IAG obliga a las universidades a reconsiderar las formas de evaluar al estudiantado, ya que las herramientas de detección de plagio actuales no son fiables para identificar textos generados por IA.
Se recomienda revisar las pruebas de evaluación, pudiendo sustituir la evaluación continua por pruebas presenciales o modificar el formato de las preguntas. En la UNED, el sistema de evaluación incluye pruebas de autoevaluación, evaluación continua y pruebas presenciales, además del trabajo fin de título. A excepción de las pruebas presenciales, donde no se permiten dispositivos electrónicos, el profesorado determinará el uso permitido de la IAG en el resto de las evaluaciones. Se pueden establecer diferentes grados de autorización, desde no permitir su uso hasta esperarlo.
En cualquier caso, se deben proporcionar indicaciones precisas a los estudiantes. No se puede exigir el uso de plataformas de terceros que impliquen el tratamiento de datos personales. Se recomienda leer atentamente las instrucciones de cada tarea y, cuando el uso de IAG esté permitido, explicitar cómo se ha empleado, incluyendo un anexo con las herramientas, los prompts y los resultados, además de citar correctamente el contenido generado.
La guía propone diversas estrategias para adaptar las pruebas de evaluación. Una de ellas es la evaluación auténtica, que busca aplicar conocimientos y habilidades a tareas similares a situaciones del mundo real, permitiendo el uso de los recursos disponibles, incluida la IAG. También se destaca la importancia de las pruebas de evaluación continua para desarrollar y evaluar competencias genéricas como el pensamiento crítico y la capacidad de aprender a aprender.
Entre las recomendaciones para diseñar pruebas, se sugiere limitar el uso de pruebas objetivas en entornos no controlados, promover la evaluación auténtica, proponer temas actuales y poco explorados, fomentar el pensamiento crítico pidiendo a los estudiantes que analicen y refinen respuestas generadas por IAG, promover la evaluación procesual, incorporar presentaciones orales y debates, solicitar un apartado de autorreflexión sobre el proceso de aprendizaje, exigir citas y referencias, requerir un informe de uso de IAG, utilizar múltiples instrumentos de evaluación, y valorar la estructura y coherencia textual.
Para los trabajos fin de título, se recomienda establecer los usos permitidos de la IAG, proponer temas específicos, orientar los trabajos a la resolución de problemas reales, exigir una revisión bibliográfica actualizada y verificar las citas, prestar atención a la coherencia metodológica, realizar un seguimiento del trabajo en varias etapas, solicitar autorreflexión, valorar la aportación personal y exigir un informe de uso de IAG.
FAQ
- ✅ ¿Qué se entiende por inteligencia artificial generativa (IAG)?
- La IAG es una rama de la inteligencia artificial que puede crear automáticamente contenido como texto, código, imágenes o vídeos a partir de instrucciones escritas.
- ✅ ¿Cuáles son algunos ejemplos de herramientas de IAG?
- Algunos ejemplos populares incluyen ChatGPT, Bard (para texto), Midjourney y DALL•E (para imágenes).
- ✅ ¿De qué manera pueden beneficiarse los estudiantes del uso de la IAG?
- Los estudiantes pueden usar la IAG para generar resúmenes, mejorar su redacción, escribir código, superar el bloqueo creativo y como compañeros de aprendizaje para explorar conceptos.
- ✅ ¿Qué limitaciones importantes tienen las herramientas de IAG?
- Pueden generar información incorrecta («alucinaciones»), incluir citas inventadas, presentar sesgos y ofrecer información no actualizada.
- ✅ ¿Cuáles son las principales implicaciones legales del uso de la IAG en la educación?
- Existe riesgo de plagio, inseguridad jurídica en cuanto a derechos de autor del contenido generado por IA y problemas de privacidad al compartir datos personales.
- ✅ ¿Cómo se está abordando la evaluación ante la irrupción de la IAG en la UNED?
- La UNED recomienda revisar las pruebas de evaluación y permite al profesorado determinar el nivel de uso de la IAG, excepto en las pruebas presenciales donde está prohibida.
- ✅ ¿Qué estrategias se proponen para adaptar las pruebas de evaluación a la IAG?
- Se sugiere promover la evaluación auténtica, proponer temas específicos, fomentar el pensamiento crítico, incorporar presentaciones orales y exigir un informe de uso de IAG.
- ✅ ¿Se permite el uso de contenido generado por IAG en los trabajos académicos?
- Generalmente no se permite, a menos que el profesorado lo indique explícitamente en las instrucciones de la tarea. En caso de permitirse, debe citarse y referenciarse correctamente, y explicitar cómo se ha utilizado la herramienta.
Podcast – Guía UNED sobre IA Generativa en Educación superior
Además de la redacción del texto, hemos usado NotebookLM para la creación de un podcast personalizado que señale los aspectos más relevantes del documento.
⚠️ ATENCIÓN: El material de este artículo y del podcast ha sido generado de forma completa con las herramientas de IA de NotebookLM. Aunque ha sido revisado por los autores del blog, puede contener errores en su contenido.
