Continuamos con esta serie de artículos en los que analizamos con la ayuda de la IA de NotebookLM algunos de los materiales técnicos que se están publicando a nivel institucional o de investigación sobre el impacto de la Inteligencia Artificial en la educación.
Este artículo se centra en la Guía para el uso de IA generativa en educación e investigación, publicada por la UNESCO en 2024, la cual aborda temas como las tecnologías y los modelos de IA Generativa (IAGen), sus controversias éticas y políticas, la regulación de su uso y las posibilidades creativas en la enseñanza, el aprendizaje y la investigación. La guía se basa en la Recomendación sobre la Ética de la Inteligencia Artificial de la UNESCO de 2021 y en un enfoque humanístico de la educación.
Resumen de la Guía para el uso de la IA generativa en educación e investigación
La guía elaborada por la UNESCO, lanzada en 2024, analiza cómo la inteligencia artificial generativa (IAGen) puede aplicarse en contextos educativos y de investigación. La guía examina varios aspectos, incluyendo la tecnología detrás de estos sistemas, los debates éticos y políticos que generan, su marco regulatorio, y su potencial para enriquecer los procesos de enseñanza, aprendizaje e investigación. El documento se fundamenta en los principios establecidos en la Recomendación sobre Ética de la IA de la UNESCO del 2021, manteniendo una perspectiva humanística en el ámbito educativo.
¿Qué es la IA generativa y cómo funciona?
La IAGen es una tecnología que crea contenido de manera automática en respuesta a instrucciones textuales, conocidas como prompts. En lugar de simplemente conservar información, la IAGen produce nuevos contenidos en formatos como texto, imágenes, vídeos, música y código. Esta tecnología se entrena con grandes cantidades de datos de internet y otros medios digitales, identificando patrones para generar respuestas coherentes.
Los modelos de lenguaje de gran tamaño (LLM), como los GPTs, son un tipo de red neuronal que usa la IAGen de texto. Estos modelos dividen las instrucciones en unidades más pequeñas llamadas tokens y predicen las palabras o frases que mejor se ajustan para crear una respuesta. El modelo más reciente de OpenAI, el GPT-4, puede aceptar tanto texto como imágenes, haciendo que sea un modelo multimodal. En la práctica, obtener resultados sofisticados con la IAGen requiere de ingeniería de prompts, es decir, escribir instrucciones efectivas que guíen a la IA para generar el resultado deseado…. Por ejemplo, un prompt debe ser claro, incluir ejemplos y aportar contexto.
Controversias y riesgos éticos de la IAGen
La guía plantea diversos problemas asociados al uso de la IAGen.
- ✅ Uno de ellos es el empeoramiento de la pobreza digital, ya que el desarrollo y control de esta tecnología se concentra en unas pocas grandes empresas y países.
- ✅ Además, la IAGen puede usar contenido sin consentimiento y generar resultados de forma opaca, como una «caja negra», dificultando la comprensión de cómo se producen…
- ✅ Otro riesgo es que la IAGen puede contaminar internet con material sesgado e incorrecto, y sus respuestas pueden ser una repetición de patrones lingüísticos sin comprensión real del mundo, lo que se conoce como «loros estocásticos»…
- ✅ También se advierte que la IAGen puede reducir la diversidad de opiniones al reflejar solo las perspectivas dominantes.
Estos riesgos tienen una especial relevancia para el mundo de la docencia, ya que un uso irreflexivo de estas herramientas puede llevar a los estudiantes a aceptar resultados superficiales o erróneos sin un análisis crítico. Es fundamental que tanto docentes como estudiantes conozcan estas limitaciones y desarrollen habilidades para evaluar la información que produce la IAGen.
Regulación de la IAGen en la educación
Para abordar las controversias y aprovechar las ventajas de la IAGen en la educación, es necesario regular su uso. La guía propone un enfoque centrado en el ser humano, que promueva la intervención humana, la inclusión, la equidad, la igualdad de género, la diversidad cultural y lingüística, así como las opiniones y expresiones plurales… Este enfoque está basado en la Recomendación sobre la Ética de la Inteligencia Artificial de la UNESCO…
Se sugieren varios pasos clave para que los gobiernos regulen la IAGen, incluyendo la protección de la privacidad de los datos y el establecimiento de límites de edad para su uso. Asimismo, se establecen requisitos para los proveedores de IAGen para asegurar un uso ético y efectivo en la educación, con transparencia de los modelos y etiquetado de los contenidos generados por la IA… Además, se subraya la necesidad de que las instituciones educativas validen la idoneidad ética y pedagógica de los sistemas de IAGen para la educación…
Hacia un marco de políticas para la IAGen en la educación
La guía recomienda una serie de medidas para desarrollar marcos políticos coherentes e integrales para regular el uso de la IAGen en la educación y la investigación.
✅ Entre estas medidas destacan la importancia de promover la inclusión, la equidad y la diversidad lingüística y cultural en el uso de la IAGen, con especial atención a los grupos marginados.
✅ Se enfatiza la necesidad de proteger la acción humana y evitar que la IAGen sustituya al pensamiento crítico y la creatividad.
✅ Además, la guía destaca la importancia de monitorear y validar los sistemas de IAGen, así como desarrollar competencias en IA, tanto para estudiantes como para docentes…
✅ También se hace hincapié en la importancia de promover opiniones diversas y la expresión plural de ideas, para evitar la homogeneización de perspectivas que puede generar la IAGen.
Facilitar el uso creativo de la IAGen en la educación
La guía también explora cómo facilitar el uso creativo de la IAGen en la educación y la investigación.
👉 Se recomienda que las instituciones educativas desarrollen estrategias que orienten el uso responsable y ético de los sistemas de IAGen, así como que capaciten a docentes y estudiantes en la ingeniería de prompts…
👉 Se propone un enfoque de «interacción centrada en el ser humano y pedagógicamente apropiada», que priorice el aprendizaje efectivo y controle los procesos y los contenidos generados por la IA…
👉 También se recomienda el codiseño del uso de la IAGen por parte de docentes, estudiantes e investigadores, y la evaluación de su efectividad a largo plazo…
👉 Se ofrecen ejemplos de usos de la IAGen para la investigación, la enseñanza, el aprendizaje autodidacta de habilidades básicas y el apoyo a estudiantes con necesidades especiales.
Implicaciones a largo plazo de la IAGen en la educación
Finalmente, la guía aborda las implicaciones a largo plazo de la IAGen para la educación y la investigación.
Se plantean cuestiones éticas inexploradas, así como los desafíos que plantea la IAGen para los derechos de autor y la propiedad intelectual, y el impacto en las fuentes de contenido y aprendizaje…
También se discute la necesidad de replantear la evaluación y los resultados del aprendizaje, con un enfoque en los valores humanos, las habilidades de pensamiento de orden superior y las competencias profesionales necesarias para trabajar con la IA…
Se concluye resaltando la importancia de que la IA se utilice para mejorar las capacidades humanas y no para socavarlas o sustituirlas, y que su desarrollo y aplicación en la educación debe guiarse por un enfoque centrado en el ser humano…
Conclusiones finales
En resumen, este documento de la UNESCO es un recurso importante para comprender y abordar los desafíos y oportunidades que plantea la IA generativa en la educación. La guía subraya que, aunque la IAGen tiene el potencial de transformar la enseñanza y el aprendizaje, es fundamental que su uso se guíe por principios éticos y pedagógicos, con un enfoque centrado en el ser humano y en la protección de la diversidad, la equidad y la inclusión.
El texto nos invita a reflexionar sobre el papel de la tecnología en la educación, destacando la necesidad de que las herramientas de IA complementen las habilidades humanas y no las sustituyan.
10 FAQs
1. ¿Qué es la IA generativa y cómo funciona?
La IA generativa (IAGen) es una tecnología de inteligencia artificial que crea contenido de manera automática a partir de instrucciones textuales. Utiliza modelos de lenguaje de gran tamaño (LLM), como los GPT, que analizan patrones en grandes cantidades de datos para generar respuestas en diversos formatos, como texto, imágenes, vídeo o código.
2. ¿Cuáles son los principales riesgos éticos asociados a la IA generativa en la educación?
Algunos riesgos son el empeoramiento de la brecha digital, el uso de contenidos sin consentimiento, la opacidad de los modelos (cajas negras), la contaminación de internet con información sesgada, la falta de comprensión del mundo real por parte de la IA y la reducción de la diversidad de opiniones.
3. ¿Cómo se puede regular el uso de la IA generativa en la educación?
La guía recomienda un enfoque centrado en el ser humano, con pasos clave como la protección de la privacidad de datos, el establecimiento de límites de edad para su uso, requisitos para los proveedores de IA y la validación ética y pedagógica de los sistemas de IAGen por las instituciones educativas.
4. ¿Qué medidas políticas se recomiendan para regular la IA generativa en la educación?
Se recomienda promover la inclusión, la equidad y la diversidad lingüística y cultural, proteger la acción humana, monitorear y validar los sistemas de IAGen, desarrollar competencias en IA tanto para estudiantes como para docentes, y fomentar la diversidad de opiniones.
5. ¿Cómo se puede facilitar el uso creativo de la IA generativa en la educación?
Las instituciones deben desarrollar estrategias que guíen el uso ético de la IA, capacitar en ingeniería de prompts, adoptar un enfoque pedagógico centrado en el ser humano, y promover el codiseño del uso de la IA entre docentes, estudiantes e investigadores.
6. ¿Qué implicaciones a largo plazo tiene la IA generativa para la educación?
La guía señala que la IA plantea cuestiones éticas inexploradas, desafíos a los derechos de autor y la propiedad intelectual, y que puede cambiar las fuentes de contenido y aprendizaje. Además, se necesita replantear la evaluación y los resultados de aprendizaje, enfocándose en valores humanos, habilidades de pensamiento de orden superior y competencias profesionales para trabajar con la IA.
7. ¿Qué tipo de competencias deben adquirir los docentes para usar la IA generativa en el aula?
Los docentes necesitan comprender los principios de la IA, evaluar críticamente la información, diseñar prompts efectivos y utilizar la IA como una herramienta que fomente el pensamiento de orden superior y el aprendizaje activo.
8. ¿Qué papel deben jugar las instituciones educativas en la implementación de la IA generativa?
Las instituciones deben validar la idoneidad ética y pedagógica de los sistemas de IA, garantizar la protección de datos y la privacidad de los estudiantes, y promover el uso responsable de la IA entre docentes y estudiantes.
9. ¿Cómo puede la IA generativa apoyar a los estudiantes con necesidades educativas especiales?
La IA puede ayudar a proporcionar subtítulos y descripciones de audio, facilitar la traducción de idiomas y adaptar los materiales de aprendizaje a las necesidades individuales. Sin embargo, es fundamental que los docentes y facilitadores evalúen la calidad y precisión de estas herramientas, y que aseguren que las respuestas son las adecuadas para cada estudiante.
10. ¿Qué enfoque general deberíamos tener al considerar la IA en la educación?
El enfoque debe ser siempre centrado en el ser humano, garantizando que la IA se utilice para mejorar las capacidades humanas, fomentar la inclusión y la equidad, y promover la colaboración entre humanos y máquinas, en lugar de sustituir la intervención humana.
Podcast – Guía UNESCO para el uso de la IA generativa en educación e investigación
Además de la redacción del texto, hemos usado NotebookLM para la creación de un podcast personalizado que señale los aspectos más relevantes del documento.
⚠️ ATENCIÓN: El material de este artículo y del podcast ha sido generado de forma completa con la IA de NotebookLM y, aunque ha sido revisado por los autores del blog, puede contener errores en su contenido.