El Impacto de la Inteligencia Artificial en Colegios Vulnerables

Las herramientas de inteligencia artificial (IA) se están implantando rápidamente en los sistemas educativos de todo el mundo. Aunque estas proporcionan grandes oportunidades para mejorar y ampliar el aprendizaje, su despliegue rápido representa también determinados riesgos. A menudo, se suelen utilizar sin los marcos normativos requeridos que protejan a educandos y docentes, y garanticen un enfoque centrado en el ser humano a la hora de utilizar las tecnologías en la educación. Stefania Giannini, Subdirectora General de Educación de la UNESCO, y Audrey Azoulay, Directora General de la UNESCO, mencionan que la IA Generativa puede ser una tremenda oportunidad para el desarrollo humano, pero también puede causar daños.

La irrupción de la inteligencia artificial generativa (IA) en la educación ha abierto nuevas posibilidades para la personalización del aprendizaje a través de tutores individualizados guiados por IA. Este artículo revisa la evidencia empírica más reciente sobre el impacto de estas herramientas en contextos escolares reales, haciendo hincapié en los efectos sobre el alumnado con bajo rendimiento y en entornos con recursos limitados.

¿Qué es la Inteligencia Artificial en Educación?

La inteligencia artificial (IA) es un conjunto de tecnologías que permite a las máquinas procesar información, aprender de datos y tomar decisiones de manera autónoma, sin intervención humana directa. En el ámbito educativo, la inteligencia artificial está abriendo nuevas posibilidades al transformar cómo los estudiantes interactúan con el conocimiento y cómo los educadores diseñan experiencias de aprendizaje.

La IA generativa, que se centra en la creación de contenido como texto, video, música o imagen, y no solo en analizar o procesar datos existentes, es una de las aplicaciones más destacadas. Desde su lanzamiento en noviembre de 2022 con herramientas como ChatGPT, se ha evidenciado su extensión en diversos sectores de la sociedad. Esta tecnología se nutre de toda la información y datos acumulados en internet, reconociendo patrones lingüísticos y programando algoritmos para crear información a partir de la solicitud de un usuario. Su base tecnológica permite entrenar los algoritmos para que funcionen con base en el lenguaje natural, lo que hace que la interacción con una IA "parezca que se está interactuando con otra persona", según la doctora Janneth Trejo Quintana, investigadora del Instituto de Investigaciones sobre la Universidad y la Educación de la UNAM.

Con el apoyo de la IA, las aulas se vuelven espacios más dinámicos y adaptados a las necesidades individuales, donde el aprendizaje puede ser más flexible, accesible y centrado en el desarrollo de cada estudiante.

Oportunidades y Beneficios de la IA en la Educación

La creciente adopción educativa de aplicaciones con inteligencia artificial ofrece oportunidades prometedoras. Los beneficios que ha traído la IA tienen que ver con la eficiencia de ciertas actividades que se realizan en el entorno educativo.

Personalización y Apoyo al Aprendizaje

• Para los alumnos, la IA permite un aprendizaje más accesible y personalizado, adaptándose a su ritmo y a sus necesidades específicas. Las aplicaciones de IA pueden ajustar el nivel de dificultad y ofrecer apoyo adicional en las áreas donde los estudiantes presentan dificultades, promoviendo un aprendizaje menos frustrante y más efectivo.
• La IA puede ser una herramienta que acompañe el proceso de estudio de los alumnos, funcionando como una tutoría, ya que los estudiantes pueden usarla para resolver guías de estudio, recibir respuestas en tiempo real e ir puliendo información sobre un tema en particular.
• Los sistemas de IA diseñados como tutores pedagógicos, que plantean preguntas, ofrecen retroalimentación progresiva y estimulan la reflexión, muestran un potencial distinto a aquellos que funcionan como atajos para llegar a la solución.
• La IA también puede contribuir a ofrecer comentarios frecuentes y personalizados sobre el trabajo del estudiante, siempre que estos se centren en el proceso y no solo en el resultado.

Eficiencia y Apoyo Docente

• Para las escuelas y los docentes, la inteligencia artificial ofrece beneficios clave que mejoran la gestión y optimización de los recursos educativos. Las herramientas de IA permiten analizar datos de rendimiento estudiantil, facilitando la identificación de áreas de mejora y la planificación de estrategias personalizadas.
• Además, automatizan tareas repetitivas, como la corrección de exámenes y la creación de actividades, liberando tiempo para que los profesores se concentren en el apoyo personalizado y en el desarrollo de habilidades críticas en los estudiantes.
• La calificación automática, por ejemplo, agiliza el proceso de evaluación de tareas, cuestionarios y exámenes. Los algoritmos de procesamiento del lenguaje natural permiten a la IA evaluar las respuestas escritas, detectar el plagio y proporcionar comentarios inmediatos, ahorrando tiempo a los profesores y facilitando una evaluación oportuna.
• Otra ventaja de la IA es que los docentes pueden programar actividades distintas para un mismo grupo o para diseñar las clases.

Inclusión y Accesibilidad

La IA hace la educación más inclusiva al ofrecer herramientas diseñadas para estudiantes con necesidades especiales, facilitando la accesibilidad y reduciendo las barreras de aprendizaje.

La educación en programación se beneficia especialmente de la IA, ya que ayuda a los estudiantes a familiarizarse con herramientas avanzadas mientras desarrollan habilidades esenciales, como el pensamiento lógico y la resolución de problemas.

Riesgos y Desafíos de la IA en Contextos Educativos Vulnerables

A pesar de los beneficios, el despliegue rápido de la IA representa riesgos, especialmente en contextos vulnerables. Desde el Observatorio de la OCDE se han planteado una serie de preguntas clave para los sistemas educativos más vulnerables, ya que "sin diseño pedagógico, equidad y gobernanza, la IA no corrige desigualdades educativas".

Desinformación y Sesgos Algorítmicos

• El sesgo de la IA y los resultados poco éticos siempre han sido un gran problema que afectaría el aprendizaje. Un metanálisis encontró que el 83,1% de 555 modelos de IA tenían un alto riesgo de sesgo, lo que la convierte en una de las principales desventajas. El sesgo significa que el sistema puede ser manipulado para favorecer o desventajar injustamente a grupos de personas.
• Un ejemplo de ello fue el lanzamiento de Google AI Overviews, que destacó lo fácil que es manipular y distorsionar los datos de entrenamiento originales para dar resultados falsos, llegando a sugerir ideas extravagantes.
• La desinformación, particularmente en forma de noticias falsas y su proliferación a través de redes sociales, es uno de los retos urgentes. Los jóvenes pueden ser especialmente vulnerables por la falta de habilidades para identificar y cuestionar información de baja calidad.
• Un estudio reciente publicado por Defense One encontró que las herramientas de inteligencia artificial son incorrectas 1/4 de las veces, un número bastante alto como para confiar en ellas con fines educativos.

Privacidad y Seguridad de Datos

El uso de inteligencia artificial en la educación trae consigo desafíos éticos significativos, principalmente en torno a la protección de datos y la privacidad de los estudiantes. El informe AI Security and Governance reveló que el 80% de los expertos en datos piensan que la IA aumenta los problemas de seguridad de los datos. Además, el 55% de los expertos creen que la IA podría exponer inadvertidamente información confidencial, y el 57% informó sobre ataques impulsados por la IA en los últimos 12 meses. Para los profesionales de la educación y los estudiantes vulnerables, esto es absolutamente imposible.

A medida que las herramientas de IA recopilan información detallada sobre el progreso, comportamiento y rendimiento de los alumnos, surge la preocupación de cómo se almacena, comparte y utiliza esta información. Las escuelas y desarrolladores deben establecer estrictos protocolos de seguridad para garantizar que estos datos sensibles estén protegidos y que los estudiantes no sean vulnerables a posibles violaciones de privacidad.

Pereza Cognitiva y Dependencia Tecnológica

Cuando la IA ofrece respuestas directas o guía excesivamente al estudiante, puede reducir la necesidad de formular hipótesis, cometer errores o reflexionar sobre el proceso seguido. Esto puede resumirse en una simple frase: "hacer mejor una tarea no implica haber aprendido más". Los estudiantes que dependen de la IA esencialmente se están adormeciendo del concepto de aprendizaje, lo que no implica pensamiento, análisis o evaluación críticos. El 25% de los estudiantes ya se sienten desconectados de su aprendizaje, y no es necesario que haya una razón para que ese número aumente.

Se podría llegar a un punto en donde el profesor o la profesora dé una consigna para que se trabaje sobre un tema, los estudiantes le pregunten a ChatGPT, les proporcione un esquema bastante reducido, entreguen su tarea y más o menos se enteren del tema, pero en realidad el conocimiento se puede quedar en lo superficial. Por ello, una consecuencia no deseada sería que la inteligencia artificial se incorporara en el ámbito educativo sin contar con un objetivo claro que oriente su uso.

Uno de los cuestionamientos es que existe el temor de que los alumnos desarrollen menos capacidades cognitivas, de memoria, aprendizaje, niveles de pensamiento crítico y de pensamiento lógico.

Brecha Digital y Desigualdades Socioeconómicas

La expansión de la IA generativa en educación no se está produciendo en un terreno neutro. Se observan brechas socioeconómicas consistentes entre países: las escuelas más vulnerables están menos preparadas para adoptar IA generativa, lo que podría acentuar desigualdades educativas si esta tecnología mejora la productividad.

No todos tienen acceso a la IA, y aunque la educación a distancia ha sido benéfica para llegar a lugares lejanos, no todas las comunidades cuentan con la infraestructura (luz, internet, computadoras) para brindar este tipo de atención. Las dificultades y las brechas que existen entre una parte de la población con respecto a otra sí profundizarían las desigualdades, y potenciarían las diferencias entre alguien que egresó de la universidad en una ciudad y alguien que está en alguna comunidad, donde difícilmente puede pensar en estudiar o terminar la educación media superior, por todas las condiciones adversas que le rodean.

El Rol Central del Docente

La OCDE, en su Digital Education Outlook 2026, sitúa al profesorado en el centro de cualquier uso educativo significativo de la inteligencia artificial, no como usuario pasivo de herramientas, sino como mediador pedagógico capaz de orientar, limitar y dar sentido a la interacción entre el estudiante y la tecnología.

Formación Docente y Alfabetización en IA

• Para que los alumnos le saquen mayor provecho al uso de la IA, lo recomendable es que los docentes también conozcan esta herramienta, con el fin de poder brindarles un acompañamiento a los estudiantes al usarla.
• La urgencia de formar competencias docentes es clave para que los profesores puedan incentivar el desarrollo de competencias como el pensamiento crítico en sus estudiantes, y así, las decisiones relevantes de la sociedad sigan siendo tomadas por personas y no sean delegadas a máquinas.
• Iniciativas como HumanIA han capacitado a más de 680 profesores, enseñándoles sobre IA y fomentando la reflexión crítica sobre su uso.
• El informe de la OCDE subraya que los sistemas con mayor inversión en formación docente, acompañamiento pedagógico y marcos claros de uso educativo de la IA están mejor posicionados para orientar estas tecnologías hacia fines formativos.

Mediación Pedagógica y Diseño Instruccional

La OCDE señala los riesgos de una automatización sin criterio pedagógico. Cuando la IA se emplea para corregir, retroalimentar o incluso planificar actividades sin supervisión docente, puede erosionar progresivamente la práctica profesional y reducir el margen de juicio pedagógico. Frente a esa deriva, el informe propone un enfoque basado en la complementariedad. La IA puede aliviar cargas administrativas, ofrecer apoyos iniciales o facilitar el acceso a materiales, pero no sustituir la toma de decisiones pedagógicas.

Este planteamiento adquiere una relevancia particular en contextos vulnerables. Allí donde los docentes disponen de menos oportunidades de formación continua y trabajan en condiciones más exigentes, la falta de inversión en capacidades profesionales y autonomía docente puede convertir la IA en un sustituto impropio, más orientado a gestionar la escasez que a mejorar el aprendizaje.

Otro desafío clave es evitar que la IA disminuya la humanidad en el proceso educativo. Es crucial que la inteligencia artificial se utilice como una herramienta de apoyo, ayudando a personalizar la enseñanza y a gestionar tareas rutinarias, sin reemplazar el valor de la conexión humana.

Principios para una Implementación Equitativa y Ética

Desde el marco del Consenso de Beijing de 2019, la UNESCO destacó los riesgos y desafíos de la IA en la educación, señalando que "los rápidos desarrollos tecnológicos conllevan inevitablemente múltiples riesgos y desafíos, que hasta ahora han superado los debates políticos y los marcos regulatorios".

Gobernanza y Políticas Públicas

• Uno de los principales desafíos de la IA en la educación está enfocado en la ética y en enseñar a los estudiantes a usar estas herramientas con responsabilidad. Esto incluye reconocer que los datos son valiosos y que muchas compañías los usan como mercancía.
• Es un reto la generación de políticas públicas y que los gobiernos e instituciones desarrollen acciones gubernamentales que regulen su uso. Regular no en el sentido de prohibir, sino de acordar cuándo sí y cuándo no, cómo usarla y reportar su uso.
• Chile, por ejemplo, lidera en materia de IA a nivel regional, al ser uno de los primeros países de América Latina en contar con una Política de IA (2020), que plantea considerar ampliamente los desafíos de emplear estas tecnologías en las aulas y en la gestión docente.
• El mensaje de la OCDE es muy claro: "sin diseño pedagógico, equidad y gobernanza, la IA no corrige desigualdades educativas".

Diseño Pedagógico y Tutoría Guiada

La cuestión no es si la inteligencia artificial debe incorporarse a la educación, ya que ese proceso está en marcha, sino con qué intención pedagógica y bajo qué principios. El informe de la OCDE subraya el valor de la tutoría guiada, donde los sistemas de IA plantean preguntas, ofrecen pistas progresivas y obligan al estudiante a explicitar su razonamiento.

Un segundo eje es la retroalimentación formativa. La IA puede contribuir a ofrecer comentarios frecuentes y personalizados sobre el trabajo del estudiante, siempre que estos se centren en el proceso y no solo en el resultado. También se señala el potencial de la IA para apoyar el aprendizaje colaborativo, facilitando la interacción entre estudiantes, la organización del trabajo en grupo o la reflexión conjunta sobre tareas complejas.

El Centro de Innovación del Ministerio de Educación, en el marco de la Reactivación Educativa, creó la "Guía para Docentes: Cómo usar ChatGPT", la cual recomienda enseñar qué es la IA y cómo funciona antes de usarla como recurso pedagógico, para comprender sus principios básicos, oportunidades, limitaciones y riesgos, y utilizarla siempre con criterio y juicio crítico.

Más allá de los beneficios inmediatos, es crucial evaluar el impacto a medio plazo. Medir mejoras inmediatas en el rendimiento no basta para valorar el efecto educativo de la IA, ya que "completar una tarea no equivale necesariamente a desarrollar las capacidades que permiten repetir ese desempeño en contextos distintos". Además, en sistemas dependientes de soluciones externas, la retirada de una tecnología puede dejar al descubierto aprendizajes frágiles y prácticas poco sostenibles.

El Futuro de la IA en la Educación

La integración de la IA en la educación se proyecta como un avance inevitable, con un potencial significativo para transformar la enseñanza. Sin embargo, es fundamental mantener un equilibrio que permita a la tecnología coexistir con el desarrollo de habilidades humanas. La IA debe usarse para enriquecer el aprendizaje, no para sustituir el papel de los educadores.

Es importante que la IA permita a los alumnos y a los docentes desarrollarse, incrementar sus capacidades de estudio y que sea una guía a la hora de generar conocimientos, pues se le saca más provecho a esta herramienta en tanto más se conozca del tema que se está consultando, ya que si se detecta cuando se equivoca, se podrán tomar decisiones respecto a la información que arroja. Por ello, es fundamental reconocer las limitaciones que tiene la IA.

Si se quiere evitar que los estudiantes se queden en la superficialidad de ciertos temas, se puede permitir el uso de la inteligencia artificial como punto de partida. A partir de ahí, es fundamental diseñar actividades, propiciar intercambios y proponer búsquedas en otras fuentes que les ayuden a construir un conocimiento más profundo y significativo. Esto implica involucrar a los estudiantes en el descubrimiento de herramientas de IA y establecer un uso responsable donde la ética y la privacidad son fundamentales.

La inteligencia artificial ha ingresado paulatinamente a todas las dimensiones de la sociedad, incluida la educación, por lo que es de suma importancia velar por su uso ético en el apoyo de la enseñanza y el aprendizaje. Los efectos de la inteligencia artificial dependen menos de la herramienta que de las decisiones que guían su uso. En sistemas educativos con recursos limitados, esa diferencia es especialmente determinante.

Lo que empieza a dibujarse es una diferencia de fondo en la experiencia de aprender: entre sistemas que utilizan la IA para acompañar procesos formativos y aquellos que la incorporan para resolver carencias estructurales. Es esencial lograr un equilibrio, donde los estudiantes obtengan experiencias de la vida real que la IA no puede brindar por sí sola. Sin interactividad con el mundo real y la conexión humana, los estudiantes no pueden aplicar lo que están aprendiendo.

tags: #que #pasa #en #los #colegios #vulnerables