- Repasamos la reciente Guía de la Unesco sobre IA y Educación, llena de advertencias.
- Analizamos la utilidad y los riesgos de la IA en educación con José Luis Verdegay, Pere Marqués, Melchor Gómez, Fernando Trujillo, Mariano Fernández Enguita, Pablo Garaizar, Cristóbal Cobo, Pedro Mujica y Leo Gimenez.
- El gran riesgo, el sesgo de los algoritmos y la falta de ética.
- La educación debe potenciar las cualidades más humanas, aconseja la Unesco.
- Usos y aplicaciones de la IA en las aulas (actuales y por venir)
Introducción – Qué es la IA y por qué tantas cautelas – La distopía de la sustitución – El papel del docente – Usos y aplicaciones – Competencias del alumnado – Inclusión y equidad
Hace ya dos años que la Unesco apuntó el impacto que el desarrollo de la IA tendría en la educación a nivel global, dio por sentado que entrará en las aulas sí o sí y advirtió de que más nos vale ir enterándonos de lo que es para que su desarrollo e implementación sean «inclusivos» y «éticos». Aquello fue en la ‘prehistoria’ de la pandemia y había “más preguntas que respuestas”, sobre todo de carácter ético.
Dos años después, con las mismas cuestiones en el aire y el mundo entero preguntándose por el sentido de la educación, la Unesco ha lanzado su Guía sobre Inteligencia Artificial y Educación para responsables de políticas educativas, un informe que reúne los usos y aplicaciones de la IA basada en machine-learning con los que se está experimentando, aquellos que están más consolidados; los pocos que cuentan con alguna evidencia de impacto positivo en algún aspecto del aprendizaje escolar; los que parecen ser útiles para el profesorado (analítica de aprendizaje y asistentes virtuales); aquellos que generan mayores expectativas a medio plazo; otros que, de momento, quedan reservados para la ciencia-ficción, y algunos que chocan frontalmente con la privacidad de las personas (análisis facial, por ejemplo) y con principios éticos.
En sus páginas queda claro que China es la principal fábrica de experimentación con IA en las aulas de Primaria y Secundaria de la mano de las grandes tecnológicas. En educación superior, en formación online y en enseñanza de idiomas sí que puede hablarse de un desarrollo global y ya presente entre nosotros.
Con todo, el informe de Unesco está salpicado de reservas, llamadas a la cautela e incluso a la desconfianza. Pese a admitir que la entrada de la IA en educación es un hecho consumado –como en el resto de ámbitos de nuestra vida–, lanza un mensaje claro a los responsables de políticas educativas:
Hay que «minimizar» los riesgos que conlleva: de privacidad, de uso poco ético y poco transparente de los datos del alumnado, de falta de inclusión y equidad (como siempre, sólo unos pocos irán por delante en equipamiento y competencias), de simplificación de la educación a aspectos medibles computacionalmente, de pérdida de interacción entre docentes y estudiantes y, sobre todo, de que pasemos por alto el sesgo del algoritmo.
Dice el informe de Unesco:
- Los sistemas de aprendizaje y de formación del futuro deben preparar a todo el mundo con competencias sobre IA: las personas deben conocer cómo la AI recoge y usa los datos de las personas, y cómo se asegura la seguridad y la protección de sus datos personales.
- Más allá de la mejora del aprendizaje para cada estudiante y de la mejora del trabajo docente y la gestión educativa, preparar a los estudiantes y a todos los ciudadanos para vivir y trabajar de manera segura y efectiva con la IA es un desafío compartido por todos a nivel global.
- Existe una relación entre el riesgo y el beneficio en el desarrollo y la aplicación de la IA en educación que ha de afrontarse con pensamiento crítico y una perspectiva humanista para descubrir los riesgos potenciales de la IA y minimizarlos.
- El uso creciente de nuevas tecnologías de IA en educación sólo beneficiará a la humanidad si su diseño mejora los enfoques centrados en el ser humano de la pedagogía y respeta estándares y normas éticas.
Para entender el potencial, las limitaciones y los riesgos de la IA en educación hemos hablado con:
- José Luis Verdegay, catedrático de Ciencias de la Computación e Inteligencia Artificial de la Universidad de Granada desde 1990.
- Pere Marqués, doctor en Ciencias de la Educación, pionero en la investigación y aplicaciones de tecnologías educativas en España y director de la Red de Educadores DIM-EDU y de los Encuentros de Centros Innovadores.
- Melchor Gómez, matemático y doctor en Educación, del Departamento de Tecnología Educativa de la Facultad de Formación del Profesorado de la UAM.
- Mariano Fernández Enguita, catedrático de Sociología, profesor en la Facultad de Educación de la UCM e impulsor del modelo de “hiperaula” conectada.
- Fernando Trujillo, profesor de Didáctica de Lengua y Literatura en la Universidad de Granada, fundador de Conecta 13 (consultora sobre TIC en educación y formación) e investigador en el Grupo HUM840
- Leo Gimenez, fundador de Go4Clic, plataforma para e-learning que utiliza la IA para generar interacción y motivación entre los estudiantes de formación online.
- También asistimos a:
- Un taller sobre Educación 4.0 para docentes, organizado por Fundación Telefónica e impartido por el ingeniero computacional y “tecnólogo humanista” Pedro Mujica (WECOLAB, IANETICA)
- Un encuentro organizado por ESADE con Cristóbal Cobo, asesor del Banco Mundial sobre tecnologías en educación.
- Un encuentro de la FECYT con Pablo Garaizar, ingeniero computacional, psicólogo y profesor de DeustoTech (Universidad de Deusto), sobre evidencias de impacto de las TIC en educación.
Qué es la IA y por qué tantas cautelas
Simplificando su complejidad, la inteligencia artificial aplicada a educación se basa, hasta el momento, en la gestión computerizada de datos masivos mediante sistemas de machine-learning con un fin. Ese learning no es un aprendizaje como el de los humanos. Depende de los humanos: de los datos que se le metan y del algoritmo que se haya diseñado para etiquetar, clasificar y cruzar esos datos. Por ejemplo, la máquina puede identificar todos las fotos de gatos que hay en una base de datos de animales sin saber qué es un gato.
Melchor Gómez explica: “La IA es una herramienta que aprende sola a partir de un algoritmo que diseña alguien y que se va perfeccionando a partir de unos datos que se le van metiendo”. Por eso es importante observar, no sólo el posible sesgo de partida en su diseño, sino el que puede ir tomando conforme va engordando su volumen de datos.
Cristóbal Cobo lo define así: “El algoritmo es una opinión empaquetada en matemáticas”. Y advierte: “Cuando confiamos en él tenemos que saber por qué lo hacemos y a qué coste”. Ahora bien: “No puede ser la única justificación en la toma de decisiones. Tiene que ser auditable cuando tiene implicaciones en la vida de las personas”. “Un uso estratégico de los datos tiene que ir acompañado de una cultura digital, una transparencia de los datos, una rendición de cuentas y que cualquier ciudadano pueda decir “¿quién construyó esto, con qué variables, qué cosas excluyó?”.
“El problema no es el algoritmo; el problema viene de quién diseña el algoritmo y para qué. Y cuando hablamos de nuestros hijos, esto tiene un nivel de preocupación muy alarmante”, advierte José Luis Verdegay con el siguiente ejemplo: “El Gobierno chino invierte mucho dinero en tener a los mejores expertos en IA trabajando para que los niños de hoy trabajen como el gobierno quiere que trabajen cuando sean mayores. ¿Quién garantiza la objetividad de la enseñanza que les van a dar?”.
Sesgos al margen, también hay que tener en cuenta que China, a día de hoy, es la mayor fábrica de evidencias sobre los usos y aplicaciones de IA que funcionan con el alumnado y los que no. Hemos visto algunas en Education Endowment Foundation y EduCaixa.
Para Melchor Gómez, “el peligro está cómo se usen los datos de los alumnos. La tecnología siempre tiene ese peligro de que se usen los datos más allá del objetivo para el que se han recabado. Yo puedo usar los datos de mis alumnos para tener un diagnóstico eficaz de qué han aprendido y qué no, pero sin una ética y sin una normativa clara, cualquiera puede utilizarlo para averiguar muchas más cosas de cada alumno, por ejemplo, de tipo psicológico, emocional, ideológico… Si cruzas datos, puedes llegar hasta donde quieras. Ahí el freno lo tiene que poner la administración. Tiene que haber una normativa clara”.
En China se ha experimentado con programas de análisis facial de los niños de la clase para analizar cuando pierden la atención y cuando baja su motivación, una práctica que el informe de Unesco identifica como poco ética y contra la privacidad. La cuestión es quién y cómo regula la infinidad de posibilidades de la IA.
Sin duda, los límites son parte del debate ‘ilimitado’ que afecta al uso de datos masivos, también en educación. Fuera de la escuela las personas dan a su privacidad un sentido mucho más laxo que hace años y, de hecho, los adultos lo hacen extensible a sus propios hijos. Lo vemos en la autorización mayoritaria que padres y madres dan a los colegios para que publiquen fotos de sus hijos en las redes sociales, por ejemplo.
Desde el desbordante mercado del e-learning Leo Gimenez señala: “La administración debe regular, pero debe tener una mirada más contemporánea y ser más ágil en la legislación y la regulación de límites que los propios humanos vamos empujando y ensanchando cuando usamos la tecnología. Tenemos la legislación de un mundo de hace 25 años, pero ese mundo no va a existir más”.
La distópica sustitución del docente
¿En educación todas las variables son computacionalmente etiquetabas, medibles y comparables? Cualquier docente responderá que no. Al menos en la actualidad. «Lo que sucede en un aula de un colegio no es fácilmente registrable automáticamente ni computable”, sostiene Pablo Garaizar. Y sin datos no hay algoritmo que valga. De ahí que las soluciones de IA estén entrando muy despacio en los colegios. Haría falta un dispositivo por niño (¿teléfono móvil?) y, de momento, un considerable tiempo del docente.
Pero ¿y mañana? La propia Unesco advierte contra el riesgo de que la educación se reduzca a variables meramente computacionales y se vacíe de sentido la labor docente tal y como la conocemos. Por eso apunta la necesidad de definir y remarcar cuál es el valor y la finalidad de la educación, y no perder de vista los intereses que pueda haber detrás de los desarrollos de IA.
“El problema de la educación no puede solucionarse sólo desde la Inteligencia Artificial o con una plataforma de aprendizaje adaptativo”, opina Fernando Trujillo, preocupado por que aspiremos a resolver los problemas educativos reduciéndolos a lo “computacionalmente factible”. “Si queremos que la Educación, y con ella la Humanidad, no acaben reducidas a aquello que la máquina sí puede procesar, debemos estar preparados para su llegada con todo nuestro arsenal crítico y nuestra inteligencia humana”.
Con esa preocupación por el reduccionismo y la sustitución, la maestra Carmen Guaita dedica su última novela – La Ventana (Khaf)– a anticiparnos una visión de la escuela de final de siglo, computerizada para la mayoría de los niños, pero no para las élites, educadas por maestros. Fuera de la ficción, en la educación superior ya se ven indicios de que la interacción presencial con los profesores en grupos reducidos de estudiantes será un privilegio de unos pocos, frente a la formación online, accesible y asequible para todos.
“La IA la veo como un complemento del docente y ya está funcionando como tal en el ámbito universitario, pero a medio plazo ni de broma va a sustituirlo”, apunta José Luis Verdegay, con décadas de enseñanza e investigación sobre IA a sus espaldas. “Los sistemas de IA que hoy por hoy tenemos hacen cosas impresionantes, pero no son nada inteligentes si sabemos qué es la inteligencia. Las computadoras procesan datos, pero el ser humano tiene que interpretarlos”.
“Hay más IA de la que creemos en educación, sobre todo en educación superior y online, pero se fantasea más de lo que en realidad hay”, remarca Melchor Gómez. “La inteligencia artificial es eficaz en terrenos muy predecibles. Pero ojo, que en educación hacemos cosas muy predecibles y muy repetidas que sí puede gestionar la IA. Si un algoritmo ha aprendido ya a corregir trabajos de fin de grado, por qué no va a poder el docente ahorrarse el tiempo de corrección de exámenes para dedicarlo a labores más creativas que la máquina no puede hacer? Así ganamos todos. En las labores creativas, en la empatía, la escucha, la emoción, la gestión de dinámicas de grupo, etc, la IA no puede competir con el docente y no puede sustituirlo ni por asomo”.
Y otra advertencia: “La gente que cree que la IA puede reducir la educación a parámetros computacionales es la gente que cree que la educación es poner notas y hacer ejercicios que se aciertan o se fallan”.
Por su parte, Mariano Fernández Enguita, rompe una lanza a favor de la IA. “Hay que pensar en lo que nos puede ayudar a los profesores. El tiempo que nos ahorre de unas cosas lo podemos dedicar a mejorar otras. Nos puede ayudar a preparar clases y a analizar cantidad de datos de los alumnos que de otra manera sería imposible. Además, la IA puede ayudarnos a tener más y mejor interacción con los estudiantes en caso de tener 200, como ocurre en algunas universidades, y el alumno puede tener más feedback del profesor también. Eso por no hablar del docente ‘busto parlante’, que llega a la clase, suelta su conferencia y se va. ¿Qué interacción va a quitar ahí la IA? Ninguna”.
“La propia IA puede servir para recuperar la conexión humana que la formación digital puede hacernos perder hasta desmotivarnos”, aporta Leo Gimenez. “Se puede usar para potenciar la experiencia humana y acercar a las personas, en vez de alejarlas”.
El papel del docente
Para Pere Marqués, “es el momento de hacer prospectiva de futuros posibles, identificar futuros que no nos gustan y tomar medidas para que no ocurran”.
“La IA te puede medir 20 variables a la vez, pero han de ser 20 variables que el docente quiera, y de esa manera el docente puede ser consciente de cosas que le pasan inadvertidas. Ahora bien, el peligro es mirar sólo lo que dice la pantalla, y desbancar las demás opciones y caminos para enseñar y aprender”.
Justo en estos tiempos recientes de primavera educativa, de diversidad medotológica, de apertura de aulas, de colaboración entre docentes, sería paradójico iniciar la dirección contraria.
Por todo ello, apunta Marqués, “es importante que los docentes analicen seriamente qué nos puede aportar la IA en educación, en qué nos puede ayudar y en qué no” y “que el desarrollo de soluciones de IA dependa de equipos multidisciplinares”. “El algoritmo lo hace el informático, pero el que le dice qué valores tiene que medir son los docentes”, suscribe Melchor Gómez.
Urge, por tanto, que el profesorado entienda qué hay tras la Inteligencia Artificial. La IA va a traer ventajas a los docentes, pero todo ello aboca a reformular su interacción con el alumnado, su tiempo y dedicación. También a afianzar la esencia de su labor y que ésta no quede desdibujada.
Bajo la premisa de ‘más pronto que tarde y mejor de manera proactiva que reactiva’, la Fundación Telefónica ya puso en marcha este año su primer taller de Educación 4.0 para profesorado con una sesión sobre inteligencia artificial. Pese a que los docentes están ahora más preocupados de resolver el alud de problemas que arroja la pandemia, el desarrollo tecnológico no sólo no espera, sino que va más rápido. El ingeniero computacional que impartió el taller, Pedro Mujica, decía: “Están pasando demasiadas cosas y demasiado rápido. No hay nada que escape a lo digital y a la interacción con las máquinas. La IA va a ir penetrando todo. No puede ser que el alumnado piense que la IA es una cosa de quienes estudian Informática. Sin educación, podemos acabar en una distopía”. Mujica se afanó en familiarizar a los docentes con la IA porque “deben ser agentes de cambio” y no quedarse fuera. Y les enseñó a crear -ellos mismos– sencillos aplicativos de IA para llevar al aula con Alexa, el asistente virtual por voz de Amazon, similar a Siri (Apple) y a Google Assistant. El profesorado que participó se llevó una primera toma de contacto con todo lo que viene y, sobre todo, recibió impulso para indagar por sí mismo.
Competencia del alumnado
La competencia para entender el mundo digital va muy por detrás de su interacción cotidiana con él. Estamos aún dando los primeros pasos en la introducción del pensamiento computacional y la programación y ya hay que ‘ponerse las pilas’ con el big data y la analítica de datos.
“Urge hacer una revisión de la competencia digital”, sostiene Pere Marqués. «Hay que explicar al alumnado qué es la IA y dónde se la va a encontrar el ser humano, el funcionamiento de los algoritmos y qué hay detrás de cada solución tecnológica de uso cotidiano. Y en los niveles superiores enseñar a hacer algo de programación”, aconseja el profesor. “Todo eso es necesario también para introducir la base que necesitan los nuevos perfiles profesionales que va a demandar la sociedad con ese tsunami”.
Ya en 2019 la Unesco advirtió que «para sobrevivir en la era de la Inteligencia Artificial necesitamos enseñar a niños y niñas cómo piensan y aprenden las máquinas”. Pero ahora, en 2021, incide en lo siguiente:
«Un mundo impactado de manera creciente por la IA requiere una pedagogía que, más que enfocarse a aquello en lo que las computadoras son buenas (memorización y computación), ponga el énfasis en habilidades propiamente humanas como pensamiento crítico, comunicación, colaboración y creatividad, y en desarrollar la habilidad de colaborar las herramientas de IA ominipresentes en la vida, el aprendizaje y el trabajo».
Otro aspecto de la competencia digital que es clave, según apunta la profesora Samia Kazi en la revista de la Unesco The Blue Dot, es ser consciente de todo lo que las máquinas no pueden hacer: “Enseñar a los niños qué pueden hacer las máquinas no es suficiente; los profesores deben guiar a los niños para que entiendan qué no pueden hacer las máquinas y sí las personas: por ejemplo, no pueden tomar decisiones éticas ni hacer elecciones morales, ni tampoco aplicar la inteligencia socioemocional”.
Equidad e inclusión
Para que sea posible la implementación de IA en la educación escolar, es preciso tanto equipamiento como competencia digital en estudiantes y docentes. “¿Tenemos eso en todas las escuelas?”, se pregunta José Luis Verdegay.
Precisamente, una de las preocupaciones manifestadas por la Unesco es que las pretendidas ventajas de la IA lleguen sólo a una pequeña parte del alumnado y que, por falta de acceso y de competencia digitales, se amplíe la brecha educativa dentro de los países y entre los países. Por eso llama a los responsables de políticas educativas a velar por la inclusión y por la equidad al potenciar la entrada de soluciones de IA en las aulas. Las consecuencias de que no lleguen por igual a todos nos puede situar, una vez más, ante escenarios distópicos de compleja solución.
La Unesco también alerta del sesgo de género que puede tener el desarrollo de la IA si no conseguimos aumentar la presencia de mujeres en las carreras científico-tecnológicas.
