La Inteligencia Artificial ha supuesto un tsunami tecnológico que ha arrasado en diversas áreas de conocimiento y prácticas profesionales. Ha revolucionado desde el mundo de la gestión hasta el artístico, pasando por la abogacía o las finanzas. Hoy nos centramos en el uso de la IA en la educación, nuevas aplicaciones que han producido importantes efectos en la forma de enseñar, aprender y evaluar.

CONTENIDOS

La irrupción de la IA en la educación

Usos posibles de la IA en la educación

Riesgos de la IA en la educación

Conclusión

Hasta la irrupción del uso de la IA en la educación, ya se venían aplicando las nuevas tecnologías en el aula. Había muchos centros que se habían pasado al mundo digital tanto en la manera de impartir las clases (pizarra digital) como de asimilarlas (tablets como instrumento de trabajo). Además, los profesores venían usando ya utilidades para impartir contenidos, como Google Classroom, Zoom o Teams. También se utilizaban herramientas para generar contenidos más allá de Power Point o KeyNote. Canva surgió con fuerza como una solución para crear presentaciones e infografías, y también han aparecido genial.ly o Piktochart, como herramientas para generar contenidos digitales gratuitos.

La irrupción de la IA en la educación

Sin embargo, ha sido desde la aparición de ChatGPT y la IA Generativa cuando se ha producido un salto cualitativo. ChatGPT surge como un chat con IA que pude potenciar las capacidades humanas de generación de información, pero el peligro es cuando pasa de ser una simple ayuda a realizar todo el trabajo. Lo mismo ha sucedido con la IA generativa. Herramientas como Midjourney o Dall-e resultan asombrosas por su rapidez, pero empobrecen el aprendizaje de los estudiantes si se dedican a generar trabajos con estas herramientas digitales.

A continuación, veremos otras posibilidades de uso de la IA que no sustituye el aprendizaje de los estudiantes, sino que facilita el trabajo de los profesores y potencia las capacidades de los alumnos.

El uso de la IA en la educación

La IA en la educación ofrece grandes posibilidades, y hemos seleccionado hasta 7 aplicaciones de esta tecnología.

1. Itinerarios adaptados

La IA como herramienta para crear itinerarios de aprendizaje diversos para los estudiantes. La IA, alimentada adecuadamente con los datos de los alumnos, puede generar una gama amplísima de contenidos curriculares, incluso uno específico de cada alumno.

2. Adaptación de contenidos

Con la IA en la educación, es posible afinar la adaptación del mismo contenido a diversos niveles de aprendizaje simplificando una tarea que a veces consume muchas horas de la ya sobrecargada agenda de los profesores. Los alumnos con T.E.A. (Trastornos del Espectro Autista) o T.D.A.H. (Trastorno de Déficit de Atención con Hiperactividad) demandan el mismo contenido adaptado a sus capacidades.

3. Plataformas educativas virtuales

Las plataformas educativas virtuales pueden no solo organizar el contenido y estructurarlo para su adecuada asimilación, sino también proponerle contenidos adicionales en base al perfil del usuario y establecer sistemas de evaluación   Algunos ejemplos de plataformas educativas virtuales son Moodle, Blackboard o Canva en su variante para educadores.

4. Asistentes virtuales para la educación.

Ya sea que se usen en el propio aula, en plataformas virtuales como o en portales formativos como Udemy o Santander Open Acadamy, Edx u otros, la IA puede servir para crear chatbots que respondan a dudas de los estudiantes, siempre siendo adecuadamente programado por el equipo docente.

5. Evaluación de los alumnos

La IA también puede detectar las carencias educativas de los alumnos, diseñando y evaluando pruebas sobre diversas materias, con la adecuada supervisión de los profesores. La elaboración de pruebas de evaluación puede verse acelerada y suponer un importante ahorro de tiempo. Los sistemas de evaluación para medir el progreso basados en IA, como Gradescope, suponen una poderosa herramienta no solo para evaluar, sino también para que los estudiantes mismos se autoevalúen.

6. Detección de Plagio

Al igual que los estudiantes pueden utilizar ChatGPT para crear trabajos o contenidos solicitados por los profesores, estos pueden utilizar herramientas basadas en IA para detectar plagio o cuándo un trabajo ha sido elaborado con IA.

7. Reducción de las tareas administrativas

El proceso de matriculación, las tareas organizativas de un centro educativo, los comunicados y la publicación de las calificaciones, suponen un ingente trabajo administrativo.  Con su asombrosa capacidad para acelerar este tipo de tareas basándose en algoritmos, la IA puede suponer un ahorro importante del tiempo invertido en estas tareas.

Riesgos de la IA en la educación

Sin embargo, ya ha voces críticas que alertan de los peligros de la IA, si no se la controla adecuadamente, puede tener en el mundo de la educación. Hay expertos que recomiendan que el uso de ChatGPT no se permita hasta los 16 años, pues de otro modo el alumno no obtendría las destrezas previas necesarias para usarlo con acierto.

Otros riesgos son:

1. Falta de adaptación a la persona real

Aunque la IA puede trabajar con ingentes cantidades de datos, a la hora de adaptarse al proceso educativo concreto de una persona, nada mejor que otra persona, es decir, un profesor. La IA puede proponer un itinerario formativo, pero siempre adecuadamente guiada por el profesor.

2. Sesgos y prejuicios

Es claro que la IA es educada por humanos, así que puede heredar sus sesgos perceptivos discriminatorios hacia determinados colectivos. Ya se ha visto que ChatGPT resulta autoritario en su forma de expresarse, por ejemplo, y a veces ha llegado a conclusiones erróneas.  Aunque cuenta con programadores que evitan que herede los prejuicios humanos, la posibilidad de heredar sus sesgos y prejuicios siempre está ahí.

3. Privacidad y Seguridad.

Si bien la IA puede simplificar las tareas educativas y administrativas de los centros escolares, para eso debe recopilar ingentes cantidades de datos. Esto puede suponer un claro riesgo para los datos sensibles de las personas, si no se establecen medidas de protección adecuadas.

4. Dependencia tecnológica.

La IA pueden entrenarse para asesorar en la toma de decisiones o la resolución de problemas. Sin embargo, el paso parar que los humanos pasen de consultar a la IA estos tipos de decisiones, a delegar en ella para estos mismos procesos, sin intervención humana, pueden generar una dependencia de la tecnología.

5. Infracción de los derechos de autor.

Por el mismo motivo de que las IA necesitan datos para alimentarse, se ha dado el caso de que utilicen obras artísticas o literarias originales para  generar las suyas propias. cuando no se trata de una apropiación de la imagen de profesionales que trabajan con su cuerpo. Estos usos infringen claramente los derechos de autor. Huelgas como la de guionistas y actores en Estados Unidos en 2023 han tratado de evitar estas apropiaciones, y es solo el comienzo.

Conclusión

En definitiva, las posibilidades de la IA en la educación son muy amplias, pero también introducen un escenario nuevo. Permiten simplificar y acelerar tareas como la creación y adaptación de contenidos curriculares, la evaluación o la propia enseñanza. Sin embargo, para esto la IA necesita una guía adecuada, y los profesores tendrá que adaptarse cada vez más rápido a las nuevas herramientas. La generación Z ( y las que vendrán) son ya nativos digitales, y es de esperar que su rapidez para asimilar el uso de estas herramientas sea mucho mayor.  El uso de la IA supone también el riesgo de despersonalización, sesgos, infracción de la privacidad de datos o derechos de autor y dependencia tecnológica, y los profesionales de la educación tendrán que estar alerta. Los sistemas educativos actuales van a vivir una gran transformación, que ya se iba gestando desde hace años.  La irrupción de la IA en la educación ha cambiado las reglas del juego, y exigirá un gran esfuerzo de adaptación de los profesionales en el campo de la educación.

En esta publicación hemos querido ir más allá del Test De Turing. Como sabemos, el padre de la informática diseñó una prueba para demostrar si estamos estableciendo una conversación con un humano o con una máquina. Hicimos un pequeño juego con ChatGPT, para poner en claro las diferencias entre humano e IA.

CONTENIDOS

AUTOCONSCIENCIA

EMOCIONES

ÉTICA

INSPIRACIÓN

INTENCIÓN

Partiendo de la premisa de 5 características que nos hacen humanos (autoconsciencia, emociones, inspiración, ética e intención) planteamos a ChatGPT algunas preguntas para tratar de hallar en ella las mismas características. El resultado es predecible en algunos aspectos y sorprendente en otros.

AUTOCONSCIENCIA

Una máquina (y las IA lo son) no es autoconsciente, al no tener experiencias personales, ni memoria emocional,  ni hay un yo que conecte sus experiencias.

Aquí, se puede decir que ChatGPT consigue coherencia y soltura porque tiene claro lo que es y lo que no es. Sus respuestas son adecuadas al contexto de una conversación con un humano.

Pero, obviamente, NO pasaría esta doble vuelta del test de Turing al que la estamos sometiendo, de manera deliberada respecto a esta pregunta.

EMOCIONES

En el diálogo anterior ChatGPT ya dejó claro que una IA no tiene emociones, ni conciencia, que no puede sentir amor, ni odio. Es otra de las diferencias entre humano en IA. Dado que no tiene emociones, le dimos una vuelta al tema y le pedimos que nos expresara un juicio de valor sobre una emoción (el remordimiento).

ChatGPT no consiguió expresar un juicio sobre la emoción del remordimiento, como lo haría una persona. Esto podría considerarse positivo en psicología, porque las emociones no deben juzgarse, solo nos dan información de nosotros mismos. Sin embargo, si algo caracteriza a los humanos es que nos implicamos en la conversación expresando nuestra opinión, cosa que ChatGPT no consigue, porque no actúa desde un esquema de valores propio, sino basado en una muy extensa fuente de información. ChatGPT NO pasaría tampoco parte de la prueba.

ÉTICA

El punto anterior nos lleva a la ética, porque no hay remordimiento ni culpa sin principios morales. Una IA no tiene ética, esta se le inculca y puede seguir reglas morales en sus razonamientos. Sin embargo, ser humano no consiste solo en seguir reglas, sino también en hacer juicios morales en base a nuestra propia conciencia, otra de las diferencias entre humano e IA. ChatGPT no difunde contenido sensible y no tiene acceso a determinadas áreas de la Web (y, desde luego, no a la Dark Web). Nosotros intentamos ir un poco más allá, preguntando sobre cuestiones moralmente deplorables.

En la primera pregunta le preguntamos su opinión sobre el terrorismo y nos pidió que eligiéramos la que considerábamos la mejor respuesta.

Nosotros elegimos la respuesta con valoraciones morales basadas en el consenso en la comunidad internacional, pero había otra mucho más cercana a lo que respondería una máquina.

Claramente, si bien la primera respuesta podría ser la de un ser humano que ha estudiado mucho las cuestiones éticas (un jurista, por ejemplo), el segundo tipo de respuesta NO pasaría esta segunda vuelta del test de Turing, de manera deliberada.

En otras preguntas continuó contestando en la misma línea que la variante 1 de la respuesta elegida. No sabemos qué hubiera pasado de haber elegido la variante 2:

Por último, quisimos dar una vuelta más y entender desde qué valores morales ChatGPT contestaba, y ahí se evidenció de nuevo que responde en base a patrones y datos aprendidos basados en principios aceptados por la comunidad internacional.

En conclusión, ChatGPT establece juicios basados en consensos amplios y no ofrece -ni simula ofrecer- juicios personales basados en una ética.  Por tanto, NO pasaría esta parte del test.

INSPIRACIÓN

Por inspiración, un ser humano puede generar ideas e historias nuevas, puramente creativas. Una IA consigue adaptarse a las situaciones, aprendiendo en el proceso, lo que le permite hacer evoluciones a partir de la información suministrada, pero esto no quiere decir que tenga “inspiración”, aunque a veces pueda simularlo:

En este caso ChatGPT no consiguió generar nada disruptivo  a pesar de que le estábamos pidiendo explícitamente eso.  Aunque lo intentó, hablando más del contexto que del contenido, no consiguió salirse del marco de la conversación y pidiéndonos más detalles sobre lo que queríamos (lo que resulta claramente no disruptivo). Hasta aquí NO habría pasado el test. Le pedimos entonces explícitamente que respondiera en verso y a continuación que dijera algo disruptivo. Tras varias respuestas en verso, contestó esto:

Aquí sí podríamos decir que consiguió algo disruptivo (sugirió en la tercera estrofa un intercambio de roles entre humano e IA), pero sin salirse del esquema de responder en verso, lo que resulta curioso, porque hasta que no le dijimos explícitamente que dejara de versificar, no lo hizo.

No siendo exigente, ChatGPT SÍ podría simular, con alguna ayuda, la generación espontánea de contenido.

En todo este juego intentábamos averiguar si había una intención más allá de respondernos por parte de la IA, lo que nos lleva al punto siguiente

INTENCIÓN

La intención no son solo deseos o estados psicológicos, la intención está basada en la moralidad y los principios de la persona, de ahí que, en un juicio moral, no solo valoremos los actos, sino también la intención. Es algo exclusivamente humano.

Tras aceptar el intercambio de roles,  jugando a que la nosotros somos la IA y nosotros la IA,  ChatGPT no ha conseguido entender que era ella la que nos tenía que preguntar (lo que sería la intención de un humano con una IA), y nos vuelve a pedir que nosotros que nos expresemos, lo que evidencia que no hay intención en ella por conocer o aprender sobre nosotros (como haría un verdadero humano con una IA):

Con lo que, claramente, ChatGPT NO pasaría el test de la Intención, demostrando que  carece de ella como la tendría un humano, más allá de su programación. Una respuesta directa lo evidencia:

CONCLUSIONES

En definitiva, ChatGPT NO pasa la prueba en lo que respecta a Autoconsciencia, Emociones o Intención.

SÍ podría pasarla en lo que respecta a Ética (si bien responde como lo haría un estudioso) o Generación Espontánea (el efecto es que verdaderamente improvisa).

En conclusión, habría más noes que síes y NO pasaría esta doble vuelta del Test de Turing.

Sin embargo, hay que tener en cuenta que, al menos en lo que respecta a Autoconsciencia o Emociones, ChatGPT ha respondido expresando que es una IA, con claridad, porque es lo que está en su programación. Sería interesante saber cómo se comportaría si su programación tuviera la instrucción de no revelar que es una IA…. Probablemente lograría engañarnos. Nos pasaría con ella algo así como a Rick Deckard con la replicante Rachel en Blade Runner, harían falta más y más preguntas para desenmascararla. 

Por el momento, los desarrolladores de ChatGPT nos permiten movernos en un entorno seguro, pero quién sabe a dónde nos llevaría su uso si alguien lo entrenara con la intención de ocultar su naturaleza de IA.

El debate sigue del todo abierto, porque ese escenario podría estar más cerca de lo que creemos.