Durante su reciente visita a Argentina para participar en el Congreso Nacional de Educación, organizado por la provincia de San Luis junto a una fundación del sector, Mishra se tomó un tiempo para dialogar sobre el impacto actual de la IA, así como las advertencias que todos deberíamos tomar en cuenta en relación con su uso.
El especialista expresó que uno de los problemas más serios en el uso de la IA en el aprendizaje es su incapacidad para distinguir entre verdad y falsedad. “Muchos dicen: ‘Hay que chequear los datos para detectar las alucinaciones’. Creen que, con los nuevos avances, estas van a desaparecer. Pero no es así, porque las alucinaciones son producto de su naturaleza predictiva, de la manera en que funcionan los sistemas por sí solos”, detalló. Agregó: “No es suficiente con realizar un chequeo. Se puede validar un dato, pero no se puede verificar una interpretación.”
Se podría pensar que Mishra, originario de India y residente en Estados Unidos, vive en una especie de aislamiento tecnológico. Sin embargo, esto es un claro malentendido. De hecho, la IA ha influenciado su vida de manera significativa. Hace un tiempo, empleó la tecnología para desarrollar un software que le permite comprender y leer por sí solo los poemas escritos por su madre en su lengua materna. Anteriormente, jamás había podido acceder a esos textos. Pero ahora, con la ayuda de la IA, pudo leerlos y compartirlos.
“Por supuesto que uso IA. No obstante, nunca la emplearía para redactar algo que realmente me importe”, subrayó. “Una buena práctica es pedirle a una IA que desarrolle un texto y, a continuación, solicitar a otra IA que critique el resultado. Después, es recomendable volver a la primera para confirmar si existe alguna coincidencia en los puntos que se consideran válidos. De esta forma, se puede llegar a la conclusión sobre qué tiene sentido y qué no.”
Consultado sobre la inquietud que deberían tener los educadores respecto a la introducción de la inteligencia artificial en las aulas, Mishra fue categórico: “Deberíamos estar muy preocupados. Sin embargo, esto no se limita a lo que sucede dentro del aula. En realidad, el mayor impacto de la IA se manifiesta fuera de la educación formal. Las herramientas de inteligencia artificial están presentes en relojes, computadoras y redes sociales; están en todos lados. Por eso, el desafío no es únicamente regular lo que ocurre en las aulas. Realmente, nos quedamos cortos en nuestras apreciaciones en este sentido.”
Esta realidad conlleva la necesidad de educar a padres, a la comunidad y a los propios estudiantes sobre los efectos que estas tecnologías están teniendo en sus vidas. Deberían ser capaces de identificar que existe una tensión evidente entre los intereses de las empresas tecnológicas, que buscan recuperar todo el capital invertido en innovación, y los intereses de nosotros como educadores, padres y ciudadanos.
En cuanto a si es posible que la IA reemplace a los docentes en un futuro cercano, Mishra indicó que “hay sectores que están abogando por esto”. En la actualidad, frente a la escasez global de docentes, han surgido muchas discusiones sobre la posibilidad de utilizar tutores virtuales. “Hay quienes propugnan la idea de un ‘tutor infinitamente paciente’, pero debemos resistir esa presión. En la práctica, solo un 5% de los estudiantes utiliza estas herramientas digitales de tutoría, porque los alumnos sienten que no hay una persona real interesada en su proceso de aprendizaje. Ese componente humano es el verdadero motor del aprendizaje, que se da de humano a humano y no de máquina a humano”, matizó.
Mishra ilustró su argumento mencionando cómo un profesor que dedica tiempo y esfuerzo a explicar repetidamente un concepto, busca ejemplos conjuntamente con el estudiante y trabaja codo a codo con él, crea un sentido de atención que motiva a los alumnos. “Cuando el alumno identifica que hay alguien invirtiendo tiempo y esfuerzo en él, en su aprendizaje, entiende que eso es significativo. En cambio, la IA puede explicarlo mil veces, pero no le da relevancia al estudiante, porque para ella su tiempo no vale. Por eso digo que la IA es un tutor infinitamente paciente, pero también infinitamente descuidado”, agregó.
El experto se refirió también a las limitaciones de la IA al decir que “solo ofrece datos, sin poder transmitir un sentido o relevancia”. Explicó que la IA nunca ha vivido el mundo: “No tiene cuerpo, jamás ha sentido dolor, ni le han roto el corazón. Aunque pueda generar textos que aparenten ser profundos o conmovedores, carece de la capacidad para discernir entre lo correcto y lo incorrecto”. Insistió en que la naturaleza de la IA es predictiva y que sus alucinaciones son parte de esta característica.
“Consideremos que la IA es una tecnología probabilística. Se basa en secuencias de palabras y calcula la probabilidad de cuál podría ser la siguiente palabra lógica. Sin embargo, no tiene comprensión del mundo real. Nunca se ha caído y raspado un codo, ni le preocupan las cosas que a nosotros sí nos inquietan. Puede escribir poesía, pero no surge de un sentimiento, sino de un cálculo. La IA carece de cualquier entendimiento sobre lo que constituye el mundo; trabaja únicamente con palabras”, afirmó.
Al ser consultado si no basta con verificar los datos proporcionados por la IA, Mishra se mostró escéptico: “Hemos sido inducidos a pensar que podemos minimizar el impacto negativo dándonos a la tarea de verificar las fuentes. Verificar un hecho es relativamente sencillo, pero ¿cómo se supone que un estudiante debe juzgar o verificar una interpretación? ¿Cómo se valida el significado de los matices? El impacto en la educación es inmenso. En una conferencia de periodismo, se me preguntó cuál sería el cambio más significativo que la IA traería a esta área. Respondí: ‘Vas a pasar mucho tiempo verificando todos los datos dos veces’. Del mismo modo, eso representará el 90% de tu trabajo.”
Mishra pone de manifiesto un fenómeno cognitivo al decir que “tendemos a aceptar con facilidad lo que nos dice la IA”. Esto responde a un sesgo cognitivo conocido como “sesgo de fluidez”, que nos lleva a confiar de manera acrítica en respuestas entregadas con seguridad y elocuencia. “Los políticos se aprovechan de esto. Cuando alguien se expresa con fluidez y confianza, nuestro cerebro interpreta que sabe mucho. Generalmente, aquellos que hablan con seguridad han dedicado tiempo a aprender sobre el tema en cuestión. La IA, al ser una tecnología que se presenta muy segura de sí misma, siempre ofrece respuestas fluidas, lo que facilita que la gente las acepte sin cuestionamientos”, explicó.
Mishra a menudo utiliza una metáfora llamativa al referirse a los modelos de IA, definiéndolos como un “pasante inteligente, borracho y complaciente”. Esta comparación busca simplificar su utilidad y límites, destacando que la IA puede ser un asistente muy eficiente que ayuda a completar tareas rápidamente, pero que también puede “beber” y confundir datos o incluso inventar fuentes, obligando a los usuarios a verificar absolutamente todo lo que produce.
El experto concluyó señalando que, aunque la IA ofrece valiosos beneficios instrumentales, como la traducción de textos para estudiantes que provienen de múltiples lenguas maternas, la adaptación de niveles de lectura o la contextualización de ejemplos, los riesgos manifestados son existenciales y se relacionan directamente con la manera en que se construye el conocimiento y las relaciones humanas en el aula. “La fricción social y el desacuerdo en el ámbito escolar son esenciales para aprender a convivir con opiniones diversas; en cambio, interactuar con un bot que simplemente nos da la razón elimina esa experiencia formativa y genera dependencias emocionales equivocadas”, afirmó.
