Por Cecilia Sagol*

Algunas frases, preguntas (podríamos decir, prompts) fueron el guión de base del panel sobre IA y educación que compartimos con Mariana Ferrarelli en las Jornadas Internacionales de Educación de la Feria del Libro de Buenos Aires, el 26 de abril. Tratamos de que esos prompts que elaboramos nos ayudaran para pensar esta tecnología en relación con las prácticas docentes, la gestión escolar y la evaluación, entre otros temas. Fue un encuentro espectacular; y después de esas preguntas disparadoras vinieron otras, aun mejores, desde el público. 

Las personas que llenaban la sala -en su mayoría docentes que pasan sus días en las aulas-  nos compartieron sus inquietudes en papeles manuscritos. Esas preguntas basadas en la práctica diaria nos llevaron a profundizar la charla y abrir nuevos debates. La conversación no terminó ahí: unos días después, volvimos a revisar los papeles y continuamos discutiendo y ahondando lo que habíamos expuesto en las Jornadas. 

Aquí traemos algunas de las preguntas que van y vienen de y hacia el universo educativo, con nuevas respuestas que pensamos con más calma, y que a su vez nos siguen disparando nuevas ideas y cuestiones en una conversación que podría llegar a ser infinita. 

Primera pregunta

Esta pregunta tiene dos puntos: En primer lugar, la diferencia entre la calculadora o las herramientas digitales y la IA; y en segundo lugar, las buenas prácticas de declaración de uso de IA que se están empezando a implementar en educación. 

Con respecto a lo primero, hay diferencias en los procesos de funcionamiento: las IA trabajan con lo que podríamos llamar relaciones de datos, mientras que las calculadoras trabajan por reglas. Las calculadoras no se equivocan, las IA eventualmente sí. Pero las IA producen contenido nuevo, toman decisiones creativas, interpretan y producen resultados. Hasta el momento, ninguna de las tecnologías introducidas en la educación -ni siquiera internet-  ha tenido tanto impacto en la producción de conocimiento, lo cual crea una situación muy diferente al uso de otras herramientas digitales para los y las docentes y toda la comunidad educativa. 

Segundo punto: entre las respuestas que se están construyendo, está  el tema de la declaración del uso en los trabajos. Desde hace un tiempo, varias instituciones y organizaciones entendieron que es conveniente por cuestiones de uso ético de la IA declarar cuándo se la utiliza. Al respecto es interesante este artículo de Juan de Haro con materiales para crear marcos de uso de la IA, que propone inclusive una escala de grados de uso. 

Vamos a la siguiente pregunta. 

Segunda pregunta

Esta pregunta nos hizo reír mucho. Tiene dos palabras clave: fácil y valor. 

La idea de “fácil” apunta al concepto de IA como asistente: una de las funciones que podemos otorgarle a esta tecnología desde la educación es darle un uso lateral a nuestras actividades del conocimiento, un uso instrumental,  y dejar los aspectos importantes que pueden agregar valor a nuestro trabajo como la creatividad, la construcción de conocimiento, el compromiso con la veracidad a las personas, a nosotras y nosotros, lo cual abre un campo que es la “gestión de la automatización”. ¿Qué tareas podemos / deseamos / nos conviene automatizar y cuáles preferimos conservar? ¿Quiénes van a capitalizar el ahorro del tiempo: los/las trabajadores/as o sus empleadores?

El punto central es conseguir que esa “facilidad” que nos acerca la IA nos permita ganar espacio para otras tareas y,  además, sumar funciones como la corrección, la traducción, entre otras.  

Vamos a otra pregunta que hace foco en una perspectiva social y económica de la IA. 

Tercera pregunta

Excelente pregunta. 

Tal como fue observado por varios especialistas, por ejemplo por David Buckingham en 2004, la inclusión de la tecnología en la educación no se puede mercantilizar, aun cuando  siempre se produce una tensión en este sentido. Históricamente, ha sido importante la intervención / regulación del Estado en el ecosistema de las EdTech (empresas de tecnología educativa), así como también lo que sumaron los movimientos de apertura de la tecnología: el software libre, los recursos educativos abiertos, etc. Muchas de las problemáticas que Axel Rivas, citado en la pregunta, analiza en su artículo “La plataformización de la educación” se agudizan en el marco de los usos de IA. 

En el campo de la IA tenemos algunos problemas: el desarrollo está concentrado en muy pocas empresas, de los zares de la tecnología, personajes poco democráticos y muy poderosos que sobrepasan los límites de los estados; asimismo, los medios de producción son muy costosos para desarrollar en modo abierto y finalmente, son tecnologías que operan con datos -más exactamente, tomando como modelo de negocios el extractivismo de datos–  y por lo tanto, volcar sin protocolos de cuidado datos educativos a estas plataformas es delicado, cuanto menos. 

Cuarta pregunta

En la charla, planteamos la posibilidad de que los docentes utilicen la IA para producir imágenes para el desarrollo de recursos educativos. Y saltó la pregunta de si -o la acusación de que- podíamos estar promoviendo un uso que vulnere los derechos de autor de artistas y productores de imágenes. 

Esta excelente pregunta nos condujo a una problemática general, que excede al mundo educativo. Es un tema difícil que no se termina de resolver. Sobre esto, al momento, solo podemos plantear más preguntas. 

En primer lugar, sin duda, las clases ganarían mucho si los/las docentes pudieran por ejemplo producir con IA y mostrar imágenes de prototipos, de objetos de estudio inaccesibles a la vista, de planteos abstractos. Por lo tanto, ¿no debería ser libre el uso de imágenes en contextos educativos, no comerciales? Libre significa que se respeta la propiedad intelectual a través de la referencia y no necesariamente el copyright. ¿No es importante para un artista que su obra se reutilice? Este es el planteo del movimiento de Recursos Educativos Abiertos (REA / OER, su sigla en inglés). 

Ahora bien, desde otro punto de vista, es cierto que la mayoría de las aplicaciones de IA que construyen imágenes no están enfocadas específicamente a lo educativo sino a su uso comercial, y en este caso deberían compensar  los derechos de autor de los productores también en términos económicos. Fuera de lo comercial, es cierto también que no están respetados los derechos de propiedad intelectual (atribución) dado que la IA no cita sus fuentes, sus materiales. 

Sin duda, tiene que haber una regulación y un pago de los derechos de autor de los datos con los que se entrenan los sistemas de IA, y las demandas deben dirigirse a las empresas.También debería haber sistemas de IA alimentados con contenidos libres o cedidos para fines educativos. En esta nota publicada en Chequeado aparecen muchas cuestiones interesantes, que ya el tema de copyright se viene arrastrando desde mucho antes de los desarrollos de IA generativa. 

Con alguna relación con la anterior, podemos ver la siguiente pregunta que otra vez nos saca del marco educativo; y en buena hora, porque toda reflexión puede servir. 

Quinta pregunta

El uso de IA en la escritura de ficción puede darse de muchas maneras y en numerosos grados: desde ser una gran aliada a la hora de corregir, traducir, reescribir o generar ideas básicas, hasta producir obras escritas directamente por modelos de lenguaje como, un ejemplo temprano entre muchos otros,  Los campos electromagnéticos, de Jorge Carrión escrito junto con ChatGPT 2. Hay muchas herramientas específicas que proponen sinónimos, proyectan tramas, visualizan procesos, etc. 

Es cierto que, como señala el mismo Carrión, la IA escribe mejor que Pablo Coelho, pero hasta el momento no se logra generar piezas de escritura artística virtuosas, comparables con escritores y escritoras. Asimismo, cabe la pregunta de por qué querríamos automatizar una práctica que produce goce, innovación y piezas totalmente únicas. 

Vamos a la última. 

Sexta pregunta

Detrás del caso de Hipnocracia hay toda una teoría del autor. Un ensayista italiano, Andrea Colamedici creó a través de la IA un perfil de escritor y un libro con una teoría filosófica que describe el proceso contemporáneo. La teoría se parece bastante a las perspectivas de pensamiento de filósofos contemporáneos, como por ejemplo Byung-Chul Han; es como una derivación.

En literatura se ha hablado mucho de la figura del autor, creación de la modernidad, ausente en grandes períodos de la historia, como en la Edad Media, borrosa en muchas ocasiones, como los heterónimos de Pessoa, por citar un ejemplo, o seudónimos tras una figura desconocida como Elena Ferrante. 

Así cita a Umberto Eco Carlos Scolari: «El autor debería morirse después de haber escrito su obra. Para allanarle el camino al texto.». Para decirlo rápidamente, a riesgo de banalizar un debate muy profundo: la literatura está hecha de textos, no de autores empíricos que escriben textos (no interesan en el análisis). A través de marcos de análisis como la teoría de la enunciación y la semiótica, el autor se construye en el texto y en este sentido, la obra Hipnocracia tiene un autor, habla desde alguna postura.

En esta línea cabe hacer preguntas en la clave de la teoría de la enunciación: ¿Desde dónde habla ChatGPT? ¿Quién es el enunciador de las respuestas que nos da el chat? ¿Desde qué postura brinda este contenido? Las IA no muestran sus sesgos ni explicitan sus condiciones de producción; por el contrario, crean un efecto de “respuesta neutral” que sabemos que no es real, y que abona esta idea de objetividad de las ideas sobre el mundo. 

Estas cuestiones, claves en la literacidad crítica y en la lectura académica y muy trabajadas en tecnología educativa en el marco de las habilidades de búsqueda en internet, no parecen estar resueltas en los modelos de lenguaje y por lo tanto quitan valor a su uso en actividades educativas relacionadas con los contenidos curriculares, o generan daños muy fuertes en la creación de conocimiento en la comunidad educativa, algo parecido a los daños representacionales. 

En lo que respecta a lo educativo, el impacto de la IA recién empieza, dado que la IA generativa apunta directamente a los procesos de construcción de conocimiento. 

Conclusiones que abren más de lo que cierran

Podríamos seguir hablando de estos temas y derivando otros y otros temas. La conversación sobre la IA parece ser infinita, por varios motivos: 

En primer lugar, las permanentes, exponenciales y aceleradísimas innovaciones de esta tecnología, que arman una agenda cotidiana, dinámica e inagotable, imposible de seguir pero que nos da tema todos los días. 

En segundo lugar, a esto se agrega que podemos siempre hacer dos movimientos: “Esto es lo mismo de siempre pero a través de la IA”, buscando antecedentes similares, o bien enfatizar lo nuevo. Con esto podemos analizar y discutir hasta el infinito todas las novedades, como rupturas o continuaciones. Excelente ejercicio para tratar de entender esta irrupción descontrolada. 

En tercer lugar, la conversación se vuelve infinita en tanto la IA atraviesa absolutamente todas las actividades de las personas, desde la gestión administrativa pública hasta la selección de materiales en internet o la guía para circular por las ciudades.Todos los días utilizamos estas aplicaciones de IA (sabiéndolo o no), lo que implica una fuerte construcción de experiencias, con opacidad es cierto sobre los procedimientos que están en juego, pero con un gran número de usos muy cercano a todos y todas. 

En lo que respecta a lo educativo, el impacto de la IA recién empieza, dado que la IA generativa apunta directamente a los procesos de construcción de conocimiento. De esta manera, se interpela a todos los niveles de la educación desde inicial a universidades, a todos los campos curriculares, a las prácticas pedagógicas  y a las actividades educativas en general que se verán afectadas como nunca antes. No sé si infinito pero el abanico de temas para repensar el ámbito educativo es muy extenso. 

Finalmente, otro encuentro con lo infinito: Carlos Scolari analiza la actividad de los modelos de lenguaje de la IA con el marco de la sociosemiótica y este marco le permite ver un intercambio de discursos producidos en forma de red entre nodos humanos y no humanos, tal como ha descripto la semiótica de Eliseo Verón hace décadas. Señala Scolari: “Durante el proceso de producción, el enunciador —ya sea político, periodista o incluso una IA— inevitablemente interpreta textos existentes y los utiliza como recursos para procesos de producción posteriores. Dado que otros textos siempre forman parte de las condiciones de producción, todo el proceso de producción de un texto es, de hecho, un «fenómeno de reconocimiento». Asimismo, un conjunto de efectos de significado, expresados ​​como una gramática de reconocimiento, solo puede manifestarse «en forma de uno o más textos producidos». En opinión de Verón, los procesos de interpretación se expresan en la creación de nuevos textos.”

Esta red de lectura y producción de textos, de signos creados a partir de signos que van a dar lugar a otros signos, en el marco de la cual se construyen los sentidos, está basada en el concepto de semiosis infinita de Charles Sanders Peirce. 

De esta manera la irrupción de las IA generativas y los modelos de lenguaje viene a insertar voces, como nodos, como lecturas y producciones, deducciones, inducciones y ¿abducciones?; en un discurso de antes, de ahora y después: una robosemiosis, al infinito y más allá. Como antes, como siempre, pero diferente. 

* Cecilia Sagol es licenciada en Letras (Universidad de Buenos Aires). Se dedica a proyectos con tecnología y educación. Fue gerenta de contenidos del Portal educ.ar. Es docente de la Universidad Nacional de Lanús y socia de la consultora Latir.