Por Bianca Tosco e Ignacio Liziardi
La ausencia es parte de la historia. En mi caso, siempre faltó un abuelo. Sin embargo, su intensa actividad política y sindical me permitió conocerlo a través de testimonios, escritos y registros audiovisuales que captaron, con algo de detalle, sus rasgos distintivos. En los últimos años, con el auge de la inteligencia artificial, aparecieron imágenes en redes sociales que pretendían representarlo, pero mostraban a un completo desconocido para mí. En esta nota, recorro algunas implicancias que tiene para el pensamiento histórico la falsificación de imágenes del pasado mediante modelos algorítmicos automatizados.
Cuando era chico, mi abuelo Agustín se cortó el dedo índice de la mano izquierda en un accidente con una máquina. Es una de sus marcas más particulares y menos conocidas, además del reloj pulsera y el cigarrillo siempre presente entre el dedo mocho y el medio. Conocido por su imponente oratoria, Agustín hablaba con el cuerpo y sus manos fueron parte importante de su expresividad.
Recientemente, con el surgimiento de la inteligencia artificial, varias de sus fotos públicas han sido modificadas con esta herramienta. Muchas veces, la intervención algorítmica cambia de manera desmedida sus facciones y muestra a un completo desconocido, a otra persona. El hecho de que esa imagen pretende representar a Agustín Tosco solo es reconocible en el texto que la acompaña y en algunos detalles como el mameluco de trabajo, las entradas en el pelo y el estar marchando entre cuerpos repetidos y similares en extraños escenarios.
Cuando el cambio en sus facciones no es tan evidente y respeta en conjunto los rasgos del retratado, hay una peculiaridad que revela la alteración: el dedo índice. La IA, programada en función de miles de imágenes de cuerpos humanos, realiza una operación estadística y concluye que la mano de una persona debe tener cinco dedos enteros. La máquina no acepta la falta de uno de ellos y, como consecuencia, reconstruye la falange amputada una y otra vez. Para quien observa estas imágenes desde la memoria familiar, la sensación que provoca, al menos en mi caso, es un nudo en el estómago. Ese no es mi abuelo.
La modificación de registros pictóricos o fotográficos históricos con IA genera ficciones algorítmicas sintéticas que problematizan nuestro acercamiento a la historia al desestimar la evidencia material real y reemplazarla con creaciones que son resultado de cálculos matemáticos que amalgaman prácticamente toda la información disponible en internet. Cuando estas herramientas trastocan las facciones de una persona, alteran colores, quitan detalles como un lunar, una arruga o reconstruyen un dedo, falsean las marcas identitarias de las personas. Como consecuencia, se rompe la confianza en la autenticidad del registro, se altera la construcción de la memoria colectiva y comenzamos a sospechar de todas las imágenes que observamos en la web.
Esto es así siempre y cuando tengamos las herramientas para advertir tal adulteración, en mi caso, esa herramienta es el vínculo afectivo y familiar. Sin embargo, la gran mayoría de las personas consume la información en un estado de hipermediación constante y no todos cuentan con los parámetros históricos necesarios para reparar en tales modificaciones o, simplemente, no les interesa. Hace poco, en una conversación con estudiantes de quinto año de secundaria que oían hablar de Agustín por primera vez, lo primero que hizo uno de ellos fue buscar su nombre en TikTok. En la pantalla de su teléfono, apareció un mar de imágenes y videos breves, muchos resultado de la animación de fotografías estáticas.
―¿Cuál es? ―me preguntó.
Preocupada porque lo pudieran reconocer, empecé a diferenciar entre imágenes auténticas y adulteradas. «Este sí. Este no. Este sí. Este no».
Sin embargo, al adolescente no le inquietó para nada la diferenciación que para mí resultaba fundamental, esos otros no eran mi abuelo. El fenómeno no se limita a las redes sociales. Las imágenes generadas por inteligencia artificial son usadas incluso en portadas de libros de historia ―pretendidamente en “mejor calidad” que los originales o coloreadas― y en afiches sindicales.
Agustín Tosco no es una figura escasa en registros. Por el contrario, se podría decir que fue uno de los dirigentes sindicales más fotografiados, filmados y entrevistados de la historia argentina del siglo XX. Existen, y están disponibles en la web, horas de archivo audiovisual auténtico, discursos grabados y fotografías registradas por reporteros gráficos durante las luchas obreras de los años 60 y 70. Ante esta profusa disponibilidad documental, cabe preguntarse: ¿qué lleva a las personas a pasar por IA la cara de un hombre con mucho registro histórico audiovisual? ¿Por qué crear un video artificial a partir de una foto fija cuando el video real de ese preciso momento histórico existe? ¿Cómo afecta la IA generativa al pensamiento y la imaginación histórica?
Roland Barthes, en su conocida obra La cámara lúcida de 1980, sostuvo que la esencia de la fotografía consiste en ratificar lo que ha sido y que su fuerza constatativa atañe al tiempo. Es la autentificación y ratificación de lo que representa, de su existencia concreta. Es un certificado de presencia: “La foto es literalmente la emanación del referente. De un cuerpo real, que se encontraba allí […]. Una especie de cordón umbilical une el cuerpo de la cosa fotografiada a mi mirada: la luz, aunque impalpable, es aquí un medio carnal, una piel que comparto con aquel o aquella que han sido fotografiados”.
Según el filósofo francés, la fotografía autentifica la existencia del ser. Con la aparición de la tecnología generativa, esta aseveración se pone en cuestión: la imagen deja de ser el reflejo de la luz sobre un cuerpo para convertirse en el resultado de un cálculo algorítmico. El horizonte que se presenta es aquel en el que va a ser muy difícil reconocer los verdaderos rostros de la historia.
Otro de los ejercicios vinculados con el pasado es solicitarle a los grandes modelos de lenguaje (o LLM, por sus siglas en inglés, large language model) que simulen la voz de personas fallecidas o referentes del pasado para que expresen opiniones o pensamientos sobre el presente. Hacer hablar a los muertos sobre una realidad no vivida. La encrucijada se torna epistemológica y política: ¿puede Agustín Tosco, José de San Martín, Paulo Freire, Rosa Luxemburgo o el personaje histórico que más nos interpele opinar sobre la actualidad? O, más bien, ¿somos nosotros, sujetos del presente, quienes podemos reflexionar sobre nuestra realidad a partir de la lectura atenta de sus escritos, discursos y acciones?
Estas reflexiones modelan el pensar históricamente, entendido por Santiesteban Fernández como una serie de capacidades cognitivas. Estas incluyen la conciencia de la temporalidad que abarca las nociones de cambio y continuidad; la representación histórica, construida a partir de la narración y la explicación; el desarrollo de la imaginación histórica a través de la creatividad, la empatía y la contextualización; y finalmente, el aprendizaje de la interpretación de fuentes del pasado y las formas de construcción del conocimiento histórico.
Delegar el ejercicio del pensamiento histórico en un modelo de lenguaje automatizado amenaza nuestro pensamiento crítico y soberanía cognitiva. No podemos pasar por alto que las inteligencias artificiales son propiedad de grandes empresas transnacionales de tecnología e información del norte global, y, como tales, están configuradas bajo parámetros ideológicos concretos que funcionan en beneficio de los dueños de la información mundial. Al solicitarle a la máquina que imagine por nosotros, nos quedamos sin la práctica del pensamiento crítico y se atrofia nuestra capacidad de reflexionar de manera autónoma.
Frente a esta situación, se torna indispensable revalorar la dimensión humana y artesanal del oficio de historiar. El conocimiento histórico se construye sobre la base de reliquias del pasado que han sobrevivido hasta el presente por azarosos motivos. Por esto mismo, la historia se construye sobre la fragmentación. La temporalidad conlleva el desgaste, la pérdida, la destrucción. La ausencia es parte de la historia, así como la falta de la falange de un dedo índice es testimonio de un momento de la vida y también nos habla de una experiencia del pasado.
Para continuar con estas reflexiones, recomiendo La cámara lúcida de Roland Barthes.
Fuente: www.latinta.com.ar