Artículo de Felipe Rivas. Artista visual, ensayista y activista disidente sexual chileno. Actualmente es investigador posdoctoral en la Universidad Autónoma de Barcelona.
En 2022 se volvieron ampliamente accesibles los modelos generativos de imágenes a partir de texto, o que reinterpretaban las ya existentes. Ese boom de los sistemas generativos acaparó la atención mediática y reactivó viejas discusiones sobre la noción de autoría en relación con la imagen técnica o el estatus “artístico” de la misma.
El éxtasis que producían estos sistemas se extendió dentro, pero especialmente fuera del campo artístico, estableciendo una curiosa resonancia con las utopías democratizadoras del arte, que parecen concretarse en un momento de aceleración tecnológica, de crisis humanista y de sustitución de las formas habituales del capital.
La aparición de esos sistemas de acceso abierto —y en algunos casos gratuito— me permitió desarrollar proyectos artísticos utilizando modelos algorítmicos computacionales, que habían sido mi objeto de investigación1, pero que hasta ese momento no había expresado en obra, salvo algunos casos puntuales2.
Un archivo inexistente
Este proyecto consiste en una serie de imágenes de apariencia fotográfica que representa a parejas homosexuales, personas queer y no binarias de clase trabajadora de principios del siglo XX en América. Las imágenes se crearon utilizando modelos generativos de inteligencia artificial (IA) que procesan bases de datos, por lo que ni las imágenes fotográficas ni las personas representadas en ellas existieron realmente.
Tal como explicó el crítico queer José Esteban Muñoz, una de las consecuencias de la cultura heteronormativa es que la experiencia queer del pasado no pudo dejar registro ni archivo3. Esa negación del archivo es aún más dramática para las personas del sur global y de clases trabajadoras4.
Esta propuesta se constituye como un ejercicio “retrofuturista” que utiliza algoritmos computacionales —tecnología habitualmente inmersa en narraciones de futuro— para reimaginar nuestro pasado queer local y reivindicar un archivo que prácticamente no pudo existir. El resultado es un conjunto de imágenes extrañamente conmovedoras y afectivas, que provocan una suerte de nostalgia artificial al develar su naturaleza de pasado imposible, de memoria negada y de una clara presencia simulada algorítmicamente.
Las imágenes son verosímiles a simple vista, pero tras una mirada más atenta revelan las imperfecciones —profundamente queer— de una tecnología aún en proceso de desarrollo.
Ficción técnica y archivo imposible
La condición singular de una imagen “fotográfica” generada por inteligencia artificial radica en su naturaleza “hiperreal”, carente de un origen físico real pero basada en probabilidades estadísticas. Estas imágenes, cuasifotografías, representan una nueva forma de visualización de datos, donde la indexicalidad fotográfica se desvanece en favor de la discriminación de variables; un cálculo de probabilidad y aleatoriedad matemática.
La causalidad se desvanece ya que los procesos no lineales de la IA manipulan opacamente la representación visual, dando como resultado una representación basada en funciones de gradiente y peso relativo, más que en una conexión directa con la realidad física.
Para existir, todo archivo necesita un soporte material y un proceso técnico. Esto implica reconocer que la negación de la memoria y el archivo para las disidencias sexuales latinoamericanas es también una negación tecnológica, lo cual se observa en las fotografías en cuatro dimensiones: por disidencia sexual, por ubicación geográfica, racialidad y por clase. La experiencia de la disidencia sexual en América Latina estuvo marcada por la violencia, la precarización y la inseguridad, tanto a nivel cotidiano como estructural.
La estructura heteronormativa hegemónica limitó la existencia de un activismo y voces legítimas en el pasado, lo que se refleja en la falta de archivos contados en primera persona y de manera positiva en el contexto local. Estamos ante un archivo inexistente.
Un prompt minoritario
Uno de los desafíos técnicos en la producción de estas imágenes fue la elaboración de prompts adecuados. En sentido general, un prompt es cualquier estímulo que genere una respuesta. El término tiene un uso muy difundido en el ámbito de la programación, pues los prompts son señales o símbolos (por ejemplo, un carácter “>” seguido de un espacio en blanco) utilizados para indicar que se espera una instrucción en una línea de comandos.
Con el tiempo, y tras el desarrollo y popularización de la IA, este término se extendió a lo que la informática llama “lenguaje natural”; su calidad y claridad influyen en la precisión y naturaleza de la salida generada por el modelo.
Según Juan Martín Prada, el diseño de prompts en IA es una práctica que puede describirse como “écfrasis inversa”, donde se anticipa la imagen a generar en lugar de describir una existente, permitiendo al modelo saber qué imagen producir. El usuario crea imágenes al describirlas con palabras, en una fase de la cultura visual en la que predominaría el principio: “si puedes decirlo, ahora puedes verlo”5.
Pero en este proceso de imaginación simbiótica entre mente humana y algoritmo, siempre hay un efecto en suspenso, un no saber a ciencia cierta cuál será el resultado: “En cualquier caso, siempre hay algo de exploración e incertidumbre en la producción de imágenes a partir de descripciones textuales, que casi siempre exige diferentes intentos que permitan ir ajustando el prompt a las intenciones de partida”6.
Como respuesta al prompt está el resultado. Pero entre lo que se pidió y el resultado —esa respuesta de la máquina— hay una especie de abismo de incertidumbre que se soluciona en al menos tres posibles formas: primero, y la mayoría de las veces, el resultado nos provoca la insatisfacción o frustración frente al fracaso de un resultado defectuoso (que puede requerir múltiples intentos infructuosos).
Segundo, también ocurre a veces que logramos sentir la satisfacción frente al buen resultado, ese que se acerca, se adecúa o acierta ante lo esperado, aquí habría una máxima coincidencia entre lo deseado y lo que se obtuvo.
Y por último, existe una tercera posibilidad —que he experimentado— y que corresponde a la sorpresa frente a un resultado totalmente inesperado, algo que parece superar, escapar o ir más allá de la determinación del prompt inicial.
Stable Diffusion es el modelo de IA con el que trabajo para producir estas imágenes. La interacción que puedo establecer con él, y que es a la vez mi única incidencia en el resultado, son los prompts7.
Tanto la configuración algorítmica del modelo como su base de datos con la que se entrenó, vienen dados de antemano. Y sabemos que tanto esa configuración algorítmica como esa base de entrenamiento no son neutrales, por el contrario, expresan un peso técnico muy determinante. Por ejemplo, al indicar una “fotografía de dos hombres”, era usual que el resultado fueran hombres blancos. Ese tipo de condiciones determinan lo que se ha denunciado como “sesgos algorítmicos”.
Propongo el concepto de “prompt minoritario” para referir a un tipo de instrucción o solicitud diseñada específicamente para contrarrestar los sesgos inherentes presentes en las bases de datos utilizadas para entrenar modelos de lenguaje.
Al proporcionar este tipo de instrucciones, se busca ampliar la comprensión del modelo y exponerlo a una variedad de voces y perspectivas, reduciendo así la tendencia a replicar los múltiples sesgos existentes.
En el caso de estas fotografías, el objetivo es que fuesen personas representativas del contexto latinoamericano o de Abya Yala8, de clase trabajadora y disidentes sexuales, tres condiciones que implican la exclusión de las bases de datos.
Cuerpos extraños, el error como evidencia
Pasquinelli afirma que el aprendizaje automático de las herramientas de IA se basa en fórmulas y “trucos” matemáticos de corrección de errores, pero que la comunidad de desarrolladores rara vez debate la naturaleza, escala e implicaciones del error.
La complejidad matemática involucrada en la generación y funcionamiento de estos sistemas provoca que el debate público sobre la IA no logre abordar sus limitaciones lógicas y que permanezca limitado a posiciones integradas o apocalípticas9.
Para contrarrestar esta polaridad y abordar de manera más realista el potencial de las herramientas de IA, el mismo autor argumenta que se debe, antes que nada, reconocer que el error y la inexactitud son elementos constitutivos de estas técnicas, ya que lo que calcula el aprendizaje automático no es un patrón exacto, sino la distribución estadística de aquel.
Esto significa que, en lugar de identificar patrones precisos, las herramientas de IA trabajan con estimaciones probabilísticas basadas exclusivamente en los datos de entrenamiento, que configuran su universo de “realidad”.
Describe a las herramientas de aprendizaje automático como “nooscopios” —máquinas para el análisis de grandes conjuntos de datos—, comparando el funcionamiento de la IA con las lentes de los microscopios y telescopios.
De la misma forma que estas lentes nunca son perfectamente curvilíneas y lisas, las “lentes lógicas” de los sistemas de IA también tienen sus propios defectos y aberraciones, muchas veces expresados en la forma de sesgos10. Por tanto, en ellas se introducen distorsiones y pérdidas de información durante el proceso de interpretación y análisis de datos11.
En las imágenes que componen el proyecto Un Archivo Inexistente, algunos de estos errores constitutivos se expresan visualmente en los cuerpos. Los cuerpos representados por la IA son cuerpos extraños, deformes, con cuellos o piernas demasiado largas para ser reales, con manos de ocho dedos, que se difuminan extrañamente en una blusa o brazos fantasma que aparecen por donde no deben o desaparecen sin explicación lógica12.
Estos errores suelen describirse moralmente como faltas negativas y sancionables, un alejamiento del ideal normativo que prescribe la eficiencia técnica, pero aquí se perciben como una capa adicional de disidencia corporal que explicita la asociación entre lo queer y el error o el fracaso13.
Aún más, su presencia es un límite ético-político que evita el riesgo de que estas imágenes pretendan sustituir el pasado de violencias que impidió su propia existencia.
El error es la prueba, la evidencia radical de que estas imágenes no pudieron ser. Mientras Roland Barthes describe a la fotografía como un objeto material cuya potencia radica en ser huella del pasado, testimonio indicial de que “esto ha sido”, las cuasifotografías de Un Archivo Inexistente demuestran su condición opuesta: “esto no ha sido”.
***
Felipe Rivas San Martín (Valdivia, 1982). Artista visual, ensayista y activista disidente sexual chileno. Actualmente es investigador postdoctoral en la Universidad Autónoma de Barcelona. Su trabajo surge de la intersección entre crítica queer, archivo y tecnologías con una perspectiva desde el sur. Es cofundador del Colectivo Universitario de Disidencia Sexual, CUDS (2002-2019), grupo latinoamericano de activismo, experimentación artística y reflexión crítica. Es autor del libro «Internet, mon amour: infecciones queer/cuir entre lo digital y lo material» (Écfrasis ediciones, 2019) y coautor (con Jaime San Martín) del libro de ciencia ficción experimental «Sagrada Biblia Artificial» (ESM, 2023).
1 Felipe Rivas San Martín, Una genealogía queer de los algoritmos computacionales. Tesis doctoral, Universitat Politèctica de València, 2022. https://riunet.upv.es/handle/10251/187463
2 Mi primera experiencia entre imágenes y algoritmos fue con la serie El sueño neoliberal (2015), realizada cuando la empresa Google hizo público el sistema Deep Dream, resultado de experimentos con sus algoritmos de interpretación de imagen. El ejercicio que realicé consistió en subir una fotografía icónica del golpe de Estado en Chile y someterla a sucesivas “interpretaciones” por el algoritmo, hasta volverla irreconocible.
3 José Esteban Muñoz, “Ephemera as evidence: introductory notes to queer acts”, Women & Performance: A Journal of Feminist Theory 8, n. 2 (1996), pp. 5-16.
4 Aunque precarios, los archivos LGBTIQA+ no son del todo “inexistentes”. Un ejemplo de archivo “existente” es el libro Loving: a photographic history of men in love, 1850-1950 de Hugh Nini y Neal Treadwell (5 Continents Editions, 2020), construido en su totalidad por archivos de Europa y Canadá. La presencia mayoritaria de personas blancas y de clase acomodada en esas imágenes demuestra que los pocos registros existentes de la diversidad sexual, están determinados por sesgos de clase y raza.
5 Juan Martín Prada, “La creación artística visual frente a los retos de la inteligencia artificial. Automatización creativa y cuestionamientos éticos”, Eikon / Imago 13 (2024), p. 4.
6 Ibidem, p. 5.
7 Aún más, en la mayoría de los modelos de acceso abierto, entre las instrucciones del usuario y el modelo, hay capas de lenguaje que recodifican la instrucción inicial, funcionando como prompts ocultos generados por los sistemas en línea.
8 Abya Yala significa “tierra en plena madurez” en lengua del pueblo guna (actual Panamá). En 1977 fue adoptado por el Consejo Mundial de los Pueblos Indígenas para referirse a todo el territorio americano y es el nombre que reivindican varios movimientos sociales y pensadores indígenas.
9 Ibidem, p. 2.
10 Pasquinelli identifica tres tipos de sesgos asociados a las herramientas de aprendizaje automático: el sesgo mundial o cultural, que es previo a la acción tecnológica; el sesgo de datos, que se introduce durante la captura, formato y etiquetado de datos en el conjunto de entrenamiento; y por último, el sesgo algorítmico, que es producido por las propias técnicas de aproximación en algoritmos de aprendizaje automático.
11 Matteo Pasquinelli, “How a machine learns and fails”, Spheres: Journal for Digital Cultures, n. 5 (2019), pp. 4-6.
12 Matt Kovtun, “Why generative AI models fail at creating human hands”, Avenga Magazine¸ 7 de julio de 2023. https://www.avenga.com/magazine/generative-ai-models-fail-at-creating-human-hands/
13 Jack Halberstam, El arte queer del fracaso (Barcelona: Editorial Egalés, 2018).
