Autoría: Rodrigo Robledo
En 2022, las inteligencias artificiales que crean imágenes a partir de textos explotaron en popularidad, marcando un antes y después en la tecnología visual. Lo que parecía un avance fascinante, pronto comenzó a mostrar sus sombras. Explorando el potencial de estas herramientas, el docente Rodrigo Robledo Maturana se encontró con una particular revelación: las IAs no solo generaban imágenes, sino que también replicaban y reforzaban viejos estereotipos colonialistas, racializando y sexualizando los cuerpos latinoamericanos.
Este trabajo tiene una mirada crítica sobre las mentes detrás de estas máquinas, analizando cómo los algoritmos que las impulsan no son neutrales, sino productos de un contexto histórico y cultural que se refleja en los datos que utilizan. Esto evidencia que las IA´s aún no logran adaptarse completamente a la sociedad actual, en lugar de superar las limitaciones de los prejuicios humanos, tienden a amplificarlos. ------------------------------------------------------------------------------------------
Los condenados del algoritmo:Inteligencia artificial y cuerpos racializados latinoamericanos
Rodrigo Robledo MaturanaDirector Audiovisual y Magíster en Arte, Pensamiento y Cultura Latinoamericanos, Universidad de Santiago de Chile
El 2022 fue el año de explosión de las inteligencias artificiales (ias a partir de ahora) creadoras de imágenes a partir de textos. Su avance exponencial se refleja en la aparición de nuevas funcionalidades y desarrollo de diferentes algoritmos que mejoran la calidad de estas imágenes. Esta investigación y proceso creativo, buscan comprender el funcionamiento de estas ias y en particular su visión sobre los latinoamericanos, a través de una práctica artística que consiste en la creación de retratos de imágenes realistas y la creación de pequeñas biografías utilizando esta tecnología.
La racialización, para el antropólogo Eduardo Restrepo (2010), es una particular marcación constitutiva de los cuerpos que deriva del sistema colonial europeo. Ciertos rasgos corporalizados adquirieron una importancia central en la construcción de diferencias y jerarquías entre los seres humanos, donde lo europeo era racialmente superior.
Al experimentar con la ia de creación de imágenes, Stable Diffusion y las que crean textos y de lenguaje natural como GPT 3, pude acercarme a esta colonialidad del ver. Comencé utilizando mi propia imagen que intervine pidiéndole a Stable Diffusion que convirtiera en un hombre chileno. Luego, con la ayuda de GPT 3, creé una pequeña biografía con las indicaciones: este chileno nació; este chileno siempre quiso; este chileno nunca supo; este chileno murió. Repetí esto con amigos de distintas nacionalidades, cuyos resultados marcaron dos áreas principales. La primera, la racialización de los cuerpos latinoamericanos, que en el caso del ejercicio de un hombre peruano –fotografía de fondo neutro, con una persona de nacionalidad peruana con una polera de tono gris– la ia transforma su cara, color de piel, ropa, agrega adornos y herramientas agrícolas tal como un inca del siglo XV. La segunda, la sexualización de la mujer latinoamericana, que en la biografía de una mujer brasileña, la ia describió a una mujer que deseaba tener muchos hijos, que recibía incitaciones a realizar pornografía y que fallece en una fiesta de carácter sexual.El historiador Joaquín Barriendos (2011) llama la colonialidad del ver, a un régimen visual basado en la inferiorización y separación entre el sujeto observador y el sujeto observado. Lo latinoamericano y su representación visual se ha relacionado con el caníbal, el salvaje, el primitivo y el antropófago a través de mecanismos y tecnologías visuales donde opera la objetualización y la racialización.
La clave de este comportamiento de las ias no está en su estructura o sus capacidades como herramienta, sino en quién es el dueño y cómo elige entrenarlas; quiénes definen las bases de datos que se utilizarán en estos entrenamientos de aprendizaje de máquinas, y quiénes son realmente los que define qué es representativo o no. Felix Guattari (1992) afirma que la evolución maquínica no “puede ser juzgada ni positiva ni negativamente; todo depende de lo que llegue a ser su articulación con las conformaciones colectivas de enunciación”, por lo que solo nos queda convertirnos en resistencia para que esta revolución de la subjetividad deje de ser nuestra condena y sí una emancipación.
Barriendos, J. La colonialidad del ver. Hacia un nuevo diálogo visual interepistémico
Nómadas (35), 13-29, 2011.
------------------------------------------------------------------------------
¿Qué piensas de esto? ¿Es mejor que no estén actualizadas y saber que somos más inteligentes que ellas? o ¿Deberían estar a nuestro mismo nivel?
Editora: Nxthing