Seguramente habrás notado que el tema de la inteligencia artificial generativa, también conocida con la abreviación IA, está en todas partes. Se habla sobre cómo esta tecnología es un parteaguas en la automatización del trabajo, así como la forma en la que creamos y compartimos contenido. Sin embargo, también surgen múltiples cuestionamientos y dilemas éticos sobre su uso.
Como fotógrafo, me pregunto si la inteligencia artificial y las nuevas tecnologías realmente son representativas de la diversidad o quizá puedan estar reforzando visiones colonialistas y hegemónicas en nuestro mundo globalizado.
Partiendo de que esta súper inteligencia es alimentada por humanos y que su propósito es optimizar la productividad, quizá todavía se encuentra bastante lejos de afrontar implicaciones morales y éticas o preocupaciones sobre la equidad y la privacidad, pero es fundamental comenzar a plantearlas.
Mundos fantásticos… pero poco diversos
John Tomlinson, en su obra Cultural Imperialism: A Critical Introduction (1991), habla acerca de cómo la industria del entretenimiento y los medios masivos de comunicación son una herramienta para la difusión de una cultura hegemónica y la americanización de la identidad de otros pueblos. Y es interesante ver cómo su marco teórico continúa vigente.
A un año de su lanzamiento, Midjourney se ha convertido en una de las plataformas más populares para generar imágenes con inteligencia artificial. Este programa creado por un laboratorio independiente en San Francisco, California, permite a las personas crear imágenes a partir de descripciones textuales, similar a Dall-e de OpenAI y al Stable Diffusion de código abierto.
Paisajes apocalípticos, construcciones surrealistas, personajes de cualquier galaxia y hasta el Papa Francisco como rapero con ropa de moda, todo es posible. O bueno, casi todo, porque aún es más fácil imaginar un mundo de otra galaxia con extraterrestres de todos los colores que un mundo tan diverso como el que vivimos.
Un pequeño experimento
En mi trabajo explorando con la creación de imágenes con inteligencia artificial me he encontrado una y otra vez con el problema de la falta de representación.
Como ejemplo para acompañar este texto, le pedí a Midjourney que generara imágenes con la siguiente instrucción, también conocida como prompt: Journalist portrait behind a mountain and a city from above (retrato de un periodista detrás de una montaña y una ciudad a lo lejos)
Tras pedir múltiples versiones del mismo prompt, el resultado arrojó un total de 78 hombres y 34 mujeres, en su mayoría personas de tez blanca.
Tecnología con sesgos
En 2017, en una entrevista realizada por la cadena CNET en español, Serafín Díaz, vicepresidente de ingeniería en la empresa tecnológica Qualcomm, anticipaba el sesgo en la Inteligencia Artificial.
Díaz señalaba que la IA, en esencia, sería un espejo de los datos que consume. Por lo tanto, si estos datos están cargados de sesgos o prejuicios, la Inteligencia Artificial inevitablemente reflejaría estas mismas características.
Esta problemática ha sido evidenciada en la creación de los algoritmos de redes sociales, donde tanto individuos como organizaciones han denunciado sesgos LGBTfóbicos. Así como estudios que han encontrado discriminación racial en la tecnología de reconocimiento facial.
Una visión distorsionada de la realidad
El bombardeo masivo de información e imágenes, junto con la influencia de la industria del entretenimiento sin criterio previo, podría representar un riesgo para la autodefinición identitaria, tanto de los individuos como de los pueblos.
En su obra «La cámara lúcida” (1980), Roland Barthes expone cómo la fotografía puede afectar nuestra percepción de la identidad y la realidad.
Barthes argumenta que la fotografía puede mostrar una versión distorsionada de la identidad de un sujeto, ya que es una imagen fija que no captura la complejidad, el dinamismo y la marginalidad de la vida real.
La sobre romantización de la cultura, la creación de conceptos de consumo, como en el caso de «Mexico is the shit», o las innumerables reinterpretaciones de las imágenes de Frida Kahlo, son ejemplos sutiles de cómo nuestra identidad sufre una síntesis a través de la imagen que, mediante la cotidianidad, normaliza y generaliza realidades que solo representan a unos pocos y principalmente obedecen a los intereses relacionados con el consumo.
La Dra. Clara Luz Álvarez, especialista en telecomunicaciones de la Universidad Panamericana, ha hablado sobre lo importante que es la diversidad en los medios de comunicación. Orientando su análisis a la particularidad de la sociedad actual, la cual es característicamente pluri cultural y se encuentra cada vez más polarizada,
Para Álvarez, es crucial el papel que desempeña la representación de la diversidad en los medios de comunicación para retratar las distintas realidades políticas, económicas y etnográficas, así como para fomentar el desarrollo de la tolerancia hacia lo diferente y hacia ‘el otro’, permitiendo una comprensión más profunda y equitativa de las múltiples dimensiones diferenciales de la sociedad.
Algunas ideas para mejorar la IA
El objetivo de este texto no es satanizar a la IA, pero sí una invitación a prestar atención a los valores y perspectivas de las culturas hegemónicas que estas nuevas tecnologías nos ofrecen, ya que podrían estar perpetuando la exclusión de grupos vulnerables, minorías y culturas no dominantes.
Aunque podría parecer redundante preguntarle a una IA soluciones para un problema que ella misma genera, no quise quedarme con las ganas e interrogué a Chat Gpt sobre algunas ideas para un uso más equitativo de la IA. Y esto me contestó:
- Lo primero sería promover la diversidad y la inclusión en el diseño y desarrollo de la IA y las nuevas tecnologías, es fundamental asegurarnos de que los datos y algoritmos que utilizamos representen las distintas culturas y perspectivas de nuestro mundo globalizado.
- Además, fomentar la cooperación y el intercambio de conocimientos en este ámbito puede garantizar que el desarrollo y la aplicación de estas tecnologías beneficien a todos y no solo a unos pocos.
- También es crucial incluir perspectivas no occidentales en la creación de la IA y las nuevas tecnologías, no solo referentes americanos. Trabajar en conjunto con investigadores, diseñadores y desarrolladores de diferentes culturas y orígenes puede enriquecer el proceso de creación y ayudarnos a abordar y desafiar los prejuicios y estereotipos culturales.
Para el ciudadano promedio que no tiene acceso directo al diseño y desarrollo de la IA, la aplicación de estas sugerencias puede no ser de mucha utilidad. Es aquí donde nos encontramos, una vez más, con la paradoja entre la teoría y la práctica.
Desde mi experiencia como creador, reflexionar sobre el tema me ha ayudado a tener más conciencia en la forma en la que redacto los prompts para que los resultados realmente sean representativos, pero he encontrado que incluso utilizar ciertas palabras en búsqueda de una imagen más diversa podría reforzar prejuicios o estereotipos que se tienen sobre una cultura.
Por último, considero que es importante reconocer que aunque la naturaleza humana siempre busca experiencias novedosas, no deberíamos olvidar el lenguaje más esencial del ser humano, que se relaciona con la conciencia del cuerpo, el sentido de comunidad y la emocionalidad.
Es importante trabajar constantemente para poder brindar las herramientas necesarias para reducir las desigualdades que enfrentamos en la actualidad ,y tal vez así, algún día podamos aspirar realmente a mejorar la calidad de información con la que alimentamos a la inteligencia artificial.