¿El algoritmo de Instagram tiene un sesgo contra mujeres y minorías?

Muchas personas sospechan que el algoritmo de Instagram no es imparcial. Esta es la lucha de la plataforma Salty por entender (y desafiar) el sesgo.

algoritmo de instagram
Foto. Unsplash

Los algoritmos funcionan de formas misteriosas, tanto en las apps de ligue como en las redes sociales. Desde que comenzamos a vivir nuestra vida en línea, dependemos de estos sistemas para encontrar las cosas que buscamos… y para que nos encuentren también.

En el caso específico de Instagram, su algoritmo ha cambiado ya varias veces, lo que genera confusión y rumores: que ya nadie ve las fotos del grid, que se prioriza a las imágenes que encajan en el estándar de belleza, que las personas con cuerpos no normados o en la comunidad LGBTTTI reciben “castigos” de forma desproporcionada, etc.

Además, claro, están las cosas que sí sabemos, como por ejemplo que los pezones masculinos pueden aparecer en fotos, pero los femeninos son motivo de sanciones.

Instagram GIF - Find & Share on GIPHY

Salty vs. el algoritmo de Instagram

Salty, una plataforma y newsletter dirigida a mujeres y personas trans y no binarias, lleva un tiempo luchando contra el algoritmo de Instagram.

En julio de 2019, Salty creó una sesión de fotos protagonizada por mujeres trans y plus-size, así como personas indígenas, negras y racializadas. Cuando trató de promocionarlas, los anuncios fueron rechazados por “promover el trabajo sexual.”

Según explica la misma plataforma en su página web, la publicidad que generó este caso llevó a que Facebook (la empresa a la que pertenece Instagram), se comprometiera a reunirse con representantes de Salty para discutir su caso, pero esa reunión no ha sucedido.

Una encuesta a personas usuarias de Instagram

Aún así, Salty creó una encuesta en la que las personas suscritas pudieron responder sus experiencias con Instagram. La plataforma misma advierte que no es un estudio con una metodología infalible, pero sus resultados confirman varias sospechas.

Respondieron 118 personas, de las cuales 80 se identifican como LGBTQIA+, 35 como plus-size, otras 35 como trabajadoras sexuales, más de 60 como mujeres cis, casi 40 como personas de color. También había una minoría de hombres cis, trans y queer.

Gráfica. Salty

De estas personas, a quienes les negaron promociones de fotos o les deshabilitaron sus cuentas, la gran mayoría (44 personas) no recibieron razones más allá de “violación de las normas de la comunidad”. Esta falta de retroalimentación significa que no saben qué cambiar o cómo mejorar sus cuentas para que esto no suceda de nuevo.

Pero casi la mitad (49%) de las cuentas que fueron deshabilitadas después se volvieron a habilitar, lo que significaría que fue un error suspenderlas en primer lugar.

Gráfica.Salty

5 testimonios de quienes respondieron la encuesta

Los testimonios que recogió Salty sugieren que algunas herramientas que se usan supuestamente para proteger a mujeres y minorías pueden ser usadas en su contra (como la denuncia de posts ofensivos).

Además, las normas poco definidas afectan especialmente a grupos o microempresas que dependen de Instagram para promocionarse, pero ofrecen contenido único o diferente.

“Mis posts ya no aparecen en las búsquedas de hashtags porque usé uno que se asocia con la pornografía, así que etiquetaron mi cuenta como una pornográfica. Uso etiquetas como body positive, body image y back girl magic.”

“Nuestra página feminista fue deshabilitada atomáticamente cuando un grupo de MRAs (Men’s Rights Activists o activistas por los derechos de los hombres) hizo un ataque selectivo.”

“Nunca me dijeron por qué borraron mi cuenta. Creo que fue porque pongo fotos en ropa interior. Soy una diseñadora de ropa interior intentando empezar mi negocio, así que casi siempre soy mi propia modelo. Trabajé mucho en mi arte para que lo borren sin explicación.”

Illustration Woman GIF by Kim Campbell - Find & Share on GIPHY

“No pueden promover desnudos en mi anuncio, pero son pinturas. Incluso traté de promover un flyer simple de una expo, sin desnudos, solo con texto, y fue rechazado.”

“Dijeron que violé las normas de desnudos cuando no mostré ninguna parte íntima. Soy un hombre gordo y moreno, así que a la gente no le gusta ver mi piel.”