Alexa

El algoritmo de Twitter prefiere personas de piel clara, jóvenes y femeninas

El algoritmo de Twitter de recorte de imágenes, prefiere caras con filtros de belleza, delgadas, de tonos claros y con apariencia juvenil.

 

Twitter lanzó hace unos días un programa de recompensas para que programadores de todo el mundo identificaran los potenciales daños de su algoritmo de recorte de imágenes. Este concurso ha reafirmado la presencia de sesgos, ya que se descubrió que favorece las imágenes de personas de piel clara, jóvenes y femeninas.

 

El algoritmo en cuestión fue lanzado en el año 2018 para hacer un recorte inteligente que destacara las áreas relevantes de una imagen que no pudiera mostrarse de forma completa en la previsualización que aparece usualmente en los muros de los usuarios. Sin embargo, desde su lanzamiento probó ser un instrumento bastante controversial.

Twitter detectó ciertas fallas en su algoritmo - CBFXNews
Desde su lanzamiento, el algoritmo fue controversial.

Varios usuarios de la plataforma se quejaron de algoritmo y ofrecieron varios ejemplos demostrando el sesgo de esa inteligencia artificial. Al respecto, Twitter prometió hallar todos los problemas con el algoritmo y desde el pasado mes de marzo desactivaron el algoritmo.

 

Con el objetivo de comprender por qué sucedían los sesgos en el recorte de imágenes y también para descubrir otros posibles errores que se estuvieran escondiendo, Twitter lanzó un concurso para que hackers de todo el mundo pusieran a prueba sus habilidades y encontraran qué podría estar mal con el algoritmo apoyado por inteligencia artificial.

Concurso de Twitter reveló que su algoritmo prefiere las caras con filtros de belleza | LT7Noticias
El concurso se lanzó con el objetivo de descubrir fallos en el algoritmo de Twitter.

El primer lugar lo consiguió un estudiante de posgrado en EPFL (una universidad de investigación en Suiza), quien además recibió el premio mayor de 3,500 dólares por su descubrimiento. Su resultado demostró que el algoritmo de recorte de Twitter favorece las caras que son «delgadas, jóvenes, de color de piel claro o cálido y textura de piel suave, y con rasgos faciales estereotípicamente femeninos».

 

Al respecto, el estudiante explicó que algoritmo de Twitter es una amplificación de los sesgos ya existentes en la sociedad y que así es como literalmente recorta a «aquellos que no cumplen con las preferencias del algoritmo de peso corporal, edad, color de piel».

La obsesión por los filtros de Instagram amenaza la autoestima
Los filtros que modifican el aspecto de las caras también serían favorecidos por el algoritmo.

 

Estos resultados demostrarían también una tendencia del algoritmo por favorecer las caras que hayan sido editadas automáticamente por filtros de belleza, por lo que tendrían un favorecimiento artificial del cual podrían aprovecharse aquellos que quisieran acaparar el recorte automatizado.

 

Por otro lado, el participante que se quedó con el segundo puesto, dio a conocer queel sesgo del algoritmo no se limita a las caras reales, pues la inclinación hacia tonos más claros también se dio usando emojis como objetos de prueba y se obtuvieron resultados bastante similares a los ya expuestos.

 

Así como también demostró que el algoritmo perpetuaba la marginación de determinados grupos sociales como los ancianos y las personas con discapacidad, que quedaban excluidos de los recortes de fotos.

 

Finalmente, el tercer lugar de la competencia, encontró que los prejuicios también se podrían hallar con contenido escrito, pues se encontró que al comparar los memes usando escritura en inglés y árabe, el algoritmo recortaba regularmente la imagen para resaltar el texto en inglés principalmente. De esta forma, se afecta la diversidad lingüística en la plataforma.

 

Por ahora Twitter analizará los resultados del concurso para encontrar cómo resolver los errores que se dieron a conocer y así reparar el algoritmo antes de volver a lanzarlo oficialmente si demuestra ser lo suficientemente útil y eficaz.

 

Fuente: infobae / Euro Press

LA REGION

NACIONALES

INTERNACIONALES

ULTIMAS NOTICIAS

Columnas