Twitter anunció que realizará una investigación a su algoritmo de previsualización de imágenes por acusaciones de preferir a las personas blancas.
Los usuarios Twitter denunciaron una posible discriminación racial en la red social. Las acusaciones aseguran que al recortar una imagen para su previsualización el algoritmo elige las caras blancas.
El programador Tony Arcieri publicó un hilo con una imagen con los políticos estadounidense Mitch McConnell y Barack Obama. La foto publicada es una tira alargada con un político en cada extremo y el centro en blanco. Twitter selecciona la previsualización de la parte de la imagen que considera más importante, en este caso el algoritmo siempre favorecía a McConnell.
Al escuchar esta denuncia, muchos usuarios alrededor del mundo realizaron la prueba con distintas imágenes y personajes. Los resultados varían en cada caso.
Aunque en publicaciones de otros usuarios no es evidente este sesgo racial, Twitter decidió investigar su algoritmo. También afirman que en la prueba del algoritmo antes de lanzarlo no se evidencio ninguna discriminación por razas o géneros.
«Queda claro por estos ejemplos que tenemos que hacer más análisis. Continuaremos compartiendo lo que aprendamos y las acciones que tomemos, y publicaremos nuestros análisis para que se puedan revisar y replicar” explicó Twitter al medio español Verne.
Dantley Davis, director de diseño de Twitter, expresó que siguen investigando y apuntó que el algoritmo se basa en otros factores, como la ropa y la posición de las manos.
Twitter, como otras aplicaciones, utiliza algoritmos que funcionan con Aprendizaje Automático. El algoritmo inicial se alimenta de miles o millones de ejemplos y busca similitudes entre ellos. Esto genera un modelo que se aplica a cualquier nuevo elemento, el no escoger bien los ejemplos puede introducir sesgos no intencionales.
Lea tambien: ESET informa de los beneficios de eliminar tu cuenta en Houseparty
