Sistema de IA de Facebook causa polémica al calificar a afroamericanos como “primates”

Facebook se disculpó y prometió investigar la raíz del problema.
Facebook causó polémica por un video donde salen personas afroamericanas | Fuente: Pixabay

En los últimos años, las redes sociales han intentado implementar tendencias tecnológicas, como el uso de inteligencia artificial, sin embargo, Facebook se encuentra en el ojo del huracán, ya que uno de sus algoritmos tuvo resultados discriminatorios al etiquetar un video de afroamericanos como contenido de “primates”.

El video que fue causa de polémica, pertenece al periódico británico Daily Mail, el cual lleva más de un año publicado, pero, este reciente error detectado por al inteligencia artificial fue motivo de debate y disputa hacia la red social perteneciente a Mark Zuckerberg.

De acuerdo con el reporte de The New York Times, el video en Facebook se subió el 27 de junio de 2020 con la descripción: “hombres negros en altercados con civiles blancos y la policía”. Sin embargo, abajo del reproductor, a los usuarios se les preguntaba si querían continuar viendo videos sobre primates.

El video pertenece al diario Daily Mail | Fuente: Darci Groves

Hasta el momento no se sabe cuanto tiempo fue visible el error, ya que aparentemente Facebook no tenía idea del inconveniente hasta hace unos días, cuando el ex gerente de diseño de contenido de la red social, Darci Groves compartió una captura de pantalla dentro de un foro de empleados y ex empleados. Ante ello la firma desactivó las recomendaciones que están basadas en inteligencia artificial.

Ante ello, la empresa pidió disculpas por que las recomendaciones hayan resultado ofensivas para algunas personas. Aseguraron que se han realizado mejoras en su inteligencia artificial, que hasta el momento no es perfecta y todavía tienen más progreso por hacer, según el portavoz de Facebook, Dani Lever.

Facebook no es la primera red social y empresa que enfrenta problemas en sus tecnologías de reconocimiento facial, pues sus sesgos algorítmicos han favorecido a la discriminación, ya que son erráticas al procesar principalmente tonos de piel oscuros.

Recordemos un caso parecido en 2015, cuando al realizar la búsqueda de la palabra gorilas, la plataforma enlistaba entre sus resultados a personas afroamericanas, lo que provocó años más tarde la solución de censurar dicha palabra y las etiquetas en las imágenes.

***

No te pierdas el mejor contenido de Código Espagueti a través de nuestro canal de YouTube.

ANUNCIO