El futuro llegó.
Los algoritmos son racistas, reproducen desigualdades y amplían asimetrías, dicen expertos
El colectivo brasileño “Alma Preta” (Alma Negra), que en su web pregona “un periodismo negro y libre”, argumentó que los algoritmos de las redes sociales son racistas y no sólo reproducen desigualdades, sino que inclusive amplían las asimetrías respecto de los ciudadanos blancos.
“Aparentemente neutrales, las tecnologías están diseñadas e implementadas por profesionales blancos”, dice parte de la introducción del artículo de Flávia Ribeiro, editado por Nataly Simões.
En este sentido, Tarcizio Silva, de la Fundación Mozilla, apunta los peligros de la inteligencia artificial al momento de generar visibilidad en redes. “Aquí tenemos un riesgo enorme para la democracia y los derechos humanos, ya que estas plataformas pueden moldear lo que la gente ve en su vida diaria y, por tanto, programar y enmarcar temas o incluso sentimientos”.
“Un software, modelo estadístico o modelo de aprendizaje automático no existe en el vacío. No se trata solo de código, sino de la materialización de las relaciones”, destacó Silva. Un ejemplo es el reconocimiento facial para la vigilancia, que ha demostrado ser extremadamente erróneo en todo el mundo, especialmente para personas no blancas. “Esta inexactitud aparentemente técnica es el resultado de cómo los creadores –desarrolladores, propietarios y empresarios- de tales sistemas perciben de manera diferente la humanidad de los diferentes grupos de población. Para algunos grupos, se ignoran las tasas de error más altas”, argumentó el especialista.
Silvana Bahía, coordinadora de PretaLab, destaca las dificultades que enfrentan a diario las personas afrodescendientes. Más del 90% de las detenciones realizadas por reconocimiento facial fueron de personas de piel negra. Asimismo, las redes sociales poseen filtros que, en gran medida, adelgazan la nariz y aclaran la piel. Por último, remarca que existen dispensadores de jabón que no reconoce las pieles negras y, por lo tanto, no liberan el líquido.
En su exposición, Bahía planteó que una de las formas de combatir el racismo en las tecnologías es expandir la diversidad de personas que producen estas herramientas.
Una de las iniciativas en esta dirección es PretaLab, que entre otras acciones mantiene una plataforma permanente con nombres de mujeres negras de todas las regiones del país. “Esto significa tener más mujeres negras produciendo, pensando, criticando y analizando tecnología. También queremos dar una respuesta al mercado laboral, que dice que no encuentra mujeres negras calificadas para el área tecnológica”, detalló Bahía.
···
