30 Edición Semanal Lea el artículo completo en: https://t.ly/ux7O un sesgo (de género, raza, etcétera). Hasta hace poco, casi todos los grandes sistemas como Google o Microsoft han tenido errores. Detectaban correctamente a los varones caucásicos, pero no a las personas asiáticas o negras, lo cual introduce un sesgo racial que a la larga constituye un dilema ético, moral y con efecto acumulativo: el sistema termina favoreciendo a los fuertes y castigando a quienes ya sufren problemas. No son pocos los casos en los que los algoritmos de Internet han discriminado a determinados colectivos. La «trampa» de los algoritmos que ya ha hecho mella en el sistema judicial No es algo que pueda ocurrir: ya ha ocurrido. En la búsqueda permanente del sistema judicial por agilizar ciertos procesos se intenta solucionar con algoritmos algunos trámites. Hubo un caso mediático en Estados Unidos de América: se introdujo un algoritmo en algunos juzgados, llamado Compas, para predeterminar las posibilidades de reincidir de los delincuentes. Una investigación de ProPublica, agencia de noticias independiente y sin ánimo de lucro, destapó el sesgo racial: a las personas negras se les atribuía una tasa de reincidencia mayor y a las blancas, menor.
RkJQdWJsaXNoZXIy MTM0Mzk2