Sesgo Algorítmico

Imagina que creas un programa para elegir candidatos a un trabajo. Si lo entrenas con datos históricos de una empresa que siempre contrató más hombres, el algoritmo aprenderá ese patrón y tenderá a favorecer a hombres automáticamente, aunque eso sea injusto. El sesgo no viene del programa en sí, sino de la información sesgada con la que fue alimentado. Lo peligroso es que los algoritmos hacen esto de manera invisible y rápida, afectando a miles de personas. Un algoritmo puede negar créditos bancarios, rechazar candidatos, filtrar contenido o incluso influir en sentencias judiciales, todo basándose en sesgos ocultos. Muchas veces ni los creadores del algoritmo se dan cuenta del problema. Este problema es especialmente grave porque confiamos en las máquinas como si fueran objetivas, pero en realidad reflejan los prejuicios del mundo que las entrenó.

El término ganó relevancia en los años 2010, cuando empresas tecnológicas comenzaron a desplegar algoritmos en decisiones cruciales (contratación, justicia penal, créditos). En 2016, Amazon descubrió que su sistema de selección de empleados discriminaba a mujeres. Desde entonces, académicos como Cathy O'Neil y Safiya Noble han documentado cómo los algoritmos perpetúan injusticias históricas. El tema se ha convertido en una preocupación central de gobiernos, reguladores y activistas de derechos digitales.