Los algoritmos son una herramienta poderosa que se utiliza en una amplia gama de aplicaciones, desde la toma de decisiones en los negocios hasta la asignación de recursos en el gobierno. Sin embargo, los algoritmos también pueden ser sesgados, reflejando los prejuicios de sus creadores o de los datos en los que se basan.

Cuando los desarrolladores de algoritmos ocultan o justifican estos sesgos, se conoce como mathwashing. Esto puede tener consecuencias negativas, ya que puede perpetuar la discriminación y la desigualdad.

¿Cómo funciona el mathwashing?

El mathwashing suele funcionar de una de las siguientes maneras:

• Utilización de fórmulas matemáticas complejas: Los desarrolladores pueden utilizar fórmulas matemáticas complejas que son difíciles de entender para los no expertos. Esto puede dificultar que los usuarios identifiquen los sesgos en los algoritmos.
• Presentación engañosa de los resultados: Los desarrolladores pueden presentar los resultados de los algoritmos de una manera que oculta los sesgos. Por ejemplo, pueden centrarse en los resultados positivos, mientras que ignoran los resultados negativos.
• Explicación incompleta de los datos: Los desarrolladores pueden no proporcionar información completa sobre los datos en los que se basan sus algoritmos. Esto puede dificultar que los usuarios entiendan cómo los sesgos de los datos pueden influir en los resultados de los algoritmos.

Ejemplo de mathwashing

Un ejemplo de mathwashing es un algoritmo de reconocimiento facial que es más preciso para los hombres que para las mujeres. Los desarrolladores de este algoritmo podrían ocultar este sesgo utilizando una fórmula matemática compleja que es difícil de entender para los no expertos.

Otro ejemplo es un algoritmo de clasificación crediticia que es más propenso a rechazar las solicitudes de préstamos de las personas de color. Los desarrolladores de este algoritmo podrían ocultar este sesgo presentando los resultados de una manera que se centra en los resultados positivos, mientras que ignora los resultados negativos.

¿Cómo evitar el mathwashing?

Hay varias cosas que podemos hacer para evitar el mathwashing:

• Educar a los desarrolladores de algoritmos sobre los sesgos: Los desarrolladores de algoritmos deben ser educados sobre los sesgos y cómo identificarlos.
• Exigir a los desarrolladores que sean transparentes sobre los datos: Los desarrolladores deben ser transparentes sobre los datos en los que se basan sus algoritmos y cómo se usan esos datos.
• Crear herramientas para identificar los sesgos: Se necesitan herramientas para ayudar a los usuarios a identificar los sesgos en los algoritmos.

Conclusiones

El mathwashing es una práctica importante a tener en cuenta a la hora de evaluar los algoritmos. Es importante ser consciente de los sesgos potenciales en los algoritmos y exigir a los desarrolladores que sean transparentes sobre los datos y el proceso utilizados para crear sus algoritmos.