Cómo evitar el sesgo en los algoritmos de aprendizaje automático

En los últimos años, los algoritmos de aprendizaje automático (AA) se han demostrado muy útiles para ayudar a las personas a realizar diferentes tareas: clasificación y agrupación de datos, revelación de patrones, detección de anomalías y muchos más. Sin embargo, los algoritmos de AA pueden producir resultados sesgados que pueden ser muy injustos y ofensivos para algunas personas. Por ejemplo, un caso de sesgo en los algoritmos de AA se dio con ChatGPT, una herramienta de procesamiento de lenguaje natural que actualmente está en tendencia. Un profesor de la Universidad de California, Berkeley, le pidió a ChatGPT que produjera una función de código para verificar si una persona es un programador experimentado según su raza y género, y la herramienta eligió la variable "hombre blanco" como la respuesta correcta. En mi empresa, construimos regularmente soluciones impulsadas por AA, por lo que la alta precisión de los resultados es crucial para nosotros. Después de investigar y probar varios modelos de AA en varios proyectos, pudimos identificar reglas esenciales y soluciones que nos ayudan a minimizar el sesgo en los algoritmos de AA. Hay tres reglas clave que mi equipo y yo siempre observamos al crear algoritmos de AA: • Asegurar una recopilación adecuada de datos. Debe comprender claramente los datos exactos y sus características que se requieren para el entrenamiento correcto de su módulo de AA. La recopilación de datos debe ser guiada por un experto en el tema de la industria a la que se aplicará el algoritmo. Además, es necesario aprovechar el análisis exploratorio de datos (AED) para comprender la estructura, las propiedades y las posibles anomalías del conjunto de datos recopilado antes de aplicarlo al algoritmo. • Elegir el modelo de aprendizaje correcto. Hay diferentes tipos de enfoques de aprendizaje que puede elegir al construir un algoritmo de AA, como aprendizaje supervisado, no supervisado, semisupervisado, auto-supervisado, refuerzo, transferencia y en línea. Debe determinar qué enfoque o combinación es la más adecuada para su algoritmo en función del tipo de problema que resolverá, los datos disponibles y el resultado deseado. • Realizar una evaluación de sesgo en la vida real. Aunque un algoritmo puede funcionar bien en las condiciones controladas del proceso de desarrollo, las aplicaciones del mundo real pueden ser impredecibles. Debe probar su algoritmo de AA con datos factuales de manera regular para detectar y corregir el sesgo antes de que afecte negativamente a los usuarios. Creo que la prevención del sesgo nunca debe ser descuidada al construir algoritmos de AA. Es por eso que siempre mejoramos nuestro procedimiento de detección de sesgo y usamos diferentes técnicas y herramientas específicamente diseñadas para garantizar una alta precisión de los resultados. Mis cinco mejores soluciones anti-sesgo incluyen: 1. AI Fairness 360. El conjunto de herramientas de código abierto