++El científico de datos José de Jesús Arias García explicó por qué un modelo puede obtener buenos resultados generales y, al mismo tiempo, presentar errores que afectan de manera desigual a distintos grupos de población.
Los resultados de un sistema de inteligencia artificial (IA) no son necesariamente neutrales: pueden reproducir o amplificar sesgos presentes en los datos, en las decisiones de diseño y en el contexto en que se utilizan. Este fue uno de los temas centrales de la conferencia virtual “Sesgos en la inteligencia artificial”, impartida por José de Jesús Arias García a estudiantes y docentes de las áreas de ingeniería y tecnología de la Universidad de Colima.
La actividad se realizó en el marco del Programa de Transferencia de Conocimientos de la Red Global MX Capítulo España y la UdeC. Arias García, científico de datos y responsable de definir y priorizar el trabajo de desarrollo de productos en un equipo de ingeniería de aprendizaje automático en Bélgica, abordó los riesgos de los sesgos algorítmicos y los retos éticos que plantea el uso cada vez más extendido de estas tecnologías.
En la bienvenida, Walter Alexander Mata López, director de la Facultad de Ingeniería Mecánica y Eléctrica (FIME) de la Universidad de Colima, destacó que estos espacios de cooperación académica acercan a la comunidad universitaria con especialistas que comparten conocimientos, experiencias y perspectivas sobre temas de relevancia actual.
Señaló que hablar de inteligencia artificial resulta cada vez más necesario porque estas herramientas se utilizan para estudiar, trabajar, investigar, generar contenidos, analizar información y apoyar la toma de decisiones. Sin embargo, advirtió que no debe asumirse que los resultados de un algoritmo son necesariamente objetivos o neutrales.
“Detrás de estos sistemas hay datos, decisiones de diseño, criterios de selección y, al final, tenemos personas y sociedades que también tienen sesgos”, explicó. Por ello, consideró fundamental preguntarse de dónde provienen los datos, a quiénes representan, qué pueden estar dejando fuera y cuáles son las consecuencias de utilizar sus resultados para tomar decisiones.
Durante la conferencia, Arias García explicó que el estudio de los sesgos no comenzó con la IA generativa, aunque la expansión de estas herramientas ha acercado el tema a la vida cotidiana. En los sistemas de aprendizaje automático, los sesgos pueden relacionarse con datos poco representativos, desigualdades históricas reflejadas en la información o decisiones sobre cómo entrenar, evaluar y utilizar los modelos.
Para ilustrarlo, presentó ejemplos de modelos que clasifican información o generan predicciones utilizadas para apoyar decisiones, así como casos relacionados con la contratación laboral, la justicia, el reconocimiento facial y el otorgamiento de créditos.
Uno de ellos fue COMPAS, una herramienta de evaluación del riesgo de reincidencia utilizada en el sistema de justicia de Estados Unidos. Este caso ha generado debate sobre las diferencias en las tasas de error entre grupos de población y sobre los criterios empleados para evaluar la equidad de las predicciones.
También abordó problemas documentados en algunos sistemas de reconocimiento facial, cuyos errores pueden variar entre grupos demográficos. Estas diferencias dependen del algoritmo, dijo, de los datos y de las condiciones de las imágenes, por lo que no deben atribuirse por igual a todos los sistemas.
El especialista subrayó que un buen desempeño global no garantiza resultados igualmente adecuados para toda la población. Un modelo puede alcanzar un alto porcentaje de aciertos y, aun así, cometer más errores en determinados grupos, con consecuencias relevantes cuando sus predicciones se emplean en decisiones que afectan a las personas.
Ante estos riesgos, explicó que existen estrategias para reducir los sesgos en distintas etapas del desarrollo: revisar la calidad y representatividad de los datos antes del entrenamiento, modificar los métodos de aprendizaje e introducir ajustes en las predicciones o en los umbrales utilizados para tomar decisiones.
No obstante, señaló que ninguna técnica garantiza por sí sola la eliminación de los sesgos. Cada aplicación requiere analizar el contexto, la población involucrada y las posibles consecuencias de su uso, además de evaluar el desempeño del sistema en distintos grupos.
Arias García invitó al estudiantado a aprovechar las herramientas de inteligencia artificial con una actitud crítica y sin asumir que sus respuestas son necesariamente correctas. Recomendó aprender a identificar sus limitaciones y verificar la información que proporcionan.
Finalmente, destacó que identificar y reducir los sesgos es una responsabilidad compartida entre quienes desarrollan los sistemas y quienes los utilizan, incluidas instituciones, empresas y personas.
