Sesgos en la IA: Por qué los algoritmos pueden ser machistas o racistas

La inteligencia artificial (IA) se presenta a menudo como una herramienta objetiva, pero una reciente investigación sobre cinco modelos de lenguaje en 12 países revela una realidad distinta: los algoritmos son espejos de nuestras propias desigualdades. En diálogo con Radio Buenos Aires AM 1350, el especialista Elisandro Santos explicó que el riesgo no es solo el sesgo en sí, sino la confianza ciega del usuario en la neutralidad de la máquina. “La inteligencia artificial no es machista o racista por sí misma, pero aprende de una sociedad desigual y se convierte en un gran amplificador de esas asimetrías”, advirtió.

Durante la charla, Santos detalló cómo los datos de entrenamiento (imágenes, textos e históricos) arrastran estereotipos que la IA reproduce. Mencionó casos emblemáticos como el de Amazon, que debió retirar un algoritmo de selección de personal porque descartaba sistemáticamente a mujeres al haber sido entrenado con perfiles mayoritariamente masculinos. Asimismo, se refirió a las preocupantes estadísticas del reconocimiento facial: estudios demuestran que casi el 80% de estos sistemas fallan más con mujeres o personas de piel oscura que con hombres blancos. Según el experto, esto ocurre porque las bases de datos no son lo suficientemente diversas.

Sin embargo, el panorama no es puramente distópico. Santos señaló que las grandes empresas tecnológicas ya están trabajando en el "reentrenamiento" y en ajustes algorítmicos para mitigar estos sesgos. Un dato clave para entender la problemática es la falta de representación en la industria: actualmente, menos del 25% de los profesionales dedicados al diseño de IA son mujeres. Para el especialista, una mayor diversidad en los equipos de desarrollo es fundamental para que la tecnología sea más inclusiva y asertiva.

Finalmente, Santos planteó una visión optimista sobre el equilibrio entre lo humano y lo automatizado. Citando ejemplos de convivencia exitosa entre robots y personas empáticas, sostuvo que la IA debería encargarse de las tareas triviales para permitirnos enfocarnos en lo que nos hace humanos. “La ciencia avanzó en los últimos 2 años lo que no pudo en 20 gracias a la IA; el objetivo es que podamos dedicar más tiempo a la familia, al arte y a la vida”, concluyó, invitando a ver la tecnología como un soporte para mejorar nuestra calidad de vida, siempre que se desarrolle con conciencia social.

La entrevista completa está disponible en nuestro canal de YouTube: Radio Buenos Aires.