La Inteligencia Artificial (IA) no siempre es tan objetiva como parece. Así lo advirtieron académicos y estudiantes del Campus Celaya-Salvatierra de la Universidad de Guanajuato, quienes abrieron el debate sobre un tema que cada vez impacta más la vida cotidiana: el sesgo algorítmico y su relación con los derechos humanos.
Durante la conferencia “Cuando los algoritmos discriminan: el sesgo algorítmico de la IA como amenaza a los derechos humanos”, impartida por el especialista Jorge Alberto Andrade Aldana, pusieron sobre la mesa una realidad poco visible: los sistemas de IA pueden reproducir desigualdades sociales existentes.
El encuentro, realizado en modalidad presencial y virtual, explicó de forma clara cómo funcionan estas tecnologías. A través del llamado machine learning, los algoritmos aprenden de grandes cantidades de datos para tomar decisiones, pero ese mismo proceso puede arrastrar prejuicios si la información de origen está sesgada.
Uno de los puntos que más llamó la atención fue que cerca del 70% de quienes desarrollan IA son hombres, lo que puede influir en la forma en que se diseñan estas herramientas. Esto cobra relevancia en decisiones delicadas como la selección de personal, donde un sistema automatizado podría favorecer —sin que sea evidente— a ciertos perfiles sobre otros.
Además, señalaron que la mayor parte de la infraestructura tecnológica y la inversión en IA se concentra en países del llamado “Norte Global”, lo que genera una visión limitada del mundo. El predominio del idioma inglés y de contextos como Estados Unidos o China puede dejar fuera otras realidades culturales, lingüísticas y sociales.
Incluso detalles cotidianos, como los asistentes virtuales con voz femenina, fueron analizados como posibles reforzadores de estereotipos de género, al asociar la tecnología con roles de servicio y subordinación.
Otro de los enfoques clave fue la aplicación de la teoría de la “matriz colonial del poder” del sociólogo Aníbal Quijano al entorno digital. Bajo esta perspectiva, se explicó cómo factores como el capitalismo, el patriarcado y el colonialismo también influyen en el desarrollo tecnológico, reproduciendo jerarquías y desigualdades.
Para los especialistas, el reto no es frenar el avance tecnológico, sino hacerlo más justo. Por ello, el llamado final fue a construir una “justicia algorítmica”, que garantice que la IA no discrimine y que tome en cuenta la diversidad de las personas.