Sabemos que los algoritmos están cada vez más arraigados en nuestras vidas, pero ¿estamos dispuestos a dejarlos sin supervisión? ¿Pueden las administraciones públicas confiar en los algoritmos para realizar cambios sustanciales en nuestra sociedad?
Los algoritmos a menudo demuestran sesgos, lo que puede provocar discriminación. Preguntamos a algunos de los expertos mundiales cómo los algoritmos pueden convertirse en una herramienta para reducir las divisiones sociales, en vez de exacerbarlas.
«Los cinturones de seguridad, reposacabezas y airbags se han diseñado principalmente en base a simulaciones de accidentes utilizando el físico masculino»
Cristina Pombo es asesora del Sector Social del Banco Interamericano de Desarrollo (BID). Es experta en temas operativos y estrategias especiales en educación, salud, protección social, mercados laborales, género, diversidad y migración. Pombo también lidera la estrategia de transformación digital para América Latina y el Caribe.
“Con la introducción de sistemas de toma de decisiones automatizado, las personas en primera línea de los servicios sociales, que conocen la vida de los usuarios, puede quedar desempoderadas.»
Itziar Pobes, cerebro que dirige los proyectos de We Question, estudio de diseño de servicios en Barcelona, nos habla sobre la posibilidad de que el diseño de algoritmos se vuelva inclusivo.
«Con los algoritmos de caja negra puede ser difícil desentrañar si sus decisiones en rrhh, por ejemplo, son justificadas»
Ansgar Koene es un investigador, ingeniero eléctrico y doctor en física y neurociencia computacional especializado en ética, estándares, política y gobernanza de la inteligencia artificial. Su trabajo se centra en el desarrollo de herramientas regulatorias para maximizar los beneficios de las tecnologías de la información y la Inteligencia Artificial y minimizar sus consecuencias negativas para las personas y la sociedad.
“Si dejamos a los hombres construir sistemas dirigidos a mujeres, es probable que el resultado no sea óptimo en términos de conseguir una igualdad de género».
Hablamos con Christiaan Van Veen, director del Proyecto de Derechos Humanos y Estado de Bienestar Digital de la Universidad de Nueva York, sobre los beneficios de un gobierno digitalizado y la priorización del análisis de género.
“Dado que la industria tecnológica está dominada por hombres jóvenes y blancos, creo que los sesgos persistirán». .
Kristin Heffernan es profesora de la Facultad de Trabajo Social en el Brockport College de la State University of New York y doctora en Trabajo Social por el Boston College. Es una de las principales expertas en sesgo de género en políticas y servicios sociales y ha sido miembro de la Coalición contra la Violencia Doméstica de Massachusetts. También ha impartido clases en la Universidad de Londres desde 2003 a 2009, por lo que su visión es global.
