Las administraciones públicas están en pleno proceso de transformación. El uso de sistemas automatizados o algoritmos de apoyo para la toma de decisiones es cada vez más común. En este podcast hemos conocido ejemplos concretos de sistemas que algunas administraciones en España, a nivel autonómico y estatal, usan desde hace años.
En este capítulo final abrimos un espacio para la reflexión sobre hacia dónde va esta automatización del sector público. También profundizamos en cuestiones como los límites éticos y democráticos de los algoritmos; la necesidad de tratar de mitigar los sesgos inherentes a estos sistemas; o los retos de los gobiernos al gestionar sociedades cada vez más complejas y repletas de datos.
Para ello charlamos con el filósofo y ensayista Daniel Innerarity y el científico de datos y experto en Inteligencia Artificial (IA) Ricardo Baeza-Yates.
La propuesta de regulación de la Comisión Europea para un uso responsable de la IA puede marcar un hito para el futuro de las herramientas automatizadas. Europa quiere aumentar el control sobre los algoritmos que tienen un riesgo potencial sobre las vidas y los derechos de las personas. Y, en lo posible, impulsar la transparencia y la rendición de cuentas en torno a ellos.
Con la periodista especializada en tecnología Karma Peiró analizamos esta propuesta. Y también ponemos el foco en las iniciativas que desde la sociedad civil han aparecido en los últimos años para exigir un uso más ético de los algoritmos.
Para terminar nos sentamos con Tanya Álvarez, investigadora de Digital Future Society, y conocemos las principales conclusiones de su trabajo. También hablamos sobre la necesidad de abrir el debate público en torno a estos sistemas y de escuchar a las personas directamente afectadas.
Todo ello con el objetivo de ayudar a los gobiernos, y a la sociedad en su conjunto, a construir algoritmos basados y pensados para el bien común.