Algoritmos éticos, por Michael Kearns

Michael Kearns es profesor y director del Departamento de Ciencias Computacionales del Centro Nacional en la Universidad de Pennsylvania. Es, además, fundador del Warren Center for Network and Data Sciences, que también dirige, y del Penn Program en Ingeniería de sistemas sociales y en red.

Kearns está especializado en aprendizaje automático, teoría del juego algorítmico, redes sociales, finanzas computacionales e inteligencia artificial.

Es el co-autor de The Ethical Algorithm, libro que ofrece una serie de soluciones para el diseño de algoritmos éticos y socialmente respetuosos.

¿En qué consiste su trabajo?

Mis principales áreas de interés son el aprendizaje automático, la teoría algorítmica de juegos, las finanzas cuantitativas y otros temas relacionados con todo ello.

Desde hace poco me estoy dedicando a diseñar “algoritmos éticos” que incorporen normas sociales como la justicia y la privacidad. Recientemente he publicado un libro sobre el tema con mi colega Aaron Roth.

¿Nos dirigimos hacia una sociedad donde no tendremos ni nos importará la privacidad?

No lo creo, de hecho pienso que la preocupación por la privacidad en términos generales va en aumento. El problema es que ya hemos sacrificado gran parte de ella y eso es difícil de revertir.

Pero existen enfoques técnicos prometedores, como la privacidad diferencial que las empresas tecnológicas han comenzado a implementar y que se usará para proteger la privacidad en el próximo censo 2020 de EE. UU. Y si nos decantamos por ello, la mayor parte del aprendizaje automático y del análisis de datos podría realizarse preservando la privacidad.

Para contener la propagación del COVID-19, países como Corea del Sur están utilizando en gran medida información privada de los ciudadanos. Los operadores de redes móviles comparten datos sobre su actividad social y sus movimientos con el gobierno para decidir si confinar o no a la ciudadanía. ¿Qué opina sobre esto?

Ciertamente puedo entender la motivación del gobierno surcoreano dada la magnitud y lo que nos jugamos con la actual crisis. También parece que estos datos se están utilizando no para obligar al cumplimiento de normas sino para comprobar si el distanciamiento social está funcionando o no.

Creo que es algo bueno en tanto en cuanto este análisis proporciona información valiosa e infunde ánimos en la población. El problema de este tipo de utilización de información privada en situaciones de emergencia es lo que llamamos “expansión de la misión”: se comienza con una intención concreta, pero cuando acaba la emergencia, se le encuentra otros usos que son menos necesarios y más intrusivos. Esto es desgraciadamente lo que ocurrió después del 11S.

El RGPD de Europa afirma que “los datos de las personas son suyos y cualquiera que quiera procesarlos ha de obtener su consentimiento”. Con la pandemia actual, algunos países están creando excepciones para poder desactivarlo en circunstancias como las actuales. ¿Cómo podemos asegurarnos de que esto no menoscabe nuestro derecho a la privacidad?

Es la ‘expansión de la misión’ de la que hablaba antes: si la legislación y la normativa y se van relajar por la actual crisis, es imprescindible saber la naturaleza exacta y la duración de esas excepciones de forma muy detallada y precisa.

En el artículo de Horizon, revista de Investigación e Innovación de la UE, se menciona que “el intercambio de datos sin precedentes ha llevado a una investigación de brotes más rápida que nunca”. ¿Cree que los protocolos de recopilación de datos están siendo suficientemente supervisados y regulados?

No dispongo de información suficiente sobre este tema, pero dada la dimensión y urgencia de esta crisis del COVID-19, no me sorprendería si no está habiendo una gran supervisión (de cualquier cosa) en este momento, incluida la recopilación de datos.

En una crisis como ésta ¿Se deberían regular las transacciones con big data y los beneficios financieros directamente relacionados con la crisis?

Las personas venden activos todo el tiempo y por todo tipo de razones, por lo que creo que es importante no especular antes de conocer los detalles. Dado el poco conocimiento que tenemos de la crisis del COVID-19, sospecho que será difícil hablar de uso de información privilegiada basado en las conjeturas. Está claro que siempre habrá personas que intenten beneficiarse de la volatilidad del mercado causada por fenómenos mundiales. Pero al menos en los EE.UU. las leyes que rigen el uso de información privilegiada son bastante claras por lo que no creo que se requiera de una nueva norma específica.

¿Qué importancia tendrá la IA en la lucha contra las pandemias y cómo podemos garantizar que estos algoritmos sigan siendo éticos y socialmente conscientes?

Creo que el aprendizaje automático y los modelos estadísticos juegan un papel importante en las pandemias y, de hecho, muchos investigadores de estos campos están intentando ayudar de forma activa.

Es importante que estos modelos estén basados en datos y sean tan específicos para la crisis actual como sea posible y que, al mismo tiempo, estén entrenados con la correspondiente información biológica. Teniendo en cuenta lo que he comentado anteriormente, puede ser difícil concentrarse en cosas como la privacidad cuando uno se enfrenta a una emergencia de esta magnitud. Pero a medida que las herramientas algorítmicas para este tipo de situaciones vayan mejorando y su uso se extienda, este tipo de cuestiones se integrarán en ellas sin que los investigadores tengan que trabajar deliberadamente para ello.