Personalización de los servicios públicos, sesgos e inteligencia artificial: hacia la consolidación de los derechos digitales en las administraciones públicas Julio Ponce Sole (IP), Agusti Cerrillo Martinez (IP), Clara Isabel Velasco Rico, Joost Johannes Joosten, Ramon Lluis Galindo Caldes, Anahi Casadesus de Mingo, Oscar Capdeferro Villagrasa, Javier Miranzo Diaz
Datos del proyecto (GREC)
La finalidad de este proyecto es definir las garantías de la ciudadanía frente al uso de la inteligencia artificial por la Administración pública en la personalización de servicios.
El proyecto aborda un tema novedoso respecto a investigaciones anteriores, sobre el que existe poca literatura jurídica y que exige un enfoque interdisciplinario, garantizado por la composición del equipo de investigación y del grupo de trabajo.
Se trata de la mejora de los servicios públicos en el marco del proceso de transformación digital de las administraciones públicas a través de la inteligencia artificial. Esta mejora será estudiada desde la perspectiva de la personalización de los servicios públicos y la lucha contra la mala administración, el fraude y la corrupción.
Si bien esta mejora está vinculada al relevante derecho a una buena administración, no cabe duda de que presenta varios riesgos que serán objeto de consideración. Por una parte, las posibilidades y límites del ejercicio de potestades administrativas discrecionales de forma totalmente automatizada. Por otro, los posibles errores de software que afecten al buen funcionamiento de los servicios públicos en el marco de la Inteligencia Artificial. En tercer lugar, los sesgos tanto cognitivos de los programadores como los generados por el aprendizaje automático. En cuarto lugar, la posible manipulación de los ciudadanos generada por la unión de las aportaciones de las ciencias conductuales y la inteligencia artificial (hypernudging). Por último, una excesiva dependencia tecnológica pública del sector privado podría suponer la transferencia subrepticia a éste de funciones públicas.
El proyecto analizará la mejora de los servicios públicos, mediante las dos vías aludidas, y sus riesgos, proponiendo mecanismos para prevenir y mitigar estos (uso de nudges, diseños organizativos y procedimentales, papel de las cartas de derechos digitales... ).