Personalización de los servicios públicos, sesgos e inteligencia artificial: hacia la consolidación de los derechos digitales en las administraciones públicas Julio Ponce Sole (IP), Agusti Cerrillo Martinez (IP), Clara Isabel Velasco Rico, Joost Johannes Joosten, Ramon Lluis Galindo Caldes, Anahi Casadesus de Mingo, Oscar Capdeferro Villagrasa, Javier Miranzo Diaz
Dades del projecte (GREC)
La finalitat d'aquest projecte és definir les garanties de la ciutadania davant l'ús de la intel·ligència artificial per l'Administració pública en la personalització de serveis.
El projecte aborda un tema nou respecte a recerques anteriors, sobre el qual existeix poca literatura jurídica i que exigeix un enfocament interdisciplinari, garantit per la composició de l'equip de recerca i del grup de treball.
Es tracta de la millora dels serveis públics en el marc del procés de transformació digital de les administracions públiques a través de la intel·ligència artificial. Aquesta millora serà estudiada des de la perspectiva de la personalització dels serveis públics i la lluita contra la mala administració, el frau i la corrupció.
Si bé aquesta millora està vinculada al rellevant dret a una bona administració, no hi ha dubte que presenta diversos riscos que seran objecte de consideració. D'una banda, les possibilitats i límits de l'exercici de potestats administratives discrecionals de manera totalment automatitzada. Per un altre, els possibles errors de programari que afectin el bon funcionament dels serveis públics en el marc de la Intel·ligència Artificial. En tercer lloc, els biaixos, tant cognitius dels programadors com els generats per l'aprenentatge automàtic. En quart lloc, la possible manipulació dels ciutadans generada per la unió de les aportacions de les ciències conductuals i la intel·ligència artificial (hypernudging). Finalment, una excessiva dependència tecnològica pública del sector privat podria suposar la transferència subreptícia a aquest de funcions públiques.
El projecte analitzarà la millora dels serveis públics, mitjançant les dues vies al·ludides, i el seu riscos, proposant mecanismes per a prevenir i mitigar aquests (ús de nudges, dissenys organitzatius i procedimentals, paper de les cartes de drets digitals...).