Written by Wellington Migliari | Repost from blogs.uoc.edu (read it here with images from the event). Want to read it in English? Click here.
Durante los días 18 y 19 de septiembre, se realizó el Symposium Public Administration and the EU Proposal for a Regulation of Artificial Intelligence en la Universitat Oberta de Catalunya y en la Universitat de Barcelona sobre la regulación de la IA en el ámbito europeo. Hemos contado con diferentes invitados como el Dr. Joost J. Joosten, Universitat de Barcelona, con su presentación Le nozze di Giustizia abordando cuestiones de IA, lógica formal, derecho y lenguaje computacional. Por otro lado, el Dr. Enrico Carloni, Università degli Studi di Perugia, se atentó al tema de la transparencia con la intervención Transparency and AI: attempting to catch a difficult horse. La Dra. Nicoletta Rangone, The challenges of AI to regulators, Università di Roma LUMSA, detalló una densa combinación de causas relacionada con los posibles éxitos y riesgos a partir del uso de la IA en las administraciones públicas. El Dr. Michael Gøtze, Political and systemic push for legal pre-accept of AI solutions, Copenhagen University, en la misma línea del derecho comparado sobre la automatización en las administraciones públicas expuso el caso danés, la evolución normativa en manos del legislador y los restos que el legislador en Dinamarca tendrá por adelante.
Sobre el control interno por las administraciones públicas cuanto al uso de la IA, las doctorandas Eva Mota y Mónica García, Universidad de Sevilla y Florencia, presentaron los resultados parciales de su investigación con la ponencia Artificial Intelligence in the internal control of the local Public Sector: Algorithmic Audit. El Dr. Francisco Luis Pérez, en Some considerations on the «human reserve» and the human supervision in the field of public security, Universidad Pablo de Olavide, se detuvo en la reflexión sobre la reserva de humanidad cuando nos referimos al uso de la IA y, sobre todo, el tema de la seguridad nacional y informaciones sensibles desde una perspectiva europea. La intervención de Anahí Casadesús, Data governance in the AI Act, Universitat Autonoma de Barcelona, demostró de qué manera Espanya puede superar los diversos obstáculos aún presentes en las administraciones públicas en materia de gobernanza de datos. El último ponente invitado, el Dr. Javier Miranzo Días, The European AI Act as a risk regulation tool, Universidad de Castilla-La Mancha, trató de las estrategias regulatorias sobre el uso de la IA en el ámbito europeo y nacional.
A seguir, un resumen sobre las intervenciones de los miembros del Proyecto Digitapia con recorte temático y enlaces de interés.
El Symposium Public Administration and the EU Proposal for a Regulation of Artificial Intelligence dio lugar a las primeras ponencias en que los miembros del Proyecto Digitapia compartieran resultados más recientes de investigación tras la aprobación de la propuesta EU Regulatory Framework for AI por el Parlamento Europeo el pasado 14 de junio de 2023. Ante el temor y el desconocimiento de los Estados europeos, pero sin radicalizar en una propuesta de prohibición absoluta del uso de la IA, la Comisión Europea preparó un documento que impone reglas para el uso algorítmico sea en el sector público o privado.
Algunos puntos relevantes que han orientado los retos de investigación de cada miembro del Proyecto Digitapia. El primero es que el uso de máquinas no debe ser de cara implementado en todos los ámbitos y niveles de actuación de las administraciones públicas, porque, aún reduzca considerablemente la cantidad de trabajo en el sector público en tareas muchas veces repetitivas, la automatización completa, general e irrestricta acaba por eliminar o afrontar principios caros al derecho.
El segundo y el tercer puntos desmenuzan, respectivamente, el tema del uso de la IA tomando como referencia la producción de sesgos y la discriminación. Como los algoritmos necesitan entrenamiento y las bases de datos sirven de apoyo a esto, no tenemos garantías de que los Estados estén preparados para este desafío una vez que la información concerniente a la ciudadanía requiere todavía tratamiento, ajustes y actualización. Además, la manera como cada país recoge los datos de sus ciudadanos y residentes, a veces direccionando convicciones políticas e individuales en el ejercicio de la función pública, tengamos presente el caso holandés del conservador Mark Rutte, para cuestionar ayudas y prestaciones sociales hacia grupos específicos como inmigrantes y madres solteras.
Siguiendo esas y otras evidencias, una de las ponencias impartidas durante el simposio cuanto a los resultados de investigación encontrados hasta ahora presentó, entre otros argumentos, el riesgo que hay en mitigar o mismo eliminar la actuación del poder discrecional en las administraciones públicas. De acuerdo con el Dr. Juli Ponce Solé, la automatización completa de la toma de decisión en el sector público pone en riesgo el principio de la buena administración, amenaza la reserva de humanidad y retira del procedimiento administrativo el elemento de la empatía humana. Para saber más, haz click aquí.
El Dr. Oscar Capdeferro, a su vez, presentó su trabajo sobre el uso de máquina y automación con la finalidad de detectar riesgos y posibles indicios de corrupción en la contratación pública. El Dr. Capdeferro, por ejemplo, hace referencia al sistema SALER y MINERVA bajo la práctica de red flags, es decir, «banderitas rojas» generadas por análisis automatizado de datos sobre contratos que indican posibles riesgos de actos ilícitos en el sistema de contratación pública. Es importante destacar que, segundo el Dr. Capdeferro, los algoritmos también son capaces de rastrear formas de negligencia o irregularidades formales entre el sector público y privado que no necesariamente son pruebas de fraude. Para saber más, haz click aquí.
Sobre la producción de sesgos en el uso de la IA, el Dr. Agustí Cerrillo i Martínez argumenta que algunos de los riesgos inherentes al uso de IA en las administraciones públicas se deben a la programación algorítmica direccionada a grupos específicos sin la debida motivación. Errores algorítmicos que pueden generar consecuencias y efectos negativos en personas, sobre todo, con alguna condición de vulnerabilidad. Además, en casos similares, la AI suele producir resultados sesgados o incorrectos que no representan la realidad sobre las personas analizadas. Por fin, el Dr. Cerrillo menciona el sesgo de inclinación, o sea, el grado en que un valor de referencia se desvía de la verdad y induce la administración pública, como resultado, a la discriminación y vulneración de derechos fundamentales. Para saber más, haz click aquí.
La última ponencia a cargo del Dr. Ramón Galindo trató de la transformación digital y el uso de la IA en el sector público. Específicamente, el Dr. Galindo se atentó a los posibles impactos y cambios vividos en las administraciones públicas causados por la creciente demanda de personal experto en tecnologías y en administración digital. Para él, actualmente, no podemos descartar la urgencia que el sector público tiene en reclutar personas o aumentar sus recursos humanos con perfiles especializados, pues es innegable que el aumento de la automatización de decisiones significa mayor agilidad en trámites y procedimientos. Ante tales aparentes y tentadoras ventajas, el Dr. Galindo propone una reflexión sobre la estrecha relación entre las decisiones administrativas y lo que él denomina de «alfabetización en IA». Disponer de más tecnologías implica que tanto el empleado público como todo el conjunto de una sociedad adquieran conocimiento crítico sobre datos, el funcionamiento de algoritmos e identificación de sesgos. Para saber más, haz click aquí.
Organizan el simposium el Dr. Juli Ponce Solé y el Dr. Agustí Cerrillo i Martínez en que colaboran el Dr. Oscar Capdeferro Villagrasa y la doctoranda Petia Guintchev Toneva.
El simposio contó con el apoyo del Proyecto de Investigación PID2020-115774RB-I00 Personalización de los Servicios Públicos, Sesgos e Inteligencia Artificial: hacia la Consolidación de los Derechos Digitales en las Administraciones Públicas. Ver más aquí.
Programa y las presentaciones en los enlaces a seguir:
- AI-Act-and-Human-Resources
- AI-in-Rules-Life-Cycle
- AI-Risk-Regulation
- Artificial-Intelligence-in-the-Internal-Control
- Data-Governance-and-Record
- European-Act-of-IA
- Le-nozze-di-Giustizia
- Political-and-Systemic-Push-for-the-Pre-Acceptance-of-Digital-and-AI-Solutions
- Preventing-Biased-Results-and-Discriminatory-Effects
- Red-Flags-System_
- Some-Considerations-on-the-Human-Reserve
- Some-Considerations-on-the-Relationship