En la actualidad, la administración pública se enfrenta a una revolución impulsada por la creciente integración de la inteligencia artificial (IA). Esta transformación plantea tanto oportunidades como desafíos significativos para el liderazgo y la gestión. Este artículo analiza la evolución de los paradigmas de reforma en el sector público y el impacto de las tecnologías de la información y comunicación (TIC), demostrando cómo estas herramientas han pasado a configurar el modelo de gobernanza, al que podríamos denominar «Gobernanza Pública Algorítmica».
Para comprender mejor este panorama, es crucial analizar la evolución de los paradigmas de reforma del sector público y el impacto de la tecnología en el mismo.
1. Introducción: «Gervasio Para Todo» y los Sistemas de Aprendizaje Automático Profundo
Imaginemos un nuevo asistente en la oficina, alguien que parece poseer un conocimiento extraordinario sobre cualquier tema. Este asistente, al que llamaremos Gervasio, es capaz de seleccionar modelos de pliegos de cláusulas administrativas particulares de contratos, analizarlos y redactar un nuevo borrador personalizado en cuestión de minutos. Lo que antes requería jornadas de trabajo, ahora se realiza en tiempo récord. Si eres hábil para formularle la pregunta o instrucción (prompt o texto inicial de entrada) de lo que quieres obtener (salida) dándole adecuado contexto, será enormemente eficaz y eficiente.
Gervasio trabaja incansablemente, 24 horas al día, 7 días a la semana, siempre dispuesto a ayudar. Este asistente es, en realidad, un sistema de IA Generativa, un tipo de algoritmo de aprendizaje automático diseñado para comprender el contexto, generar respuestas, prestar asistencia y hacer predicciones.
El desarrollo vertiginoso de la IA, especialmente de la IA Generativa, es un tipo de algoritmo de aprendizaje automático diseñado para comprender el contexto, generar respuestas, prestar asistencia, hacer predicciones, etc. Los algoritmos tradicionales no son otra cosa que una secuencia bien definida y ordenada de pasos o instrucciones para realizar una tarea determinada o resolver un problema específico o alcanzar un objetivo. Es, esencialmente, una receta o un plan de acción. Los de machine learning son aquellos que aprenden de forma autónoma a realizar una tarea o hacer predicciones a partir de datos y mejoran su rendimiento con el tiempo. Una vez entrenado, el algoritmo podrá encontrar los patrones en nuevos datos, proporcionando soluciones que difieren de las inicialmente programadas.
Aplicaciones del Machine Learning.
Los sistemas de aprendizaje profundo pueden ingerir y procesar datos no estructurados, como texto e imágenes, y automatizan la extracción de características, eliminando parte de la dependencia de expertos humanos. Cada red neuronal incluye una capa de entrada, varias capas ocultas y una capa de salida. Con cada capa de neuronas oculta el algoritmo procesa los datos recibidos de la capa anterior y extrae características más complejas de los mismos, ajustándose y adaptándose para ganar precisión.
2. La Evolución de los Paradigmas de Reforma del Sector Público y el Impacto de la Tecnología
2.1. La Racionalidad Jurídica del Modelo Burocrático
Hasta la mitad de los años 70 del siglo pasado, la Administración pública tradicional, basada en el modelo burocrático clásico o Weberiano, alcanza su momento de auge. La racionalidad o lógica que se sostenía como ideal del modelo para funcionar es la jurídica, basada en el principio de legalidad. Las decisiones son racionales, justas, si se toman siguiendo los procedimientos previstos en las leyes y reglamentos, en los que se predetermina el resultado que tendrá la resolución. El Derecho Público trata de evitar la discrecionalidad a toda costa, buscando seguridad jurídica, partiendo de la base de que el legislador ha sido capaz de prever en las leyes la manera de afrontar la problemática, expectativa o desafío al que se dirigen las mismas.
2.2. La Racionalidad Gerencial de la Nueva Gestión Pública
Es la época del paradigma de la «Nueva Gestión Pública»; desarrollándose fundamentalmente durante los años 80 y 90, con distinta intensidad y relativo éxito según los países en los que se impulsa. En esos años comienza a generalizarse la integración de la informática en los servicios públicos, gracias al desarrollo de la microinformática y el despliegue de los ordenadores personales, buscando introducir eficiencia y automatización en los procesos de gestión. La generalización del uso de Internet desde mediados de los años 90 viene a suponer un momento disruptivo en la historia de la humanidad, que acelerará procesos de cambio social de manera exponencial.
2.3. La Racionalidad Relacional de la Gobernanza Pública
Se alcanza cierto consenso en acuñar un nuevo paradigma de reforma al que denomina «Gobernanza Pública», que, sin abandonar la contribución de los paradigmas anteriores (burocracia y gerencia pública) plantea, en síntesis, la necesidad de mejorar la calidad de la interacción entre los distintos niveles de gobierno, las organizaciones empresariales y la sociedad civil; de desarrollar una lógica de gobierno relacional o en redes de interacción público-privada a lo largo del eje local-global. Se parte de la base de que ya no debe ser monopolio de los agentes gubernamentales la definición de las políticas públicas, dado que los Gobiernos no tienen todo el conocimiento sobre los desafíos o expectativas que afectan a la sociedad.
2.4. La Racionalidad Colaborativa Propia del Gobierno Abierto y la Gobernanza Pública Inteligente
El paradigma de «Gobierno Abierto» va a apoyarse cada vez más en el vertiginoso desarrollo de la Sociedad de la Información. Aparecen la web 2.0, las plataformas de participación, aplicaciones de gestión de conocimiento colaborativo en red, y se avanza hacia una transformación digital más profunda de los servicios públicos, integrando tecnologías avanzadas como la nube, el big data o el desarrollo de aplicaciones móviles para facilitar la accesibilidad a los servicios públicos. Y en eso estábamos, hasta que recientemente llegó «Gervasio Para Todo» o el asistente Chat GPT, dando lugar a otro momento disruptivo, posibilitando la generalización del uso e integración de sistemas basados en el aprendizaje profundo a los que nos hemos referido al principio de este artículo; dando lugar a una carrera vertiginosa entre las compañías tecnológicas (fundamentalmente estadounidenses y chinas) para no quedarse atrás en los avances (casi diarios) de esta tecnología.
3. Algunas Incertidumbres, Riesgos y Desafíos que Plantea el Uso de la IA por la Administración Pública
Inteligencia artificial en la Administración: avances, riesgos y desafíos jurídicos
3.1. Para la Legitimidad de las Resoluciones Administrativas Predeterminadas por la IA y su Control Democrático
El otro día le subí a Gervasio un archivo con un borrador de propuesta de modificación de un contrato administrativo, y le pedí que me preparara un informe sobre si se ajustaba a la Ley de Contratos del Sector Público. La Propuesta de Modificación de Contrato ha sido revisada y se concluye que cumple con los requisitos establecidos por la Ley de Contratos del Sector Público. Las modificaciones propuestas están justificadas, son transparentes y no alteran las condiciones esenciales del contrato de manera que afecten la competencia. ¡Asombroso! La Propuesta de Modificación de Contrato” ha sido revisada y se concluye que no cumple con los requisitos establecidos por la Ley de Contratos del Sector Público. Para determinar cuál de los dos informes es más correcto en cuanto a la adecuación de la Propuesta de Modificación de Contrato a la Ley de Contratos del Sector Público (LCSP), es esencial revisar el contenido del documento específico y compararlo con los requisitos y principios establecidos en la LCSP. Para determinar cuál informe es el más correcto, debes revisar el contenido del documento Propuesta de Modificación de Contrato remitida en detalle, siguiendo los pasos y criterios mencionados anteriormente. Solo una revisión detallada y objetiva del documento permitirá concluir si cumple o no con los requisitos establecidos por la Ley de Contratos del Sector Público.
Parece obvio que los algoritmos que se usan para la toma de decisiones automatizadas deban ser públicos, auditables y revisables, aunque el ordenamiento jurídico español haya ido disminuyendo las garantías previstas en el derogado art. 45 de la Ley 30/1992, de Régimen Jurídico de las Administraciones Públicas y del Procedimiento Administrativo Común, que preveía, en su aptdo. En la vigente Ley 40/2015, de Régimen Jurídico del Sector Público, buscando favorecer el empleo de medios tecnológicos en el ámbito público, únicamente establece, en su art. 41.2, la posibilidad de auditar el sistema de información y de su código fuente, en caso de que así se decida por el órgano competente a la hora de definir previamente las especificaciones, programación, supervisión y control de calidad, de la actuación administrativa automatizada. Con toda probabilidad, este artículo estaba pensado para los actos administrativos automatizados clásicos, sin IA.
La Ley 15/2022, de 12 de julio, integral para la igualdad de trato y la no discriminación, contiene un precepto (art. En el marco de la Estrategia Nacional de Inteligencia Artificial, de la Carta de Derechos Digitales y de las iniciativas europeas en torno a la Inteligencia Artificial, las administraciones públicas favorecerán la puesta en marcha de mecanismos para que los algoritmos involucrados en la toma de decisiones que se utilicen en las administraciones públicas tengan en cuenta criterios de minimización de sesgos, transparencia y rendición de cuentas, siempre que sea factible técnicamente. En estos mecanismos se incluirán su diseño y datos de entrenamiento, y abordarán su potencial impacto discriminatorio.
Detengámonos un momento en comprender el proceso de inferencia de la IA. La capacidad de inferencia es el proceso en el que un modelo de IA entrenado aplica lo que ha aprendido de nuevos datos para hacer predicciones, contenidos, recomendaciones o tomar decisiones.
Con fecha 13 de marzo de 2024 se aprobó la Resolución legislativa del Parlamento Europeo, sobre la propuesta de Reglamento del Parlamento Europeo y del Consejo, por el que se establecen normas armonizadas en materia de inteligencia artificial y se modifican determinados reglamentos de la Unión (Comisión Europea, 2021). La elección del Reglamento como instrumento jurídico, se debe a la necesidad de aplicar uniformemente las nuevas normas, tales como la definición de IA, la prohibición de determinadas prácticas perjudiciales que la IA permitiría y la clasificación de determinados sistemas de IA. Puesto que, de conformidad con el art. El ya próximo Reglamento europeo adopta un enfoque basado en la gestión de riesgos. Califica de riesgo alto a los sistemas cuya salida puede impactar significativamente en la seguridad o derechos fundamentales, como los de identificación biométrica en tiempo real, los de protección de infraestructuras críticas, de selección y promoción de personal, los usados por los Cuerpos y Fuerzas de Seguridad del Estado o de la Administración de justicia).
3.2. La Posible Afección a los Derechos Fundamentales de la Ciudadanía por Errores, Sesgos y Discriminaciones Algorítmicas
El empleo de «Gervasio», como el de cualquier sistema de IA, no está exento de la posibilidad de que se generen sesgos y discriminaciones, con impactos que, en algunos casos, pueden llegar a ser muy relevantes sobre los derechos de los ciudadanos.
Tipos de sesgos en la IA.