No cabe duda del interés que suscita la inteligencia artificial y las posibles aplicaciones que puede proporcionar a la actuación administrativa de las Administraciones públicas, en clave de eficiencia y eficacia. Se trata de una tecnología que puede beneficiar al sector público en general y a la ciudadanía en particular si se hace un uso racional de la misma, ya que reduce tiempos de espera, permite reducir el gasto público y, en ocasiones, puede proporcionar objetividad a la toma de decisiones administrativas.
No obstante, la complejidad de esta tecnología, en función del uso de una tipología algorítmica u otra, puede relativizar dicha objetividad, de forma que debe distinguirse la finalidad para la que se utilizan los sistemas de IA y, con ello, los algoritmos que los sustentan (algún autor, como Martín Delgado[1], llega a afirmar, acertadamente, que los sistemas proporcionan resultados útiles, pero no siempre inteligentes). Así, si su utilización obedece al establecimiento de determinadas políticas públicas o a la adopción de decisiones relativas a los servicios públicos que se prestan (como podría ser el estudio del uso de parques y jardines por parte de la población para priorizar en las inversiones públicas) es posible el empleo de prácticamente cualquier sistema, incluso si se basa en algoritmos de caja negra o black box, cuyas conclusiones son prácticamente imposibles de explicar debido a su complejo sistema de adopción de decisiones basadas en redes neuronales; no obstante, si la finalidad del sistema de IA es la adopción de decisiones administrativas que afectan a la esfera de derechos del ciudadano, las exigencias de motivación derivadas del artículo 35 LPAC[2] exigen cierta explicabilidad del funcionamiento del algoritmo en la toma de decisiones, por lo que no podrán utilizarse los mismos algoritmos, debiendo en tal caso optarse por algoritmos de caja blanca o white box, que permiten explicar el proceso lógico que han seguido al tomar la decisión y, por tanto, puede motivarse la decisión y trasladársele al interesado a los efectos oportunos.
Si la finalidad del sistema de IA es la adopción de decisiones administrativas que afectan a la esfera de derechos del ciudadano, las exigencias de motivación exigen cierta explicabilidad del funcionamiento del algoritmo en la toma de decisiones.
La regulación europea de la inteligencia artificial que se encuentra en tramitación es absolutamente necesaria, si bien en mi opinión no dará respuesta a todas las cuestiones que suscita en el ámbito del sector público, motivo por el cual sería deseable la aprobación de una norma estatal que regulase su utilización por las Administraciones públicas, especialmente en lo relativo a la toma de decisiones basadas en sistemas de inteligencia artificial. Dicha normativa deberá regular, en especial, la explicabilidad, trazabilidad o transparencia del algoritmo que utilizan los sistemas de inteligencia artificial, así como debería establecer la obligatoriedad de la aprobación formal de los sistemas que sustentan la actividad administrativa automatizada en general, y cuando se utilicen sistemas de inteligencia artificial, en particular. Esta sería una fórmula adecuada en mi opinión, ya que, estableciéndose como preceptiva para todas las Administraciones públicas (no únicamente en el ámbito estatal), su tramitación mediante una disposición de naturaleza reglamentaria permitiría la correspondiente participación pública en su elaboración y posterior conocimiento de los ciudadanos a través de los portales de transparencia. Más aún teniendo en cuenta que, en determinados supuestos, como ha tenido ocasión de plantear Cerrillo Martínez[3], pueden llegar a innovar el ordenamiento jurídico, ya que, a partir de datos obtenidos por el sistema (big data), el algoritmo es capaz de generar nuevas decisiones.
Sería deseable la aprobación de una norma estatal que regulase su utilización por las Administraciones públicas, especialmente en lo relativo a la toma de decisiones basadas en sistemas de inteligencia artificial.
En los ámbitos autonómico y local es especialmente relevante dotar al empleo de los sistemas de inteligencia artificial de la necesaria seguridad jurídica, toda vez que la ausencia de medios en comparación con la Administración General del Estado para estas cuestiones resulta evidente, motivo por el que proporcionar al menos un marco jurídico suficiente propiciaría un mayor desarrollo innovador de soluciones de inteligencia artificial por la Administración local y autonómica.
Proporcionar al menos un marco jurídico suficiente propiciaría un mayor desarrollo innovador de soluciones de inteligencia artificial por la Administración local y autonómica.
A pesar de la ausencia de dicha regulación, diversas comunidades autónomas han impulsado iniciativas o participan en ellas para implementar soluciones de inteligencia artificial en virtud del programa de Redes Territoriales de Especialización Tecnológica (RETECH)[4], impulsado por la Estrategia Nacional de Inteligencia Artificial (ENIA)[5], con la que se pretende financiar diversas iniciativas regionales en distintos ejes de actuación, tales como el turismo, la salud o blockchain, entre otros.
La planificación en el desarrollo y uso de sistemas de inteligencia artificial resulta también fundamental, e incluso algunas comunidades autónomas están llevando a cabo dicha planificación, como sucede en Andalucía, en la que se ha publicado recientemente el Acuerdo de 20 de junio de 2023, del Consejo de Gobierno, por el que se aprueba la “Estrategia Andaluza de Inteligencia Artificial 2030”[6]. Otras comunidades autónomas, como Cataluña[7], e incluso entidades locales como el Ayuntamiento de Barcelona (el cual incluso ha aprobado un protocolo para la implantación de sistemas algorítmicos)[8], han dado serios pasos en este sentido, con la aprobación de sus respectivas estrategias en materia de inteligencia artificial, lo cual resulta imprescindible si se pretende impulsar a medio o largo plazo la implantación de este tipo de soluciones de forma controlada.
Este tipo de planificaciones autonómicas y locales suponen una clara apuesta por la inteligencia artificial y su efectiva implantación en el funcionamiento de las Administraciones públicas de forma responsable y suficientemente garantista, lo cual resulta crucial para proporcionar las garantías debidas al tiempo que se propicia su expansión. No obstante, en el ámbito de la Administración local debería impulsarse este tipo de iniciativas a través de incentivos para su desarrollo e implantación, no solo de naturaleza económica, sino también técnica y jurídica, para proporcionar los medios necesarios a aquellas entidades que desean posicionarse a la vanguardia tecnológica. Ya hay ejemplos de esta colaboración entre Administraciones públicas que podrían extenderse a los sistemas de inteligencia artificial, como la previsión de reutilización de sistemas y aplicaciones del artículo 157 LRJSP[9] o la transferencia de tecnología entre Administraciones públicas del artículo 158[10] de la misma norma, si bien dicha colaboración se limita a la puesta a disposición de software, mientras que en sistemas más complejos es necesaria también cierta asistencia técnica más allá de la asistencia remota que los convenios que se suscriben a tal fin suelen proporcionar.
En definitiva, la paulatina implantación de sistemas de inteligencia artificial por las Administraciones públicas estatal, autonómicas y locales no solo es inevitable, sino algo necesario para la adecuación de los servicios públicos al estado actual de la ciencia y la técnica, esto es, a la vanguardia tecnológica, para potenciar lo que Gamero Casado[11] denomina una Administración facilitadora, en el sentido de procurar agilizar y simplificar el ejercicio de derechos de los ciudadanos; pero exige dotarla de una regulación adecuada que no solo proporcione seguridad jurídica, sino que también salvaguarde los derechos de los ciudadanos como destinatarios de toda actuación pública, a través del establecimiento de las garantías jurídicas adecuadas. Todo ello, acompañado de la necesaria capacitación del personal al servicio de las Administraciones públicas, aspecto al que debería darse una mayor relevancia que en la actualidad.
Necesaria capacitación del personal al servicio de las Administraciones públicas, aspecto al que debería darse una mayor relevancia que en la actualidad.
Autor/a: Antonio David Berning Prieto
[1] Martín Delgado, I. (2023). La aplicación del principio de transparencia a la actividad administrativa algorítmica. En E. Gamero Casado (dir.). Inteligencia artificial y sector público. Retos, límites y medios (p. 135). Valencia: Tirant lo Blanch.
[2] https://www.boe.es/buscar/act.php?id=BOE-A-2015-10565#a35.
[3] Cerrillo Martínez, A. (2019). El impacto de la inteligencia artificial en el Derecho Administrativo: ¿nuevos conceptos para nuevas realidades técnicas? Revista General de Derecho Administrativo, 50, 10.
[4] https://espanadigital.gob.es/medida/retech-redes-territoriales-de-especializacion-tecnologica.
[5] https://www.lamoncloa.gob.es/presidente/actividades/Documents/2020/ENIA2B.pdf.
[6] https://www.juntadeandalucia.es/eboja/2023/119/BOJA23-119-00077-10780-01_00285803.pdf.
[7] https://politiquesdigitals.gencat.cat/ca/economia/catalonia-ai/.
[8] https://ajuntament.barcelona.cat/digital/sites/default/files/2023-10/def_metodologia_sist_algoritmics_cat.pdf.
[9] https://www.boe.es/buscar/act.php?id=BOE-A-2015-10566#a157.
[10] https://www.boe.es/buscar/act.php?id=BOE-A-2015-10566#a158.
[11] Gamero Casado, E. (2022). La Administración facilitadora: el papel de la Administración pública en el nuevo orden socio económico. Revista Andaluza de Administración Pública, 113, 271.