Profesor substituto de Derecho Administrativo, Universidad de Santiago de Compostela
1. Introducción y contextualización
La Ley 2/2025, de 2 de abril, para el desarrollo e impulso de la inteligencia artificial en Galicia constituye el primer marco normativo regional español[1] y europeo dedicado íntegramente al fomento de la inteligencia artificial[2]. Estamos, pues, ante una norma novedosa, pionera y necesaria, que toma como premisas la normativa imperante en la materia en el ámbito supraregional. Su objeto, según reconoce su artículo 1, no es otro que diseñar, adquirir, implementar y utilizar sistemas de IA -en este caso, en la administración gallega- y promover su desarrollo económico, apoyándose, fundamentalmente, en los principios de transparencia, reserva de humanidad y seguridad, tomando como base el enfoque que Europa ha promovido en los últimos años, “centrado en el fortalecimiento de sus capacidades tecnológicas internas, impulsando una inteligencia artificial segura, ética y centrada en los derechos fundamentales”, tal y como reconoce su preámbulo. Debe destacarse, pues, que no estamos ante una verdadera ley de inteligencia artificial sino ante una norma legal que pretende regular su uso en el seno de la Administración autonómica aunque, como detallaremos, el legislador gallego se ha preocupado de que otras administraciones -nombradamente la Administración local- puedan aprovecharse de los esfuerzos hechos en esta materia por la propia Xunta de Galicia[3]. Esta cuestión es relevante en tanto en cuanto el objetivo de la norma no es -ni podría ser[4]- desarrollar la norma europea que regula la IA, sino que, como hemos dicho, su objeto es regular el correcto uso de la IA por parte del sector público autonómico de Galicia, y en este extremo es en el que descansa la verdadera relevancia y novedad de esta ley, que desarrollaremos de forma profusa.
Estamos ante una norma necesaria, ya que, sobre todo, es preciso regular y garantizar que el empleo de los sistemas de la IA por parte del sector público[5] no suponga una merma de los derechos de las personas ni un debilitamiento del Estado de derecho en el mundo digital, tal y como ha defendido en diferentes ocasiones Almeida Cerreda[6].
Esta norma, aprobada hace apenas dos meses, se articula en un amplio cuerpo legal que abarca la enumeración de las definiciones más relevantes en la materia; la estipulación de una serie de principios generales – en cuyo análisis nos detendremos –; las medidas de fomento y la gobernanza – a la que dedica uno de los dos capítulos del título I –; los derechos de la ciudadanía – que deben ser un elemento nuclear de cualquier normativa sobre IA en el contexto del Estado de Derecho –; los procedimientos para la puesta en marcha de proyectos en el ámbito de la IA y la colaboración público – privada – por la que resulta nítido que se ha preocupado el legislador gallego.
El análisis académico de esta ley exige, pues, examinar su estructura y contenido, su coherencia interna y su capacidad transformadora, así como su interrelación con el Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial (el AI Act europeo[7]) para identificar convergencias y considerar su impacto potencial en la sociedad, la economía y el marco jurídico y ético concretado.
Antes de todo ello, debe destacarse que no estamos ante una norma vacía de contenido. Pues, aunque es cierto que el marco regulatorio viene delimitado por el Reglamento europeo y, en su caso, por la norma estatal que lo concrete, la ley 2/2025 responde a la Recomendación sobre inteligencia artificial adoptada por el Consejo de la Organización para la Cooperación y el Desarrollo Económico el 22 de mayo de 2019, en la que se establece que los gobiernos han de desarrollar un entorno de políticas que facilite el camino para la adopción de sistemas de inteligencia artificial fiables, capacitar a las personas con competencias en esta materia y apoyar a las personas trabajadoras con miras a asegurar una transición equitativa[8].
2. Estructura y contenido de la ley: apuntes iniciales
La ley se organiza en un título preliminar compuesto por tres capítulos en donde, además de una serie de disposiciones generales, se concretan los principios que impregnan la norma y los derechos que se le confieren a la ciudadanía en este ámbito. El resto de títulos (cinco en total) se organizan en base a la gobernanza y la planificación; la gestión y la colaboración; concretan procedimiento para la puesta en marcha de proyectos de IA; el uso de sistemas de IA de alcance general; y, finalmente, se recoge un elenco de medidas que se podrán llevar a cabo para impulsar la IA en el ámbito de la Comunidad Autónoma de Galicia.
Termina este texto legal con una única disposición adicional, relativa a la atribución de funciones de las personas comisionadas de inteligencia artificial -que desarrollaremos oportunamente en el apartado 5.5 de este artículo-; una disposición transitoria única que aborda la identificación y registro de sistemas de IA existentes; y tres disposiciones finales en donde se autoriza al Consello de la Xunta[9] a dictar disposiciones para su desarrollo reglamentario, se concreta la modificación de la ley autonómica de transparencia[10], y se informa de su entrada en vigor en el plazo de 20 días desde su publicación, que es el mismo establecido por defecto en el artículo 2.1 del Código Civil, en caso de que no exista previsión expresa dispuesta por la norma en cuestión.
2.1. Objeto, finalidad, ámbito y definiciones
En su título preliminar la ley define su alcance principal: regular la IA en la administración gallega y en su sector público[11], estableciendo un marco de gobernanza, planificación, despliegue y evaluación, siempre con plena observancia de la buena administración, bajo el paraguas de la normativa europea y estatal imperante en la materia, y centrada en la consideración a una serie de elementos vertebradores del Estado de Derecho, como el respeto a los derechos fundamentales. Podemos observar que estamos ante una norma completa e integradora de todos los elementos que cercan al fenómeno de la IA, en tanto en cuanto, por ejemplo, también procura que esta sea respetuosa con el medio ambiente[12] e, incluso, que los sistemas utilizados por la Administración sirvan para mejorar las condiciones en las que este se encuentra[13].
En última instancia enumera entre los elementos que integran su objeto, el impulso «del desarrollo de la inteligencia artificial en el tejido empresarial y el ecosistema de investigación e innovación de la Comunidad Autónoma de Galicia, con el fin de mejorar su productividad y competitividad»[14], lo que parece una verdadera preocupación del legislador gallego, que no solo le ha otorgado una dimensión específica en este artículo, sino que le ha dedicado un título (el quinto) y, además, hace referencias continuadas a esta cuestión a lo largo de todo el texto normativo.
Con base en dichos objetivos, la ley concreta sus tres finalidades principales: fijar las bases para la gobernanza y la planificación de los sistemas de IA, de forma que se controle su uso y calidad; establecer los principios rectores dentro del marco regulador imperante a nivel nacional y supranacional; y establecer el marco regulador elemental, también desde el punto de vista del soft law, de forma que se puedan establecer guías o códigos de conducta de aplicación voluntaria e implantar medidas de capacitación – que trasciendan lo público.
Debe destacarse, en última instancia, que se ha determinado como uno de los fines principales de la norma garantizar el uso normal de la lengua gallega en los procesos de desarrollo de sistemas de IA y potenciar, de igual forma, el desarrollo de sistemas y modelos de IA en gallego[15]. Ello es relevante en tanto en cuanto esta es la lengua propia de Galicia. Pues, aunque tanto el gallego como el castellano son cooficiales en dicho territorio, defendemos que la preocupación del legislador por garantizar que en el ámbito de la IA la lengua propia de su región tenga presencia, se trata de un elemento nuclear, que, a mayores, preocupa a la ciudadanía gallega y que, en consecuencia, debe preocupar a los poderes públicos que, de hecho, tienen la obligación de garantizar el uso normal del gallego, tal y como exige el artículo 2 de la Ley 3/1983, de 15 de junio, de normalización lingüística. De todos modos, la preocupación del gobierno gallego por esta materia se ha expresado con anterioridad, por ejemplo, a partir de la puesta en marcha – en el año 2022 – por la Consellería de Educación, Ciencia, Universidades e Formación Profesional[16] junto con la Universidad de Santiago de Compostela el Proxecto Nós[17] cuyo objetivo principal es crear los recursos necesarios para facilitar el desarrollo en gallego de servicios y productos basados en la tecnología de la lengua -como asistentes de voz, traductores automáticos o agentes conversacionales-. De forma complementaria, este promueve la presencia digital del gallego, facilitando la creación de una amplia variedad de herramientas y recursos de gran calidad y de uso libre.
2.2. La coherencia con la normativa europea y española
Como ya hemos adelantado, estamos frente a una ley con una capacidad legislativa muy acotada, pero con grandes posibilidades transformadoras. Esto es, la regulación marco viene predeterminada por el Reglamento (UE) 2024/1689 y por la norma estatal que, en su caso, concrete aquellas cuestiones que estime pertinentes. Ergo, la ley gallega no puede añadir, sobremanera, elementos reguladores novedosos, en tanto en cuanto la regulación europea es de aplicación directa a la ciudadanía y deja un escaso margen de acción a los legisladores de los estados miembros, precisamente, con la finalidad de mantener una regulación homogénea en el seno de la Unión. Pero si que puede, y es aquí donde estriba el interés de la norma, guiar la implementación de la IA en Galicia y marcar la pauta al resto de comunidades autónomas – tal y como ya ha hecho Galicia en diversas ocasiones[18]. Como consecuencia, las definiciones clave que contiene la ley han sido tomadas directamente del reglamento como el concepto de “sistema de IA”[19], “modelo de IA de uso general”[20], u “operador”[21], aunque también incorpora conceptos propios de la Administración autonómica como “proyecto de IA”, que es iniciativa que tiene por objeto resolver problemas definidos de manera clara y objetiva mediante la utilización de sistemas de IA en alineación con las estrategias existentes en la materia; o “factoría de IA”, para referirse a clusters de supercomputación. Las definiciones establecen un alineamiento terminológico con el Derecho europeo[22], lo cual facilita la coherencia normativa, y también con la normativa estatal, pues, por ejemplo, en la definición de “actuación administrativa automatizada” nos remite al artículo 41 de la Ley 40/2015, de 1 de octubre, del régimen jurídico del sector público. Todo ello reduce la ambigüedad terminológica, y permite una aplicación armonizada, lógica y coherente de la regulación existente en la materia.
Conviene destacar, por cierto, que la ley 2/2025 no solo ha reiterado definiciones ya contenidas en el reglamento europeo, sino que sigue ese enfoque proporcional conforme al riesgo, y aunque no contempla esa lista de prohibiciones hecha por el reglamento – pues tampoco es necesario –, insiste en evaluar los riesgos y mitigar los posibles daños que puedan existir. Esto es, la noción del riesgo es exactamente la misma que el reglamento, siendo este, según la letra k del artículo 4 de la ley gallega “la combinación de la probabilidad de que se produzca un daño y la gravedad de ese daño”. Así pues, partiendo de las limitaciones de los sistemas de alto riesgo de IA previstos por la normativa europea, en el caso de estar ante un sistema de IA que determine, por ejemplo, prestaciones sociales, la evaluación del impacto de los derechos sería conforme al AI Act, y, en cambio, las evaluaciones organizativas que correspondan dentro del sector público, serían conforme a la ley gallega. Por otro lado, como para los sistemas que no son de alto riesgo el reglamento deja más discrecionalidad a la normativa infra europea, el derecho estatal y, en su caso, el de las comunidades autónomas, tiene margen para el desarrollo, por ejemplo, de las diferentes vías de sumisión voluntaria a códigos de conducta o a guías de buenas prácticas – como detallaremos al abordar el análisis del título IV.
No obstante, la inclusión de conceptos propios, como el de “proyecto de IA”, añade una complejidad – quizás inevitable – y podría llegar a generar solapamientos con otras leyes, sobre todo estatales, pese a que la norma introduce un vocabulario preciso que facilita la comprensión de sus alcances. Ello podría producirse en tanto en cuanto a nivel estatal todavía no ha aprobado la norma que va a concretar el reglamento de IA y que, en todo caso, no es responsabilidad del legislador autonómico, sino del español. Pues, aunque el pasado 11 de marzo el Consejo de Ministros aprobó el Anteproyecto de Ley para el buen uso y la gobernanza de la Inteligencia Artificial[23], con el convulso panorama político existente en la actualidad, es difícil saber cuándo se convertirá en ley.
3. Los principios rectores en materia de IA
Este extenso capítulo enumera los principios y obligaciones generales que debe observar la administración en todo proyecto o uso de IA y reúne una serie de principios diferenciados, bien articulados y amplios -que pretenden garantizar, entre otras cuestiones de interés, el respeto por los derechos fundamentales de la ciudadanía y la imparcialidad de la actuación administrativa-, muchos de los cuales reflejan las Directrices éticas para una inteligencia artificial fiable
