Las autoridades públicas encargadas de aplicar el Reglamento Europeo de Inteligencia Artificial

Por Moisés Barrio
TWITTER @moisesbarrioa

Introducción

En general, la aplicación del Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial y por el que se modifican los Reglamentos (CE) n.º 300/2008, (UE) n.º 167/2013, (UE) n.º 168/2013, (UE) 2018/858, (UE) 2018/1139 y (UE) 2019/2144 y las Directivas 2014/90/UE, (UE) 2016/797 y (UE) 2020/1828 (Reglamento de Inteligencia Artificial, RIA -o Artificial Intelligence Act-) a nivel de la Unión Europea (UE) corre a cargo de la Comisión Europea, principalmente a través de su denominada Oficina Europea de IA en lo que respecta a los modelos y sistemas de IA de uso general (habitualmente designados como GPAI, por sus siglas inglesas) y, en los demás aspectos, a nivel de los Estados miembros de la UE.

Otras instituciones europeas también participan en la aplicación del RIA, como el Comité Europeo de Inteligencia Artificial, el Grupo de expertos científicos independientes creado en virtud del artículo 68 del RIA y, en lo que respecta a las instituciones y organismos de la Unión Europea que entran en el ámbito de aplicación del reglamento por su uso de la IA, el Supervisor Europeo de Protección de Datos (art. 70.9 RIA).

Funciones y estructura de la Oficina Europea de IA

La Oficina Europea de IA, creada en el seno de la Dirección General de Redes de Comunicación, Contenidos y Tecnología (DG CNECT) de la Comisión Europea, no sólo debe desempeñar un papel importante en la aplicación del RIA, sino también en la promoción de un ecosistema innovador de IA fiable, garantizando un enfoque europeo coherente de la IA a nivel internacional.

En lo que respecta a la aplicación del RIA, la Comisión Europea, actuando a través de su Oficina de IA, tiene competencias exclusivas para supervisar el cumplimiento de las disposiciones que se aplican a los GPAI (incluso en lo que respecta a las sanciones por incumplimiento). La Comisión también contribuirá a la coordinación y cooperación de la actividad de aplicación del reglamento a nivel de los Estados miembros, en particular en lo que respecta a las investigaciones conjuntas que puedan llevarse a cabo entre –o junto con– las autoridades nacionales de vigilancia del mercado de diferentes Estados miembros en escenarios transnacionales (art. 74.11 RIA). En determinados casos, también puede anular las decisiones de las autoridades nacionales de vigilancia del mercado, cuando una autoridad de vigilancia del mercado de otro Estado miembro se oponga a la medida cuestionada, o si considera que la medida adoptada por la autoridad nacional es contraria al Derecho de la Unión (“procedimiento de salvaguardia de la Unión” del art. 81 RIA).

Con la estructura recientemente aprobada de la Oficina de IA, la Comisión Europea pretende garantizar la continuidad y la coherencia en la aplicación del RIA, ya que varios miembros del personal de la DG CNECT han sido destinados a la Oficina de IA. De hecho, la Oficina de IA está dirigida por Lucilla Sioli, antigua Directora de IA e industria digital de la DG CNECT, que trabajará con el apoyo de un asesor científico principal aún por nombrar y un asesor de asuntos internacionales que representará a la Oficina de IA en las conversaciones mundiales sobre la convergencia hacia enfoques comunes. Este último cargo lo ocupa Juha Heikkilä, antiguo asesor para asuntos internacionales de la DG CNECT.

Dentro de la Oficina de IA se han creado cinco unidades diferentes que cubren los siguientes aspectos clave: (i) regulación y cumplimiento, (ii) seguridad, (iii) excelencia, (iv) relaciones internacionales e (v) innovación. Cabe destacar que responsables políticos clave de la UE que han participado en la elaboración del reglamento dirigen algunas de estas unidades, como Kilian Gross, que se encargará de garantizar una aplicación y cumplimiento uniformes, así como de contribuir a las investigaciones y posibles infracciones. Una unidad específica centrada en los riesgos de los modelos GPAI más sofisticados y encargada de elaborar los códigos de conducta exigidos por el RIA estará dirigida por uno de los principales negociadores del Parlamento Europeo, el ex Eurodiputado Dragos Tudorache.

El Comité Europeo de IA y el Grupo de expertos científicos

El Comité Europeo de Inteligencia Artificial, compuesto por un representante de cada Estado miembro, debe asesorar y asistir a la Comisión Europea y a la Oficina de IA y a los Estados miembros para facilitar la aplicación coherente y eficaz del reglamento (art. 65 RIA). Por lo que se refiere a la aplicación del RIA, sus funciones van encaminadas “en particular en lo relativo al cumplimiento de las normas sobre modelos de IA de uso general” (art. 66.c) RIA). Para ello, el RIA establece diversas obligaciones de información, notificación y consulta entre la Oficina IA y/o las autoridades nacionales de vigilancia del mercado y el Comité (así, arts. 75.2 y 90.2 RIA).

Al igual que el Comité Europeo de IA, el Grupo de expertos científicos independientes creado en virtud del artículo 68 del RIA tiene una función de apoyo a la Oficina de IA y a las autoridades nacionales de vigilancia del mercado en relación con la ejecución de las actividades previstas en el reglamento y, en particular, puede emitir las denominadas alertas cualificadas a la Oficina de IA en caso de que se detecten riesgos sistémicos en los modelos de GPAI.

Las Autoridades públicas de los Estados miembros de la UE

Aparte de la Oficina Europea de IA, que tiene competencias exclusivas en materia de los GPAI, cada Estado miembro de la UE debe designar o crear al menos una autoridad de vigilancia del mercado y una autoridad notificante para supervisar la aplicación y ejecución del reglamento (art. 70.1 RIA), salvo las disposiciones relativas a los GPAI como hemos apuntado. Entre estos tipos de autoridades púbicas, la autoridad de vigilancia del mercado en particular es responsable de hacer cumplir el reglamento en su respectivo país, mientras que la autoridad de notificación lleva a cabo tareas relacionadas con la evaluación de la conformidad.

Las autoridades de vigilancia del mercado tienen amplias competencias en materia de vigilancia, investigación y ejecución (véase el art. 74 RIA en relación con el art. 14 del Reglamento (UE) 2019/1020 del Parlamento Europeo y del Consejo, de 20 de junio de 2019, relativo a la vigilancia del mercado y la conformidad de los productos). Estas potestades incluyen, entre otras, la facultad de exigir a los proveedores, responsables del despliegue e importadores de sistemas de IA que proporcionen datos pertinentes para evaluar el cumplimiento del sistema de IA (incluido, en determinadas condiciones, el acceso al código fuente de los sistemas de IA de alto riesgo) y exigirles que tomen las medidas adecuadas para poner fin a los casos de incumplimiento o, cuando esto último no funcione, adoptar directamente las medidas correctivas adecuadas (incluida la facultad de prohibir o restringir la puesta a disposición de un sistema de IA).

Los Estados miembros de la UE seguirán teniendo que promulgar normas de aplicación sobre sanciones y otras medidas coercitivas (que también podrán incluir advertencias y medidas no pecuniarias) dentro del marco previsto por el RIA, y adoptarán todas las medidas necesarias para garantizar que dichas reglas se apliquen de forma adecuada y eficaz.
En España, las competencias de supervisión corresponden a la Agencia Española de Supervisión de la Inteligencia Artificial (AESIA). No obstante, debe promulgarse una Ley que establezca al menos el señalado régimen sancionador.

[1] Hemos examinado de forma sistemática el mismo en BARRIO ANDRÉS, Moisés (dir.): El Reglamento Europeo de Inteligencia Artificial. Editorial Tirant lo Blanch, Valencia, 2024; más información en https://www.moisesbarrio.es/libro/reglamento-europeo-inteligencia-artificial_9788410713031