La obligación legal de alfabetización en materia de IA

Por Moisés Barrio

Introducción

Como es sabido, el Reglamento europeo de inteligencia artificial[1], RIA[2] en lo sucesivo, publicado oficialmente el 12 de julio de 2024 y que entró en vigor el 1 de agosto de 2024, es el primer marco jurídico global sobre la inteligencia artificial (IA) en todo el mundo. Su ambicioso objetivo es fomentar una IA digna de confianza en Europa, garantizando que el desarrollo y el despliegue de los sistemas de IA respeten los derechos fundamentales, la seguridad, la democracia y el Estado de Derecho, al tiempo que apoya la innovación.

La alfabetización en materia de IA en el Reglamento europeo de inteligencia artificial

El artículo 4 del RIA establece lo siguiente: “Los proveedores y responsables del despliegue de sistemas de IA adoptarán medidas para garantizar que, en la mayor medida posible, su personal y demás personas que se encarguen en su nombre del funcionamiento y la utilización de sistemas de IA tengan un nivel suficiente de alfabetización en materia de IA, teniendo en cuenta sus conocimientos técnicos, su experiencia, su educación y su formación, así como el contexto previsto de uso de los sistemas de IA y las personas o los colectivos de personas en que se van a utilizar dichos sistemas”.

El propio Reglamento aclara en su considerando 20 que el objetivo de la alfabetización en materia de IA es dotar a los proveedores, responsables del despliegue y personas afectadas de los conceptos necesarios para tomar decisiones con conocimiento de causa en relación con los sistemas de IA. Esos conceptos pueden variar en función del contexto pertinente e incluir el entendimiento de la correcta aplicación de los elementos técnicos durante la fase de desarrollo del sistema de IA, las medidas que deben aplicarse durante su uso, las formas adecuadas de interpretar los resultados de salida del sistema de IA y, en el caso de las personas afectadas, los conocimientos necesarios para comprender el modo en que las decisiones adoptadas con la ayuda de la IA tendrán repercusiones para ellas.

Por tanto, la alfabetización en materia de IA debe proporcionar a todos los agentes pertinentes de la cadena de valor de la IA los conocimientos necesarios para garantizar el cumplimiento adecuado del RIA y la correcta ejecución del sistema. Además, la puesta en práctica general de medidas de alfabetización en materia de IA y la introducción de acciones de seguimiento adecuadas podrían contribuir a mejorar las condiciones de trabajo y, en última instancia, sostener la consolidación y la senda de innovación de una IA fiable en la Unión. El Consejo Europeo de Inteligencia Artificial debe apoyar a la Comisión para promover las herramientas de alfabetización en materia de IA, la sensibilización pública y la comprensión de los beneficios, los riesgos, las salvaguardias, los derechos y las obligaciones en relación con el uso de sistemas de IA. En cooperación con las partes interesadas pertinentes, la Comisión y los Estados miembros deben facilitar la elaboración de códigos de conducta voluntarios para promover la alfabetización en materia de IA entre las personas que se ocupan del desarrollo, el manejo y el uso de la IA.

Esta obligación es aplicable desde el pasado 2 de febrero de 2025.

Por tanto, no se trata de convertir a la organización en un campeón en el uso de IA, o bien en aumentar la productividad utilizando herramientas de IA. Ni tampoco la alfabetización está vinculada a acelerar la adopción de la IA dentro de una entidad en cuestión.

Al contrario, como expresamente establece el artículo 3.56) del RIA, la alfabetización supone adquirir “las capacidades, los conocimientos y la comprensión que permiten a los proveedores, responsables del despliegue y demás personas afectadas, teniendo en cuenta sus respectivos derechos y obligaciones en el contexto del presente Reglamento, llevar a cabo un despliegue informado de los sistemas de IA y tomar conciencia de las oportunidades y los riesgos que plantea la IA, así como de los perjuicios que puede causar”.

Por tanto, los contenidos de esta obligación incluyen, entre otros, los siguientes aspectos: i) proteger los derechos fundamentales; ii) proteger la salud y la seguridad; iii) posibilitar el control jurídico en el contexto de la IA y el compliance corporativo; iv) ayudar a todos los implicados a tomar decisiones informadas sobre los sistemas de IA; v) comprender la correcta aplicación de los elementos técnicos durante el desarrollo del sistema de IA; vi) aplicar las medidas de protección durante el uso de los sistemas de IA; vii) interpretar los resultados de salida de un sistema de IA; viii) ayudar a las personas afectadas a comprender cómo les afectarán las decisiones que se tomen con la ayuda de IA; ix) cumplimiento del RIA; x) consolidación de una innovación segura y de confianza en IA en la UE; y xi) aprender sobre los beneficios, riesgos, salvaguardias, derechos y obligaciones en relación con el uso de sistemas de IA.

En cuanto a su adaptación a la concreta entidad, considero que cada organización debe examinar al respecto tres puntos clave:

• El papel que desempeñan sus departamentos y las obligaciones que les impone el RIA;
• El tipo y los riesgos que presentan sus sistemas de IA;
• Cómo pueden adaptar sus medidas de alfabetización en materia de IA en atención a las funciones que desempeñen sus empleados dentro de la organización, en particular con respecto a las funciones que llevan a cabo en relación con el desarrollo y el uso de sistemas de IA dentro de la organización.

Conclusión

Actualmente, el RIA no ofrece más orientaciones sobre la naturaleza y la profundidad de las competencias, los conocimientos y la comprensión que deben alcanzarse mediante los programas de alfabetización en IA, ni sobre lo que constituye un “nivel suficiente” de alfabetización en IA. Como es lógico, la idea es que estas cuestiones estén y permanezcan en permanente evolución ateniendo al estado del arte de la tecnología.

A mi juicio, se trata, por tanto, de aprender información objetiva sobre conceptos y prácticas de IA a través del estudio teórico y práctico (conocimientos); comprender la razón de lo anterior para poder aplicarla a situaciones y contextos previamente desconocidos y no habituales (comprensión); y aplicar repetidamente esa información en la práctica cotidiana (destrezas). Estos tres niveles de competencia deben abordarse como parte de los objetivos de aprendizaje de los programas corporativos de alfabetización en IA.

En definitiva, la definición de “alfabetización en IA” del RIA que antes hemos señalado se refiere así a la necesidad de desarrollar tres niveles de competencias, dirigidos al uso informado de los sistemas de IA, con conocimiento, comprensión y habilidades tecnológicas. Y se infiere que todo programa de alfabetización en IA también debe incluir una visión de aprendizaje continuo, a fin de posibilitar la actualización permanente en cuanto a la evolución tecnológica, así como la atención a los próximos actos normativos que complementan la regulación del RIA.

[1] Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial y por el que se modifican los Reglamentos (CE) nº 300/2008, (UE) nº 167/2013, (UE) nº 168/2013, (UE) 2018/858, (UE) 2018/1139 y (UE) 2019/2144 y las Directivas 2014/90/UE, (UE) 2016/797 y (UE) 2020/1828 (Reglamento de Inteligencia Artificial).

[2] El mismo ha sido objeto de un análisis in extenso por más de setenta autores en Barrio Andrés, Moisés (dir.), Comentarios al Reglamento Europeo de Inteligencia Artificial. Editorial LA LEY, Madrid, 2024 y disponible en https://www.moisesbarrio.es/libro/comentarios-reglamento-europeo-inteligencia-artificial_9788418662881