Cómo funcionará la Agencia Española de Supervisión de Inteligencia Artificial (AESIA)

La Agencia Española de Supervisión de Inteligencia Artificial estará en marcha antes de fin de año en A Coruña. O al menos eso establece su estatuto, que da tres meses a la agencia para entrar en funcionamiento desde la entrada en vigor del Real decreto. España llega pronto: será el primer país europeo con una entidad de supervisión de la IA, anticipándose a la futura Ley de Inteligencia Artificial europea. 

Desde antes de la explosión que significó ChatGPT en popularización de la IA, España buscaba tener una agencia que controlase los algoritmos de inteligencia artificial que impactan en sus ciudadanos. Su creación también responde al llamado de crear un organismo que supervise el cumplimiento de la normativa de inteligencia artificial que la Comisión Europea tiene a punto de aprobarse. 

La AESIA podrá multar con hasta 30 millones de euros

La AESIA estará situada en el edificio modernista de La Terraza, que fue epicentro de la vida social en A Coruña en los años 20 y es desde los 80 también la sede de Radio Televisión Española. Esta agencia tiene personalidad jurídica pública, patrimonio propio, autonomía en su gestión, y un presupuesto aprobado de 5 millones de euros. Esto es menos de la mitad del presupuesto que utilizó la Agencia Española de Protección de Datos (AEPD) en su primer año (unos 13 millones de euros). Si no se llegasen a aprobar nuevos presupuestos este año, el uno de enero quedarían prorrogados para 2024. 

La Agencia estará adscrita al Ministerio de Asuntos Económicos y Transformación Digital a través de la Secretaría de Estado de Digitalización e Inteligencia Artificial (SEDIA), responsable también de la app móvil de rastreo de contagios Radar COVID en 2020 y de la Oficina del Dato en 2021. No hay mucha información sobre la inminente AESIA, salvo las previsiones legales, comenta Borja Adsuara, abogado especializado en derecho digital. 

En sus estatutos se define que la agencia llevará a cabo “tareas de supervisión, asesoramiento, concienciación y formación hacia entidades públicas y privadas”, con el fin de asegurarse que se implementa adecuadamente la normativa nacional y europea en torno al uso y desarrollo de los sistemas de IA, más concretamente, de sus algoritmos. 

Además, tendrá poder sancionador, ya que tomará las funciones de inspección, comprobación, sanción y demás que le atribuya la Ley de Inteligencia Artificial europea. ¿Qué quiere decir? Que la AESIA podrá poner multas administrativas de hasta 30 millones de euros, o si el infractor es una empresa, de hasta el 6 % del volumen de negocio total anual mundial del ejercicio financiero anterior, si esta cuantía fuese superior, según el artículo 71 de la propuesta de Reglamento europeo de IA, actualmente en tramitación. 

Las similitudes con la AEPD

Algunos expertos, como Cristina Martínez Garay, directora del Máster Universitario de Derecho Digital y de la Ciberseguridad de VIU, han comparado la forma de funcionamiento de la AESIA con la de la Agencia Española de Protección de Datos, “a grandes rasgos”. La abogada apunta que en líneas generales la creación de esta autoridad apunta a un papel clave en la orientación, formación y sensibilización desde un punto de vista ético para el uso de la IA, como lo fue con la creación de la AEPD en el tema de protección de datos en 1992. Martínez Garay también recuerda que en Francia, su autoridad de protección de datos denominada CNIL pretende asumir las competencias de una agencia de la IA como la que ha creado el Gobierno español.

Adsuara marca las diferencias de la agencia de inteligencia artificial española. “No es comparable a la AEPD porque se ha decidido que no sea una autoridad administrativa independiente, sino que la presidenta del Consejo Rector sea la Secretaria de Estado de Digitalización e Inteligencia Artificial, y que sea ella la que proponga directamente al director general de la AESIA, mientras que el nuevo Estatuto de la AEPD prevé un nombramiento de sus cargos mediante un acuerdo parlamentario”, explica. 

Carme Artigas, en quien recae actualmente el puesto de Secretaria de Estado de Digitalización, será quien proponga al director de la AESIA, y lo hará en la primera reunión del Consejo Rector, cuyos miembros son todos funcionarios, salvo un experto del sector. Esta composición del Consejo Rector ha levantado algunas críticas por la excesiva dependencia del Ejecutivo estatal y en concreto del Ministerio de Asuntos Económicos. 

Qué podrá hacer la AESIA ante usos de la IA no transparentes

Hace casi dos meses, el Servicio Madrileño de Salud (Sermas) anunció un proyecto “pionero” para usar IA generativa en la detección de enfermedades raras, pero hasta la fecha no hay información sobre este sistema, cómo funciona, qué pasa con los datos o qué impacto tiene para la privacidad del paciente, lo que ha dejado incluso a los médicos en una situación de malestar. ¿Qué podría hacer la AESIA en este caso? 

Adsuara dice que esas acciones están previstas en la propuesta de Reglamento europeo de IA, pero, mientras éste se aprueba y entra en vigor y se pone en marcha la AESIA, todo lo que tiene que ver con datos de la salud lo supervisará la AEPD. “Las evaluaciones de impacto de los algoritmos en la privacidad ya se tienen que hacer desde el punto de vista del RGPD”, dice. 

Según el estatuto, entre las funciones explícitas de la AESIA está la supervisión de la puesta en marcha, uso o comercialización de sistemas que incluyan inteligencia artificial y, especialmente, aquellos que puedan suponer riesgos significativos para la salud, seguridad, la igualdad de trato y no discriminación, en particular entre mujeres y hombres, y para los demás derechos fundamentales. Martínez Garay agrega que el rol de la AESIA “no tiene por objeto ser una agencia al uso con objetivos de cumplimiento y de sanción únicamente sino también se pretende que desarrolle competencias que van ligadas al fomento de la IA como iniciativa, unidas a las tareas de supervisión, asesoramiento y concienciación para la adecuada implementación de toda la normativa nacional y europea”. Con respecto a proyectos de innovación y uso de la IA en el sector salud como el ‘ChatGPT del Sermas’, Martínez Garay cree que la AESIA tendrá un papel relevante en la colaboración con otras autoridades, dados los retos que puede suponer respecto a la seguridad, privacidad e incluso la generación de desigualdades entre los pacientes.