La regulación y la supervisión de la IA, entre los asuntos que marcarán la presidencia española en la UE

Sam Altman, director ejecutivo de OpenAI, ha estado en Madrid hace poco, y su tour show ha comenzado en nuestro país no por casualidad. El suelo español bajo sus pies está siendo lugar de encuentro de sectores influyentes en el ámbito de la Inteligencia Artificial. Los intereses de la industria se enfocan en nuestro país, por la gran oportunidad de incidir en las futuras políticas y regulación de la IA. 

A punto de asumir la presidencia de la Unión Europea para el próximo medio año, España ya ha declarado su prioridad en impulsar la regulación sobre inteligencia artificial. Le corresponde presidir los trílogos, es decir, el momento de las negociaciones entre instituciones de la UE sobre la Ley de IA, y es durante su mandato cuando se espera que apruebe la propuesta con la que la Unión Europea fijará la primera gran normativa a nivel mundial que regirá a las empresas que utilicen IA. 

La propuesta de la Ley de IA europea establece la creación de autoridades nacionales de supervisión y España ha sido la primera en crear la suya. Ha fijado sede en A Coruña para la próxima Agencia Española de Supervisión de la IA (AESIA), que tendrá potestad supervisora y sancionadora. 

El Ministerio de Economía ya ha licitado las tareas de diseño de un banco de pruebas (llamado sandbox) para la IA, adjudicado a OdiseIA, y se encuentra a un paso de otorgarle también a esta asociación con vínculos empresariales la creación de un sello de certificación de la IA en España. Junto a esta tarea tendrán la de sentar las bases y la estructura interna de esta Agencia de supervisión de la IA. 

Una privatización del mecanismo de supervisión de la IA

La prensa no es bienvenida en los encuentros que convoca Altman. El director ejecutivo de OpenAI eligió a España como comienzo de su gira en Europa, y otros líderes mundiales de IA también están manteniendo reuniones a puerta cerrada con funcionarios y empresas en nuestro país en estos meses. El momento es crucial. Y las empresas lo saben. 

Lorena Jaume-Palasí, experta en IA, ha sido una de los 3 miembros del consejo asesor para la IA del Gobierno que renunció hace un tiempo por desacuerdos con la gestión de la Secretaría de Digitalización e Inteligencia Artificial (SEDIA). Dice que en el campo de la gobernanza en España están observando desde hace tiempo la presión que ejercen distintas entidades para aprovechar que el Gobierno de momento ha decidido crear procesos de licitación para la supervisión de la IA, tareas que tradicionalmente son tareas gubernamentales. “Lo que vemos es precisamente una disolución de principios democráticos en lo que respecta a las tareas típicas de un Gobierno que están más y más siendo privatizadas, como es, por ejemplo, la elaboración de leyes”. 

Esto es lo que Judith Membrives i Llorens, técnica de incidencia en digitalización en Lafede.cat, llama “una privatización del mecanismo de supervisión” de la mano de empresas con intereses en el desarrollo de estas tecnologías. 

Desde Lafede.cat, una federación de organizaciones de la sociedad civil, no consideran que la supervisión de la IA se deba abordar solamente desde la técnica, y desde un solo estamento de poder. “Mediante este tipo de decisiones aumentamos también la desconfianza de la ciudadanía hacia la propia administración, que se declara incapaz de gestionar esta supervisión y que considera que se trata de un asunto solamente tecnológico”, explican.