La ética, en el centro de la regulación de la inteligencia artificial que propone el Senado

Las nuevas tecnologías podrían estar desdibujando los límites entre el mundo físico y el virtual. Esta es una de las conclusiones que recoge un informe realizado por la comisión de Asuntos Económicos y Transformación Digital del Senado, aprobado este miércoles por el pleno de esta Cámara. Todos los grupos respaldaron este documento -menos Vox, que se decantó por la abstención-, que esboza cómo llevar a cabo una posible regulación de la inteligencia artificial (IA) en España.

Stuart Jonathan Russell, profesor de Ciencias de la Computación en la Universidad de California en Berkeley, define la inteligencia artificial como “el estudio de los métodos que permiten a las computadoras comportarse de manera inteligente”. Así, el estudio que pretende regular las “nuevas realidades tecnológicas, disruptivas y sociales” pone en relieve que la IA es una “importante” palanca de transformación social, pues ya se está utilizando en sectores como en la gestión del tráfico o en las telecomunicaciones.

[La IA viene para quedarse: el 13% de las empresas españolas ya usa algún tipo de inteligencia artificial]

Este informe apuesta por una transformación hacia una inteligencia artificial “medioambientalmente sostenible”. Para ello, debe garantizarse que la transición ecológica y la digitalización vayan de la mano y se incentive la generación de sinergias entre ellas. Asimismo, el documento plasma que una de las tareas principales de la próxima década será preparar digitalmente al conjunto de la economía y de la sociedad. Con ello, se aboga por transformar de una manera “profunda” el modelo de Formación Profesional, así como ayudar a digitalizar la pequeña y mediana empresa.

Punto de partida. Dicho informe ha sido el resultado de una moción del PP que instaba a crear un grupo de trabajo en el Senado con el objetivo de analizar los siguientes dos ejes: las implicaciones sociales derivadas de la transformación digital y los retos normativos, éticos y técnicos de la IA. Tras dos años y 30 comparecencias de expertos en este campo, el texto podría ser consultado por el Gobierno para que sus futuras iniciativas tengan en cuenta las recomendaciones que se desprenden de este.

Digitalización y derechos: recomendaciones para un posible regulación de la inteligencia artificial

Las recomendaciones del informe están enfocadas principalmente en una futura posible regulación de la inteligencia artificial, advirtiendo en este sentido de que “debemos humanizar las máquinas y no automatizar al hombre”. También en dar “siempre” prioridad a la ética en el uso de la transformación digital y la IA frente a la competitividad.

Códigos éticos. Los códigos éticos de las grandes empresas deberían complementarse con un marco normativo general para las nuevas tecnologías disruptivas y para la IA de forma “especial”. Con esto, se definirían principios específicos basados en la protección de los derechos humanos, de la democracia, de las libertades y de la cohesión económica y social. Esto ha de abordarse como “interés público o bien común”. Para materializarlo, se aconseja emplear como base iniciativas como la Estrategia Territorial Europea, un texto que sirve para orientar la política territorial de la Unión Europea.

Carta de Derechos Digitales. Otra recomendación pasa por seguir profundizando en el desarrollo de la Carta de Derechos Digitales para fomentar la adopción de sus principios y para explorar la posibilidad de que estos puedan adquirir un rango legal. Y es que esta ‘carta’ no tiene un carácter normativo, sino que su objetivo es “sugerir” políticas referidas a los derechos en el entorno digital.

Reparto de competencias. Una posible regulación sobre las tecnologías disruptivas y sobre la inteligencia artificial debería respetar “plenamente” el reparto competencial existente en el marco político y jurídico. Es decir, entre la Unión Europea, sus Estados miembros y las comunidades autónomas. De este modo, se sugiere promover la coordinación y la cooperación interadministrativa.

Cambio en el sistema educativo. El texto sostiene que es “necesario” un cambio de modelo educativo porque “desde edades muy tempranas” los niños y las niñas tendrían que contar con conocimientos relacionados con la IA. Con esto, el Estado debería invertir en educación digital, equipando a los centros educativos con una infraestructura “adecuada”. Eso sí, “en ningún caso” se puede olvidar el estudio de las humanidades.

Política, visión femenina y fiscalidad. Otras pautas para la regulación de la inteligencia artificial vienen por establecer un “nuevo” pacto social digital con la perspectiva en la defensa de la democracia y de las libertades, y por impulsar la presencia femenina en “todos los aspectos” de este ámbito. Por su parte, el informe recomienda buscar una fiscalidad “simplificada y armonizada” en toda Europa, que no reste competitividad a “ningún” país.

Ética y transparencia: así se deberían desarrollar los futuros algoritmos

Por otro lado, el documento también dedica una serie de recomendaciones a cómo deberían desarrollarse los próximos algoritmos, que tendrían que contar con un enfoque ético. En consecuencia, se pone de manifiesto ejecutar auditorías de los propios algoritmos, y evaluaciones tanto en las fases del diseño de estos como posteriormente.

[España tendrá una agencia nacional de supervisión de algoritmos en 2022]

Transparencia. Una de las sugerencias reside en potenciar mecanismos de transparencia para garantizar que, durante la recogida de datos, la ciudadanía tenga conocimiento de quién dispone de ellos y qué uso se les da. Es decir, se apostaría por la protección de los datos de los ciudadanos.

Sin sesgos. El texto recoge que las tecnologías de la IA deberían “prevenir la discriminación y proteger la diversidad” y, para ello, estas tendrían que habilitarse utilizando conjuntos de datos sin sesgos. De esta manera, se pide un marco ético “claro” con el objetivo de que los algoritmos protejan y promuevan la diversidad educativa, cultural y lingüística de la Unión Europea.