Con la llegada de la pandemia, las universidades tuvieron que buscar procesos de evaluación en remoto para sus alumnos, y con ello vino la oportunidad para las empresas que ofrecen apps de vigilancia para exámenes online, o lo que se denomina proctoring.
Estas apps implican además del reconocimiento facial 1:1, la recolección de datos biométricos y tratamiento de esos datos con algoritmos, justamente uno de los casos de uso de inteligencia artificial considerados por la Comisión Europea como de alto riesgo.
El año pasado, ante las consultas de alumnos y de la CRUE, la Conferencia de Rectores de las Universidades españolas sobre el uso del reconocimiento facial para exámenes, la Agencia Española de Protección de Datos (AEPD) aclaró varios puntos en un informe.
Entre ellos que la situación de crisis sanitaria por el coronavirus no supone la suspensión de los derechos fundamentales de protección de datos y que, dadas las características de los datos biométricos, su tratamiento debería contar con garantías reforzadas.
A un año de aquellos primeros confinamientos en España y a punto de terminar el año lectivo, resurge la polémica. Un grupo de 230 alumnos de 18 grados y másteres de la Universidad Internacional de La Rioja (UNIR) están disconformes con el sistema de vigilancia online para los exámenes y han creado una asociación para demandar a la institución por lo que consideran un método demasiado invasivo.
Qué es el proctoring
Tradicionalmente en los exámenes siempre se han utilizado supervisores humanos. Cuando la evaluación no puede ser presencial y pasa a ser online, y los alumnos no están físicamente en el aula se prevé que se utilicen cámaras o supervisión de algún tipo. En inglés, se llama proctoring a la supervisión de los exámenes, y posteriormente se habla de e-proctoring para indicar la mediación tecnológica.
“Cuando hablamos de proctoring nos referimos a dos comprobaciones, la de la identidad, si el estudiante que está ahí es quien dice ser, y la comprobación de la autoría de los contenidos, es decir, si ese estudiante es la misma persona que ha hecho la prueba”, explica Emili Rubió, vicegerente de operaciones y responsable de la evaluación online de la Universitat Oberta de Catalunya.
Hay múltiples sistemas para garantizar la autoría de los exámenes. El Informe sobre modelos de evaluación online del Gabinete de Ministros y Ministerio de Universidades reconoce estas tres:
- Uso de programas que permiten la certificación de la autoría y la vigilancia durante los exámenes (online proctored exams)
- Supervisión online en vivo: a la manera de un streaming donde hay un humano que realiza la supervisión de los estudiantes mientras hacen el examen
- Sin supervisión: la única verificación es el ingreso a la plataforma virtual o a la aplicación donde se desarrolla el examen mediante un identificador y la contraseña.
En la actualidad, el término proctoring ha venido a instalarse sobre todo para identificar el primer grupo, donde entran sistemas que incluyen reconocimiento facial, algoritmos de inteligencia artificial y otras técnicas que implican un mayor o menor grado de control sobre el ordenador y el ambiente en el que se encuentran los estudiantes en el momento de hacer el examen.
Alto riesgo para las personas, según la UE
La intimidad y la privacidad son derechos fundamentales por una razón muy verificable: cuando nos sabemos observados, nuestro comportamiento cambia.
Además de los problemas conocidos que tienen los sesgos algorítmicos, la vigilancia online tiene cuestiones éticas implícitas, ya que es un sistema que desde su creación asume que los alumnos son posibles tramposos. Los expertos coinciden en sostener que es mucho más eficaz una aproximación basada en la confianza y en la evaluación continua del alumno.
Herramientas como Proctorio, ProctorExam o ProctorU en Estados Unidos enfrentan críticas, entre ellas sesgos hacia personas con tonos de piel más oscuros hasta discriminación de personas con menor poder adquisitivo o sin buena conexión, o personas neurodivergentes etiquetadas como tramposos. Además de la invasión a la privacidad que suponen, y el “puntaje” (scoring) que otorgan a las personas, estas apps recogen y almacenan información de identificación personal de los estudiantes en sus servidores, sin que los usuarios tengan alternativa.
Estas tecnológicas han hecho cambios en la experiencia de usuario, pero eso según expertos como D’Arcy Norman, director de tecnologías educativas del Instituto Taylor en la Universidad de Calgary no es suficiente y no puede ser resuelto con a través de cambios en la interfaz o procesos de instalación diferentes, “el problema es la naturaleza del software”, ha dicho.
La Comisión Europea acaba de proponer nuevas normas para regular el uso de la inteligencia artificial y los sistemas de reconocimiento facial en función del riesgo que suponen para las personas. La educación es una de las áreas sensibles clasificadas como de alto riesgo, porque el uso de sistemas de inteligencia artificial puede determinar su acceso a la formación y la carrera profesional en la vida de una persona, y por lo tanto afectar sus posibilidades de asegurar su sustento. Uno de los ejemplos que pone la Comisión es justamente el de la puntuación en exámenes.
La AEPD pide garantías reforzadas
La Agencia Española de Protección de Datos (AEPD) hace un año ya publicó un informe [PDF] donde respondía a las consultas sobre el tema. Ha explicado que las técnicas de reconocimiento facial con fines de identificación biométrica suponen un tratamiento de categorías especiales de datos para los que el Reglamento exige garantías reforzadas.
¿Cuáles son esas garantías reforzadas? Samuel Parra, abogado con 15 años de experiencia profesional en el sector de la protección de los datos de carácter personal y la privacidad, responde que dependen de cada caso concreto. “Una evaluación de impacto es el punto de partida adecuado ya que de esa evaluación se van a derivar las medidas previstas para afrontar los riesgos”. Una evaluación de impacto debería recoger cuatro aspectos claves, según Samuel Parra:
- Descripción sistemática de ese sistema de identificación biométrica
- Una evaluación de la necesidad y proporcionalidad de implementar ese sistema
- Una evaluación de los riesgos
- Las medidas destinadas a afrontar los riesgos
Proctoring y exámenes: El consentimiento
Además de eso, si quieres utilizar datos personales y mucho más biométricos, de alguien, necesitas su consentimiento. El informe jurídico de la AEPD también hace aclaraciones en cuanto a esto.
Recuerda que el Reglamento de Protección de Datos establece que el consentimiento del afectado debe ser libre y que no puede considerarse prestado de forma libre y, por tanto, válida cuando el afectado no goza de verdadera o libre elección o no puede denegar o retirar su consentimiento sin sufrir perjuicio alguno. Tampoco puede considerarse libre cuando existe un desequilibrio claro entre el interesado y el responsable del tratamiento.
Ese desequilibrio existe entre universidad y alumno, al igual que existe en el ámbito laboral entre la empresa y el empleado. El alumno está en una posición de dependencia respecto de la Universidad, y precisamente su falta de consentimiento va a tener consecuencias negativas para él. “Por este motivo la normativa pretende proteger a la parte débil de este tipo de relaciones, para que el fuerte no se pueda escudar en un consentimiento, porque se entenderá que no se ha prestado libremente y por tanto no es válido”, apunta Parra.
No se puede considerar que el consentimiento es libre si no se le ofrece al alumno una alternativa a la realización online con reconocimiento facial biométrico. En este sentido, permitir al alumno hacer el examen de forma presencial, con las medidas pertinentes en materia COVID, y siempre que la duración y dificultad del examen sea similar o idéntico a la opción online, sería una opción válida, según Parra.
Y ante la posibilidad de “basar en el interés público” el reconocimiento facial de los alumnos, ha dicho que se requeriría de una norma con rango de ley que lo habilitase y estableciera garantías específicas para dichos tratamientos. Esto necesita estar recogido en una norma, que actualmente no tenemos, y la Ley Orgánica de Universidades es insuficiente para permitir la utilización de técnicas de reconocimiento facial en los procesos de evaluación.
Más allá del consentimiento, el proctoring le parece desproporcionado a Parra: “Mi opinión personal es que sería complicado justificar este tipo de medidas para el control de un examen online, y no solo porque el consentimiento pueda o no ser válido, sino porque la medida la considero desproporcionada, por lo que aquí el consentimiento tampoco sería válido”.
Proctoring y exámenes: Medidas menos intrusivas
La AEPD en su informe también observa que “la propia comunidad universitaria ha planteado medidas alternativas para la evaluación online menos intrusivas”.
En España varias universidades han optado por descartar el proctoring, como es el caso de la Universidad Complutense, que apuesta por la evaluación continua o herramientas menos invasivas; la Universidad Autónoma de Barcelona, o la Universidad de Granada (PDF).
UNIR ha enviado un comunicado este año para utilizar una app de proctoring, Smowl, en los exámenes online, lo que ha ocasionado las críticas de un grupo de alumnos disconformes. En el escrito que han presentado al rector comunican que no les importaría utilizar vigilancia de rostro y del audio de la estancia a través de la cámara y del micrófono, pero se resisten a métodos más invasivos. La Universidad, consultada por Newtral.es explica que los alumnos tienen una alternativa, que es la de los exámenes presenciales.
José María Casas, portavoz la asociación en la que se han constituido para demandar, ha puesto de ejemplo a la Universitat Oberta de Catalunya, UOC, un centro educativo en el que la metodología, por empezar, se basa principalmente en la evaluación continua, y que lleva varios años, desde 2014, perfeccionando un proceso de proctoring escuchando a estudiantes y expertos europeos.
En la UOC la utiiizacion de técnicas biométricas está actualmente desactivada y la comprobacion de identidad la hacen personas con posterioridad a la prueba (en las siguientes 24-48h).
Emili Rubió tiene bajo su responsabilidad todas las operaciones de la evaluación online en la UOC, incluida la tecnología que le da soporte, y explica que en los próximos exámenes de junio utilizarán su propia tecnología, Vnext, una evolución del proyecto Tesla europeo, que emplearán con 70.000 exámenes online. Rubió conoce Smowl y dice que es bueno. Lo utilizan en las pruebas de formación profesional pero en uno o dos semestres lo dejarán. “Utilizar tecnología propia, además del ahorro de coste evidente, es que podemos implementarlo en otros temas de evaluación continua”, explica.
A los alumnos de la UOC no se les ofrece alternativa. “En estado de alarma pero también en condiciones de pandemia el consejo interuniversitario catalán declaró todo este curso como excepcional, y por lo tanto bajo ese paraguas podemos poner las condiciones de las pruebas”, explica Rubió. “Estamos trabajando para consolidar este sistema, somos una universidad virtual y lo lógico es que las pruebas sean así”. Explica que están trabajando con el Consejo de Estudiantes y les están pidiendo que fuera del período excepcional se consoliden los exámenes en remoto. “Por la comodidad básicamente”, dice Rubió, “si estudiando desde casa por qué tienen que ir a un centro para hacer un examen presencial, que en muchos casos está a cientos de kilómetros”. Le preguntamos sobre la situación general en las universidades. “Sé que ha habido presión social, sobre todo en las universidades presenciales, lo que tiene su cierta lógica”, comenta.
El informe sobre modelos de evaluación online del Gabinete de Ministros y el Ministerio de Universidades lista muchos de los problemas que tienen estas tecnologías y dice que estas limitaciones son clave para evaluar su pertinencia:
- Falta de eficacia tecnológica del software de reconocimiento facial. Diferentes estudios independientes recientes han mostrado el alto ratio de falsos positivos, por lo que existen dudas fuertes sobre la fiabilidad.
- Estas tecnologías están siendo cuestionadas por parte de la comunidad de tecnólogos, desarrolladores e ingenieros.
- Inseguridad regulatoria. Actualmente la Unión Europea, en el marco del desarrollo del Libro Blanco sobre Inteligencia Artificial, está estudiando la imposición de una moratoria a todos los usos de las tecnologías de reconocimiento facial en dominios de alta sensibilidad política o social, incluyendo vigilancia, policía, educación y empleo.
- El mero reconocimiento facial no garantiza la no intervención de terceras personas y la no utilización de materiales no permitidos para el desarrollo de las pruebas. Es decir, no garantiza la autoría y la ausencia del uso de medios fraudulentos.
- Estas tecnologías, además de ser costosas económicamente, necesitan un proceso de implantación y prueba en condiciones de estrés (miles exámenes al mismo tiempo) que deberían ser obligatorias.
- La implementación práctica este tipo de software hace imprescindible una evaluación de impacto y un sistema de anonimización o seudonimización y cifrado, implementado por el responsable del tratamiento de los datos.
- Hay evidencias crecientes de que estas tecnologías conllevan sesgos relevantes con minorías vulnerables en comunidades desfavorecidas socialmente y racializadas.
- Habría que garantizar que no hay sistemas menos gravosos que puedan garantizar el mismo resultado o uno equivalente. Debemos asegurar que la tecnología de reconocimiento facial no produzca más problemas que los beneficios que ofrece.
El abanico de tecnologías que existen en la actualidad es lo suficientemente amplio, según el informe, para que se pueda abordar la realización de los exámenes con garantías razonables. A nivel general, se recomienda el uso de software libre, ya que el acceso al código fuente permite adaptarlo en función de las necesidades y alojarlo en servidores propios.
El caso UNIR
El 30 de marzo, el rector de la UNIR, como consecuencia de la situación sanitaria por COVID-19, envió un comunicado en el que informaba a los estudiantes que los exámenes de junio y julio se harían de forma online.
Dos semanas más tarde, la vicedecana de Desarrollo informó mediante otro comunicado que de acuerdo con los representantes de los estudiantes se iba a implementar un sistema de autenticación biométrica. En este comunicado se ofrecía la posibilidad de realizar los exámenes en formato presencial.
Más adelante, desde el consejo de representación estudiantil se envía a los alumnos un manual con las instrucciones de uso y todas las especificaciones técnicas del sistema Smowl. Se les pide que instalen el software cinco días antes y en la guía piden consentimiento para el reconocimiento facial, además de establecer las condiciones en las que se debe realizar la prueba. Entre ellas: que debe realizarse en una estancia cerrada, preferiblemente una habitación pequeña con una sola entrada, donde el estudiante deberá encontrarse solo y no podrá haber en ella otro dispositivo informático ni siquiera apagado.
“En caso de alteración de las condiciones del entorno, el profesor de la asignatura valorará el impacto en la evaluación, pudiendo calificarse con un cero (suspenso).”
Preguntamos a Rubén González, vicerrector de Ordenación Académica y profesorado de la UNIR por qué han cambiado el sistema después del inicio de la pandemia. “Con motivo del estado de alarma se suprimieron los exámenes presenciales que eran obligatorios en UNIR y se ofreció un sistema de evaluación con asistencia tecnológica. Actualmente, ofrecemos dos opciones de libre elección: en línea y presencial”. dice. “Después de realizar una primera fase de implantación de Smowl en la Escuela de Superior Ingeniería y Tecnología, los profesores y los representantes estudiantiles manifestaron su satisfacción con este sistema, que mejora la calidad de la prueba. Todos los alumnos tienen la posibilidad de seguir examinándose de forma presencial, como tenían estipulado en su matrícula, en las mismas sedes ofertadas tradicionalmente”.
Un grupo de 230 estudiantes no lo ven así, y ya han aportado dinero al crowdfunding que les ha permitido montar una asociación que defienda sus derechos. Según Casas, lo que ha habido aquí es “un cambio repentino y unilateral de la modalidad y condiciones de examen, a tan solo mes y medio de los mismos, que disrumpir de lleno el curso normal del semestre. Algo realmente inentendible, ya que con la primera ola de la pandemia no se había producido ningún viraje repentino de este tipo, ni un desmanejo semejante de cara a los alumnos. Con la primera ola los exámenes pasaron a ser online, y así han continuado durante dos semestres seguidos sin que haya habido problemas. Y ahora en el tercero, que forma parte de la matrícula 2020-2021, se ha optado por implantar un software de control biométrico superinvasivo que trae aparejados todo tipo de problemas”.
Menciona los de enfermos crónicos, o personas que cuidan a familiares de riesgo a los que tutores les han dicho que existiendo la opción de ir presencial no había excusa para quejarse del software ofrecido; madres que al preguntar qué hacer con su pareja e hijos “les han contestado de mala manera diciéndoles que los enviaran a pasear, que eran unas horas”, trabajadores que tienen material sensible de su trabajo y de clientes que por obligación contractual no pueden exponer, “y que al plantearlo fueron ninguneados, como si el motivo no fuera válido, sin importar que los encargados de Proteccion de datos y de IT de sus empresas les prohibieran expresamente instalar el software en sus ordenadores al ser consultados”; o “alumnos con problemas de ansiedad a los que la carga adicional de sentirse observados, y tener que controlar su propio cuerpo para evitar un falso positivo les está haciendo pensar en no dar el examen”.
Los estudiantes han creado un grupo de Telegram donde hay más de mil miembros en el momento de escribir esto. Desde Newtral hemos hablado con un alumno que confirma su rechazo a la herramienta porque ve afectada su privacidad. No quiere dar su nombre ni que se le identifique. También es el caso de otros. Casas dice que desde la universidad se ha prohibido a los representantes de alumnos hablar con ellos y que la asociación se ha creado por el miedo de los alumnos a recibir represalias. Denuncia que “estaban circulando mensajes intentando averiguar ‘quiénes eran los cabecillas’ y aparecen perfiles recién creados en Facebook a hostilizar a quienes se quejaban”.
González, desde UNIR, dice que ellos tienen constancia «de que los estudiantes disconformes son unos 250, del total de 53.000, es decir, menos del 1% del alumnado. Por supuesto, nos debemos a todos ellos y tenemos además que garantizar la máxima calidad y el prestigio de nuestros títulos, que nos ha convertido en un referente de la Educación Superior en línea».
La Asociación de Estudiantes Universitarios por la Defensa de Derechos Fundamentales HUxIR, creada para denunciar porque “los alumnos tenían miedo de dar su cara”, según Casas, ha empezado por enviar al rector una carta donde piden la sustitución del sistema por otra herramienta que cumpliendo la misma finalidad sea menos invasiva con la privacidad de los estudiantes y solicitan la documentación en materia de protección de datos, como el análisis de riesgos y la evaluación de impacto. Hasta este momento y tras cinco días sólo han recibido un acuse de recibo de los abogados de UNIR.
ACTUALIZACIÓN (9/6/2021)
El juez ha rechazado las medidas cautelares y ha dado traslado a la demanda. Los estudiantes han decidido exponer el caso ante la AEPD, esta vez como asociación. Por parte de la UNIR, su rector, José María Vázquez García-Peñuela, ha enviado un comunicado a los alumnos [PDF] en el que avisa que suspenderán temporalmente los procedimientos biométricos de identificación en los exámenes, aunque seguirán utilizando la herramienta Smowl, y el resto de procedimientos se mantiene. La dirección se encuentra esperando la respuesta a la consulta que ha planteado a la AEPD.
ACTUALIZACIÓN (2/8/2021)
El 27 de julio de 2021 la AEPD ha emitido una resolución [PDF] en la que advierte a la Universidad Internacional de La Rioja «para que adopte las medidas correctivas encaminadas a evitar que el tratamiento previsto pueda suponer un posible incumplimiento de la legislación de protección de datos». Considera que «En el caso examinado, no se justifica la necesidad del tratamiento [biométrico], ya que la identificación online de los alumnos se ha estado realizando de forma habitual por los centros Universitarios mediante la visualización del alumno sin emplear técnicas de reconocimiento facial. Sobre este particular es necesario subrayar que no cabe confundir necesidad con conveniencia como recuerda el informe de la AEPD no 372/2016 de la AEPD, así la utilización de técnicas de reconocimiento facial puede ser conveniente para UNIR, pero no son necesarias para la consecución del fin pretendido».
Fuentes:
- Samuel Parra, abogado en ePrivacidad
- Rubén González, vicerrector de Ordenación Académica y Profesorado de Universidad Internacional de La Rioja (UNIR)
- José María Casas, estudiante, portavoz de la Asociación de Estudiantes Universitarios por la Defensa de Derechos Fundamentales HUxIR
- Emili Rubió, Vicegerente de Operaciones Universitat Oberta de Catalunya
- Pablo Mezquita, abogado de Nivolap, de la Asociación de Estudiantes
- Proposal for a Regulation laying down harmonised rules on artificial intelligence (Artificial Intelligence Act) – Comisión Europea
- Informe jurídico AEPD sobre exámenes online N/REF: 0036/2020 [PDF]
- Informe de iniciativas y herramientas de evaluación online universitaria en el contexto del Covid-19, Manuel González, Ernest Marco y Toret Medina. Gabinete de Ministros y Ministerio de Universidades [PDF]
- Informe sobre el impacto normativo de los procedimientos de evaluación online – Conferencia de Rectores de las Universidades Españolas [PDF]
- Resolución del Rectorado de la Universidad de Granada [PDF]
- Instrucciones de las pruebas a evaluación enviadas a alumnos de UNIR [PDF]
- Resolución de advertencia de AEPD para la UNIR [PDF]
