Renfe quiere vigilar a los viajeros con reconocimiento facial en tiempo real: cómo será este sistema y por qué puede ser discriminatorio

Renfe utilizará reconocimiento facial para controlar el aforo, detectar quién se cuela y realizar un perfil de los viajeros. Se trata de un proyecto piloto que pretende utilizar las 200 cámaras instaladas en las principales estaciones de toda España. Por el momento estas imágenes únicamente se utilizan por los agentes de seguridad para controlar, pero Renfe quiere implementar un análisis de las imágenes en tiempo real mediante algoritmos basados en inteligencia artificial. Es decir, aplicar un sistema de reconocimiento facial automatizado que les permita recibir alertas si un usuario pasa por debajo de las puertas o tener un control de qué tipo de personas se encuentran en cada estación.

La compañía de trenes nacional quiere tener implementado el sistema para mayo de 2021 y por ello ha abierto esta semana una licitación por valor de 781.000 euros para desarrollar el sistema de análisis de imagen que implementará en 25 paradas de Cercanías. Un sistema propuesto que, como ha avanzado El Confidencial, permitirá clasificar a los viajeros por su edad, género, estado de ánimo y hasta origen étnico. Este último un dato especialmente sensible protegido por las leyes de protección de datos.

En Xataka

Cuando una empresa puede conocernos mejor que nadie gracias al reconocimiento facial y sin poder negarnos: el desafío legislativo

Un reconocimiento facial con eficacia de hasta el 98%

Según describe el documento de licitación, al que ha podido acceder Xataka, el sistema deberá ser capaz de analizar en tiempo real el aforo de las estaciones más relevantes de Cercanías en los núcleos de Madrid y Barcelona. En total, el sistema se plantea para utilizarse en 25 estaciones, principalmente las de Madrid y Barcelona capital, pero también las de Getafe, Fuenlabrada, Alcorcón, Terrasa, Mataró, San Bernardo, San Isidro y Llodio.

Este sistema de reconocimiento facial está creado para lanzar de forma automática alarmas a los centros de control C24h de la Dirección de Seguridad, Autoprotección y Prevención de Riesgos Laborales. El algoritmo analizará las imágenes captadas por las cámaras de estas estaciones y permitirá detectar determinadas acciones, con una eficiencia mínima exigida por Renfe.

El proyecto de Renfe diferencia entre la zona de Andenes y en los Tornos. Para los andenes, el sistema realizará un conteo de viajeros, detectando aforo máximo cada 30 segundos. En la zona de los tornos, el sistema de reconocimiento facial deberá ser capaz de realizar un conteo de las entradas y salidas de cada torno, detectar el fraude, realizar un análisis del tipo de equipaje (maleta pequeña/grande/mediana) y realizar un perfil del viajero (edad, género, origen étnico).

Para el control del aforo, Renfe exige una eficacia mínima del 98%. Sin embargo, para la detección del fraude, como saltar, hacer el trenecito, pasar por debajo o entre las puertas, Renfe solicita un 95%. Un porcentaje que baja al 85% en lo relativo a realizar el perfil de los viajeros. Si durante la ejecución del contrato Renfe comprobase que no se cumple el grado de eficacia exigido para las analíticas, el adjudicatario podría ser penalizado e incluso ser causa de resolución del contrato.

Llama especialmente la atención la segmentación que quiere hacer este sistema de reconocimiento facial, donde no solo se diferenciará por edad o género, también por el origen étnico, el tipo de ropa, si viajar solos, con niños o en grupos numerosos e incluso el estado de ánimo (felices, tristes, cansados, sin determinar).

No queda ahí la analítica, pues transcurridos los primeros seis meses de vigencia del contrato, se espera que también se puedan analizar comportamientos antisociales como tumultos, peleas y disturbios, así como comportamientos anómalos, vandalismo, graffitis, merodeo o robos. Una vez obtenidos estos datos, el documento hace referencia a que se implementará un sistema de analítica que permita la "predicción anticipada de hechos negativos y comportamientos repetitivos con el estudio de patrones".

Qué dice Protección de Datos respecto a distinguir por el origen étnico

Samuel Parra, especialista en protección de datos de Égida, explica que el origen étnico queda especialmente protegido por el Reglamento de Protección de Datos de 2018, al tratarse de una categoría especial de dato. En este aspecto, el consentimiento de los usuarios de Renfe no sería suficiente para que el reconocimiento facial les identificase por su origen. Es decir, el reconocimiento facial podría identificar el género o incluso el estado de ánimo, suponemos que a través de las expresiones faciales, pero no sería aceptable que el algoritmo tuviera en cuenta el origen racial, además de las dificultades que conlleva.

Según el artículo 9 de Categorías especiales de datos, del RGPD:

A fin de evitar situaciones discriminatorias, el solo consentimiento del afectado no bastará para levantar la prohibición del tratamiento de datos cuya finalidad principal sea identificar su ideología, afiliación sindical, religión, orientación sexual, creencias u origen racial o étnico.

Este artículo dispone de algunas excepciones, como un "interés público esencial". Algo que no se cumpliría en este caso, según apunta Parra. Desde Xataka hemos consultado con Renfe para conocer su posición al respecto, sin respuesta por el momento.

Renfe cancela la licitación inicial para realizar correcciones

A las pocas horas de darse a conocer la licitación a través de El Confidencial, Renfe ha anulado el pliego de su sistema de reconocimiento facial, con el motivo de "realizar correcciones en el Pliego y en el documento de Especificaciones Técnicas". El documento ya no se encuentra accesible, aunque previsiblemente será actualizando durante las próximas semanas cuando se haya revisado.

Desde Renfe han anulado el pliegue para realizar modificaciones.

Más allá del aspecto del origen étnico, lo cierto es que Renfe sí tiene en cuenta Protección de Datos en su licitación. Llama la atención que en su Dashboard, se explica que se filtrarán por tiempo real datos como la estación, el año, mes, semana, día, género y edad, pero no se describe ni el estado de ánimo ni el origen étnico. Esta última distinción podría ser abandonada fácilmente por Renfe y la gran mayoría del documento de 170 páginas seguiría siendo válido, según los expertos.

Entre los requisitos solicitados por Renfe se especifica la creación de un responsable de Protección de Datos, así como la realización de un análisis de riesgos que será compartido con el Área de Ciberseguridad y Privacidad del Grupo Renfe. En el apartado PS.07, se especifica que se deberá cumplir con la Ley Orgánica de Protección de Datos y Garantía de Derechos digitales, algo que según los expertos entra en conflicto con las solicitudes realizadas por la propia Renfe en esta licitación.

-
La noticia Renfe quiere vigilar a los viajeros con reconocimiento facial en tiempo real: cómo será este sistema y por qué puede ser discriminatorio fue publicada originalmente en Xataka por Enrique Pérez .