El uso de la inteligencia artificial en el trabajo policial requiere garantías sólidas, según el Parlamento Europeo, que busca prevenir la discriminación y garantizar el derecho a la privacidad.
En una resolución adoptada con 377 votos a favor, 248 en contra y 62 abstenciones, los eurodiputados advierten de los sesgos en que incurren los algoritmos y enfatiza la necesidad de incorporar supervisión humana y controles jurídicos para evitar discriminación, en particular cuando se utiliza la inteligencia artificial en los controles fronterizos.
Las decisiones finales siempre deben adoptarlas personas, recalcan los eurodiputados, y las personas sujetas a este tipo de herramientas han de poder apelar sus decisiones.
Preocupación por el riesgo de discriminación
La resolución hace hincapié en que muchas tecnologías de identificación basadas en algoritmos cometen más errores al identificar y clasificar a personas racializadas o pertenecientes a determinadas comunidades étnicas, a personas LGBTI, a niños y personas mayores, y también a mujeres.
Para garantizar el respeto de los derechos fundamentales, los eurodiputados piden que los algoritmos sean transparentes, rastreables y dejar huella documental.
Siempre que sea posible, las autoridades deben utilizar programas de código abierto para contribuir también a la transparencia.
Tecnologías controvertidas
En aras de la privacidad y la dignidad humana, los eurodiputados instar a prohibir de manera permanente los sistemas de reconocimiento automático en espacios públicos, y dejan claro que los ciudadanos sólo deben ser sometidos a vigilancia si son sospechosos de haber cometido un delito.
Las bases de datos privadas de reconocimiento facial (como Clearview, que ya funciona) y las técnicas predictivas basadas en datos de comportamiento deben quedar también prohibidas, agrega el PE.
Los eurodiputados rechazan, asimismo, los sistemas de puntuación social de los ciudadanos a los que se otorga una clasificación en función de su comportamiento o personalidad.
El Parlamento también está preocupado por la utilización de datos biométricos para la identificación a distancia de personas. El texto alude en concreto al proyecto iBorderCtrl, un «sistema inteligente de detección de mentiras» que se ha usado en pruebas en Hungría, Letonia y Grecia en el marco del control de entradas en territorio europeo.
Los eurodiputados animan a la Comisión a iniciar procedimientos de infracción contra los Estados miembros en caso necesario.
El ponente de la resolución, el eurodiputado Petar Vitanov (S&D, Bulgaria) señaló: «No hay condiciones para el respeto de los derechos fundamentales. Por primera vez, pedimos una moratoria en el despliegue de los sistemas de reconocimiento facial en el ámbito policial, pues la tecnología se ha demostrado ineficaz y a menudo discriminatoria. Estamos en contra de las técnicas de predicción del comportamiento basadas en inteligencia artificial, así como del tratamiento de datos biométricos para la vigilancia masiva. Es una victoria para los ciudadanos».
