La nueva ley de la Unión Europea (UE) para regular la inteligencia artificial (IA), una legislación inédita, entró el jueves 1 de agosto en vigor con el objetivo de fomentar la innovación y limitar los posibles abusos en el desarrollo y utilización de esta reciente tecnología.
La mayor parte de la legislación se aplicará a partir de 2026, pero algunas disposiciones ya serán vinculantes el año que viene, en enero de 2025 quedará totalmente prohibida la introducción en el mercado o la puesta en servicio de determinadas IA por considerarlas de riesgo inaceptable.
Los sistemas de riesgo se califican en cuatro niveles (mínimo, limitado, alto e inaceptable). Los de riesgo mínimos son permitidos por la ley.
Los de riesgo limitado comprenden los asociados con la falta de transparencia en el uso de la inteligencia artificial. Estarán sujetos a obligaciones de transparencia muy leves, tienen que estar etiquetados como contenido creado por IA.
Los de riesgo alto, utilizados por ejemplo en infraestructuras críticas(energía, transporte, agua), educación, recursos humanos o aplicación de la ley, estarán sujetos a requisitos estrictos y reforzados y deben ser evaluados antes de ser autorizados.
Estos requisitos incluirán por ejemplo un control humano, el establecimiento de una documentación técnica o la puesta en marcha de un sistema de gestión del riesgo.
Por último, los de riesgo inaceptable, restringen por completo los sistemas de IA, ya que son una clara amenaza para la seguridad, los medios de vida y los derechos de las personas.
Las prohibiciones afectarán a aplicaciones contrarias a los valores europeos, como los sistemas de calificación de categorización biométrica basados en características sensibles y la captura indiscriminada de imágenes faciales de internet o grabaciones de cámaras de vigilancia para crear bases de datos de reconocimiento facial, como los utilizados en China.
Estarán prohibidos los sistemas de IA que sean capaces de trascender la conciencia de una persona con técnicas deliberadamente manipuladoras, engañosas o subliminales con el objetivo o el efecto de alterar el comportamiento de una persona o un colectivo de personas y les provoque un perjuicio considerable.
Asimismo, las que puedan provocar un perjuicio considerable a un determinado colectivo por su edad, discapacidad, situación social o económica específica.
Del mismo modo, los sistemas creados para intentar deducir las emociones de una persona, -excepto cuando sea por motivos médicos o de seguridad- y aquellas que creen bases de datos de reconocimiento facial mediante la extracción no selectiva de imágenes faciales de internet, entre otras.
El nuevo reglamento fue adoptado por los 27 Estados miembros de la UE el pasado 21 de mayo, tras ser adoptado por el Parlamento Europeo con una amplia mayoría (523 a favor, 46 en contra y 49 abstenciones).
El Consejo y Parlamento Europeo llegaron a un acuerdo sobre el texto en diciembre de 2023, tras difíciles negociaciones en las que algunos países, como Francia, temían una regulación excesiva que amenazara el desarrollo de este sector.
La reelegida presidenta de la Comisión Europea, Ursula Von der Leyen aseguró que la nueva normativa «impulsará el desarrollo de una IA en la que los europeos puedan confiar».