La Comisión del Mercado Interno y la Comisión de Libertades Civiles del Parlamento Europeo han aprobado un mandato de negociación para establecer la primera legislación sobre inteligencia artificial. El objetivo de los eurodiputados es garantizar que los sistemas de IA dentro de la Unión Europea estén supervisados por personas y sean “seguros, transparentes, trazables, inclusivos y respetuosos con el medio ambiente”.

Estas medidas, discutidas durante más de dos años, sentarán las bases para la creación de una legislación pionera que permita el control de las tecnologías emergentes, restringiendo su uso en sistemas de reconocimiento facial o de crédito social. Asimismo, se ha puesto énfasis en definir adecuadamente qué se entiende por sistema de inteligencia artificial, con el fin de que la legislación sea aplicable tanto a los sistemas actuales, como ChatGPT, como a los futuros y sea tecnológicamente neutral.

Se busca restringir el uso de inteligencia artificial en sistemas de reconocimiento por razones de privacidad

La propuesta legislativa plantea establecer una regulación basada en el nivel de riesgo inherente de cada sistema de IA, y establece una serie de obligaciones para proveedores y usuarios en función de este nivel de peligrosidad. Los sistemas más peligrosos, calificados como “inaceptables”, estarán completamente prohibidos dentro de la jurisdicción de la Unión Europea, tales como aquellos que empleen técnicas de manipulación subliminal, se aprovechen de las vulnerabilidades de individuos o colectivos, o clasifiquen a las personas en función de sus comportamientos, emociones o poder adquisitivo.

En la larga y compleja lista de propuestas legislativas, con diversos desacuerdos entre políticos conservadores y progresistas, el borrador detalla la intención de prohibir el uso de la IA en los siguientes casos:

• Identificación biométrica en tiempo real en espacios públicos.
• Identificación biométrica de grabaciones, salvo requerimiento de las autoridades en la persecución de delitos graves y con autorización judicial previa.
• Categorización biométrica de personas utilizando características sensibles como género, raza, etnia, ciudadanía, religión, creencias u opiniones políticas.
• Reconocimiento de emociones utilizados por fuerzas de seguridad, gestión fronteriza, en el lugar de trabajo y las instituciones educativas.
• Extracción indiscriminada de datos biométricos de redes sociales o grabaciones de CCTV para crear bases de datos de reconocimiento facial.

El proyecto de ley se someterá a votación plenaria en el Parlamento Europeo en junio, antes de que se acuerden los términos definitivos entre los representantes del Parlamento, Consejo y Comisión de la Unión Europea.

Una vez que se ultimen los detalles y el proyecto se convierta en ley, habrá un período de dos años para que los afectados puedan cumplir con la normativa, similar a lo ocurrido con la aprobación de la DSA hace unos meses, la cual afecta a empresas como Twitter o Facebook.