El 1 de agosto de 2024 entra en vigor el esperado Reglamento de Inteligencia Artificial (IA), lo que significa que, después de años de negociaciones, ahora es una ley oficial de la UE.
Este es un paso administrativo significativo y abarca a gobiernos y empresas por igual, ya que deben prepararse para cumplir con estas nuevas reglas. Si no lo hacen, podrían enfrentarse a sanciones significativas si desarrollan, venden o usan sistemas de IA de riesgo en la Unión Europea.
Aunque las organizaciones de la sociedad civil —como Algorights y el resto de las que también forman parte de la coalición europea liderada por EDRI— estamos decepcionadas por la falta de un enfoque basado en los derechos humanos, el texto final contiene varias vías para un cambio positivo.
En el Reglamento hay medidas para elevar los requisitos técnicos que se exigen a los desarrolladores de sistemas de IA, ciertas reglas de transparencia para las entidades públicas que usan estos sistemas y requisitos de accesibilidad para sistemas de riesgo. Además, se incluyen medidas de reparación para las personas afectadas y líneas rojas para limitar los usos más dañinos y que afectan los derechos de las personas (aunque no llegaron tan lejos como esperábamos).
Desde la coalición seguiremos trabajando arduamente en aquellos supuestos donde el Reglamento de IA no logró cumplir su promesa de poner a las personas y sus derechos en el centro. Ello, con el fin de hacer que la implementación de estas reglas sea lo más significativa posible. Continuaremos presionando por un rol activo para la sociedad civil, así como por la participación significativa de todas las personas que sean afectadas por el uso de sistemas de IA, considerando especialmente a las comunidades minoritarias.
A medida que avanzamos en esta próxima fase de nuestro trabajo, instamos a los responsables de las políticas y de la toma decisiones a asegurar:
- Una implementación fuerte y respetuosa con los derechos del Reglamento de IA a nivel de la UE y nacional: En tal sentido, pedimos: (i) una interpretación fuerte, efectiva y basada en la Carta de Derechos Fundamentales respecto de las tecnologías prohibidas y de riesgo bajo este reglamento; (ii) autoridades de supervisión fuertes e independientes; (iii) que las directrices y códigos que se dicten para interpretar e implementar la ley sean respetuosos con los derechos de las personas y (iv) evaluaciones de impacto de derechos fundamentales significativas (EIDFs);
- Medidas proactivas para abarcar los vacíos legales del Reglamento de IA: Estas son especialmente urgentes para proteger mejor a las personas migrantes, abordar los impactos ambientales de la IA, eliminar las exenciones regulatorias generales para el uso de IA con fines de seguridad nacional, asegurar que todos los sistemas (no solo los de alto riesgo) sean accesibles para personas con discapacidades y detener la exportación desde la UE de tecnologías de IA que pueden violar los derechos de las personas;
- Mayores prohibiciones o limitaciones nacionales sobre sistemas de IA inaceptablemente dañinos: En especial, pedimos prohibiciones sobre el uso de sistemas de reconocimiento biométrico a distancia, como el reconocimiento facial en espacios de acceso público. Asimismo, pedimos la prohibición del reconocimiento de emociones en todas sus formas.
- Detener de forma rápida el usos de IA no conformes con la Ley: El listado de prácticas prohibidas será lo primero que será aplicable, ya que será vinculantes a partir del 1 de febrero de 2025. El resto de las reglas tendrán una aplicación gradual. Seguiremos tal aplicación de cerca para impugnar usos que se salgan de los límites de la Ley;
- Procesos genuinamente transparentes e inclusivos: Los estándares técnicos, por ejemplo, son una parte importante de la implementación del Reglamento. Sin embargo, a menudo se desarrollan de forma opaca y priorizando a las entidades privadas, con el riesgo de que esto pueda socavar la regulación. Además de la creación de estándares, el desarrollo de códigos de práctica y de los grupos asesores que supervisan el Reglamento de IA deben ser transparente e incluir la visión de la sociedad civil.
Si quieres más información sobre nuestro trabajo para poner los derechos humanos en el centro de las leyes y políticas de inteligencia artificial, puedes seguir las redes sociales de Algorights o dejarnos tu email para que te avisemos de las novedades más importantes.