Alfabetización y prácticas de IA prohibidas según el Reglamento Europeo de Inteligencia Artificial

Nota informativa del área de Protección de Datos de ECIJA Madrid.

Los capítulos I y II del Reglamento Europeo de Inteligencia Artificial se aplicarán a partir del 2 de febrero de 2025.

Lo que necesitas saber:

• El Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024 (abreviado como «Reglamento Europeo de Inteligencia Artificial», «Reglamento IA» o «RIA») apuesta por un enfoque que aborda la inteligencia artificial desde los riesgos que implica para las personas.
• Como consecuencia, la UE adapta el tipo y contenido de las obligaciones de los sistemas de IA con arreglo al alcance y gravedad de los riesgos que pueda suponer. El RIA considera que determinados usos de IA conllevan un riesgo inaceptable, por lo que prohíbe una serie de prácticas.
• Asimismo, el Reglamento busca promover una alfabetización adecuada en materia de IA para minimizar riesgos y garantizar que los sistemas de IA se empleen de forma responsable y segura.
• Tanto las prohibiciones relativas a determinadas prácticas de IA como la obligación de adoptar medidas que garanticen la formación suficiente de las personas que utilicen la IA se aplicarán a partir del 2 de febrero de 2025.
• El Reglamento IA establece un régimen sancionador severo para quienes incumplan estas disposiciones, incluyendo multas administrativas significativas.
• Estas prácticas y sus prohibiciones también tienen implicaciones para organizaciones y empresas fuera de la UE que operan en su territorio o que procesan datos de ciudadanos europeos.

El Reglamento Europeo de Inteligencia Artificial (en adelante, Reglamento IA), se implementará de manera progresiva y, en concreto, a partir del 2 de febrero de 2025, los capítulos I y II del Reglamento Europeo de Inteligencia Artificial serán de aplicación efectiva.

El artículo 4 del Reglamento IA, contempla que tanto los proveedores como los implantadores de sistemas de IA deberán adoptar medidas para garantizar un nivel suficiente de conocimientos de IA de su personal teniendo en cuenta sus conocimientos técnicos, experiencia, eduación y el contexto en el que vaya a utilizarse los sistema de IA. Para ello deberán evaluar las necesidades de alfabetzación en IA, diseñar un programa de formación efectivo y garantizar una supervisión adecuada.

Por otro lado, en el artículo 5 del Reglamento IA se recogen una serie de prácticas de inteligencia artificial que se consideran de riesgo inaceptable y, por lo tanto, quedan prohibidas:

• Técnicas subliminales, manipuladoras o engañosas
• Explotación de vulnerabilidades de las personas
• Clasificación de personas mediante puntuación ciudadana
• Predicción de potencial criminalidad
• Bases de datos mediante reconocimiento facial masivo
• Inferencia de emociones en centros educativos o de trabajo
• Categorización biométrica para inferir datos de categorías especiales
• Identificación biométrica remota en tiempo real en lugares públicos con fines policiales: la identificación biométrica remota en tiempo real en espacios de acceso público con fines de aplicación de la ley está prohibida, salvo que sea estrictamente necesaria y conforme a una autorización judicial o administrativa preceptiva.

El incumplimiento de la prohibición de estas prácticas pueden alcanzar hasta los 35 millones de euros o, si el infractor es una empresa, hasta el 7% del volumen de negocio total anual a escala mundial correspondiente al ejercicio anterior, si esta cuantía fuese superior. No obstante lo anterior, las sanciones serán aplicables a partir del 2 de agosto de este mismo año.

Asimismo, en 2025 contaremos con más fechas clave respecto del Reglamento. Para el 2 de mayo los códigos de buenas prácticas deberán estar finalizados, mientras que a partir del 2 de agosto deberán aplicarse las obligaciones de los proveedores de modelos de IA de uso general.

Descarga el PDF completo más abajo.