Primera convocatoria para sistemas de IA de alto riesgo
Nota informativa escrita por el área de TMT de ECIJA Madrid.
La IA Sandbox, creado por la Secretaría de Estado de Digitalización e Inteligencia Artificial (SEDIA), es un entorno de pruebas, cuyo propósito es facilitar el cumplimiento de los requisitos establecidos en el Reglamento (UE) 2024/1689 (Reglamento de IA). Facilita la implementación y evaluación de sistemas de IA de alto riesgo, elaborando guías técnicas y buenas prácticas fundamentadas en las evidencias y lecciones aprendidas.
Lo que necesitas saber:
- Un Sandbox IA es un entorno controlado de pruebas establecido y guiado por la Secretaría de Estado de Digitalización e Inteligencia Artificial (“SEDIA”), en colaboración con la Comisión Europea, para evaluar la implementación de los requisitos aplicables a los sistemas de IA de alto riesgo contemplados en el Reglamento (UE) 2024/1689 («Reglamento de IA»).
- El acceso al Sandbox IA se limita a un máximo de 12 sistemas de IA de alto riesgo, los cuales serán seleccionados conforme a criterios de evaluación específicos. Tendrán prioridad aquellos sistemas de IA cuya implementación represente un mayor grado de impacto social, empresarial o de interés público.
- El proyecto tendrá una duración estimada de 12 meses. Como resultado de este entorno, se generarán y publicarán guías técnicas y recomendaciones de buenas prácticas, basadas en las evidencias y la experimentación obtenida, con el objetivo de facilitar la implementación de sistemas de IA de alto riesgo en conformidad con la normativa aplicable.
- El plazo para la presentación de candidaturas ya se encuentra abierto y se cerrará el 23 de enero de 2025. La SEDIA ha convocado una reunión informativa el 9 de enero para explicar la convocatoria y resolver las dudas de los participantes interesados.
(I) ¿En qué consiste?
Es un entorno controlado de pruebas establecido por la Secretaría de Estado de Digitalización e Inteligencia Artificial (“SEDIA”), diseñado para ayudar a cumplir con los requisitos del Reglamento (UE) 2024/1689 (“Reglamento de IA”)
Fue establecido mediante el Real Decreto 817/2023 y mediante la Resolución de 20 de diciembre de 2024 de la SEDIA (la “Resolución”), se acaba de abrir la primera convocatoria de participación.
Permite la implementación y evaluación de sistemas de IA de alto riesgo, desarrollando guías técnicas y buenas prácticas basadas en las evidencias y aprendizajes obtenidos.
El plazo para presentar las candidaturas ya está abierto. Las solicitudes podrán presentarse hasta el 23 de enero de 2025.
Sandbox de sistemas de IA de alto riesgo:
- Cumplimiento normativo
- Fomento de innovación responsable
- Generación de buenas prácticas y directrices IA
- Apoyo y supervisión continua
(II) Requisitos de participación
El acceso al Sandbox está limitado a 12 sistemas de IA de alto riesgo, seleccionados bajo criterios específicos. Se considerará como único participante el conjunto de proveedores de IA y usuarios de un mismo sistema de IA. El solicitante deberá cumplir con las siguiente condiciones:
- Tener residencia o establecimiento permanente en España, o ser residente de la Unión Europea asociado o con vinculación similar con una empresa residente en España.
- Acreditar mediante declaración responsable que cuentan con los derechos de propiedad intelectual sobre el sistema de IA de alto riesgo.
- Alternativamente, el sistema de IA deberá estar comprendido dentro del anexo III del Reglamento de IA, o estar regulado por una de las siguientes normativas comunitarias: Directiva 2006/42/CE, de 17 de mayo, Reglamento (UE) 2017/745, de 5 de abril, o Reglamento (UE) 2017/746, de 5 de abril.
- El sistema de IA debe estar introducido en el mercado o puesto en servicio, o bien, tener un grado de avance mínimo de un TRL (nivel de madurez de la tecnología) de valor 6.
- Si el sistema trata datos personales, debe cumplir con la legislación europa de protección de datos (artículo 16 del Real Decreto 817/2023, de 8 de noviembre).
Las solicitudes se tramitarán de forma telemática. El procedimiento contará con una fase de instrucción (admisión y evaluación de las solicitudes, notificación de la propuesta resolución y alegaciones), y seguidamente, la SEDIA emitirá resolución sobre el procedimiento, admitiendo o denegando la solicitud. Esta resolución podrá ser recurrida en reposición en el plazo de 1 mes ante la SEDIA.
Descarga el PDF completo más abajo.