El compliance inteligente
Artículo escrito por María Herrera, associate del área de Compliance de ECIJA Madrid.
El potencial de la Inteligencia Artificial (IA) es incalculable y su proyección es infinita; de ahí que las previsiones acerca de su alcance futuro escapen de cualquier y aventurado pronóstico: lo que hoy puede parecer una utopía, mañana puede ser una realidad. Lo único claro es que su utilidad práctica resulta incuestionable y que su uso cada vez es mayor y se extiende cada vez a más áreas, incluyendo el mundo del derecho y en particular, la gestión de los sistemas de compliance.
El art. 31 bis del Código Penal establece que las personas jurídicas pueden quedar exentas de responsabilidad penal si cuentan «con modelos de organización y gestión que incluyen medidas de vigilancia y control idóneas para prevenir delitos». Y la IA se está ya posicionando como una herramienta clave para cumplir con estas obligaciones, al permitir procesar distinta y variada información de forma automatizada e instantánea, facilitar la identificación temprana de posibles riesgos y la consiguiente toma de decisiones basadas en datos objetivos y reales.
De este modo, las empresas tienen la oportunidad de posicionarse de manera estratégica en un entorno normativo exigente y en constante evolución. Integrar sistemas de IA en sus sistemas de compliance les va a ayudar a: a) anticiparse y evitar posibles escenarios de riesgo, b) les va a permitir la implementación de controles más efectivos, c) les va a agilizar las respuestas a los contratiempos y d) les va a marcar los momentos adecuados y oportunos para llevar a cabo cambios en los sistemas de compliance.
No obstante, no se debe obviar que la IA, como su nombre indica, se maneja fuera de lo emocional y en su proceder prima la capacidad de procesar datos. La toma de decisiones no va más allá de los datos implícitos al algoritmo, (sesgo algorítmico), dejando de lado matices obvios para los humanos. Al prescindir de este último y esencial componente, no es capaz de tener en consideración el contexto cultural y las implicaciones éticas. Y así, no cabe duda de que algunas de las decisiones tomadas por la IA pueden ser discriminatorias, no éticas o no adaptadas a la realidad de la empresa.
Por lo antes expuesto, la IA no debe configurarse más allá de lo instrumental, es decir, debe ser entendida como una herramienta al servicio del ser humano, que ha venido para quedarse y mejorar nuestro quehacer diario, pero no para desplazar ni sustituir a la persona. Por ello, los responsables de los sistemas de compliance de las empresas deben asumir un papel primordial en todo lo concerniente a la ejecución de los programas de IA para que los algoritmos y modelos de aprendizaje utilizados sean claros, equitativos y estén exentos de sesgos o discriminaciones inapropiadas y no escapen del control humano.
Con la finalidad de garantizar que los sistemas de IA se utilicen de manera responsable y disminuir las referidas limitaciones, la Unión Europea aprobó el pasado 13 de marzo de 2024 el Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo (Reglamento de Inteligencia Artificial), publicando su texto definitivo el 12 de julio de 2024. Este Reglamento proporciona un marco jurídico uniforme e innovador de utilidad para identificar y gestionar los riesgos vinculados a esta nueva tecnología y además crea un procedimiento con el fin de regular las políticas de uso de esta herramienta en las empresas. Por tanto, las empresas a la hora de integrarla en la toma de decisiones de compliance deben crear mecanismos apropiados para su supervisión, evaluación y control efectivo, teniendo muy presente lo dispuesto en el citado Reglamento.
No se debe nunca olvidar que la IA no tiene vida autónoma ni tiene personalidad jurídica y, por ende, carece de responsabilidad propia. Las decisiones adoptadas con el apoyo de esta herramienta recaen completamente en la empresa, que asume la responsabilidad plena de las posibles consecuencias legales derivadas de su uso. En definitiva, el Compliance y la IA son aliados poderosos, siempre y cuando no pierda de vista el factor humano.