Retos: regulación de protección de datos personales en plataformas IA
Este artículo fue publicado en Revista Industria Legal.
La inteligencia artificial (IA) es uno de los avances tecnológicos más significativos de nuestro tiempo. Como toda innovación, ha planteado dilemas regulatorios que antes no habían sido considerados. Uno de los principales retos que surgen con la proliferación de la IA entre los ciudadanos con acceso a internet es la protección de los datos personales tratados mediante estas tecnologías.
En México, la Constitución reconoce el Derecho Fundamental a la protección de los datos personales y establece la creación de una autoridad garante de este derecho, el Instituto Nacional de Transparencia, Acceso a la Información y Protección de Datos Personales (INAI). Sin embargo, uno de los desafíos actuales que enfrenta el INAI en el ejercicio de sus funciones radica en la creación de normatividad sólida que pueda adaptarse a una realidad en constante evolución. En el contexto de México, el tratamiento de datos personales en el uso de la IA no está claramente definido en la legislación aplicable.
En aras de lograr establecer criterios dirigidos a la adecuada protección de los datos personales tratados a través de plataformas de IA, y considerando los desafíos y oportunidades inherentes a estas tecnologías, el INAI ha emitido las Recomendaciones para el Tratamiento de Datos Personales Derivado del Uso de la Inteligencia Artificial (“Recomendaciones”).
Estas Recomendaciones están dirigidas a desarrolladores y usuarios de plataformas de IA con la finalidad de promover la ética y el uso responsable de las mismas, así como para facilitar el cumplimiento del deber de seguridad de los datos personales. Las recomendaciones complementan los esfuerzos regulatorios asumidos por México al adherirse a la “Recomendación sobre la Ética de la Inteligencia Artificial” de la UNESCO.
Las Recomendaciones subrayan la importancia de los datos personales en el funcionamiento de los sistemas de IA, ya que se utilizan para crear perfiles y realizar tareas como la geolocalización, detección de rostros y procesamiento de audio. No obstante la valiosa contribución del INAI, todavía hace falta legislar en esta materia para abordar los siguientes desafíos:
- Consentimiento informado específico: los usuarios de plataformas de IA a menudo desconocen cómo se tratan sus datos personales en detalle (en comparación con el tratamiento general a cargo de responsables tradicionales). Resulta necesario que las implicaciones en el tratamiento de los datos personales sean explicadas adecuadamente por los responsables de estas plataformas y se contemplen mecanismos para la obtención expresa del consentimiento de los usuarios.
- Determinación de responsabilidades por vulneraciones: la masiva recopilación y almacenamiento de datos personales en servidores y bases de datos que no son operadas directamente por seres humanos genera incertidumbre sobre la responsabilidad en caso de vulneraciones derivadas de la operatividad misma de la IA.
- Prevención de discriminación: las plataformas de IA funcionan según la información con la que son alimentadas. Es crucial establecer mecanismos para evitar que esta información pueda dar lugar a acciones discriminatorias contra los usuarios, especialmente cuando comparten datos personales sensibles que podrían propiciar dicha discriminación por parte de la IA.
- Facilitar el ejercicio de derechos: si las plataformas de IA y los avances tecnológicos surgen para mejor y facilitar la vida humana, es fundamental que todos los usuarios tengan un acceso sencillo y ágil para ejercer sus Derechos ARCO y otros derechos establecidos en la legislación de protección de datos personales. Esto debería permitir que las propias plataformas de IA recibieran instrucciones directamente de los usuarios y las ejecutaran inmediatamente, cumpliendo con las normas jurídicas aplicables.
En conclusión, es importante aprovechar los pasos institucionales ya tomados para abordar los retos de la protección de datos personales en las plataformas de IA y continuar mejorando el marco regulatorio, siempre con la meta de garantizar el Derecho Fundamental de los usuarios de estas plataformas.
