María Loza Corera
La propuesta que establece normas armonizadas en materia de Inteligencia Artificial (IA) quiere asentar a Europa como líder mundial en el desarrollo de una IA ética, segura y confiable. En UNIR, analizamos sus consecuencias.
La Propuesta de Reglamento del Parlamento Europeo y del Consejo, en adelante, la Propuesta, tiene por objetivo establecer un marco jurídico uniforme que permita y mejore el funcionamiento del mercado interno (la libre circulación transfronteriza, puesta en servicio, y utilización de bienes y servicios basados en IA), así como garantizar un elevado nivel de protección para los derechos fundamentales y lograr así un ecosistema de confianza, tanto para los ciudadanos, como para las empresas que desarrollen sistemas de IA.
La Propuesta define los sistemas de IA como “el software que se desarrolla empleando una o varias de las técnicas y estrategias que figuran en el anexo I (aprendizaje automático y otros) y que puede, para un conjunto determinado de objetivos definidos por seres humanos, generar información de salida como contenidos, predicciones, recomendaciones o decisiones que influyan en los entornos con los que interactúa”.
El ámbito de aplicación de la Propuesta incluye, además de a los usuarios de sistemas de IA que se encuentren en la UE, a los proveedores que Introduzcan en el mercado o pongan en servicio sistemas de IA en la UE, con Independencia de su ubicación, y a los proveedores y usuarios de sistemas de IA que se encuentren en un tercer país, cuando la Información de salida generada por el sistema se utilice en la UE.
Destacar que la Propuesta no prohíbe tecnologías, sino determinados usos o prácticas de IA, tales como:
- Sistemas de IA que se sirvan de técnicas subliminales que trasciendan la conciencia de una persona para alterar de manera sustancial su comportamiento de un modo que provoque o sea probable que provoque perjuicios físicos o psicológicos a esa persona o a otra.
- Sistemas de IA que aprovechen alguna de las vulnerabilidades de un grupo específico de personas debido a su edad o discapacidad física o mental para alterar de manera sustancial el comportamiento de una persona que pertenezca a dicho grupo de un modo que provoque o sea probable que provoque perjuicios físicos o psicológicos a esa persona o a otra.
- Sistemas de IA por parte de las autoridades públicas con el fin de evaluar o clasificar la fiabilidad de personas físicas.
- Sistemas de identificación biométrica remota «en tiempo real» en espacios de acceso público con fines de aplicación de la ley, salvo determinados supuestos expresamente previstos.
Con respecto a los usos permitidos, se establece un enfoque basado en el riesgo. De esta manera, se clasifican los sistemas de IA en sistemas de alto riesgo, de riesgo limitado o bajo y resto de sistemas, riesgo mínimo.
Sistemas de alto riesgo
La Propuesta establece las reglas de clasificación para los sistemas de alto riesgo y también establece que se considerarán de alto riesgo los enumerados en el Anexo III de la Propuesta, clasificándolos según el ámbito de utilización (Identificación biométrica y categorización de personas físicas; Gestión y funcionamiento de Infraestructuras esenciales; Educación y formación profesional; Empleo, gestión de los trabajadores y acceso al autoempleo; Acceso y disfrute de servicios públicos y privados esenciales y sus beneficios; Asuntos relacionados con la aplicación de la ley; Gestión de la migración, asilo y el control fronterizo; Administración de justicia y procesos democráticos).
Para los sistemas de IA de alto riesgo se establecen obligaciones en el ámbito de la gestión de riesgos, gobernanza de datos, documentación técnica, registro de la documentación, transparencia y suministro de Información a los usuarios, vigilancia humana, y precisión solidez y ciberseguridad.
Sistemas de riesgo limitado
En relación a los sistemas de riesgo limitado, la Propuesta habla de “obligaciones de transparencia para determinados sistemas de IA”, tales como los sistemas de IA destinados a interactuar con personas físicas (robots conversacionales). Se establece la obligación de informar de que se está interactuando con un sistema de IA (excepto si resulta evidente de las circunstancias y contexto)
Respecto al resto de sistemas de IA que no sean de alto riesgo, podrán crear sus propios códigos de conducta, para fomentar, entre otros, el cumplimiento voluntario de los requisitos establecidos para los sistemas de alto riesgo.
Se trata de una Propuesta, todavía pendiente de debate y aprobación, pero cuyo enfoque basado en el riesgo debemos recibir de forma favorable. Exige numerosas obligaciones para la puesta en marcha de sistemas de IA de alto riesgo que los proveedores y usuarios deberán cumplir, incluyendo una declaración UE de conformidad para cada sistema de IA. Además, no debemos olvidar la aplicación del Reglamento de protección de datos (RGPD), que deberá aplicarse también cuando los sistemas de IA traten datos personales o sirvan de ayuda en la toma de decisiones que puedan afectar a personas.
- Aula Directiva
