Alto riesgo: cómo saber si un sistema lo es y qué exige

El alto riesgo es el centro del AI Act: no prohíbe, pero concentra la mayoría de las obligaciones. Saber si un sistema lo es cambia el alcance de todo el trabajo.

Qué significa que un sistema sea de alto riesgo

Un sistema de alto riesgo se puede usar, pero con requisitos estrictos antes y durante su uso. El reglamento no clasifica por la tecnología ni por el sector de la empresa, sino por la finalidad del sistema: para qué está destinado y en qué contexto se usa. Por eso, en una misma empresa pueden convivir sistemas de alto riesgo y otros que no lo son.

Las dos vías

Por el producto (art. 6.1 y anexo I). Es de alto riesgo la IA que es componente de seguridad de un producto regulado por la legislación de la Unión del anexo I, o que es ella misma ese producto, cuando el producto necesita una evaluación de la conformidad de terceros; por ejemplo, los productos sanitarios. Desde el Ómnibus, no cuenta como componente de seguridad la IA que solo sirve para la asistencia al usuario, el rendimiento, la eficiencia, la automatización. La excepción no se aplica si su fallo puede poner en peligro la salud o la seguridad (art. 6, apartados 1 bis y 1 ter).

Por la finalidad (art. 6.2 y anexo III). Son de alto riesgo los usos que enumera el anexo III, agrupados en ocho áreas: biometría; infraestructuras críticas; educación y formación profesional; empleo y gestión de trabajadores; acceso a servicios esenciales, públicos y privados; aplicación de la ley; migración, asilo y control de fronteras; y administración de justicia y procesos democráticos. Dentro de cada área, el anexo concreta qué usos: pertenecer al área no basta.

Las excepciones

Un sistema del anexo III no se considera de alto riesgo si no plantea un riesgo importante para la salud, la seguridad o los derechos fundamentales, también por no influir sustancialmente en la decisión (art. 6.3). Ocurre cuando está destinado a una de estas tareas:

una tarea de procedimiento limitada;
mejorar el resultado de una actividad humana ya realizada;
detectar patrones o desviaciones en decisiones anteriores, sin sustituir la valoración humana ni influir en ella sin una revisión adecuada;
o una tarea preparatoria para una evaluación.

Hay un límite: si el sistema elabora perfiles de personas, siempre es de alto riesgo. Y el proveedor que considere que su sistema no lo es tiene que documentar esa evaluación antes de comercializarlo, registrarlo y facilitarla si la autoridad la pide (art. 6.4).

Qué se exige a quien lo desarrolla

Al proveedor, que desarrolla el sistema, el reglamento exige, en lenguaje llano:

un sistema de gestión de riesgos durante todo el ciclo de vida (art. 9);
datos de entrenamiento, validación y prueba con criterios de calidad, y su gobernanza (art. 10);
documentación técnica (art. 11) y registros automáticos de lo que hace el sistema (art. 12);
transparencia e instrucciones de uso para quien lo va a usar (art. 13);
un diseño que permita la supervisión humana (art. 14);
precisión, solidez y ciberseguridad (art. 15);
un sistema de gestión de la calidad (art. 17), proporcionado al tamaño de la organización;
y, antes de comercializarlo, la evaluación de la conformidad, la declaración UE, el marcado CE y el registro (arts. 43 a 49).

Qué se exige a quien lo usa

Al responsable del despliegue, que usa el sistema, el reglamento le exige (art. 26):

usarlo según sus instrucciones;
encargar la supervisión humana a personas con la competencia, la formación y la autoridad necesarias;
cuidar que los datos de entrada sean pertinentes y representativos, en la medida en que los controle;
vigilar su funcionamiento y avisar al proveedor y a la autoridad de los riesgos y de los incidentes graves;
conservar los registros que genere el sistema, al menos seis meses;
e informar antes a los trabajadores y a sus representantes si lo usa en el trabajo, y a las personas sobre las que decide o ayuda a decidir.

Además, algunos responsables del despliegue deben evaluar antes su impacto en los derechos fundamentales (art. 27): los organismos públicos, las entidades privadas que prestan servicios públicos y quienes usan IA para evaluar la solvencia de personas o tarificar seguros de vida y salud.

Los plazos tras el Ómnibus

El Ómnibus aplazó la aplicación. Los requisitos del alto riesgo por su finalidad (anexo III) se aplican desde el 2 de diciembre de 2027, y los del anexo I, desde el 2 de agosto de 2028.

Los sistemas que ya estaban en el mercado antes de esas fechas solo quedan sujetos si después cambian de forma significativa su diseño. Los proveedores y responsables del despliegue de sistemas destinados a autoridades públicas deben cumplir, en cualquier caso, a más tardar el 2 de agosto de 2030 (art. 111.2).

Todas las fechas, en el calendario del AI Act.

Cómo se determina

Medir tu exposición sirve de orientación, pero si un sistema concreto es de alto riesgo se determina sistema a sistema, según su finalidad, su contexto de uso y su documentación. Es la primera etapa del método: el diagnóstico.

Fuentes: Reglamento (UE) 2024/1689, arts. 3.14, 6, 9 a 17, 26, 27, 43 a 49, 111 y 113 y anexos I y III; Reglamento (UE) 2026/1744 (Ómnibus), art. 1, puntos 4, 8, 9, 10, 11, 13, 39 y 40, y considerandos 7, 39 y 40. Orientación general, no una determinación jurídica.