Usos de la IA en el sector

Educación

En educación, la IA interviene en el acceso, la evaluación y la supervisión del alumnado, además de en las tutorías y la gestión del centro. Así suele aparecer, agrupada por lo que hace.

El sector no determina el riesgo: cada uso se evalúa por separado, según para qué se usa y qué rol tiene vuestra empresa.

Así suele aparecer la IA en Educación

Si una IA conversa con personas, como mínimo hay que avisarles de que hablan con una máquina. Según para qué se use, puede tener más obligaciones.

Por ejemplo
Tutores virtuales para el alumnado
Asistentes de secretaría y matrícula
Base legal de la familia: Art. 50.1

Si la IA genera o altera texto, imágenes, audio o vídeo, puede haber que marcarlo o avisar de que es artificial, sobre todo en ultrasuplantaciones y en textos que informan al público.

Por ejemplo
Generación de materiales didácticos y ejercicios
Base legal de la familia: Art. 50.2 y 50.4

Si influye en el acceso de las personas al empleo, la educación, el crédito, los seguros, las prestaciones o los servicios esenciales, puede ser de alto riesgo: depende de si pesa de verdad en la decisión. Y puntuar socialmente a las personas está prohibido.

Por ejemplo
Admisión y asignación de plazas
Evaluación de resultados de aprendizaje
Detección de conductas indebidas en exámenes
Base legal de la familia: Anexo III, puntos 3, 4 y 5 · art. 6.3 · art. 5.1.c

Inferir emociones en el trabajo o en centros educativos está prohibido salvo por motivos médicos o de seguridad, igual que clasificar a las personas por rasgos sensibles a partir de su biometría. Otros usos biométricos pueden ser de alto riesgo.

Por ejemplo
Análisis de la atención o las emociones en el aula
Control de acceso biométrico al centro
Base legal de la familia: Art. 5.1.f, 5.1.g y 5.1.h · Anexo III, punto 1

Resumir, traducir, clasificar documentos o prever la demanda no suele tener obligaciones específicas del RIA. Cambia si la IA cumple una función de seguridad o influye en decisiones sobre personas.

Por ejemplo
Planificación de horarios y aulas
Gestión administrativa
Base legal de la familia: Fuera de las categorías del RIA, salvo excepciones

¿No ves tu caso, o no sabes en qué familia encaja? Lo vemos con el equipo.

Lo vemos con el equipo→Ver todos los sectores→
Siguiente paso

¿Por dónde empiezas?

Dos caminos, dos resultados distintos.

Orientarte

Mide tu exposición

Dos minutos, anónimo y sin registro. Es una orientación sin comprobar: no determina el rol ni el riesgo de ningún sistema.

MIDE TU EXPOSICIÓN
Determinarlo

El diagnóstico, con el equipo

Rol, riesgo y plazo de cada sistema, revisados por personas. Es la primera etapa del método.

HABLAR CON EL EQUIPO
Respondemos en 24 h.