Tecnología
En tecnología, la IA no solo se usa: se integra en los productos y servicios que vendéis a otras empresas. Así suele aparecer, agrupada por lo que hace.
El sector no determina el riesgo: cada uso se evalúa por separado, según para qué se usa y qué rol tiene vuestra empresa.
Si desarrolláis la IA o la vendéis con vuestra marca, sois proveedores, y vuestras obligaciones son distintas de las de quien solo la usa. Si además entrenáis o modificáis de forma significativa un modelo de uso general, tenéis obligaciones propias de esos modelos (art. 53 y siguientes).
Si una IA conversa con personas, como mínimo hay que avisarles de que hablan con una máquina. Según para qué se use, puede tener más obligaciones.
Chatbots y asistentes
Si una IA conversa con personas, como mínimo hay que avisarles de que hablan con una máquina. Según para qué se use, puede tener más obligaciones.
Si la IA genera o altera texto, imágenes, audio o vídeo, puede haber que marcarlo o avisar de que es artificial, sobre todo en ultrasuplantaciones y en textos que informan al público.
Contenido generado por IA
Si la IA genera o altera texto, imágenes, audio o vídeo, puede haber que marcarlo o avisar de que es artificial, sobre todo en ultrasuplantaciones y en textos que informan al público.
Si influye en el acceso de las personas al empleo, la educación, el crédito, los seguros, las prestaciones o los servicios esenciales, puede ser de alto riesgo: depende de si pesa de verdad en la decisión. Y puntuar socialmente a las personas está prohibido.
IA que ayuda a decidir sobre personas
Si influye en el acceso de las personas al empleo, la educación, el crédito, los seguros, las prestaciones o los servicios esenciales, puede ser de alto riesgo: depende de si pesa de verdad en la decisión. Y puntuar socialmente a las personas está prohibido.
Inferir emociones en el trabajo o en centros educativos está prohibido salvo por motivos médicos o de seguridad, igual que clasificar a las personas por rasgos sensibles a partir de su biometría. Otros usos biométricos pueden ser de alto riesgo.
Reconocimiento de emociones y biometría
Inferir emociones en el trabajo o en centros educativos está prohibido salvo por motivos médicos o de seguridad, igual que clasificar a las personas por rasgos sensibles a partir de su biometría. Otros usos biométricos pueden ser de alto riesgo.
Si la IA es un componente de seguridad de un producto regulado (maquinaria, productos sanitarios, juguetes, ascensores…) o es ella misma ese producto, puede ser de alto riesgo.
IA integrada en productos y máquinas
Si la IA es un componente de seguridad de un producto regulado (maquinaria, productos sanitarios, juguetes, ascensores…) o es ella misma ese producto, puede ser de alto riesgo.
Resumir, traducir, clasificar documentos o prever la demanda no suele tener obligaciones específicas del RIA. Cambia si la IA cumple una función de seguridad o influye en decisiones sobre personas.
IA para operaciones y trabajo interno
Resumir, traducir, clasificar documentos o prever la demanda no suele tener obligaciones específicas del RIA. Cambia si la IA cumple una función de seguridad o influye en decisiones sobre personas.
¿No ves tu caso, o no sabes en qué familia encaja? Lo vemos con el equipo.
¿Por dónde empiezas?
Dos caminos, dos resultados distintos.
Mide tu exposición
Dos minutos, anónimo y sin registro. Es una orientación sin comprobar: no determina el rol ni el riesgo de ningún sistema.
El diagnóstico, con el equipo
Rol, riesgo y plazo de cada sistema, revisados por personas. Es la primera etapa del método.