La IA en la sombra (Shadow AI): por dónde empezar el inventario

La IA en la sombra es la que entra en la empresa sin pasar por nadie. Es la primera que hay que encontrar, porque no se puede gobernar lo que no se conoce.

El escenario

Una empresa de servicios inventada, con varios departamentos y sin un responsable de IA, decide hacer la lista de la IA que usa. En Sistemas (IT) se aporta lo que ha contratado: un asistente de redacción y el chatbot de la web.

Al preguntar área por área, la lista crece. En Comercial, alguien resume las reuniones con una herramienta que ha encontrado por su cuenta, con datos de clientes. En Recursos Humanos descubren que su programa de selección trae activada una función que ordena las candidaturas. Y en Operaciones, una persona ha conectado un agente de IA al correo para clasificar pedidos.

Nadie lo había ocultado: simplemente, nadie lo había preguntado.

Dónde suele estar

En general, en cuatro sitios:

• herramientas de IA que la plantilla usa por su cuenta, con datos de la empresa o de clientes;
• funciones de IA que llegan activadas en el software que ya se paga, sin que nadie las haya evaluado;
• desarrollos internos, pruebas o automatizaciones con IA que nadie ha registrado;
• y agentes de IA que alguien monta y conecta al correo, a los documentos o a los sistemas de la empresa sin que nadie los haya revisado.

Señales de que hay IA en la sombra

No hace falta una auditoría técnica para sospecharlo. Algunas señales habituales:

• suscripciones a herramientas de IA pagadas con la tarjeta de la empresa o como gasto personal;
• extensiones del navegador o complementos que prometen escribir, resumir o traducir;
• funciones nuevas que llegan con las actualizaciones del software que ya se usa, a veces activadas por defecto;
• documentos, correos o informes que se preparan mucho más rápido que antes sin que haya cambiado nada oficialmente;
• personas que piden acceso a datos o sistemas para conectarlos con una herramienta.

Por qué importa no saberlo

Lo que no está identificado puede tener consecuencias que nadie ha decidido:

• Confidencialidad. Datos de clientes, contratos o información interna introducidos en herramientas externas, sin saber qué hace el proveedor con ellos.
• Protección de datos. Si hay datos personales, el RGPD sigue aplicándose: el tratamiento necesita una base que lo haga lícito (art. 6 RGPD) y, si un proveedor trata los datos por cuenta de la empresa, un contrato u otro acto jurídico con él (art. 28 RGPD).
• Usos que la norma prohíbe. Algunas prácticas están prohibidas desde el 2 de febrero de 2025, también para quien solo usa el sistema (art. 5 del AI Act).
• Transparencia. Si una herramienta genera contenido que se publica o atiende a personas, puede haber avisos que dar (art. 50 del AI Act).

En todos los casos, la responsabilidad es de la empresa.

Por dónde empezar el inventario

Cuatro pasos generales:

1. Preguntar área por área qué herramientas de IA se usan, también las gratuitas o personales, y con qué datos.
2. Revisar el software contratado y las funciones de IA que trae o que se han activado con las actualizaciones.
3. Buscar lo que se ha construido dentro: automatizaciones, integraciones y agentes.
4. Anotar de cada sistema para qué se usa, quién lo usa y qué datos trata.

Sin juzgar: el objetivo es saber qué hay, no buscar culpables.

Qué hacer con lo que aparece

Prohibir sin más suele empujar el uso todavía más a la sombra, porque la necesidad sigue ahí. Lo práctico es ordenar:

• Decidir con cada herramienta si sigue, se ajusta o se retira, según para qué se usa y con qué datos.
• Dar alternativas aprobadas para lo que la plantilla ya necesita, con condiciones claras.
• Escribir una política de uso sencilla: qué se puede usar, con qué datos y a quién avisar.
• Empezar la formación general, que no tiene que esperar al resto del trabajo: qué permite, qué prohíbe y qué exige el AI Act, incluida la obligación de apoyar la alfabetización en IA del personal (art. 4).

Cómo se plantea la formación: formación por perfiles

Una lista viva

El inventario no se hace una sola vez. Llegan funciones nuevas con cada actualización, la plantilla prueba herramientas nuevas y los proyectos internos crecen. Conviene revisarlo cada cierto tiempo y pedir que se avise antes de incorporar una herramienta o un agente nuevo. Es parte del mantenimiento.

Qué viene después

Con el inventario hecho, el diagnóstico determina el rol, el riesgo y el plazo de cada sistema.

Y conviene tenerlo presente desde el principio: la responsabilidad es de la empresa, aunque la IA sea de otro. Si usáis la IA de otra empresa, las obligaciones de quien la usa son vuestras; y si el sistema es de alto riesgo, eso incluye usarlo según sus instrucciones, con supervisión humana e informando a las personas afectadas (art. 26).

Escenario ilustrativo: la empresa y los hechos son inventados.

Fuentes: Reglamento (UE) 2024/1689, arts. 5, 26 y 50; Reglamento (UE) 2016/679 (RGPD), arts. 6 y 28; AEPD: decálogo para proteger la privacidad al usar herramientas de IA. Orientación general, no una determinación jurídica.