Sistemas de alto riesgo en la Ley de IA: ejemplos para pymes

«Alto riesgo» es una de las expresiones que más asustan de la Ley de IA, y una de las que peor se entienden. No significa que la herramienta sea peligrosa en sí, sino que se usa en un ámbito donde una decisión equivocada puede afectar seriamente a una persona. Para una pyme, la clave es saber si alguno de tus usos cae en la lista.

Qué es el anexo III

El anexo III del Reglamento (UE) 2024/1689 enumera áreas en las que un sistema de IA se considera de alto riesgo. Las obligaciones asociadas, que se centran sobre todo en el proveedor del sistema pero también en quien lo usa, están aplazadas al 2 de diciembre de 2027 por el Ómnibus Digital.

Las áreas que más se cruzan con una pyme son estas:

• Empleo y gestión de personas. Anunciar vacantes de forma dirigida, filtrar currículos, evaluar candidatos, asignar tareas según el comportamiento o vigilar y evaluar el rendimiento de los trabajadores.
• Educación y formación. Decidir admisiones, evaluar resultados de aprendizaje o vigilar exámenes.
• Servicios esenciales. Evaluar la solvencia de personas físicas, fijar precios de seguros de vida y salud o valorar el acceso a prestaciones.
• Otros ámbitos, como determinadas infraestructuras críticas, la identificación biométrica o la migración, que rara vez afectan a una pyme.

Ejemplos de usos de una pyme

• Una inmobiliaria que usa IA para puntuar la solvencia de un posible inquilino.
• Una empresa de hostelería que descarta currículos de temporada con un algoritmo.
• Un despacho que ofrece selección de personal apoyada en IA a sus clientes.
• Una academia que deja que una IA ponga la nota final a un examen.
• Un almacén con un sistema que puntúa a cada operario según su ritmo.

En todos, el patrón es el mismo: la IA contribuye a una decisión que cambia las oportunidades de una persona.

Lo que no es alto riesgo

Redactar correos, resumir documentos, traducir, generar imágenes de producto o contestar preguntas frecuentes de clientes no figura en el anexo III. Tiene otras reglas, como la de transparencia del artículo 50 para los chatbots, pero no la de alto riesgo.

Qué hacer si tienes un uso de alto riesgo

1. Identifícalo. Anótalo en tu inventario de herramientas con la finalidad de uso.
2. Pide documentación al proveedor. Debe poder explicarte qué hace el sistema, con qué datos y con qué límites.
3. Pon una persona al mando. Que revise cada decisión relevante y pueda cambiarla. Es la medida que más pesa.
4. Informa a las personas afectadas de que se usa un sistema de este tipo, y conserva los registros que genere.
5. Valora si compensa. A veces es más sensato volver a un proceso manual que asumir las obligaciones.

Y si me dedico a una de esas áreas

Puedes consultar las páginas de multas de la Ley de IA por sector para ver qué usos concretos pesan más en tu actividad. Es información orientativa; contrasta los casos dudosos con la norma oficial.