La conversa sol anar així: "nosaltres no fem res d'alt risc, només fem servir IA per coses senzilles". I al cap de deu minuts surt que filtren currículums amb una eina que els ordena per encaix.
Això és alt risc.
Què hi ha a la llista
L'AI Act classifica els sistemes per nivell de risc, i els d'alt risc tenen obligacions estrictes de transparència, supervisió humana i documentació tècnica. Hi entren, entre altres:
- Decisions de recursos humans — selecció, promoció, acomiadament
- Scoring creditici — decidir a qui fies i a qui no
- Anàlisi legal
- Avaluacions educatives
Fixa't que la llista no parla de tecnologia sinó de conseqüències sobre persones. Per això una pime hi pot caure sense tenir cap enginyer: n'hi ha prou amb comprar una eina de selecció que porti IA a dins.
El malentès més car
"L'eina és d'un proveïdor, la responsabilitat és seva."
No del tot. El proveïdor té les seves obligacions, però qui desplega el sistema en té de pròpies: supervisió humana efectiva, informar les persones afectades, conservar registres. Si l'eina descarta candidats i ningú de la teva empresa revisa res, la supervisió humana no existeix per molt que el contracte digui el contrari.
Com saber de quin costat caus
Tres preguntes, i són incòmodes a posta:
1. El sistema decideix o suggereix? Si algú de casa revisa cada cas i pot dir que no, estàs en molt millor posició que si l'eina descarta sola.
2. La persona afectada ho sap? Un candidat té dret a saber que un sistema automàtic ha intervingut.
3. Podries explicar per què va sortir aquell resultat? Si la resposta és "perquè ho diu l'eina", tens un problema abans que legal: operatiu.
Què fer si hi caus
No és el final del món, però tampoc és una tarda. Necessitaràs documentació tècnica del sistema, un procés de supervisió humana escrit i real, registres del que decideix, i informació clara a qui l'afecta. I si tracta dades personals a gran escala, l'AEPD demana a més una avaluació d'impacte abans de desplegar-lo.
Les sancions s'acumulen: fins a 35 milions per l'AI Act i fins a 20 milions pel RGPD. Aquestes xifres són per als casos greus i no són el teu escenari — però la manera d'assegurar-te que no ho són és mirar-ho ara.
El que faig jo amb els clients
Abans de posar IA enlloc, la primera pregunta no és tècnica: a qui afecta el resultat i què li passa si s'equivoca. Si la resposta és "no li passa gran cosa", endavant amb lleugeresa. Si la resposta és "no el contracten", la conversa canvia sencera.
Fonts: [obligacions RGPD i AI Act el 2026](https://www.audidat.com/blog/inteligencia-artificial-responsable/rgpd-ai-act-2026-obligaciones-reglamento-ia-datos-personales/) i la [guia de la AEPD sobre adequació al RGPD](https://www.aepd.es/guias/adecuacion-rgpd-ia.pdf). Dades d'agost de 2026. Això no és assessorament legal.