La intel·ligència artificial ha arribat amb força als processos de selecció: filtrat de CVs, anàlisi de candidats, entrevistes automatitzades… La promesa és clara: més eficiència, menys biaixos i decisions més ràpides.
Però hi ha una pregunta que moltes organitzacions encara no es fan: estem utilitzant la IA en selecció de manera legal i controlada?
Recordem que el Reglament Europeu d'Intel·ligència Artificial (AI Act/RIA, Reglament (UE) 2024/1689) introdueix regles molt clares, especialment, quan la IA afecta a decisions laborals.
I aquí el nivell d'exigència puja. Ja vam introduir aquest tema al blog (pots rellegir-lo aquí), però avui parlarem de l'ús específic de la IA en processos de selecció.
La IA en selecció és «alt risc» (i no és una etiqueta menor)
El RIA classifica com a sistemes d'alt risc aquells que s'utilitzen per a:
- selecció de candidats,
- avaluació de CVs,
- presa de decisions en contractació o promoció.
Això significa que no estem davant una eina més, sinó davant un sistema subjecte a obligacions estrictes.
Per què? Perquè aquestes decisions tenen un impacte directe en la vida de les persones.
No n'hi ha prou que l'eina funcioni: cal controlar-la
Un dels missatges clau del Reglament és clar: utiltizar IA no implica delegar la decisió.
Les empreses han de garantir:
- supervisió humana real,
- comprensió del funcionament del sistema,
- i capacitat d'intervenir o corregir decisions.
És a dir, la IA pot ajudar… però no substituir completament el criteri humà.
El risc invisible: biaixos i decisions automatitzades
Molts sistemes d'IA aprenen de dades històriques. I aquí està el problema:
si les dades estan esbiaixades, la IA pot reproduir—o, fins i tot, amplificar—aquests biaixos.
En selecció, això pot traduir-se en:
- discriminació indirecta,
- exclusió sistemàtica d'uns certs perfils,
- decisions difícils d'explicar.
El RIA obliga les organitzacions a avaluar i mitigar aquests riscos, no a ignorar-los.
Transparència: el candidat ha de saber-ho
Un altre punt clau: si utilitzes IA en processos de selecció, has d'informar-ho.
Els candidats tenen dret a saber:
- que estan sent avaluats mitjançant sistemes automatitzats,
- com influeix això en la decisió,
- i quin paper té la intervenció humana.
No és només una qüestió legal, també ho és de confiança.
Revisar el procés, no sols l'eina
Un error habitual és centrar-se únicament en la tecnologia: «l'eina compleix?»
Però la pregunta correcta és una altra: compleix tot el procés de selecció?
El risc no està només en el programari, sinó en com s'integra en la presa de decisions.
Això implica revisar:
- com s'utilitza l'eina,
- qui pren la decisió final,
- i quines evidències pots aportar si algú qüestiona el procés.
Conclusió: la IA no elimina la responsabilitat, l'augmenta
La intel·ligència artificial pot millorar els processos de selecció, però també introdueix nous riscos.
El RIA no prohibeix el seu ús, però sí que deixa clar una cosa fonamental: qui decideix continua sent responsable, encara que utilitzi IA.
Per això, més enllà de l'eficiència, la clau està en el control. Perquè en selecció de personal, no solament importa triar bé, sinó que també importa poder demostrar que s'ha fet correctament..
Com sempre, cuideu les dades i cuideu-vos!
