La IA laboral ja no és només tecnologia: és compliance empresarial

La notícia pot presentar-se com una batalla entre Espanya i Brussel·les, però per a una pime la lectura important és molt més pràctica. Yolanda Díaz ha defensat que la intel·ligència artificial i els algoritmes ja influeixen en processos com la selecció, la permanència, els ascensos, les modificacions contractuals, les sortides o l’avaluació del treball. La pregunta per a l’empresa no és si fa servir IA, sinó si pot explicar com la fa servir quan afecta persones treballadores.

La transparència algorítmica ja és una obligació laboral

Aquest debat no comença amb l’AI Act. Espanya ja va obrir camí amb l’anomenada Llei Rider, que va modificar l’Estatut dels Treballadors per reconèixer el dret de la representació legal a ser informada sobre els paràmetres, regles i instruccions dels algoritmes o sistemes d’IA que afectin decisions laborals rellevants. La transparència algorítmica laboral forma part del nostre ordenament des de 2021.

L’AI Act acumula obligacions, no les substitueix

El Reglament Europeu d’Intel·ligència Artificial reforça aquesta direcció. Considera d’alt risc determinats sistemes d’IA utilitzats en contractació, selecció, promoció, rescissió contractual, assignació de tasques, supervisió o avaluació del rendiment. També exigeix alfabetització en IA per a qui operi o utilitzi aquests sistemes en nom de l’organització. L’AI Act no substitueix el RGPD, l’Estatut dels Treballadors ni la normativa d’igualtat: els suma.

Aquí apareix la tensió actual. El calendari europeu pot donar més marge per a determinades obligacions vinculades als sistemes d’alt risc, però això no elimina la realitat empresarial immediata: les eines ja s’estan utilitzant i les decisions ja es prenen. Que Europa doni més temps no significa que l’empresa pugui continuar implantant eines sense control.

El risc real és més quotidià del que sembla

Per a moltes pimes, el risc no estarà a haver comprat “una IA perillosa”, sinó en usos molt més normals: una eina de selecció que filtra candidats, un software de productivitat que genera mètriques individuals, una plataforma de RRHH amb funcionalitats intel·ligents, un sistema de torns automatitzat o un proveïdor que promet “optimitzar” decisions sense explicar bé quines dades utilitza. El risc acostuma a amagar-se en eines normals que ningú ha inventariat com a IA.

Del compliance algorítmic a les evidències defensables

Per això convé començar a parlar de compliance algorítmic laboral. No com un document decoratiu, sinó com una forma de govern intern: inventari d’eines, avaluació del proveïdor, anàlisi de dades tractades, informació a la plantilla o a la seva representació, intervenció humana, mesures davant biaixos, traçabilitat i evidències. L’empresa no necessita saber programar l’algoritme; necessita poder governar-lo, qüestionar-lo i defensar-ne l’ús.

I aquí apareix una dimensió que moltes empreses encara no estan considerant: l’evidència. No n’hi ha prou amb tenir una política, una clàusula o una avaluació inicial si després no podem reconstruir com es va prendre una decisió concreta, quina eina hi va intervenir, quines dades es van utilitzar, quina persona va supervisar el resultat i quins controls es van aplicar. La preparació forense d’evidències ha de començar abans del conflicte: no per judicialitzar l’empresa, sinó per garantir que les decisions puguin explicar-se, verificar-se i defensar-se si algun dia són qüestionades. En la pràctica, això significa dissenyar registres, traçabilitat, actes, validacions, revisions humanes i documentació tècnica mínima que permetin acreditar que la IA no s’ha utilitzat de forma opaca, discriminatòria o automàtica, sinó dins d’un marc raonable de control empresarial.

No es tracta de frenar la IA, sinó de governar-la

El règim sancionador de l’AI Act existeix i serà rellevant, però no hauria de ser l’únic motor de reacció. Per a una pime, el primer cost pot arribar abans: una reclamació laboral, una inspecció, una queixa d’un candidat, una bretxa reputacional o la impossibilitat de justificar una decisió interna.

La reacció intel·ligent no és frenar la IA. Seria un error. La IA pot ajudar a seleccionar millor, organitzar equips, reduir càrregues administratives, detectar necessitats formatives i prendre decisions amb més informació. Però en l’àmbit laboral ha d’aplicar-se amb una regla senzilla: com més impacte tingui sobre persones, més transparència, control humà i evidència documental necessita.

Per a una pime, el primer pas no hauria de ser comprar una altra eina, sinó fer-se tres preguntes: quina IA estem utilitzant ja, quines decisions laborals pot estar condicionant i què podríem ensenyar demà si ens ho demana una persona treballadora, la representació legal, la Inspecció de Treball o una autoritat de control. L’avantatge competitiu no serà utilitzar més IA que els altres, sinó utilitzar-la millor: amb criteri, controls i capacitat de defensa.

Conclusió: la IA laboral ja és una responsabilitat de direcció

El Projecte de Llei Orgànica per al bon ús i la governança de la intel·ligència artificial continua en tramitació parlamentària, però la direcció del viatge ja és clara. La IA laboral passarà de ser una decisió tecnològica a convertir-se en una responsabilitat de direcció, compliment i reputació empresarial. Les empreses que comencin ara a ordenar eines, proveïdors, dades, decisions i evidències no només reduiran risc: estaran més ben preparades per aprofitar la IA amb confiança i avantatge competitiu.

Del reclutament als ascensos: com la IA està transformant la gestió del talent

Com ja sabeu, la intel·ligència artificial ha deixat de ser una eina reservada per a àrees tecnològiques. Avui participa activament en processos relacionats amb l'avaluació de l'acompliment, la promoció professional, la compensació econòmica i fins i tot determinades decisions de gestió de persones.

El que va començar com una eina de suport per a automatitzar tasques administratives està evolucionant cap a sistemes capaços d'analitzar grans volums d'informació i generar recomanacions que influeixen directament en la trajectòria professional dels empleats.

Aquesta transformació ofereix importants oportunitats per a les organitzacions, però també planteja desafiaments jurídics, ètics i de compliment que no poden passar-se per alt.

La IA entra en el cor de la gestió del talent

Cada vegada és més habitual que les empreses utilitzin algorismes per a identificar candidats amb potencial de promoció, analitzar mètriques de productivitat, detectar necessitats formatives o donar suport a processos d'avaluació de l'acompliment.

La promesa és atractiva: decisions més àgils, basades en dades i aparentment més objectives.

No obstant això, quan un sistema automatitzat influeix en qüestions tan sensibles com una promoció, una revisió salarial o una mesura disciplinària, l'impacte sobre les persones pot ser significatiu.

Per això, el veritable desafiament ja no consisteix a incorporar intel·ligència artificial, sinó a garantir que la seva utilització sigui transparent, explicable i compatible amb els drets dels treballadors.

El risc de confiar cegament en els algorismes

La intel·ligència artificial aprèn a partir de les dades disponibles. Si aquestes dades contenen biaixos històrics, errors o patrons discriminatoris, el sistema pot reproduir-los o, fins i tot, amplificar-los.

Un model dissenyat per a identificar perfils d'alt rendiment podria afavorir determinats comportaments o trajectòries professionals sense que l'organització sigui plenament conscient d'això.

A més, moltes eines utilitzen models complexos la lògica interna dels quals resulta difícil d'interpretar, la qual cosa complica justificar determinades decisions davant empleats, representants dels treballadors o autoritats supervisores.

La falta de transparència s'està convertint en un dels principals riscos associats a l'ús d'IA en recursos humans.

Governança, compliment i supervisió humana

La regulació internacional està avançant cap a un model en el qual determinades aplicacions d'IA relacionades amb l'ocupació seran considerades d'alt risc.

En conseqüència, les organitzacions hauran de demostrar que compten amb mecanismes adequats de supervisió, control i gestió de riscos.

Això implica, entre altres qüestions:

  • Avaluar prèviament l'impacte de les eines utilitzades.
  • Garantir la qualitat de les dades emprades.
  • Mantenir supervisió humana efectiva sobre les decisions rellevants.
  • Documentar els criteris utilitzats pels sistemes.
  • Implementar mesures per a detectar i corregir possibles biaixos.

L'automatització pot millorar l'eficiència, però no elimina la responsabilitat de l'empresa sobre les decisions adoptades.

Una oportunitat per a construir confiança

La intel·ligència artificial té el potencial de millorar significativament la gestió del talent, sempre que s'utilitzi dins d'un marc adequat de governança.

Les organitzacions que integrin des del principi criteris de compliment, protecció de dades, transparència i supervisió humana estaran més ben preparades per a aprofitar els beneficis d'aquestes tecnologies sense comprometre la confiança dels seus empleats.

En un entorn cada vegada més regulat, l'avantatge competitiu no vindrà únicament d'adoptar intel·ligència artificial, sinó de demostrar que s'utilitza de manera responsable, ètica i alineada amb els drets de les persones.

Com sempre, cuideu les dades i cuideu-vos!

D’usuaris anònims a usuaris identificats: com està canviant la relació amb la IA

Sembla que la intel·ligència artificial està entrant en una nova etapa. Ja no es tracta únicament de què poden fer els models, sinó de quina informació hauran de proporcionar els usuaris per a accedir a ells.

Recentment, Anthropic ha anunciat canvis en les condicions d'ús de Claude que permetran sol·licitar processos de verificació d'identitat i edat a determinats usuaris. Entre les dades que podrien utilitzar-se per a aquestes verificacions, es troben documents oficials d'identitat i informació biomètrica obtinguda a partir d'imatges o vídeos facials. Aquests canvis entren en vigor a partir del 8 de juliol de 2026.

Més enllà del cas concret, la decisió reflecteix una tendència que probablement veurem cada vegada amb major freqüència en el sector tecnològic: el pas de plataformes obertes i relativament anònimes a entorns en què la identificació de l'usuari serà un requisit habitual.

Més seguretat, però també més responsabilitat

Les companyies d'IA s'enfronten a una pressió creixent per a prevenir fraus, evitar usos indeguts de les seves eines i complir amb noves exigències reguladores.

Des d'aquesta perspectiva, la verificació d'identitat pot resultar una mesura raonable. No obstant això, també suposa la recopilació d'informació especialment sensible que incrementa les obligacions de privacitat, seguretat i compliment.

La pregunta ja no és únicament com desenvolupar sistemes d'IA més potents, sinó com gestionar de manera responsable les dades necessàries per a operar aquests sistemes.

Quan la biometria entra en joc

La utilització de reconeixement facial o mecanismes similars introdueix un nivell de complexitat jurídica significativament major.

Les dades biomètriques es troben entre les categories d'informació més sensibles des de la perspectiva de la protecció de dades. El seu tractament exigeix analitzar qüestions com la proporcionalitat, la minimització de dades, la transparència i la seguretat de la informació.

A més, qualsevol incident relacionat amb aquesta mena de dades pot generar un impacte reputacional considerable per a les organitzacions implicades.

El que les empreses haurien d'aprendre d'aquest cas

Encara que la notícia afecta directament a una plataforma d'IA, les implicacions van molt més allà.

Moltes organitzacions ja estan incorporant eines d'intel·ligència artificial en les seves operacions diàries sense haver avaluat adequadament quines dades recopilen aquests sistemes, quins proveïdors intervenen o quines obligacions reguladores poden sorgir.

Per això, cada vegada resulta més important comptar amb una estratègia de governança d'IA que inclogui:

  • Avaluació de riscos.
  • Protecció de dades des del disseny.
  • Gestió de proveïdors tecnològics.
  • Polítiques internes d'ús d'IA.
  • Compliment normatiu i auditories periòdiques.

La confiança serà el veritable avantatge competitiu

La intel·ligència artificial continuarà evolucionant i els mecanismes d'identificació probablement es tornaran més habituals. No obstant això, les organitzacions que generin més confiança no seran necessàriament les que utilitzin més IA, sinó aquelles capaces de demostrar que gestionen correctament les dades dels seus usuaris.

En aquest escenari, la governança d'IA, la protecció de dades i el compliment normatiu deixen de ser qüestions exclusivament jurídiques per a convertir-se en elements estratègics de negoci. I precisament aquí és on les empreses necessitaran cada vegada més acompanyament especialitzat per a innovar sense comprometre la confiança de clients, empleats i socis comercials.

Com sempre, cuideu les dades i cuideu-vos!

Cal frenar la intel·ligència artificial? Les empreses haurien de començar per controlar la que ja utilitzen

La carrera per desenvolupar models d'intel·ligència artificial cada vegada més potents ha aconseguit un punt en el qual fins i tot algunes de les empreses líders del sector estan demanant cautela. Recentment, Anthropic—una de les companyies més rellevants en el desenvolupament d'IA avançada—ha plantejat la necessitat de comptar amb mecanismes que permetin alentir o fins i tot pausar temporalment el desenvolupament de determinats sistemes si els riscos arriben a superar la nostra capacitat de supervisió.

Encara que la idea de «frenar la IA» pot semblar extrema, el debat que es planteja és molt més rellevant per a les organitzacions: estem preparats per a gestionar tecnologies que evolucionen més ràpid que les nostres estructures de control?

El desafiament no és la IA, sinó la velocitat del canvi

Segons indica Reuters, la preocupació expressada per Anthropic gira entorn d'un escenari en el qual els sistemes d'IA aconsegueixin nivells creixents d'autonomia i puguin participar en el disseny o millora de models posteriors amb una intervenció humana cada vegada menor. Encara que els propis experts reconeixen que aquest escenari encara no s'ha materialitzat, consideren que podria arribar abans que existeixin mecanismes adequats de supervisió i governança.

Més enllà de les hipòtesis sobre el futur, la realitat és que moltes empreses ja estan incorporant eines d'IA en processos crítics sense haver definit polítiques clares sobre el seu ús, supervisió o control.

La governança de la IA es converteix en una necessitat empresarial

Durant els últims anys, la conversa sobre intel·ligència artificial s'ha centrat principalment en productivitat i automatització. No obstant això, cada vegada resulta més evident que l'adopció d'aquestes tecnologies ha d'anar acompanyada de marcs de governança adequats.

Les organitzacions necessiten respondre preguntes fonamentals:

  • Quines eines d'IA estan utilitzant els seus empleats?
  • Quines dades s'estan introduint en aquests sistemes?
  • Existeixen mecanismes de supervisió humana?
  • Com es documenten les decisions assistides per IA?
  • Quins riscos reguladors i reputacionals poden derivar-se del seu ús?

Aquestes qüestions ja no pertanyen únicament a l'àmbit tecnològic. Formen part de la gestió del risc corporatiu.

El compliment normatiu serà un factor diferencial

L'entrada en vigor progressiva del Reglament Europeu d'Intel·ligència Artificial (RIA) està accelerant la necessitat d'establir controls interns sobre els sistemes d'IA utilitzats per les empreses.

En aquest context, conceptes com a traçabilitat, avaluació de riscos, supervisió humana, transparència i responsabilitat deixen de ser recomanacions per a convertir-se en requisits estratègics de compliment.

Les organitzacions que comencin ara a desenvolupar polítiques internes d'IA estaran més ben preparades per a afrontar futures obligacions reguladores i demostrar diligència davant clients, socis comercials i autoritats.

De l'entusiasme tecnològic a l'adopció responsable

La discussió plantejada per Anthropic no hauria d'interpretar-se com una advertència a detenir la innovació, sinó com una invitació a desenvolupar-la de manera responsable.

La intel·ligència artificial ofereix oportunitats extraordinàries per a millorar la productivitat, optimitzar processos i generar nous avantatges competitius. No obstant això, aquests beneficis només seran sostenibles si les organitzacions són capaces de gestionar adequadament els riscos associats.

Per això, cada vegada més empreses estan incorporant programes de governança d'IA, auditories de compliment, avaluacions d'impacte i estratègies de protecció de dades com a part de la seva transformació digital.

La pregunta ja no és si una organització utilitzarà intel·ligència artificial, sinó si està preparada per a fer-ho de manera segura, conforme a la normativa i alineada amb els seus objectius de negoci.

Com sempre, cuideu les dades i cuideu-vos!

Fraus financers amb IA: per què les empreses han de reforçar la seva estratègia de ciberseguretat i protecció de dades

La intel·ligència artificial està transformant l'operació de les empreses, però també està elevant el nivell de sofisticació dels fraus corporatius. En els últims mesos, els atacs dirigits contra àrees financeres i administratives han evolucionat cap a esquemes molt més difícils de detectar, especialment aquells que combinen enginyeria social, suplantació digital i manipulació de transferències bancàries.

El problema ja no consisteix únicament a rebre un correu sospitós. Avui, els ciberdelinqüents poden utilitzar eines d'IA per a replicar estils d'escriptura, automatitzar converses convincents i, fins i tot, simular identitats corporatives amb un nivell de precisió alarmant.

El nou frau corporatiu: confiança manipulada mitjançant IA

Molts dels fraus actuals exploten un factor crític dins de les organitzacions: la confiança en les comunicacions internes i amb proveïdors.

A través d'accessos indeguts a correus electrònics, filtracions d'informació o tècniques avançades de suplantació, els atacants aconsegueixen intervenir processos legítims de pagament per a redirigir transferències cap a comptes controlats per tercers. Tot passa sense necessitat de vulnerar directament els sistemes bancaris.

La intel·ligència artificial ha convertit aquests atacs en operacions altament personalitzades. Els missatges fraudulents ja no contenen errors evidents i solen replicar perfectament el llenguatge habitual de directius, clients o proveïdors.

Protecció de dades i ciberseguretat: dues àrees que ja no poden separar-se

Aquest tipus d'incidents demostra que la protecció de dades personals i la ciberseguretat han d'abordar-se com a part d'una mateixa estratègia corporativa.

Quan un atacant accedeix a correus electrònics, bases de dades o fluxos interns d'informació, no solament existeix un risc financer. També poden generar-se vulneracions de seguretat que impliquin responsabilitats reguladores, afectacions reputacionals i possibles incompliments en matèria de privacitat i gestió d'informació.

La realitat és que moltes empreses encara mantenen processos crítics d'autorització financera sense controls robustos de validació o autenticació.

La prevenció ja no és opcional

Davant d'aquest escenari, les organitzacions necessiten evolucionar de models reactius cap a esquemes preventius de governança digital.

Algunes mesures clau inclouen:

  • Protocols de validació reforçada per a transferències.
  • Autenticació multifactor en sistemes crítics.
  • Capacitació contínua contra enginyeria social.
  • Auditories de seguretat i compliment.
  • Avaluacions de risc relacionades amb IA i maneig de dades.

A més, resulta indispensable revisar com s'utilitzen eines d'intel·ligència artificial dins de l'organització i quins controls existeixen sobre la informació que processen.

La IA també requereix compliment legal

L'adopció accelerada d'intel·ligència artificial dins d'empreses està generant nous desafiaments reguladors i de compliment. No n'hi ha prou amb implementar tecnologia: és necessari avaluar riscos legals, impactes en privacitat i responsabilitats derivades d'incidents de seguretat.

Per això, cada vegada més organitzacions estan integrant estratègies conjuntes de ciberseguretat, protecció de dades i governança d'IA com a part dels seus programes de compliment corporatiu.

En un entorn en el qual els fraus digitals són més sofisticats i automatitzats, comptar amb assessoria especialitzada ja no representa únicament un avantatge competitiu, sinó una necessitat per a protegir la continuïtat operativa i reputacional de les empreses.

Com sempre, cuideu les dades i cuideu-vos!

L’error més comú en utilitzar IA en emails (i per què pot costar-te car) 

La intel·ligència artificial s'ha convertit en una aliada habitual per a redactar emails: respostes ràpides, textos més clars, millor to… Tot sembla una millora evident en productivitat. 

Però hi ha un error que es repeteix constantment en empreses de totes les grandàries: copiar dades reals en el prompt perquè la IA «millori» l'email. 

El que sembla un gest innocent pot convertir-se en una fuga d'informació amb implicacions legals i reputacionals. L'Agència Espanyola de Protecció de Dades (AEPD), en les seves recomanacions sobre l'ús d'IA, insisteix precisament en aquest punt: el risc no està en la resposta, sinó en la informació que s'introdueix. 

El gest més habitual (i més perillós) 

L'escenari és molt comú: 

  • «Milloraré aquest email a un client»  
  • «Que el faci més professional»  
  • «Que resumeixi aquest fil»  

I per a això, es copia el contingut complet del correu en l'eina d'IA. 

El problema és que aquest contingut pot incloure: 

  • dades personals de clients o empleats,  
  • informació contractual,  
  • dades financeres,  
  • fins i tot, converses sensibles.  

En aquest moment, aquesta informació surt de l'entorn controlat de l'empresa. 

Què passa realment amb aquestes dades? 

No totes les eines d'IA funcionen igual, però l'AEPD adverteix d'un aspecte clau: quan s’introdueix informació en aquests sistemes, es pot perdre el control sobre ella. 

Depenent del proveïdor, les dades poden: 

  • emmagatzemar-se temporalment,  
  • generar registres (logs),  
  • utilitzar-se per a millorar el servei.  

Això no significa que sempre passi, però sí que no es pot assumir que la dada desapareix després d'obtenir la resposta. 

El problema no és tècnic, és d'ús 

Aquí està la clau: la majoria dels riscos no venen de la tecnologia, sinó de com s'utilitza. 

L'ús d'IA en emails no és problemàtic per si mateix. El problemàtic és introduir informació que no hauria de sortir del perímetre de l'organització. 

Per això, l'AEPD recomana aplicar un principi bàsic: minimitzar les dades que s'introdueixen en eines d'IA. 

Com evitar l'error (sense deixar d’utiltizar IA) 

No es tracta de deixar d'usar aquestes eines, sinó d'usar-les millor. Algunes bones pràctiques: 

  • Evitar copiar dades reals: substituir noms, xifres o referències per exemples ficticis.  
  • Treballar amb plantilles: demanar a la IA estructures o millores generals, no sobre casos reals.  
  • Revisar condicions del proveïdor: entendre què passa amb les dades introduïdes.  
  • Formar als equips: molts errors venen del desconeixement, no de la mala fe.  

L'objectiu és clar: aprofitar la IA sense comprometre la informació. 

Conclusió: la productivitat no pot anar per davant del control 

La IA pot ajudar-te a escriure millors emails en menys temps. Però aquest benefici no pot venir a costa de perdre el control sobre les dades. 

L'error més comú no és utilitzar l'eina, sinó fer-ho sense criteri. 

Perquè al dia a dia, una simple acció com «copiar i pegar» pot semblar insignificant… fins que deixa de ser-ho. 

I, en protecció de dades, aquest moment sol arribar massa tard. 

 Com sempre, cuideu les dades i cuideu-vos! 

Utilitzes IA per a contractar? Això és el que has de revisar abans de decidir

La intel·ligència artificial ha arribat amb força als processos de selecció: filtrat de CVs, anàlisi de candidats, entrevistes automatitzades… La promesa és clara: més eficiència, menys biaixos i decisions més ràpides. 

Però hi ha una pregunta que moltes organitzacions encara no es fan: estem utilitzant la IA en selecció de manera legal i controlada? 

Recordem que el Reglament Europeu d'Intel·ligència Artificial (AI Act/RIA, Reglament (UE) 2024/1689) introdueix regles molt clares, especialment, quan la IA afecta a decisions laborals. 

I aquí el nivell d'exigència puja. Ja vam introduir aquest tema al blog (pots rellegir-lo aquí), però avui parlarem de l'ús específic de la IA en processos de selecció. 

La IA en selecció és «alt risc» (i no és una etiqueta menor) 

El RIA classifica com a sistemes d'alt risc aquells que s'utilitzen per a: 

  • selecció de candidats, 
  • avaluació de CVs,  
  • presa de decisions en contractació o promoció.  

Això significa que no estem davant una eina més, sinó davant un sistema subjecte a obligacions estrictes. 

Per què? Perquè aquestes decisions tenen un impacte directe en la vida de les persones. 

No n'hi ha prou que l'eina funcioni: cal controlar-la 

Un dels missatges clau del Reglament és clar: utiltizar IA no implica delegar la decisió. 

Les empreses han de garantir: 

  • supervisió humana real,  
  • comprensió del funcionament del sistema,  
  • i capacitat d'intervenir o corregir decisions.  

És a dir, la IA pot ajudar… però no substituir completament el criteri humà. 

El risc invisible: biaixos i decisions automatitzades 

Molts sistemes d'IA aprenen de dades històriques. I aquí està el problema: 

si les dades estan esbiaixades, la IA pot reproduir—o, fins i tot, amplificar—aquests biaixos. 

En selecció, això pot traduir-se en: 

  • discriminació indirecta,  
  • exclusió sistemàtica d'uns certs perfils,  
  • decisions difícils d'explicar.  

El RIA obliga les organitzacions a avaluar i mitigar aquests riscos, no a ignorar-los. 

Transparència: el candidat ha de saber-ho 

Un altre punt clau: si utilitzes IA en processos de selecció, has d'informar-ho. 

Els candidats tenen dret a saber: 

  • que estan sent avaluats mitjançant sistemes automatitzats,  
  • com influeix això en la decisió,  
  • i quin paper té la intervenció humana.  

No és només una qüestió legal, també ho és de confiança. 

Revisar el procés, no sols l'eina 

Un error habitual és centrar-se únicament en la tecnologia: «l'eina compleix?» 

Però la pregunta correcta és una altra: compleix tot el procés de selecció? 

El risc no està només en el programari, sinó en com s'integra en la presa de decisions. 

Això implica revisar: 

  • com s'utilitza l'eina,  
  • qui pren la decisió final,  
  • i quines evidències pots aportar si algú qüestiona el procés.  

Conclusió: la IA no elimina la responsabilitat, l'augmenta 

La intel·ligència artificial pot millorar els processos de selecció, però també introdueix nous riscos. 

El RIA no prohibeix el seu ús, però sí que deixa clar una cosa fonamental: qui decideix continua sent responsable, encara que utilitzi IA. 

Per això, més enllà de l'eficiència, la clau està en el control. Perquè en selecció de personal, no solament importa triar bé, sinó que també importa poder demostrar que s'ha fet correctament.. 

Com sempre, cuideu les dades i cuideu-vos! 

La política d’IA que funciona: menys normes, més circuit 

En moltes organitzacions, la resposta a l'auge de la intel·ligència artificial ha estat immediata: redactar una política interna i distribuir-la en format PDF. El problema és que, en la pràctica, una política que no s'integra en l'operativa diària acaba sent irrellevant. 

Mentrestant, l'ús d'eines d'IA—moltes vegades fora dels canals autoritzats—continua creixent. El fenomen del Shadow AI no es corregeix amb prohibicions generals, sinó amb alternatives viables. 

L'Agència Espanyola de Protecció de Dades (AEPD), en la seva Política d'ús d'IA generativa, apunta cap a un enfocament més pràctic: no es tracta només de regular, sinó d'establir un marc operatiu que permeti l'ús segur d'aquestes eines. 

L'error habitual: polítiques que no es poden aplicar 

Moltes polítiques d'IA comparteixen un problema comú: estan ben redactades, però mal aterrades. Prohibeixen usos genèrics o imposen restriccions àmplies, sense oferir solucions concretes per al dia a dia. 

El resultat és previsible: els empleats continuen necessitant aquestes eines per a ser més eficients, i acaben utilitzant-les fos dels canals corporatius. 

Això no sols incrementa el risc, sinó que redueix la capacitat de l'organització per a controlar i supervisar l'ús real de la IA. 

El que sí que funciona: crear un circuit d'autorització 

Enfront d'aquest enfocament, l'AEPD proposa una lògica distinta: permetre l'ús de la IA, però dins d'un marc estructurat i controlat. 

Una política eficaç no és només un document, sinó un circuit d'autorització i governança que inclogui: 

  • Casos d'ús definits: què es pot fer i en quins contextos.  
  • Usuaris autoritzats: qui pot utilitzar determinades eines i per a què fins.  
  • Eines validades: quines solucions han estat avaluades des del punt de vista de protecció de dades i seguretat.  
  • Supervisió humana: revisió en aquells processos on existeixi major impacte o risc.  

Aquest enfocament permet canalitzar l'ús de la IA en lloc d'intentar bloquejar-lo. 

Menys prohibició, més alternativa segura 

Un dels missatges clau és que prohibir eines poques vegades funciona. Quan no existeix una alternativa clara, els usuaris buscaran solucions pel seu compte. 

Per contra, quan l'organització ofereix un «camí fàcil i segur»—eines aprovades, criteris clars i suport intern—l'ús no autoritzat disminueix de manera natural. 

Aquest canvi d'enfocament transforma el problema: el Shadow AI deixa de ser una qüestió disciplinària per a convertir-se en un problema de disseny organitzatiu. 

Governança d'IA: control sense fricció 

El repte per a les empreses no és triar entre control o productivitat, sinó integrar tots dos elements. Una política ben dissenyada permet mantenir el control sobre les dades i els riscos; garantir el compliment del RGPD; i, al mateix temps, facilitar el treball diari dels equips.  

La clau està a construir un sistema on l'ús correcte de la IA sigui més senzill que l'ús no autoritzat. 

Conclusió: la política útil és la que s'usa 

En el context actual, tenir una política d'IA ja no és suficient. El rellevant és que aquesta política sigui operativa, comprensible i aplicable. 

Les organitzacions que entenen això deixen de veure la IA com un risc que cal limitar i comencen a gestionar-la com una capacitat que cal governar. 

Perquè, en la pràctica, la millor política no és la més restrictiva, sinó la que aconsegueix una cosa molt més difícil: ordenar l'ús de la IA sense frenar la productivitat. 

Com sempre, cuideu les dades i cuideu-vos! 

Shadow AI en el treball: com supervisar sense travessar la línia de la vigilància

L'ús d'eines d'intel·ligència artificial en l'entorn laboral—moltes vegades fora dels canals oficials—està obligant les empreses a replantejar els seus mecanismes de control. El fenomen del Shadow AI planteja un dilema clar: les organitzacions necessiten supervisió, però un enfocament excessiu pot derivar en conflictes laborals i riscos legals. 

L'Agència Espanyola de Protecció de Dades (AEPD), a la seva Guia sobre protecció de dades en les relacions laborals, ofereix un marc clar: el control és legítim, però ha de respectar els principis de proporcionalitat, transparència i minimització. 

El punt de partida: el control empresarial és legítim 

L'Estatut dels Treballadors reconeix la facultat de l'empresa per a adoptar mesures de vigilància i control amb la finalitat de verificar el compliment de les obligacions laborals. Aquest control inclou l'ús d'eines digitals i, per extensió, l'ús que els empleats fan de tecnologies com la intel·ligència artificial. 

Ara bé, com recorda l'AEPD, aquest control ha d'exercir-se dins dels límits del RGPD i la LOPDGDD. És a dir, no tot val: qualsevol mesura ha de ser proporcionada, justificada i respectuosa amb els drets fonamentals dels treballadors. 

El risc de la «vigilància total» 

Davant l'auge del Shadow AI, algunes organitzacions poden caure en la temptació d'implantar sistemes de monitoratge intensiu: registre d'activitat, anàlisi de comportament, captura d'ús d'eines o supervisió contínua. 

El problema és que aquest enfocament pot ser contraproduent. L'AEPD adverteix que les mesures de control excessives poden vulnerar drets com la intimitat o el secret de les comunicacions, especialment si no estan degudament justificades. 

A més, un sistema de vigilància desproporcionat pot generar: 

  • conflictes laborals i pèrdua de confiança, 
  • incompliments en matèria de protecció de dades, 
  • i, en cas d'incident, proves febles o impugnables per haver-se obtingut sense garanties. 

La clau: supervisió proporcional i amb garanties 

L'equilibri està a dissenyar un model de control basat en tres pilars fonamentals: 

Proporcionalitat 

Les mesures han de ser adequades al risc. No és el mateix controlar accessos a informació sensible que monitorar de forma generalitzada tota l'activitat digital. L'empresa ha d'optar per solucions menys intrusives quan siguin suficients. 

Informació prèvia i transparència 

Els treballadors han de conèixer de manera clara quines eines s'utilitzen, quines dades es recullen i amb quina finalitat. L'AEPD insisteix en la importància de polítiques internes ben definides i comunicades. 

Finalitat i minimització 

Les dades recollides han de limitar-se a l'estrictament necessari per a la finalitat perseguida. No es justifica recopilar informació excessiva «per si de cas». 

Shadow AI: del control tècnic a la governança 

Controlar l'ús d'IA en l'empresa no és només una qüestió tecnològica. És, sobretot, una qüestió de governança de la dada i cultura organitzativa. 

Les organitzacions més madures estan optant per enfocaments combinats: 

  • polítiques clares sobre ús d'IA, 
  • formació a empleats sobre riscos, 
  • eines autoritzades i segures, 
  • i controls selectius orientats a riscos concrets. 

Aquest enfocament no elimina el risc, però el gestiona sense envair innecessàriament l'espai del treballador. 

Conclusió: controlar sí, però amb disseny jurídic 

El Shadow AI no se soluciona amb més vigilància, sinó amb millor disseny. La clau està a trobar un equilibri entre control i drets, entre seguretat i confiança. 

Les empreses que optin per mesures desproporcionades no solament s'exposen a sancions, sinó també a un problema més subtil: perdre la validesa dels seus propis mecanismes de control. 

Perquè en l'entorn laboral digital, no n'hi ha prou amb supervisar. Cal fer-ho de manera que, arribat el moment, pugui sostenir-se jurídica i provatòriament. 

 Com sempre, cuideu les dades i cuideu-vos! 

Revisió Texts legals web