Intel·ligència Artificial (IA)

La transparència en la IA ja és obligatòria: està preparada la teva empresa?

per

El Reglament Europeu d'Intel·ligència Artificial (AI Act) continua avançant en el seu calendari d'aplicació i marca una nova fita per a les organitzacions que desenvolupen o utilitzen sistemes d'intel·ligència artificial. A partir del passat 2 d'agost de 2026, van començar a ser exigibles les obligacions de transparència previstes en l'article 50, la qual cosa suposa un canvi important en la forma en què les empreses han de desplegar aquestes tecnologies.

Fins ara, moltes organitzacions es preguntaven si utilitzaven intel·ligència artificial. A partir d'aquest moment, la pregunta canvia: estem informant adequadament les persones quan la IA intervé en les nostres interaccions, continguts o decisions?

La transparència deixa de ser una bona pràctica

Les noves obligacions afecten tant proveïdors com a empreses que utilitzen sistemes d'IA en la seva activitat diària.

Entre altres supòsits, serà necessari analitzar quan correspon informar que un usuari està interactuant amb un bot o un assistent virtual, quan han d'identificar-se continguts generats o modificats mitjançant IA, o quan resulta obligatori advertir sobre l'ús de tecnologies com els deepfakes, el reconeixement d'emocions o determinats sistemes de categorització biomètrica.

En definitiva, la transparència passa de ser una recomanació ètica a convertir-se en un requisit normatiu amb conseqüències jurídiques.

Un impacte molt més ampli del que sembla

Existeix la percepció que l'AI Act només afecta a grans companyies tecnològiques. No obstant això, la realitat és molt distinta.

Avui dia, nombroses empreses utilitzen eines d'intel·ligència artificial per a atenció al client, màrqueting, generació de contingut, recursos humans, anàlisi documental o automatització de processos. En molts casos, aquestes solucions incorporen funcionalitats d'IA de forma gairebé invisible per a l'usuari.

Precisament per això, resulta imprescindible identificar quins sistemes s'estan utilitzant, quin paper exerceix l'organització dins de la cadena de valor de la IA i quines són les obligacions que li corresponen.

El moment de revisar la governança de la IA

L'entrada en vigor d'aquestes obligacions ofereix una oportunitat perquè les empreses revisin la seva estratègia d'intel·ligència artificial des d'una perspectiva de compliment.

Això implica, entre altres qüestions:

  • Inventariar les eines d'IA utilitzades en l'organització.
  • Revisar avisos, etiquetes i comunicacions dirigides a usuaris.
  • Actualitzar polítiques internes sobre l'ús d'IA.
  • Revisar contractes amb proveïdors tecnològics.
  • Definir responsabilitats i mecanismes de supervisió.

L'experiència demostra que moltes organitzacions ja utilitzen intel·ligència artificial sense comptar amb un marc de governança que permeti gestionar adequadament els riscos legals i reguladors.

Compliment i confiança han d'avançar junts

L'AI Act no pretén frenar la innovació, sinó fomentar un ús responsable i transparent de la intel·ligència artificial.

Les empreses que comencin ara a adaptar els seus processos no sols reduiran riscos d'incompliment, sinó que també reforçaran la confiança de clients, empleats i socis comercials.

En aquest nou escenari, disposar d'una estratègia de governança d'IA, polítiques internes adequades i una anàlisi de compliment adaptat a l'activitat de cada organització deixa de ser un avantatge competitiu per a convertir-se en una necessitat. Perquè la intel·ligència artificial continuarà evolucionant, però les empreses que generin major confiança seran aquelles capaces de demostrar que la utilitzen de manera transparent, segura i conforme al marc regulador europeu.

Com sempre, cuideu les dades i cuideu-vos!

La teva empresa utilitza IA? A partir d’agost, la transparència deixa de ser una recomanació

per

La intel·ligència artificial s'ha incorporat amb rapidesa a assistents virtuals, eines de generació de contingut, xatbots i nombrosos processos empresarials. No obstant això, conforme augmenta la seva presència, també ho fa la necessitat que els usuaris sàpiguen quan estan interactuant amb una IA i quan un contingut ha estat generat o modificat mitjançant aquesta tecnologia.

Amb aquest objectiu, el passat 20 de juliol la Comissió Europea va publicar les directrius que desenvolupen les obligacions de transparència previstes en l'article 50 del Reglament d'Intel·ligència Artificial (AI Act/RIA), l'aplicació de la qual comença el 2 d'agost de 2026. Aquestes directrius pretenen facilitar a proveïdors i empreses usuàries la correcta interpretació de les seves noves obligacions.

La transparència pansa a ser un requisit de compliment

Les noves directrius busquen reduir el risc d'engany, manipulació i desinformació en un entorn on cada vegada resulta més difícil distingir el contingut generat per persones del creat per intel·ligència artificial.

Entre altres qüestions, aclareixen quan serà obligatori informar els usuaris que estan interactuant amb un sistema d'IA, quan han d'identificar-se els continguts generats o alterats mitjançant intel·ligència artificial i en quins supòsits serà necessari advertir sobre l'ús de deepfakes, sistemes de reconeixement d'emocions o categorització biomètrica.

En altres paraules, la transparència deixa de ser una bona pràctica per a convertir-se en una obligació legal.

Un impacte molt més ampli del que sembla

Moltes organitzacions consideren que aquestes obligacions afecten únicament els grans desenvolupadors d'IA. No obstant això, la realitat és diferent.

Les obligacions de l'article 50 també aconsegueixen a nombroses empreses que utilitzen eines d'IA en la seva activitat diària: xatbots d'atenció al client, assistents virtuals, generadors de contingut, aplicacions de màrqueting o solucions que incorporen funcionalitats d'intel·ligència artificial dins de productes i serveis.

Per això, no n'hi ha prou amb confiar que el proveïdor tecnològic compleix la normativa. Cada organització ha d'analitzar com utilitza la IA i quines obligacions li corresponen com desplegador (deployer) d'aquests sistemes.

La governança de la IA comença per conèixer què s'utilitza

L'entrada en aplicació d'aquestes obligacions posa de manifest un problema que moltes empreses encara no han abordat: desconeixen quantes eines d'IA utilitzen realment els seus empleats i per a quines finalitats.

Abans d'implantar avisos o polítiques de transparència, resulta imprescindible identificar els sistemes utilitzats, avaluar els riscos associats i definir procediments clars sobre la seva utilització.

Aquest exercici constitueix el primer pas cap a una estratègia sòlida de governança de la intel·ligència artificial.

Una oportunitat per a generar confiança

Més enllà del compliment normatiu, la transparència representa una oportunitat per a reforçar la confiança de clients, empleats i socis comercials.

Les organitzacions que integrin des d'ara polítiques d'ús responsable de la IA, revisin els seus processos i adaptin les seves eines a les noves exigències reguladores estaran més ben preparades per a afrontar un entorn on la innovació i el compliment hauran d'avançar de la mà.

Perquè el repte de veritat ja no consisteix únicament a incorporar intel·ligència artificial, sinó a demostrar que s'utilitza de manera transparent, responsable i conforme a la normativa aplicable.

Com sempre, cuideu les dades i cuideu-vos!

Les ulleres intel·ligents ja són aquí. Ara el desafiament real és protegir la privacitat

per

Les ulleres intel·ligents han deixat de ser un concepte futurista per a convertir-se en una realitat comercial. Dispositius com les Meta Ray-Ban ja permeten prendre fotografies, gravar vídeo, respondre preguntes mitjançant intel·ligència artificial o interpretar el que l'usuari està veient en temps real.

Precisament aquesta combinació de càmeres, micròfons i IA ha convertit a aquesta mena de dispositius en un dels exemples més representatius del desafiament que afronta actualment la indústria tecnològica: com oferir experiències cada vegada més intel·ligents sense comprometre la privacitat dels qui les utilitzen… i dels qui els envolten?

Un dispositiu que va despertar dubtes des del primer dia

Des del seu llançament, les Meta Ray-Ban han generat un intens debat sobre privacitat.

A diferència d'un telèfon mòbil, unes ulleres intel·ligents permeten capturar imatges i vídeo de forma molt més discreta, mantenint una conversa o caminant per un espai públic sense que resulti evident que existeix una càmera  en funcionament.

L'arribada de noves funcions basades en IA, capaces d'interpretar escenes, recordar informació de l'entorn o interactuar amb l'usuari en funció del que està veient, ha incrementat encara més aquestes preocupacions.

La qüestió ja no consisteix únicament en qui utilitza les ulleres, sinó també en què passa amb la informació de totes les persones que apareixen, parlen o simplement es troben prop del dispositiu.

La resposta de Meta: la privacitat també ha de formar part del disseny

En aquest context, Meta ha anunciat una actualització destinada a reforçar una de les principals garanties de privacitat del dispositiu.

Les ulleres deixaran de permetre la gravació si detecten que l'indicador lluminós que avisa que la càmera està activa ha estat manipulat, cobert o inutilitzat.

Encara que pugui semblar una modificació menor, el missatge és rellevant: les mesures de privacitat ja no poden dependre únicament del comportament responsable de l'usuari, sinó que han d'incorporar-se al propi disseny de la tecnologia.

Aquest enfocament respon al principi de privacy by design, cada vegada més present tant en la regulació com en les expectatives de consumidors i autoritats.

Molt més que un debat sobre unes ulleres

La polèmica de les Meta Ray-Ban transcendeix al propi dispositiu.

Cada vegada més eines d'intel·ligència artificial incorporen càmeres, micròfons, sensors o sistemes capaços d'interpretar l'entorn en temps real. Això obliga les organitzacions a plantejar-se noves preguntes sobre privacitat, protecció de dades, transparència i ús responsable de la tecnologia.

No es tracta únicament de complir amb la normativa, sinó de gestionar adequadament els riscos associats a solucions que processen quantitats creixents d'informació personal.

La confiança serà el factor diferencial real

La intel·ligència artificial continuarà integrant-se en dispositius d'ús quotidià. No obstant això, l'èxit d'aquestes tecnologies no dependrà exclusivament de les seves capacitats tècniques.

Les empreses que desenvolupin o incorporin solucions basades en IA hauran de demostrar que compten amb mecanismes sòlids de governança, protecció de dades i gestió del risc. Avaluacions d'impacte, polítiques internes, controls tècnics i privacitat des del disseny seran elements cada vegada més rellevants per a generar confiança i complir amb un entorn regulador en constant evolució.

Perquè la pròxima revolució de la intel·ligència artificial no consistirà únicament a crear dispositius més intel·ligents, sinó a aconseguir que usuaris, empreses i reguladors confiïn en ells.

Com sempre, cuideu les dades i cuideu-vos!

Alfabetització en IA: l’elefant a l’habitació de moltes empreses

per

ANÀLISIS 

Hi ha obligacions que arriben fent soroll. I n’hi ha d’altres que entren discretament per la porta lateral, s’asseuen a la sala de reunions i, durant mesos, gairebé ningú les mira. L’alfabetització en intel·ligència artificial pertany a aquesta segona categoria.

Des del 2 de febrer de 2025, el Reglament Europeu d’Intel·ligència Artificial exigeix que les empreses que utilitzen o desenvolupen sistemes d’IA adoptin mesures per assegurar un nivell suficient d’alfabetització en IA de les persones que treballen amb aquests sistemes. No parlem només de grans tecnològiques, bancs o multinacionals. Parlem també de pimes que fan servir eines d’IA generativa per redactar continguts, analitzar informació, preparar ofertes, gestionar clients, donar suport a processos interns o prendre decisions organitzatives.

L’obligació ja hi és. L’elefant també.

L’obligació ja és vigent

Convé començar aclarint una idea important: l’alfabetització en IA no és una obligació futura. No depèn que l’empresa esperi una nova llei nacional ni que arribi una campanya inspectora concreta. L’article 4 del Reglament Europeu d’Intel·ligència Artificial ja és aplicable des del 2 de febrer de 2025.

El que canvia a partir del 2 d’agost de 2026 és el context de supervisió i aplicació pràctica del Reglament: els Estats membres han de tenir designades les seves autoritats nacionals competents i el marc institucional de control comença a estar plenament operatiu. Dit d’una altra manera: l’obligació no neix ara, però cada vegada serà més difícil tractar-la com una qüestió secundària.

Això no vol dir que totes les empreses hagin de fer el mateix ni que existeixi un únic curs obligatori, estàndard i vàlid per a qualsevol organització. L’obligació s’ha d’adaptar al context, al nivell de risc, al coneixement previ de les persones i a l’ús concret que es faci de la IA. Però sí que vol dir que l’empresa ha de poder demostrar que ha actuat amb criteri i diligència.

El precedent de la Desconnexió Digital

La situació recorda, en part, el que va passar amb el Dret a la Desconnexió Digital. Des del desembre de 2018, les empreses a Espanya tenen l’obligació de comptar amb una Política interna de desconnexió i de dur a terme accions de implementació, formació i sensibilització. Tanmateix, durant anys moltes organitzacions ho van tractar com una qüestió secundària: una cosa important en teoria, però ajornable a la pràctica.

Només quan el tema va començar a guanyar presència pública, sindical, inspectora i reputacional, moltes empreses van descobrir que allò no era una recomanació de bones pràctiques, sinó una obligació real. Amb l’alfabetització en IA pot passar una cosa semblant. La diferència és que el ritme d’adopció de la intel·ligència artificial està sent molt més ràpid.

Moltes empreses ja utilitzen IA, encara que no sempre ho sàpiguen

Moltes empreses ja utilitzen IA, encara que no sempre ho tinguin identificat, ordenat o documentat. Un treballador que introdueix informació de clients en una eina externa, un equip de recursos humans que utilitza IA per filtrar candidatures, un departament comercial que automatitza comunicacions o una àrea financera que es recolza en sistemes predictius estan generant riscos jurídics, organitzatius i reputacionals. I aquests riscos no es resolen només amb “sentit comú”.

La qüestió no és si l’empresa utilitza una eina sofisticada o si ha comprat una solució expressament etiquetada com a intel·ligència artificial. El problema sovint es troba en usos quotidians, fragmentats i poc governats. La IA pot estar entrant a l’empresa per moltes portes petites abans d’aparèixer en una gran decisió estratègica.

Alfabetitzar no és convertir tothom en tècnic

Convé no enfocar l’alfabetització en IA des de la por. Per a una Pime, ben plantejada, pot ser un avantatge competitiu molt clar. Alfabetitzar no significa convertir tota la plantilla en experta tècnica.

Significa que les persones entenguin què és la IA, quines eines utilitza l’empresa, per a què es poden fer servir, quins límits existeixen, quines dades no s’hi han d’introduir, quan cal verificar un resultat, quan ha d’intervenir una persona, quins riscos existeixen per a clients, treballadors o tercers, i com documentar mínimament les decisions rellevants. L’alfabetització en IA ha de ser pràctica, proporcional i connectada amb la feina real de cada equip.

Menys risc i més rendiment

Des d’una perspectiva jurídica/organitzativa, l’alfabetització en IA compleix una doble funció. D’una banda, redueix riscos: protecció de dades, confidencialitat, errors per al·lucinacions, biaixos, decisions automatitzades mal enteses, ús indegut d’informació interna o dependència acrítica d’una eina. De l’altra, millora el rendiment: equips més segurs, criteris comuns, menys improvisació, més traçabilitat i millor aprofitament de la tecnologia.

Aquest punt és especialment rellevant per a les pimes. No necessiten estructures complexes ni departaments interns de compliance tecnològic. Necessiten una cosa més pràctica: identificar on s’utilitza la IA, establir unes regles clares, formar les persones segons el seu rol i deixar una evidència raonable que l’empresa ha actuat amb diligència. La clau no és fer més burocràcia, sinó generar control, seguretat i confiança.

Una peça bàsica de govern digital

L’alfabetització en IA no s’hauria de veure com “un altre curs obligatori”. Hauria de ser una peça bàsica de govern digital. Igual que una empresa no deixaria que cada treballador decidís pel seu compte com tractar dades personals, tampoc hauria de deixar que cada persona utilitzi eines d’IA sense criteris comuns.

Formar els equips ajuda a ordenar l’ús de la tecnologia, reduir errors, protegir informació sensible, evitar decisions opaques i millorar la qualitat dels resultats. També permet que la direcció tingui una visió més realista de com s’està utilitzant la IA dins de l’organització. Perquè no es pot governar bé allò que no es coneix.

Mirar l’elefant de cara

L’elefant a l’habitació no ha de fer por. Però convé mirar-lo de cara. Les empreses que formin els seus equips abans que aparegui el problema estaran més ben preparades per utilitzar la IA amb seguretat, confiança i criteri.

En un mercat on totes les empreses parlen d’intel·ligència artificial, la diferència no estarà només a utilitzar més eines, sinó a utilitzar-les millor. Amb més control, més transparència, més responsabilitat i més capacitat de defensa.

L’alfabetització en IA no és un fre a la innovació: és una condició per aprofitar-la de manera segura i sostenible.

Com sempre, cuideu les dades i cuideu-vos!

Deepfakes, veu i imatge: el nou risc reputacional que també amenaça a les pimes 

per

La intel·ligència artificial generativa ha canviat la manera de crear campanyes: avui una empresa pot llançar anuncis amb avatars, veus clonades, testimoniatges sintètics, imatges retocades o vídeos hiperrealistes. Però aquesta facilitat també obre una nova zona de risc: usar la imatge, la veu o la identitat d'una persona sense consentiment clar, sense control contractual o sense revisió prèvia.

Per a una pime, el problema no és només una possible reclamació legal. És la pèrdua de confiança. Una campanya percebuda com a enganyosa, invasiva o poc transparent pot danyar la reputació digital de la marca en qüestió d'hores.

La reforma del dret a l'honor posa el focus en la IA

El debat ja està en l'agenda legislativa. El Govern ja ha remès al Congrés la reforma de la Llei orgànica de protecció civil del dret a l'honor, la intimitat i la pròpia imatge, amb l'objectiu d'adaptar-la a fenòmens com els deepfakes, l'explotació no autoritzada de veu o imatge mitjançant IA i determinats continguts de «true crime».

El Ministeri de Justícia ja havia avançat que la nova regulació considera il·legítim usar la veu o la imatge d'una persona sense autorització amb finalitats publicitaris o comercials mitjançant IA o tecnologies similars. També recorda que compartir imatges en xarxes socials no significa que tercers puguin reutilitzar-les lliurement en altres canals.

La idea de fons és clara: retornar a les persones el control sobre la seva imatge, la seva veu i la seva identitat digital.

Agències i marques: una responsabilitat compartida

Llas agències i professionals del màrqueting ja no solament creen campanyes, sinó actius digitals: vídeos, copies, automatitzacions, avatars, peces amb IA, testimoniatges, creativitats dinàmiques i continguts sintètics.

Això exigeix una nova responsabilitat. No n'hi ha prou que una campanya sigui creativa o viral. Ha de poder demostrar qui va autoritzar l'ús d'una imatge, quin abast tenia aquest consentiment, quines eines es van utilitzar, qui va revisar el contingut i quines garanties contractuals existeixen entre client, agència, proveïdors i col·laboradors.

En altres paraules: impacte, sí. Però amb consentiment, traçabilitat i seguretat jurídica.

Què haurien de revisar les pimes abans de llançar campanyes amb IA

Abans de publicar una campanya que usi imatge, veu, vídeos, avatars o continguts generats amb IA, convé revisar almenys quatre punts: consentiment específic per a l'ús previst, contractes amb agències i proveïdors, identificació de continguts sintètics quan escaigui i conservació d'evidències sobre aprovacions, versions i fonts utilitzades.

També és recomanable comptar amb un protocol intern d'ús d'IA generativa i un pla de resposta davant incidents reputacionals: retirada de continguts, comunicació de crisi, preservació de prova digital i accions legals si fos necessari.

La creativitat necessita control

La IA ofereix enormes oportunitats per al màrqueting de les pimes, però improvisar pot sortir car. La reputació digital es protegeix abans de publicar, no quan la crisi ja està circulant.

A Tecnolawyer ajudem les empreses a utilitzar IA en màrqueting sense improvisar: amb contractes, consentiment, traçabilitat i evidència.

Com sempre, cuideu les dades i cuideu-vos!

La IA laboral ja no és només tecnologia: és compliance empresarial

per

La notícia pot presentar-se com una batalla entre Espanya i Brussel·les, però per a una pime la lectura important és molt més pràctica. Yolanda Díaz ha defensat que la intel·ligència artificial i els algoritmes ja influeixen en processos com la selecció, la permanència, els ascensos, les modificacions contractuals, les sortides o l’avaluació del treball. La pregunta per a l’empresa no és si fa servir IA, sinó si pot explicar com la fa servir quan afecta persones treballadores.

La transparència algorítmica ja és una obligació laboral

Aquest debat no comença amb l’AI Act. Espanya ja va obrir camí amb l’anomenada Llei Rider, que va modificar l’Estatut dels Treballadors per reconèixer el dret de la representació legal a ser informada sobre els paràmetres, regles i instruccions dels algoritmes o sistemes d’IA que afectin decisions laborals rellevants. La transparència algorítmica laboral forma part del nostre ordenament des de 2021.

L’AI Act acumula obligacions, no les substitueix

El Reglament Europeu d’Intel·ligència Artificial reforça aquesta direcció. Considera d’alt risc determinats sistemes d’IA utilitzats en contractació, selecció, promoció, rescissió contractual, assignació de tasques, supervisió o avaluació del rendiment. També exigeix alfabetització en IA per a qui operi o utilitzi aquests sistemes en nom de l’organització. L’AI Act no substitueix el RGPD, l’Estatut dels Treballadors ni la normativa d’igualtat: els suma.

Aquí apareix la tensió actual. El calendari europeu pot donar més marge per a determinades obligacions vinculades als sistemes d’alt risc, però això no elimina la realitat empresarial immediata: les eines ja s’estan utilitzant i les decisions ja es prenen. Que Europa doni més temps no significa que l’empresa pugui continuar implantant eines sense control.

El risc real és més quotidià del que sembla

Per a moltes pimes, el risc no estarà a haver comprat “una IA perillosa”, sinó en usos molt més normals: una eina de selecció que filtra candidats, un software de productivitat que genera mètriques individuals, una plataforma de RRHH amb funcionalitats intel·ligents, un sistema de torns automatitzat o un proveïdor que promet “optimitzar” decisions sense explicar bé quines dades utilitza. El risc acostuma a amagar-se en eines normals que ningú ha inventariat com a IA.

Del compliance algorítmic a les evidències defensables

Per això convé començar a parlar de compliance algorítmic laboral. No com un document decoratiu, sinó com una forma de govern intern: inventari d’eines, avaluació del proveïdor, anàlisi de dades tractades, informació a la plantilla o a la seva representació, intervenció humana, mesures davant biaixos, traçabilitat i evidències. L’empresa no necessita saber programar l’algoritme; necessita poder governar-lo, qüestionar-lo i defensar-ne l’ús.

I aquí apareix una dimensió que moltes empreses encara no estan considerant: l’evidència. No n’hi ha prou amb tenir una política, una clàusula o una avaluació inicial si després no podem reconstruir com es va prendre una decisió concreta, quina eina hi va intervenir, quines dades es van utilitzar, quina persona va supervisar el resultat i quins controls es van aplicar. La preparació forense d’evidències ha de començar abans del conflicte: no per judicialitzar l’empresa, sinó per garantir que les decisions puguin explicar-se, verificar-se i defensar-se si algun dia són qüestionades. En la pràctica, això significa dissenyar registres, traçabilitat, actes, validacions, revisions humanes i documentació tècnica mínima que permetin acreditar que la IA no s’ha utilitzat de forma opaca, discriminatòria o automàtica, sinó dins d’un marc raonable de control empresarial.

No es tracta de frenar la IA, sinó de governar-la

El règim sancionador de l’AI Act existeix i serà rellevant, però no hauria de ser l’únic motor de reacció. Per a una pime, el primer cost pot arribar abans: una reclamació laboral, una inspecció, una queixa d’un candidat, una bretxa reputacional o la impossibilitat de justificar una decisió interna.

La reacció intel·ligent no és frenar la IA. Seria un error. La IA pot ajudar a seleccionar millor, organitzar equips, reduir càrregues administratives, detectar necessitats formatives i prendre decisions amb més informació. Però en l’àmbit laboral ha d’aplicar-se amb una regla senzilla: com més impacte tingui sobre persones, més transparència, control humà i evidència documental necessita.

Per a una pime, el primer pas no hauria de ser comprar una altra eina, sinó fer-se tres preguntes: quina IA estem utilitzant ja, quines decisions laborals pot estar condicionant i què podríem ensenyar demà si ens ho demana una persona treballadora, la representació legal, la Inspecció de Treball o una autoritat de control. L’avantatge competitiu no serà utilitzar més IA que els altres, sinó utilitzar-la millor: amb criteri, controls i capacitat de defensa.

Conclusió: la IA laboral ja és una responsabilitat de direcció

El Projecte de Llei Orgànica per al bon ús i la governança de la intel·ligència artificial continua en tramitació parlamentària, però la direcció del viatge ja és clara. La IA laboral passarà de ser una decisió tecnològica a convertir-se en una responsabilitat de direcció, compliment i reputació empresarial. Les empreses que comencin ara a ordenar eines, proveïdors, dades, decisions i evidències no només reduiran risc: estaran més ben preparades per aprofitar la IA amb confiança i avantatge competitiu.

Del reclutament als ascensos: com la IA està transformant la gestió del talent

per

Com ja sabeu, la intel·ligència artificial ha deixat de ser una eina reservada per a àrees tecnològiques. Avui participa activament en processos relacionats amb l'avaluació de l'acompliment, la promoció professional, la compensació econòmica i fins i tot determinades decisions de gestió de persones.

El que va començar com una eina de suport per a automatitzar tasques administratives està evolucionant cap a sistemes capaços d'analitzar grans volums d'informació i generar recomanacions que influeixen directament en la trajectòria professional dels empleats.

Aquesta transformació ofereix importants oportunitats per a les organitzacions, però també planteja desafiaments jurídics, ètics i de compliment que no poden passar-se per alt.

La IA entra en el cor de la gestió del talent

Cada vegada és més habitual que les empreses utilitzin algorismes per a identificar candidats amb potencial de promoció, analitzar mètriques de productivitat, detectar necessitats formatives o donar suport a processos d'avaluació de l'acompliment.

La promesa és atractiva: decisions més àgils, basades en dades i aparentment més objectives.

No obstant això, quan un sistema automatitzat influeix en qüestions tan sensibles com una promoció, una revisió salarial o una mesura disciplinària, l'impacte sobre les persones pot ser significatiu.

Per això, el veritable desafiament ja no consisteix a incorporar intel·ligència artificial, sinó a garantir que la seva utilització sigui transparent, explicable i compatible amb els drets dels treballadors.

El risc de confiar cegament en els algorismes

La intel·ligència artificial aprèn a partir de les dades disponibles. Si aquestes dades contenen biaixos històrics, errors o patrons discriminatoris, el sistema pot reproduir-los o, fins i tot, amplificar-los.

Un model dissenyat per a identificar perfils d'alt rendiment podria afavorir determinats comportaments o trajectòries professionals sense que l'organització sigui plenament conscient d'això.

A més, moltes eines utilitzen models complexos la lògica interna dels quals resulta difícil d'interpretar, la qual cosa complica justificar determinades decisions davant empleats, representants dels treballadors o autoritats supervisores.

La falta de transparència s'està convertint en un dels principals riscos associats a l'ús d'IA en recursos humans.

Governança, compliment i supervisió humana

La regulació internacional està avançant cap a un model en el qual determinades aplicacions d'IA relacionades amb l'ocupació seran considerades d'alt risc.

En conseqüència, les organitzacions hauran de demostrar que compten amb mecanismes adequats de supervisió, control i gestió de riscos.

Això implica, entre altres qüestions:

  • Avaluar prèviament l'impacte de les eines utilitzades.
  • Garantir la qualitat de les dades emprades.
  • Mantenir supervisió humana efectiva sobre les decisions rellevants.
  • Documentar els criteris utilitzats pels sistemes.
  • Implementar mesures per a detectar i corregir possibles biaixos.

L'automatització pot millorar l'eficiència, però no elimina la responsabilitat de l'empresa sobre les decisions adoptades.

Una oportunitat per a construir confiança

La intel·ligència artificial té el potencial de millorar significativament la gestió del talent, sempre que s'utilitzi dins d'un marc adequat de governança.

Les organitzacions que integrin des del principi criteris de compliment, protecció de dades, transparència i supervisió humana estaran més ben preparades per a aprofitar els beneficis d'aquestes tecnologies sense comprometre la confiança dels seus empleats.

En un entorn cada vegada més regulat, l'avantatge competitiu no vindrà únicament d'adoptar intel·ligència artificial, sinó de demostrar que s'utilitza de manera responsable, ètica i alineada amb els drets de les persones.

Com sempre, cuideu les dades i cuideu-vos!

D’usuaris anònims a usuaris identificats: com està canviant la relació amb la IA

per

Sembla que la intel·ligència artificial està entrant en una nova etapa. Ja no es tracta únicament de què poden fer els models, sinó de quina informació hauran de proporcionar els usuaris per a accedir a ells.

Recentment, Anthropic ha anunciat canvis en les condicions d'ús de Claude que permetran sol·licitar processos de verificació d'identitat i edat a determinats usuaris. Entre les dades que podrien utilitzar-se per a aquestes verificacions, es troben documents oficials d'identitat i informació biomètrica obtinguda a partir d'imatges o vídeos facials. Aquests canvis entren en vigor a partir del 8 de juliol de 2026.

Més enllà del cas concret, la decisió reflecteix una tendència que probablement veurem cada vegada amb major freqüència en el sector tecnològic: el pas de plataformes obertes i relativament anònimes a entorns en què la identificació de l'usuari serà un requisit habitual.

Més seguretat, però també més responsabilitat

Les companyies d'IA s'enfronten a una pressió creixent per a prevenir fraus, evitar usos indeguts de les seves eines i complir amb noves exigències reguladores.

Des d'aquesta perspectiva, la verificació d'identitat pot resultar una mesura raonable. No obstant això, també suposa la recopilació d'informació especialment sensible que incrementa les obligacions de privacitat, seguretat i compliment.

La pregunta ja no és únicament com desenvolupar sistemes d'IA més potents, sinó com gestionar de manera responsable les dades necessàries per a operar aquests sistemes.

Quan la biometria entra en joc

La utilització de reconeixement facial o mecanismes similars introdueix un nivell de complexitat jurídica significativament major.

Les dades biomètriques es troben entre les categories d'informació més sensibles des de la perspectiva de la protecció de dades. El seu tractament exigeix analitzar qüestions com la proporcionalitat, la minimització de dades, la transparència i la seguretat de la informació.

A més, qualsevol incident relacionat amb aquesta mena de dades pot generar un impacte reputacional considerable per a les organitzacions implicades.

El que les empreses haurien d'aprendre d'aquest cas

Encara que la notícia afecta directament a una plataforma d'IA, les implicacions van molt més allà.

Moltes organitzacions ja estan incorporant eines d'intel·ligència artificial en les seves operacions diàries sense haver avaluat adequadament quines dades recopilen aquests sistemes, quins proveïdors intervenen o quines obligacions reguladores poden sorgir.

Per això, cada vegada resulta més important comptar amb una estratègia de governança d'IA que inclogui:

  • Avaluació de riscos.
  • Protecció de dades des del disseny.
  • Gestió de proveïdors tecnològics.
  • Polítiques internes d'ús d'IA.
  • Compliment normatiu i auditories periòdiques.

La confiança serà el veritable avantatge competitiu

La intel·ligència artificial continuarà evolucionant i els mecanismes d'identificació probablement es tornaran més habituals. No obstant això, les organitzacions que generin més confiança no seran necessàriament les que utilitzin més IA, sinó aquelles capaces de demostrar que gestionen correctament les dades dels seus usuaris.

En aquest escenari, la governança d'IA, la protecció de dades i el compliment normatiu deixen de ser qüestions exclusivament jurídiques per a convertir-se en elements estratègics de negoci. I precisament aquí és on les empreses necessitaran cada vegada més acompanyament especialitzat per a innovar sense comprometre la confiança de clients, empleats i socis comercials.

Com sempre, cuideu les dades i cuideu-vos!

Cal frenar la intel·ligència artificial? Les empreses haurien de començar per controlar la que ja utilitzen

per

La carrera per desenvolupar models d'intel·ligència artificial cada vegada més potents ha aconseguit un punt en el qual fins i tot algunes de les empreses líders del sector estan demanant cautela. Recentment, Anthropic—una de les companyies més rellevants en el desenvolupament d'IA avançada—ha plantejat la necessitat de comptar amb mecanismes que permetin alentir o fins i tot pausar temporalment el desenvolupament de determinats sistemes si els riscos arriben a superar la nostra capacitat de supervisió.

Encara que la idea de «frenar la IA» pot semblar extrema, el debat que es planteja és molt més rellevant per a les organitzacions: estem preparats per a gestionar tecnologies que evolucionen més ràpid que les nostres estructures de control?

El desafiament no és la IA, sinó la velocitat del canvi

Segons indica Reuters, la preocupació expressada per Anthropic gira entorn d'un escenari en el qual els sistemes d'IA aconsegueixin nivells creixents d'autonomia i puguin participar en el disseny o millora de models posteriors amb una intervenció humana cada vegada menor. Encara que els propis experts reconeixen que aquest escenari encara no s'ha materialitzat, consideren que podria arribar abans que existeixin mecanismes adequats de supervisió i governança.

Més enllà de les hipòtesis sobre el futur, la realitat és que moltes empreses ja estan incorporant eines d'IA en processos crítics sense haver definit polítiques clares sobre el seu ús, supervisió o control.

La governança de la IA es converteix en una necessitat empresarial

Durant els últims anys, la conversa sobre intel·ligència artificial s'ha centrat principalment en productivitat i automatització. No obstant això, cada vegada resulta més evident que l'adopció d'aquestes tecnologies ha d'anar acompanyada de marcs de governança adequats.

Les organitzacions necessiten respondre preguntes fonamentals:

  • Quines eines d'IA estan utilitzant els seus empleats?
  • Quines dades s'estan introduint en aquests sistemes?
  • Existeixen mecanismes de supervisió humana?
  • Com es documenten les decisions assistides per IA?
  • Quins riscos reguladors i reputacionals poden derivar-se del seu ús?

Aquestes qüestions ja no pertanyen únicament a l'àmbit tecnològic. Formen part de la gestió del risc corporatiu.

El compliment normatiu serà un factor diferencial

L'entrada en vigor progressiva del Reglament Europeu d'Intel·ligència Artificial (RIA) està accelerant la necessitat d'establir controls interns sobre els sistemes d'IA utilitzats per les empreses.

En aquest context, conceptes com a traçabilitat, avaluació de riscos, supervisió humana, transparència i responsabilitat deixen de ser recomanacions per a convertir-se en requisits estratègics de compliment.

Les organitzacions que comencin ara a desenvolupar polítiques internes d'IA estaran més ben preparades per a afrontar futures obligacions reguladores i demostrar diligència davant clients, socis comercials i autoritats.

De l'entusiasme tecnològic a l'adopció responsable

La discussió plantejada per Anthropic no hauria d'interpretar-se com una advertència a detenir la innovació, sinó com una invitació a desenvolupar-la de manera responsable.

La intel·ligència artificial ofereix oportunitats extraordinàries per a millorar la productivitat, optimitzar processos i generar nous avantatges competitius. No obstant això, aquests beneficis només seran sostenibles si les organitzacions són capaces de gestionar adequadament els riscos associats.

Per això, cada vegada més empreses estan incorporant programes de governança d'IA, auditories de compliment, avaluacions d'impacte i estratègies de protecció de dades com a part de la seva transformació digital.

La pregunta ja no és si una organització utilitzarà intel·ligència artificial, sinó si està preparada per a fer-ho de manera segura, conforme a la normativa i alineada amb els seus objectius de negoci.

Com sempre, cuideu les dades i cuideu-vos!

Revisió Texts legals web