Contractar intel·ligència artificial no equival a traslladar totes les responsabilitats al proveïdor.
Una confiança que cal verificar
Una empresa incorpora una aplicació d’intel·ligència artificial per resumir contractes, analitzar informació comercial o automatitzar processos interns. El proveïdor afirma que la solució és segura, respecta la confidencialitat i compleix la normativa. La decisió sembla senzilla: el producte funciona i les garanties consten a la seva web. Però, què s’ha comprovat realment?
La qüestió no és desconfiar de la tecnologia, sinó evitar que una promesa comercial substitueixi una verificació. Quan entren en joc dades de clients, informació estratègica o decisions sobre persones, les conseqüències d’un error no sempre es poden atribuir íntegrament a un tercer.
Contractar no és delegar totes les obligacions
El Reglament europeu d’intel·ligència artificial distribueix obligacions segons el paper de cada operador i el tipus de sistema. A més, si hi ha dades personals, continuen essent aplicables les responsabilitats que corresponguin segons el RGPD. Les clàusules contractuals poden ordenar compromisos i responsabilitats entre les parts, però no fan desaparèixer les obligacions legals de l’empresa usuària.
Tampoc no és suficient donar per bona una declaració genèrica de «compliment normatiu». Una funcionalitat d’IA pot integrar models d’altres empreses, operar en infraestructures subcontractades o canviar amb una actualització. Conèixer aquestes dependències ajuda a entendre què s’està contractant i quins riscos s’assumeixen.
La due diligence d’IA: de la promesa a l’evidència
Abans de contractar, convé fer una diligència deguda proporcionada a l’ús previst. No significa auditar exhaustivament qualsevol eina. Significa verificar els elements rellevants: per a què s’utilitzarà la IA, quina informació tractarà, si aquesta es reutilitza per entrenar models, quins tercers intervenen, quines mesures de seguretat existeixen i quina supervisió humana és necessària.
La diferència és important: no és el mateix utilitzar IA per preparar esborranys interns que incorporar-la a un procés que afecta treballadors o clients. Com més gran sigui l’impacte potencial, més justificació, controls i documentació hauria d’exigir la decisió empresarial.
I hi ha una dimensió sovint oblidada: la probatòria. Si demà sorgeix una incidència, l’empresa hauria de poder acreditar quines comprovacions va efectuar, què va saber del proveïdor i per què va considerar acceptable l’ús previst. No n’hi ha prou amb haver actuat diligentment: convé conservar-ne evidències.
La diligència no s’acaba amb la signatura
Els serveis d’IA evolucionen. Un canvi de model, una nova funcionalitat o una modificació en els fluxos de dades pot alterar els riscos inicials. Per això, les verificacions han de formar part d’un seguiment raonable al llarg de la relació contractual, amb especial atenció als canvis rellevants.
Comprar IA amb confiança no és acceptar sense més les garanties del proveïdor: és entendre-les, contrastar-les i documentar les decisions. A Tecnolawyer ajudem les organitzacions a abordar aquesta revisió des de les perspectives jurídica, tecnològica, operativa i probatòria.
Cuideu les vostres dades i cuideu-vos!
