Hi ha una nova mania a la indústria de la IA: posar marques d’aigua digitals a tot el que es genera. Fotos, vídeos, àudios… Tot hauria de portar el seu segell “made by AI”. Sona responsable, oi? Però, com passa sovint, darrere d’una bona intenció s’hi amaga un món de contradiccions tècniques, polítiques i fins i tot filosòfiques.
La idea és senzilla: si saps que una imatge prové d’un model generatiu, no la confondràs amb una fotografia real. Si cada contingut sintètic queda marcat, pots traçar-ne l’origen, exigir responsabilitats i mantenir un cert ordre digital. El problema és que, com en tantes croades de la tecnologia, la implementació real no està a l’altura del discurs.
L’AI Act i el nou mandat europeu: “marca o multa”
La Unió Europea ha decidit que totes les plataformes d’IA que generin continguts visuals o audiovisuals han d’incloure marques d’aigua detectables per una màquina. És el que estableix l’article 50 de l’AI Act, un text que converteix la transparència en obligació legal.
A primera vista, és una gran notícia: el watermarking esdevé una eina per combatre la desinformació i identificar deepfakes. Però la realitat tècnica és menys glamurosa. Un estudi recent (Adoption of Watermarking for Generative AI Systems) analitza cinquanta plataformes d’imatge IA: menys del 30 % implementen marques robustes, i la majoria poden eliminar-se simplement retallant, recomprimint o reenviant la imatge.
És a dir, tenim una norma avançada sobre una tecnologia que encara no està preparada per complir-la.
Els avantatges que no podem ignorar
Tot i així, el watermarking té mèrits innegables. D’una banda, aporta traçabilitat i autoria, dos conceptes gairebé desapareguts en l’era del contingut sintètic. D’altra, ofereix un mecanisme senzill perquè les plataformes (i els usuaris) filtrin continguts dubtosos.
També té valor educatiu: si la gent comença a veure que les imatges “perfectes” provenen d’una IA, pot aprendre a mirar-les amb més esperit crític. I des del punt de vista legal, és un paraigua: els proveïdors poden demostrar que han complert la norma i evitar sancions.
Però… i sempre hi ha un “però”… el watermarking és, de moment, una defensa simbòlica més que efectiva.
El miratge de la seguretat tècnica
El gran risc és caure en la il·lusió de control, és a dir, creure que, perquè hi ha una marca d’aigua, ja hi ha transparència. En realitat, les marques poden ser manipulades, imitades o esborrades amb sorprenent facilitat. En un estudi de Meta i Google sobre robust watermarks, es va demostrar que un simple pas per una eina d’edició o una IA d’estilització pot eliminar-les sense deixar rastre visible.
A més, cada proveïdor utilitza el seu propi sistema (no hi ha estàndard comú), de manera que detectar una marca de DALL-E no serveix per a Midjourney o Runway. És com tenir passaports diferents per cada país però sense policia de frontera que els reconegui. El resultat és una fragmentació del control: moltes marques, pocs verificadors.
El dilema de la confiança
Aquí és on el debat es torna interessant. Les marques d’aigua no només són una qüestió tècnica, sinó cultural i política. Marcar el contingut és una manera de dir: “això és artificial, per tant cal desconfiar”. Però… què passa quan la majoria d’imatges del nostre entorn (publicitat, cinema, contingut educatiu) provenen d’una IA? Si tot està marcat, la marca perd valor. El watermarking corre el risc de convertir-se en una etiqueta universal d’irrellevància, com el “fet amb ordinador” dels anys 90.
A més, hi ha un risc d’asimetria: les grans empreses poden aplicar marques sofisticades, però les eines open-source o independents no. El resultat podria ser un nou monopoli de “contingut verificat” dominat per uns pocs proveïdors.
Cap a una nova ecologia de la transparència
No estic en contra del watermarking ,de fet, és necessari, però crec que no n’hi ha prou. Cal una estratègia combinada:
- Metadades digitals segures (com C2PA o Content Credentials).
- Signatures criptogràfiques verificables.
- Auditories externes i obertura d’estàndards.
- Educació mediàtica real: ensenyar a la gent a reconèixer patrons, fonts i contextos.
Crec que per guanyar transparència no només cal posar una etiqueta, sinó que la gent entengui el procés. I això no s’aconsegueix amb un píxel amagat, tornem al de sempre…educació, educació i educació.
El futur immediat
És probable que el watermarking acabi sent una condició mínima per operar a Europa, com l’etiquetatge nutricional en els aliments. Però, com en el menjar processat, el fet que porti una etiqueta no vol dir que sigui saludable. Les empreses d’IA que vulguin guanyar confiança hauran d’anar més enllà: mostrar com s’entrenen els models, qui en controla les dades, i com es revisen els resultats. La marca d’aigua pot ser la porta d’entrada a aquesta nova cultura de la rendició de comptes, però només si va acompanyada de traçabilitat real i auditories obertes.
El watermarking és un bon principi, no una fi. Ens ajuda a començar a distingir el que és humà del que és sintètic, però no a entendre-ho. Si el fem servir com a escut regulatori, serà paper mullat. Si l’utilitzem com a base per construir confiança, pot esdevenir el nou DNI del contingut digital.