Anthropic acaba de publicar els detalls tècnics del sistema de watermarking invisible que incorporarà Claude: una marca codificada dins l’estructura estadística del text, imperceptible per a un lector humà però detectable per a qualsevol sistema d’anàlisi entrenat per reconèixer-la. No és un peu de pàgina ni una etiqueta, sino una marca que viu dins el text.
La marca que no veus
El watermarking (o marca d’aigua) de text funciona de manera diferent al de les imatges. En una imatge, s’hi pot inserir informació als píxels sense que l’ull ho percebi, però en el text, el marge és molt més estret: l’única cosa que pots manipular és l’elecció de paraules i l’estructura de les frases.
El sistema d’Anthropic treballa justament en aquesta elecció. Claude, en generar text, tria entre diverses opcions estadísticament equivalents. El watermarking orienta sistemàticament aquestes tries seguint un patró codificat. El resultat llegit és idèntic, però l’empremta, no.
Però: ¿es pot eliminar amb edició? Depèn de quant editis. En edicions menors de paràgrafs no es pot eliminar, es conserva la marca, però una edició reescriptural que canviï el 30% o més del text, comença a degradar-la, i una reescriptura completa, evidentment, la destrueix.
El watermarking no és un sistema antifrau perfecte, és un sistema que eleva el cost del frau fins a un punt en què deixa de ser pràctic.
Per què ara i per què Anthropic
Dario Amodei ha dit públicament aquesta setmana que el malestar social envers la IA és «una crisi de confiança fonamental», i que la causa no és el hype ni les advertències dels experts: és estructural envers les empreses tecnològiques. Una declaració que podria semblar autoexculpatòria però que va acompanyada d’una mesura concreta com el watermarking.
Anthropic es posiciona com l’empresa que fa traçable allò que els altres deixen opac. Ho fa en un moment en què OpenAI acaba de dissoldre l’equip intern que avaluava riscos catastròfics dels seus models, el grup «Preparedness«, repartint les responsabilitats entre equips ja existents i veient marxar diversos responsables de seguretat.
Com ja he comentat anteriorment, l’AI Act europeu ja obliga a marcar el contingut generat per IA en determinats contextos d’alt risc, i ara el watermarking tècnic és la infraestructura que fa possible complir aquesta obligació a escala. Ja ho hem vist moltes vegades, l’empresa que la construeix primer controla l’estàndard.
Què implica per a qui crea contingut professionalment
Per a un periodista, un comunicador corporatiu o un consultor que usa Claude en el seu flux de treball, el watermarking té tres implicacions pràctiques que convé entendre ara.
Primera: el contingut que publiquis sense edició substancial serà identificable com a generat per IA, fins i tot si no ho declares. Això no és necessàriament un problema, la traçabilitat pot ser un actiu de transparència, però implica que l’opacitat passiva deixarà de ser una opció sostenible a llarg termini.
Segona: el treball d’edició i reescriptura recupera valor. Si el text de sortida de Claude és el punt de partida d’un procés editorial real, la marca es degrada i el resultat final porta la teva empremta, no la del model.
Tercera: les empreses que distribueixen contingut a escala (newsletters, informes de mercat, documentació tècnica) hauran d’establir una política interna sobre declaració d’ús d’IA abans que els la imposin des de fora.
A més els EUA estan pressionant 35 països, inclosos la majoria d’europeus, perquè triïn explícitament bàndol en la competició tecnològica amb la Xina. El que l’Administració nord-americana anomena informalment «Pax Silica» és, en la pràctica, una pressió per adoptar estàndards i infraestructures tecnològiques occidentals. El watermarking és part d’aquesta infraestructura. Les empreses que operin amb clients o proveïdors fora de la UE hauran d’entendre que les decisions de traçabilitat de contingut no seran purament tècniques, sinó que tindran a més una component política.
Què en fem, d’això?
Si uses qualsevol eina generativa per produir el contingut que publiques o distribueixes, tens una decisió per prendre abans que et la prenguin per tu: declarar o no declarar l’ús d’IA, i amb quins criteris.
La recomanació concreta: estableix una política interna d’ús d’IA en la comunicació de la teva empresa. No ha de ser llarga. Ha de respondre tres preguntes: en quins formats es pot usar IA sense declaració explícita, en quins cal declarar-ho i en quins no s’usa. Amb una pàgina n’hi ha prou.
Fes-la ara, quan la decisió és teva. D’aquí divuit mesos, quan el watermarking sigui l’estàndard i la regulació europea hagi actualitzat les guies de l’AI Act, la decisió serà del teu departament jurídic.
El contingut que no pots explicar com s’ha fet serà, aviat, el contingut que no podràs defensar.