OpenAI implementarà textGrain a la Unió Europea a partir d’aquest mes. La majoria de titulars han explicat la notícia com si fos una eina per detectar contingut generat per IA, però no ho és. textGrain és un mecanisme de traçabilitat legal, i la diferència entre tots dos conceptes té implicacions directes per a qualsevol empresa que publiqui contingut creat amb ChatGPT.
La marca d’aigua no és una prova, és un rastre
textGrain funciona incrustant patrons estadístics invisibles en el text generat, modificacions subtils en l’elecció de paraules que no alteren el significat però que permeten identificar l’origen. Tècnicament, és un sistema de filigrana lingüística, un watermarking.
El problema és que no és robust. Canviar un 25% de les paraules d’un text marcat amb textGrain redueix la capacitat de detecció al 17%, segons l’anàlisi publicat per Whatsnew IA. Qualsevol reformulació manual o amb una altra eina d’IA el fa gairebé indetectable.
No serveix per saber si un text és d’IA. Serveix per demostrar, en cas de litigi, que un text concret va sortir de ChatGPT. Podríem dir que és com la diferència entre el detector de mentides de les pel·lícules i un notari.
L’AI Act no demana que detectis: demana que declaris
L’article 50 de l’AI Act, que va entrar en vigor el 2 d’agost de 2026 per als sistemes d’IA de propòsit general, obliga els proveïdors de models com OpenAI a garantir que els continguts generats per IA siguin marcables. Fins aquí, és responsabilitat del proveïdor.
Però hi ha una capa que moltes empreses ignoren. Si la teva empresa publica contingut generat amb IA (anuncis, articles, comunicats, descripcions de producte) i no ho declares, pots estar incomplint l’obligació de transparència del Reglament. No és una qüestió de si textGrain o alguna altra eina futura detecta el teu text, és més feina teva per definir i aplicar un protocol intern de declaració de contingut generat per IA.
L’Agència Espanyola de Supervisió de la Intel·ligència Artificial (AESIA), creada el 2024, és l’autoritat competent per a l’aplicació de l’AI Act a l’estat. Les sancions per incompliment de les obligacions de transparència arriben als 15 milions d’euros o al 3% de la facturació global anual, el que sigui més alt, així que no és per fer broma.
Què en fem, d’això?
La primera cosa que ha de fer qualsevol empresa que utilitzi ChatGPT per generar contingut públic és documentar-ho. No cal una política de 40 pàgines: n’hi ha prou amb un registre intern que indiqui quins tipus de contingut es generen amb IA, quina eina s’usa i si es publica amb revisió humana o directament. Això és el mínim que demostra bona fe davant d’una inspecció de l’AESIA.
La segona cosa és no confondre textGrain amb cobertura. Si el teu proveïdor jurídic o de comunicació et diu que, com que ChatGPT marca els textos, ja estàs complint, canvia de proveïdor. La marca d’aigua és obligació d’OpenAI, no teva, la declaració és obligació teva, i textGrain no la substitueix.
Finalment, vigila els contractes amb agències que et lliuren contingut sense especificar si és generat amb IA. A partir d’ara, l’origen del contingut és un element material del servei, no un detall tècnic. Si publiques un text que incompleix l’AI Act, la responsabilitat no s’atura a l’agència.
textGrain no t’absol de res. Et converteix en el primer en ser traçat si alguna cosa va malament.