Jakub Pachocki, el científic en cap d’OpenAI, va publicar la setmana passada un assaig titulat An Alien Mind. No és un comunicat de premsa, ni el màrqueting habitual de OpenAI. És un document en què l’home responsable de la recerca del laboratori més influent del món escriu, sense eufemismes, que els models d’IA actuals ja superen la comprensió dels seus propis creadors en moltes tasques, i que la coordinació internacional per gestionar-ho és urgent. Ho he trobat molt fort.
El que diu Pachocki, i el que no diu prou alt
L’assaig no és ciència-ficció corporativa, ni cyberpunk. Pachocki descriu la IA avançada com una «ment alienígena» en un sentit tècnic precís: sistemes que processen informació, generen estratègies i resolen problemes de maneres que no segueixen la lògica humana, ni tan sols la dels enginyers que els han dissenyat.
El problema no és que la IA sigui dolenta. El problema és que els humans no tenim eines prou robustes per verificar quan és fiable i quan no ho és. Això s’anomena el problema de l’alineació, i Pachocki el tracta com un problema obert, no com quelcom que OpenAI hagi resolt.
La ment alienígena a la teva empresa
Tot això pot semblar molt llunyà si gestiones una empresa de vint persones al nostre territori, que no ens impacta, però em sap greu dir-te que sí, tard o d’hora ens arribarà.
Si la teva empresa utilitza eines d’IA (ChatGPT, Copilot, Gemini, el que sigui) estàs delegant decisions en sistemes que ni tu ni el fabricant podeu auditar completament.
Quan el model genera un informe, suggereix una estratègia de preus o redacta un contracte, no hi ha cap registre transparent del raonament intern. Hi ha una sortida. I una confiança que sovint el model no s’ha guanyat, sinó que nosaltres tranquil·lament hem assumit.
Mentre la coordinació internacional, que Pachocki demana ara amb urgència, s’organitza, hem de decidir avui fins on confiem en les nostres noves eines.
Google divideix la ciberseguretat en categories d’accés, i no és casualitat
La mateixa setmana, Google DeepMind ha llançat Gemini 3.8 Flash amb una variant especial: Gemini 3.8 Flash Cyber, un model amb capacitats de descobriment autònom de vulnerabilitats, d’accés restringit i amb verificació prèvia d’identitat.
Que Google distribueixi un model de ciberseguretat per nivells, amb portes d’entrada controlades, és la resposta pràctica al problema que Pachocki descriu en termes teòrics. Si una eina és prou potent per descobrir forats de seguretat de manera autònoma, no pots posar-la a disposició de tothom sense filtre. El sector ho sap. Per això es construeix arquitectura de distribució diferenciada, no per exclusivitat comercial.
Què en fem, d’això?
La resposta pràctica no és desconnectar-se de la IA. És revisar la relació que tens amb ella.
Concretament: identifica quines decisions de la teva empresa han absorbit eines d’IA sense protocol de revisió humana. No cal que siguin decisions grans. Sovint les més perilloses són les petites i repetitives, les que ningú no supervisa perquè «la màquina ja ho fa bé». Redacció d’ofertes, classificació de clients, respostes automàtiques, anàlisi de documents. Si no saps qui revisa el resultat ni amb quina freqüència, tens un risc real, no un risc teòric.
La Comissió Europea porta mesos preguntat si el mecanisme d’exclusió del cercador IA de Google serveix per a alguna cosa real. La hipòtesi de fons és que no, que l’opt-out és simbòlic. Si Brussel·les no es fia dels mecanismes de control que ofereix Google als editors, potser tampoc hem de donar per bona la capa de seguretat que ens ofereix el nostre proveïdor d’IA sense llegir-te el document sencer.
Pachocki demana coordinació internacional perquè els estats s’organitzin. Mentre, la nostra coordinació comença per saber, amb precisió, en quines parts del nostre negoci has deixat de monitoritzar com hauríem.