{"id":2748,"date":"2026-09-07T11:47:11","date_gmt":"2026-09-07T11:47:11","guid":{"rendered":"https:\/\/elink.cat\/blog\/?p=2748"},"modified":"2026-10-07T21:15:23","modified_gmt":"2026-10-07T21:15:23","slug":"la-ia-com-a-ment-alienigena-que-implica-per-a-nosaltres","status":"publish","type":"post","link":"https:\/\/elink.cat\/blog\/la-ia-com-a-ment-alienigena-que-implica-per-a-nosaltres\/","title":{"rendered":"La IA com a ment alien\u00edgena: qu\u00e8 implica per a nosaltres?"},"content":{"rendered":"Temps de lectura: <\/span> 3<\/span> minuts<\/span><\/span>\n

Jakub Pachocki, el cient\u00edfic en cap d’OpenAI, va publicar la setmana passada un assaig titulat An Alien Mind.<\/strong> No \u00e9s un comunicat de premsa, ni el m\u00e0rqueting habitual de OpenAI. \u00c9s un document en qu\u00e8 l’home responsable de la recerca del laboratori m\u00e9s influent del m\u00f3n escriu, sense eufemismes, que els models d’IA actuals ja superen la comprensi\u00f3 dels seus propis creadors en moltes tasques, i que la coordinaci\u00f3 internacional per gestionar-ho \u00e9s urgent. Ho he trobat molt fort.<\/p>\n\n\n\n

El que diu Pachocki, i el que no diu prou alt<\/h2>\n\n\n\n

L’assaig no \u00e9s ci\u00e8ncia-ficci\u00f3 corporativa, ni cyberpunk. Pachocki descriu la IA avan\u00e7ada com una \u00abment alien\u00edgena\u00bb <\/em>en un sentit t\u00e8cnic prec\u00eds: sistemes que processen informaci\u00f3, generen estrat\u00e8gies i resolen problemes de maneres que no segueixen la l\u00f2gica humana, ni tan sols la dels enginyers que els han dissenyat.<\/p>\n\n\n\n

El problema no \u00e9s que la IA sigui dolenta. El problema \u00e9s que els humans no tenim eines prou robustes per verificar quan \u00e9s fiable i quan no ho \u00e9s<\/strong>. Aix\u00f2 s’anomena el problema de l’alineaci\u00f3, i Pachocki el tracta com un problema obert, no com quelcom que OpenAI hagi resolt.<\/p>\n\n\n\n

La ment alien\u00edgena a la teva empresa<\/h2>\n\n\n\n

Tot aix\u00f2 pot semblar molt lluny\u00e0 si gestiones una empresa de vint persones al nostre territori, que no ens impacta, per\u00f2 em sap greu dir-te que s\u00ed, tard o d’hora ens arribar\u00e0.<\/p>\n\n\n\n

Si la teva empresa utilitza eines d’IA (ChatGPT, Copilot, Gemini, el que sigui) est\u00e0s delegant decisions en sistemes que ni tu ni el fabricant podeu auditar completament.<\/strong><\/p>\n\n\n\n

Quan el model genera un informe, suggereix una estrat\u00e8gia de preus o redacta un contracte, no hi ha cap registre transparent del raonament intern. Hi ha una sortida. I una confian\u00e7a que sovint el model no s’ha guanyat, sin\u00f3 que nosaltres tranquil\u00b7lament hem assumit.<\/p>\n\n\n\n

Mentre la coordinaci\u00f3 internacional, que Pachocki demana ara amb urg\u00e8ncia, s’organitza, hem de decidir avui fins on confiem en les nostres noves eines.<\/p>\n\n\n\n

Google divideix la ciberseguretat en categories d’acc\u00e9s, i no \u00e9s casualitat<\/h2>\n\n\n\n

La mateixa setmana, Google DeepMind ha llan\u00e7at Gemini 3.8 Flash amb una variant especial: Gemini 3.8 Flash Cyber, un model amb capacitats de descobriment aut\u00f2nom de vulnerabilitats, d’acc\u00e9s restringit i amb verificaci\u00f3 pr\u00e8via d’identitat.<\/p>\n\n\n\n

Que Google distribueixi un model de ciberseguretat per nivells, amb portes d’entrada controlades, \u00e9s la resposta pr\u00e0ctica al problema que Pachocki descriu en termes te\u00f2rics.<\/strong> Si una eina \u00e9s prou potent per descobrir forats de seguretat de manera aut\u00f2noma, no pots posar-la a disposici\u00f3 de tothom sense filtre. El sector ho sap. Per aix\u00f2 es construeix arquitectura de distribuci\u00f3 diferenciada, no per exclusivitat comercial.<\/p>\n\n\n\n

Qu\u00e8 en fem, d’aix\u00f2?<\/h2>\n\n\n\n

La resposta pr\u00e0ctica no \u00e9s desconnectar-se de la IA. \u00c9s revisar la relaci\u00f3 que tens amb ella.<\/p>\n\n\n\n

Concretament: identifica quines decisions de la teva empresa han absorbit eines d’IA sense protocol de revisi\u00f3 humana<\/strong>. No cal que siguin decisions grans. Sovint les m\u00e9s perilloses s\u00f3n les petites i repetitives, les que ning\u00fa no supervisa perqu\u00e8 \u00abla m\u00e0quina ja ho fa b\u00e9\u00bb. Redacci\u00f3 d’ofertes, classificaci\u00f3 de clients, respostes autom\u00e0tiques, an\u00e0lisi de documents. Si no saps qui revisa el resultat ni amb quina freq\u00fc\u00e8ncia, tens un risc real, no un risc te\u00f2ric.<\/p>\n\n\n\n

La Comissi\u00f3 Europea porta mesos preguntat si el mecanisme d’exclusi\u00f3 del cercador IA de Google serveix per a alguna cosa real. La hip\u00f2tesi de fons \u00e9s que no, que l’opt-out <\/em>\u00e9s simb\u00f2lic. Si Brussel\u00b7les no es fia dels mecanismes de control que ofereix Google als editors, potser tampoc hem de donar per bona la capa de seguretat que ens ofereix el nostre prove\u00efdor d’IA sense llegir-te el document sencer.<\/p>\n\n\n\n

Pachocki demana coordinaci\u00f3 internacional perqu\u00e8 els estats s’organitzin. Mentre, la nostra coordinaci\u00f3 comen\u00e7a per saber, amb precisi\u00f3, en quines parts del nostre negoci has deixat de monitoritzar com haur\u00edem.<\/p>\n\n\n\n

\n

Per seguir llegint<\/h3>\n\n\n\n