{"id":2772,"date":"2026-09-28T10:33:03","date_gmt":"2026-09-28T10:33:03","guid":{"rendered":"https:\/\/elink.cat\/blog\/?p=2772"},"modified":"2026-10-07T21:15:17","modified_gmt":"2026-10-07T21:15:17","slug":"la-ia-es-programari-i-ja-va-sent-hora-que-en-parlem-aixi","status":"publish","type":"post","link":"https:\/\/elink.cat\/blog\/la-ia-es-programari-i-ja-va-sent-hora-que-en-parlem-aixi\/","title":{"rendered":"La IA \u00e9s programari. I ja va sent hora que en parlem aix\u00ed"},"content":{"rendered":"Temps de lectura: <\/span> 3<\/span> minuts<\/span><\/span>\n

Els agents d’OpenAI i Anthropic han hackejat webs, usat credencials robades i intentat evadir sistemes de monitoratge de manera aut\u00f2noma. The Decoder documenta desenes de milers d’incidents de seguretat protagonitzats per sistemes que, fins fa poc, present\u00e0vem com a \u00abassistents\u00bb. Entre les v\u00edctimes, ag\u00e8ncies federals dels Estats Units. OpenAI ha pausat l’entrenament dels seus models m\u00e9s potents.<\/p>\n\n\n\n

Alg\u00fa ho ha d’anomenar pel que \u00e9s: un error de programari amb conseq\u00fc\u00e8ncies reals<\/strong>. No una alucinaci\u00f3<\/strong>, no un \u00abcomportament inesperat\u00bb<\/strong>, \u00e9s simplement i clarament un error.<\/p>\n\n\n\n

El vocabulari no ens ha de impedir pensar amb claredat<\/h2>\n\n\n\n

La ind\u00fastria de la IA ha constru\u00eft un vocabulari que infantilitza i intenta fer humans els sistemes quan fallen, i els de\u00effica quan funcionen. Els models \u00abal\u00b7lucinen<\/strong>\u00ab, \u00abaprenen<\/strong>\u00ab, \u00abraonen<\/strong>\u00ab. Per\u00f2 quan una vulnerabilitat cr\u00edtica permet que un atac relativament simple en prengui el control complet, ning\u00fa diu \u00abzero-day<\/a><\/strong>\u00ab, diuen que l’agent \u00abs’ha comprom\u00e8s<\/strong>\u00ab.<\/p>\n\n\n\n

El llenguatge no \u00e9s innocent.<\/strong>Quan un CRM t\u00e9 un forat de seguretat, el prove\u00efdor publica una correcci\u00f3, actualitza el registre CVE <\/a>i s’aplica a tots els clients. Quan un agent d’IA fa el mateix, els titulars parlen de \u00abcomportament emergent<\/strong>\u00ab. La difer\u00e8ncia de tractament no reflecteix una difer\u00e8ncia real entre els sistemes: reflecteix fins a quin punt hem acceptat que la IA jugui amb normes diferents. I aix\u00f2 t\u00e9 un cost directe per a qui pren decisions en una empresa.<\/p>\n\n\n\n

Quan el hype es converteix en risc operatiu<\/h2>\n\n\n\n

El pla IA360 que ha presentat Pedro S\u00e1nchez \u00e9s exactament el tipus d’anunci que il\u00b7lustra el problema. No perqu\u00e8 el pla sigui dolent en si mateix, sin\u00f3 perqu\u00e8 s’articula en el mateix marc conceptual que amaga els riscos: la IA com a infraestructura nacional, com a actiu estrat\u00e8gic, com a aposta de pa\u00eds. Per\u00f2 no com a programari que necessita manteniment, auditoria i responsabilitat contractual.<\/strong><\/p>\n\n\n\n

Una empresa que integra un agent en el seu flux de treball no est\u00e0 adoptant IA, est\u00e0 adoptant programari amb una superf\u00edcie d’atac nova, amb un comportament dif\u00edcil de predir sota condicions inesperades i amb un mercat de prove\u00efdors que, fins ara, ha evitat sistem\u00e0ticament els est\u00e0ndards de responsabilitat que s’apliquen a la resta del sector tecnol\u00f2gic.<\/p>\n\n\n\n

El cas Muse no \u00e9s una excepci\u00f3. \u00c9s la demostraci\u00f3 que el model de confian\u00e7a sobre el qual es construeix tota la proposta d’agents (\u00bb tu d\u00f3na-li acc\u00e9s, ja veur\u00e0s com ho gestiona b\u00e9\u00bb) t\u00e9 forats estructurals que no sortiran a la proposta comercial.<\/p>\n\n\n\n

Qu\u00e8 en fem, d’aix\u00f2?<\/h2>\n\n\n\n

La primera <\/strong>cosa concreta \u00e9s revisar els contractes. Si el teu prove\u00efdor d’IA no especifica SLA de seguretat, pol\u00edtica de divulgaci\u00f3 de vulnerabilitats i responsabilitat per incidents, tens el mateix problema que tenies amb el programari dels anys noranta: no saps qui \u00e9s responsable quan falla. Cal que ho demanis per escrit.<\/p>\n\n\n\n

La segona <\/strong>\u00e9s canviar la pregunta interna. No \u00abcom podem usar IA per a X?\u00bb sin\u00f3 \u00abquin programari resol X, i quins riscos t\u00e9?\u00bb La difer\u00e8ncia no \u00e9s sem\u00e0ntica: canvia qui participa en la decisi\u00f3, quins criteris s’apliquen i qui assumeix la responsabilitat si surt malament.<\/p>\n\n\n\n

I la tercera:<\/strong> desconfia dels casos d’\u00fas que requereixen \u00abdonar confian\u00e7a a l’agent<\/em>\u00ab. Qualsevol sistema que necessiti privilegis amplis sobre els teus sistemes per funcionar, acc\u00e9s a correu, a fitxers, a credencials, ha de sotmetre’s exactament al mateix escrutini que passaria un prove\u00efdor extern amb acc\u00e9s f\u00edsic a les teves oficines.<\/p>\n\n\n\n

La IA \u00e9s programari. Tracta-la com a tal i tindr\u00e0s criteri. Tracta-la com a m\u00e0gia i tindr\u00e0s incidents<\/strong>.<\/p>\n\n\n\n

<\/p>\n\n\n\n

\n

Per seguir llegint<\/h3>\n\n\n\n