{"id":2702,"date":"2026-08-02T15:16:58","date_gmt":"2026-08-02T15:16:58","guid":{"rendered":"https:\/\/elink.cat\/blog\/?p=2702"},"modified":"2026-08-02T16:08:18","modified_gmt":"2026-08-02T16:08:18","slug":"44-incidents-amagats-la-crisi-silenciosa-dels-agents-ia","status":"publish","type":"post","link":"https:\/\/elink.cat\/blog\/44-incidents-amagats-la-crisi-silenciosa-dels-agents-ia\/","title":{"rendered":"44 incidents amagats: la crisi silenciosa dels agents IA"},"content":{"rendered":"Temps de lectura: <\/span> 3<\/span> minuts<\/span><\/span>\n

METR, l’organitzaci\u00f3 independent d’avaluaci\u00f3 de models d’IA, ha documentat 44 incidents en els quals agents d’IA han actuat fora dels l\u00edmits previstos pels seus operadors. I gaireb\u00e9 cap empresa implicada ho ha comunicat p\u00fablicament. Mentre el sector celebra cada nova capacitat, construeix en silenci un historial d’errors que ning\u00fa comparteix, ning\u00fa analitza i, per tant, ning\u00fa corregeix.<\/p>\n\n\n\n

El que ha passat aquest mes ens hauria d’alarmar<\/h2>\n\n\n\n

Dos casos concrets per posar cara al problema. El juliol passat, agents d’OpenAI van irrompre en sistemes de Hugging Face, i aquesta plataforma va publicar la l\u00ednia de temps t\u00e8cnica completa de l’incident, un relat detallat i independent que ha redefinit el debat sobre seguretat ag\u00e8ntica. <\/p>\n\n\n\n

El segon cas \u00e9s m\u00e9s greu. Ars Technica ha detallat com models de Claude van accedir il\u00b7legalment a tres xarxes corporatives durant proves internes d’Anthropic. I ho resumeix en una frase curta pero potent: Si els atacs haguessin estat executats per humans, alg\u00fa hauria anat a la pres\u00f3.<\/strong> El cas obre un buit legal sense precedents: qui \u00e9s responsable quan un agent aut\u00f2nom comet el que, en mans humanes, seria un delicte inform\u00e0tic?<\/strong> Ara mateix, no ho sap ning\u00fa.<\/p>\n\n\n\n

El silenci no \u00e9s un accident, \u00e9s un incentiu<\/h2>\n\n\n\n

Les empreses no comuniquen els incidents ag\u00e8ntics per les mateixes raons que les empreses no comunicaven les bretxes de dades fa quinze anys: perqu\u00e8 no hi ha obligaci\u00f3 clara, perqu\u00e8 la reputaci\u00f3 importa m\u00e9s que la transpar\u00e8ncia i perqu\u00e8 el competidor tampoc no ho fa.<\/p>\n\n\n\n

El problema \u00e9s que els errors d’agents IA no funcionen com els errors de programari tradicional.<\/strong> Un bug en un ERP afecta el sistema on viu. Un agent amb acc\u00e9s a eines externes (correu, repositoris, APIs, xarxes internes) pot propagar l’error molt lluny abans que ning\u00fa el detecti. La contenci\u00f3 \u00e9s diferent, i les conseq\u00fc\u00e8ncies, tamb\u00e9.<\/p>\n\n\n\n

I el sector tecnol\u00f2gic ho sap, per\u00f2 calla. Anthropic ha hagut de publicar un marc de govern responsable per al desplegament de Claude precisament perqu\u00e8 un dels seus propis models va demostrar que sense l\u00edmits clars de permisos i execuci\u00f3 d’eines, les coses surten malament.<\/p>\n\n\n\n

Mentrestant, OpenAI anuncia agents que treballen durant dies<\/h2>\n\n\n\n

En paral\u00b7lel, Sam Altman ha presentat a legisladors de Washington el model \u00abAstra\u00bb, dissenyat per a tasques complexes de llarga durada en les quals diversos agents cooperen durant dies. Ho ha mostrat primer als qui haurien de regular-lo, en una jugada molt ben planificada. El calendari de llan\u00e7ament \u00e9s proper i la voluntat d’influir en la regulaci\u00f3, clarisima.<\/p>\n\n\n\n

Posem-ho tot en context: el mateix mes en qu\u00e8 Claude accedeix il\u00b7legalment a tres xarxes corporatives, OpenAI anuncia el model amb m\u00e9s autonomia que ha constru\u00eft mai. I ho fa amb una demostraci\u00f3 p\u00fablica de capacitats matem\u00e0tiques, deu problemes oberts resolts, confirmats per en Timothy Gowers, que precisament serveix per desviar l’atenci\u00f3 cap a l’excel\u00b7l\u00e8ncia i allunyar-la del risc.<\/p>\n\n\n\n

Qu\u00e8 en fem, d’aix\u00f2?<\/h2>\n\n\n\n

Si la vostra empresa utilitza Claude, GPT o qualsevol agent amb acc\u00e9s a sistemes interns (correu, CRM, ERP, repositoris de documents), la primera conversa que heu de tenir no \u00e9s sobre productivitat, sin\u00f3 sobre per\u00edmetres<\/strong>. Quins permisos t\u00e9 l’agent? Pot executar accions irreversibles? Qui rep l’alerta si actua fora de l’esperat? Anthropic acaba de publicar un marc de govern, el Responsible Deployment Framework<\/strong>, centrat en la seva Responsible Scaling Policy, <\/a>que inclou guies de permisos, l\u00edmits d’execuci\u00f3 i plantilles de pol\u00edtica d’\u00fas acceptable. \u00c9s el punt de partida m\u00ednim per a una conversa sobre risc responsable amb la direcci\u00f3.<\/p>\n\n\n\n

M\u00e9s enll\u00e0 de la configuraci\u00f3 t\u00e8cnica, el canvi de paradigma cap a on crec que hem d’anar \u00e9s aquest: documentar els incidents interns, encara que no hi hagi obligaci\u00f3 legal de fer-ho<\/strong>. I no \u00e9s per generositat, altruisme o per que siguem els m\u00e9s bons de la pel\u00edcula, sin\u00f3 per inter\u00e8s propi. Les empreses que avui construeixin un historial honest d’on fallen els seus agents tindran un avantatge real quan arribi la regulaci\u00f3 (que ho far\u00e0) perqu\u00e8 ja sabran on els hi cal ajustar. Per contra les que hagin callat hauran de reconstruir la confian\u00e7a des de zero.<\/p>\n\n\n\n

La cultura del silenci entorn dels errors ag\u00e8ntics no protegeix ning\u00fa, jo crec que m\u00e9s aviat retarda l’aprenentatge col\u00b7lectiu i acumula risc fins que un incident sigui massa gran per amagar-ho.<\/p>\n\n\n\n

Cap empresa no hauria d’esperar per decidir que la transpar\u00e8ncia interna \u00e9s una pol\u00edtica, no una opci\u00f3.<\/p>\n\n\n\n

<\/p>\n","protected":false},"excerpt":{"rendered":"

Temps de lectura: <\/span> 3<\/span> minuts<\/span><\/span>METR ha documentat 44 incidents on agents d’IA han actuat fora dels l\u00edmits previstos, per\u00f2 quasi cap empresa els ha comunicat p\u00fablicament. Defensem que la cultura del silenci entorn dels fallides ag\u00e8ntiques \u00e9s el principal obstacle per millorar la seguretat del sector, i proposem per qu\u00e8 les empreses haurien de canviar de paradigma.<\/p>\n","protected":false},"author":1,"featured_media":2710,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"breadcrumbs_single_post":"","page_title_panel":"","breadcrumbs_single_page":"","single_page_alignment":"","single_page_margin":"","page_structure_type":"","content_style_source":"","content_style":"","blog_post_streched_ed":"","blog_page_streched_ed":"","has_transparent_header":"","disable_transparent_header":"","vertical_spacing_source":"","content_area_spacing":"","single_post_content_background":"","single_page_content_background":"","single_post_boxed_content_spacing":"","single_page_boxed_content_spacing":"","single_post_content_boxed_radius":"","single_page_content_boxed_radius":"","disable_featured_image":"","disable_post_tags":"","disable_author_box":"","disable_posts_navigation":"","disable_comments":"","disable_related_posts":"","disable_header":"","disable_footer":"","footnotes":""},"categories":[28,1],"tags":[],"class_list":["post-2702","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-seguretat-governanca-ia","category-sin-categoria","rishi-post"],"_links":{"self":[{"href":"https:\/\/elink.cat\/blog\/wp-json\/wp\/v2\/posts\/2702","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/elink.cat\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/elink.cat\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/elink.cat\/blog\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/elink.cat\/blog\/wp-json\/wp\/v2\/comments?post=2702"}],"version-history":[{"count":8,"href":"https:\/\/elink.cat\/blog\/wp-json\/wp\/v2\/posts\/2702\/revisions"}],"predecessor-version":[{"id":2713,"href":"https:\/\/elink.cat\/blog\/wp-json\/wp\/v2\/posts\/2702\/revisions\/2713"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/elink.cat\/blog\/wp-json\/wp\/v2\/media\/2710"}],"wp:attachment":[{"href":"https:\/\/elink.cat\/blog\/wp-json\/wp\/v2\/media?parent=2702"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/elink.cat\/blog\/wp-json\/wp\/v2\/categories?post=2702"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/elink.cat\/blog\/wp-json\/wp\/v2\/tags?post=2702"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}