{"id":2311,"date":"2025-10-06T19:55:23","date_gmt":"2025-10-06T19:55:23","guid":{"rendered":"https:\/\/elink.cat\/blog\/?p=2311"},"modified":"2025-10-08T11:21:17","modified_gmt":"2025-10-08T11:21:17","slug":"agents-autonoms-i-governanca-quan-la-ia-necessita-un-supervisor-amb-paciencia-infinita","status":"publish","type":"post","link":"https:\/\/elink.cat\/blog\/agents-autonoms-i-governanca-quan-la-ia-necessita-un-supervisor-amb-paciencia-infinita\/","title":{"rendered":"Agents aut\u00f2noms i governan\u00e7a: quan la IA necessita un supervisor amb paci\u00e8ncia infinita"},"content":{"rendered":"Temps de lectura: <\/span> 4<\/span> minuts<\/span><\/span>

<\/h1>\n

\u00a0Fa uns mesos parl\u00e0vem dels agents d\u2019IA com d\u2019una cosa una mica ex\u00f2tica: programes capa\u00e7os de prendre decisions, executar tasques i col\u00b7laborar entre ells amb una autonomia sorprenent. Avui, ja no en parlem com una an\u00e8cdota, sin\u00f3 com una realitat que s\u2019est\u00e0 infiltrant a poc a poc en empreses i sectors. I, com sol passar amb totes les modes tecnol\u00f2giques, ja hi ha qui corre a proclamar que \u00e9s el futur inevitable.<\/p>\n

Per\u00f2 aqu\u00ed hi ha un detall inc\u00f2mode: els agents aut\u00f2noms s\u00f3n com interns molt espavilats, per\u00f2 tamb\u00e9 tossuts i poc previsibles. Si els dones llibertat absoluta, poden ser brillants\u2026 o poden muntar un bon embolic. I aix\u00f2 ens porta a la pregunta del mili\u00f3: com governes un ex\u00e8rcit d\u2019agents que prenen decisions pel seu compte?<\/p>\n

El miratge de la confian\u00e7a cega<\/b><\/h2>\n

Hi ha qui encara pensa que els agents s\u00f3n com els robots de les pel\u00b7l\u00edcules, que segueixen les tres lleis d\u2019Asimov al peu de la lletra. La realitat \u00e9s molt menys glamurosa: els agents d\u2019IA poden ser \u00fatils, s\u00ed, per\u00f2 no tenen el sentit com\u00fa que associem a una persona. Per molt b\u00e9 entrenats que estiguin, poden prendre decisions absurdes o fins i tot perilloses.<\/p>\n

Aqu\u00ed \u00e9s on entra en joc la governan\u00e7a. I no em refereixo a la governan\u00e7a com a paraula grossa en un power point corporatiu, sin\u00f3 al fet real i quotidi\u00e0 de decidir qui pot fer qu\u00e8, com es supervisa i qu\u00e8 passa quan alguna cosa surt malament.<\/p>\n

Si ja \u00e9s complicat posar normes clares en un equip hum\u00e0 (\u201cper favor, no envi\u00efs factures en Excel amb f\u00f3rmules ocultes\u201d), imagineu-vos-ho amb agents que poden actuar de manera paral\u00b7lela, r\u00e0pida i constant, sense cansar-se mai.<\/p>\n

Del firewall al \u201cagentwall\u201d<\/b><\/h2>\n

Durant anys, la seguretat inform\u00e0tica s\u2019ha basat en murs: tallafocs, permisos, contrasenyes,normes, regles… Per\u00f2 ara tenim entitats digitals capaces de navegar per aquests murs amb permisos atorgats per nosaltres mateixos. \u00c9s com si hagu\u00e9ssim donat les claus de casa a un nou llogater i li digu\u00e9ssim: \u201cfes el que vulguis, per\u00f2 cuida b\u00e9 les plantes\u201d.<\/p>\n

El problema \u00e9s que potser s\u00ed que regar\u00e0 les plantes, per\u00f2 tamb\u00e9 convidar\u00e0 amics sense avisar o canviar\u00e0 els mobles de lloc. Els agents tenen aquesta capacitat d\u2019improvisar. No \u00e9s que vulguin fer mal, \u00e9s que no tenen la mateixa noci\u00f3 de context que nosaltres.<\/p>\n

\u00c9s per aix\u00f2 que es parla cada cop m\u00e9s d\u2019agent governance<\/b><\/span>, un nou camp que va m\u00e9s enll\u00e0 de la seguretat cl\u00e0ssica i que vol establir normes, protocols i mecanismes de supervisi\u00f3 per a aquest nou tipus de treballador digital.<\/p>\n

No \u00e9s nom\u00e9s un problema t\u00e8cnic<\/b><\/h2>\n

El m\u00e9s divertit (o dram\u00e0tic, dep\u00e8n de l\u2019humor que gastis) \u00e9s que aix\u00f2 no \u00e9s nom\u00e9s un problema tecnol\u00f2gic. \u00c9s sobretot un repte hum\u00e0 i organitzatiu.<\/p>\n

Quan una empresa permet que els empleats facin servir agents aut\u00f2noms, de cop i volta apareixen preguntes noves:<\/p>\n