Jacob Coxon va treballar a OpenAI i Anthropic. La setmana passada va dimitir i va publicar un avís: ambdues empreses avancen cap a una superintel·ligència capaç d’automillorar-se, i el risc d’extinció de la humanitat abans del 2030 és real i significatiu. El responsable d’alineació d’Anthropic i un altre investigador sènior ho van confirmar públicament.
No és la primera vegada que sentim això. Però sí que és la primera vegada en molts anys que ho diuen persones des de dins.
El patró és sempre el mateix
El 2016 tothom parlava dels biaixos algorítmics. Era el gran risc. Algoritmes racistes, discriminació sistèmica, el final de la igualtat d’oportunitats. El problema existia (i existeix) però no va transformar l’economia de la manera que es predeia.
El 2019 van arribar les advertències sobre les deepfakes (vídeos falsificats per IA): eleccions manipulades, democràcia destruïda, realitat irreconeixible. Les deepfakes existeixen i fan mal, però la democràcia no va col·lapsar per IA. Va col·lapsar per Twitter i per WhatsApp o Telegram que porten dècades entre nosaltres.
El 2023, Geoffrey Hinton, un dels pares del deep learning, va abandonar Google i va dir que ens quedaven deu anys. Ara Coxon diu quatre. Dario Amodei, CEO d’Anthropic, proposa auditors incrustats a les empreses d’IA i tractats globals inspirats en els acords de desarmament nuclear SALT. Sam Altman diu que faria una pausa… Però només si tothom ho fa alhora. Una condició que és, exactament, el dilema del presoner: ningú vol ser el primer a frenar perquè qui frena perd.
La por s’intensifica, però el cicle continua.
Per què ens equivoquem sempre en la mateixa direcció
El psicòleg Paul Slovic va demostrar als anys 80 que els humans sobreestimen sistemàticament els riscos espectaculars i infravaloren els graduals. Un avió que cau apareix als titulars; però l’impacte de l’automòbil sobre la mobilitat urbana va trigar trenta anys a entendre’s.
Amb la tecnologia passa el mateix, però amplificat per incentius econòmics. La por ven, ven llibres, ven conferències, ven pressupostos de seguretat… Vint anys de recerca sobre IA han produit articles que ningú llegeix, però tres mesos d’advertències apocalíptiques omplen tots els titulars de tots els mitjans.
Però això no vol dir que els riscos no siguin reals, sinó que el risc que s’acaba produint no és el que es descrivia amb tanta alarma.
El risc que ningú va anunciar
El Housing Ombudsman del Regne Unit (l’organisme que gestiona reclamacions d’habitatge) va passar de 2.600 queixes anuals a més de 7.000 en menys d’un any. La causa: els agents d’IA redacten queixes formals en segons, sense cost per a l’usuari. El fenomen ja té nom: agentic flooding, la inundació agèntica.
Cap regulació vigent ho havia anticipat, cap notícia alarmista sobre l’extinció de la humanitat en parla. Un servei públic col·lapsant no per culpa d’una superintel·ligència, sinó perquè el cost de generar una queixa formal va caure a zero.
I crec que és aquí és on sempre ens equivoquem. No en la direcció del risc, sinó en el mecanisme. La IA no destruirà el món agafant el control de l’arsenal nuclear, ho pot fer fent el que fa una impressora: abaratint una acció fins gairebé a cost 0.
L’accés a la justícia, a l’assessorament legal, a la comunicació professional, a la creació de contingut, tot plegat s’està democratitzant a un ritme que cap tribunal, cap administració i cap sindicat havia calculat, i el col·lapse institucional que això genera és real, immediat , per mi és un dels problemes que tindrem si no ho gestionem bé. No és tant èpic, pero pot ser molt perillós igualment.
Què en fem, d’això?
La pregunta pràctica no és si la IA extingirà la humanitat. És quins processos es tornaran gratuïts en els propers divuit mesos, i en el cas d’una empresa, si el teu model de negoci sobreviuria a això.
Un gestor administratiu, un tècnic de comunicació interna, un redactor de pressupostos: no desapareixeran de cop. Però el cost de fer les seves tasques rutinàries caurà fins a gairebé zero. Les empreses que s’estan preparant no contracten menys gent; reorienten les hores d’aquesta gent cap al que la IA no pot fer: judici, relació, negociació, context local…
No facis cas de la por que et venen. Fes-te aquesta pregunta incòmoda: en quina cosa concreta m’estic equivocant ara?