El passat 19 d’abril, Palantir va publicar a X un resum de 22 punts del llibre del seu CEO Alex Karp, The Technological Republic. En menys de 48 hores, el post havia acumulat 32 milions de visualitzacions. En menys d’una setmana, el terme “tecnofeixisme” havia aparegut en mitjans de tot el món.
Podríem despatxar el manifest com una operació de màrqueting agressiu, o com el deliri ideològic d’un CEO amb massa temps lliure. Però seria un error, perquè el que ha publicat Palantir no és una provocació gratuïta: és la declaració d’intencions d’una empresa que ja controla parts crítiques de la infraestructura de dades de l’estat americà, i que vol que la resta de la indústria tecnològica s’hi alineï.
Els 22 punts del manifest mereixen ser llegits amb atenció, perquè no tenen desperdici, comencem:
Silicon Valley té un “deute moral” amb el país que va fer possible el seu ascens. Les empreses tecnològiques tenen el deure de participar en la defensa d’Occident. L’era nuclear s’acaba i la propera era de la dissuasió es construirà sobre la IA.
Les cultures “mediocres, regressives i nocives” no mereixen la mateixa consideració que les que han demostrat ser superiors. La pluralitat és “una temptació buida i sense contingut”.
No és filosofia flotant a l’espai, com ha dit Eliot Higgins , CEO de Bellingcat. És la ideologia pública d’una empresa els ingressos de la qual depenen de la política que defensen. Palantir és una empresa que és coneguda pel següent: construir ImmigrationOS per a ICE, la plataforma d’IA que identifica immigrants i gestiona deportacions, proporciona software de vigilància al Pentàgon, analitza dades per a serveis d’intel·ligència de mig món, i un munt de temes similars, us podeu fer a la idea de quin tipus de idees tenen i defensen. A més, quan Karp diu que certes cultures són “nocives”, no ho diu com a filòsof: ho diu com a proveïdor dels sistemes que decidiràn qui és deportat i qui no.
Podeu pensar que el terme “tecnofeixisme” que han usat filòsofs i polítics europeus és dur, però captura alguna cosa real: la convergència entre poder tecnològic, ideologia autoritària i capacitat de vigilància que fins ara havíem associat a estats, no a empreses privades.
Palantir no és un estat, però ara ja actua com si ho fos, i el seu manifest és la primera vegada que una empresa d’aquest nivell ho diu en veu alta.
El contrast amb Anthropic és revelador. Mentre Palantir publica el seu credo i firma contractes militars, Anthropic es nega a cedir les seves salvaguardes al Pentàgon i paga el preu d’una demanda federal i l’exclusió dels contractes de defensa. Dues visions radicalment oposades del que és la responsabilitat d’una empresa d’IA. I les dues existeixen alhora, en el mateix sector, en la mateixa setmana. Segurament Anthropic no són uns angelets, però els posicionaments són oposats.
Avui és el Kodomo no Hi, el Dia dels Nens al Japó. La festa celebra la perseverança dels infants amb carpes de paper que neden contra el corrent. Els nens d’avui heretaran la infraestructura d’IA que s’està construint ara, amb les decisions que es prenen aquesta setmana. Heretaran els sistemes de vigilància, els agents autònoms, els models que piloten rovers a Mart i els que gestionen deportacions.
La pregunta que em genera el manifest de Palantir no és si està naixent el tecnofeixisme o si ja existeix, el que em preocupa és quants dels 32 milions de persones que ho han llegit ho han trobat raonable. I quants dels que construeixen IA avui estan d’acord amb Karp sense haver-ho dit mai en veu alta.
Si estàs preocupat/da per l’ètica a la IA com jo, se’ns gira feina.