La IA com a suport als neodictadors
Hi ha notícies que no esclaten: fermenten. Es couen a foc lent, com una escudella d’hivern, mentre la gent mira cap a una altra banda. La d’Anthropic i el Departament de Defensa dels Estats Units —el vell Pentàgon, que ara alguns anomenen, amb una franquesa involuntària, Departament de Guerra— és una d’aquestes històries que fan més olor que fum.
L’empresa, fundada per antics treballadors d’OpenAI, entre ells el seu màxim responsable, Dario Amodei, ha renunciat a un contracte de dos-cents milions de dòlars. No és una xifra menor, ni és una decisió trivial. Diuen que el motiu és ètic. I un, que ja té una certa edat i ha vist passar massa modes, no pot evitar una certa ironia quan sent parlar d’ètica en l’àmbit de les grans corporacions tecnològiques.
Segons s’ha sabut, el Pentàgon volia ampliar l’ús de la intel·ligència artificial en sistemes de vigilància interna i en el desenvolupament d’armament guiat per algoritmes. Dit ras i curt: màquines que ajuden a espiar ciutadans i màquines que ajuden a decidir qui és objectiu legítim d’un míssil. El senyor Amodei s’hi hauria negat si això implicava absència de supervisió humana o ús contra els propis conciutadans. Una negativa que, en aquests temps de submissió entusiasta al pressupost públic, gairebé sorprèn.
L’administració de Donald Trump —sempre inclinada a la gesticulació— hauria pressionat l’empresa amb la rescissió del contracte. I el contracte s’ha trencat. No havien passat ni dotze hores que el conseller delegat d’OpenAI, Sam Altman, anunciava un acord amb el mateix Pentàgon, assegurant que es mantenien principis similars: res d’armes plenament autònomes, res de sistemes de control sense supervisió humana.
Ens ho hem de creure? ¿Hem de pensar que el Pentàgon ha cedit davant d’OpenAI allò que no va cedir davant d’Anthropic? ¿O potser simplement ha trobat un proveïdor més flexible, més hàbil en l’art de l’ambigüitat contractual? Personalment, no me’n refio ni d’uns ni d’altres. Les grans paraules —“principis”, “supervisió”, “límits”— tenen la virtut de dir molt i de comprometre poc.
Vivim una època histriònica, accelerada, on cada setmana se’ns promet una revolució. Però la tecnologia, convé recordar-ho, sempre ha tingut un camp de proves privilegiat: el militar. El que avui ens serveix per escriure un correu amb més rapidesa, demà pot servir per optimitzar una cadena de comandament o perfeccionar un sistema d’identificació massiva. La història és tossuda en això.
Ens diuen que la intel·ligència artificial ens farà més lliures, més productius, més savis. Potser sí. Però també pot fer més eficients els mecanismes de control, més silenciosa la vigilància i més freda la decisió de prémer un botó. I quan una màquina “decideix”, sempre hi ha algú que ha decidit abans quins criteris ha d’aplicar.
Pot semblar que tot això ens queda lluny, a milers de quilòmetres. Però les tecnologies no tenen passaport. El que avui es desplega en nom de la seguretat nacional d’un país, demà es ven com a solució exportable a qualsevol govern amb temptacions autoritàries. Els neodictadors del segle XXI no necessiten uniformes lluents ni desfilades; els basta un bon centre de dades.
Per això cal malfiar-se dels entusiasmes acrítics. No pas per rebuig al progrés, sinó per una elemental prudència. Vinc del futur —metafòricament parlant— i he vist com funcionen aquestes coses: sempre comencen amb una excepció, amb una urgència, amb una amenaça. I sempre acabem prigant els mateixos.
Si no, al temps.
