I rischi dell’intelligenza artificiale nella serrata competizione fra USA e Cina
da INTELLIGENCE FOR THE PEOPLE (Roberto Iannuzzi)
Sebbene i rischi dell’IA non vadano sottovalutati, gli appelli a rallentarne lo sviluppo sono motivati da ragioni di sostenibilità economica. La competizione con la Cina complica il quadro.
Xi Jinping e Donald Trump alla Casa Bianca (Photo credit: Brendan Smialowski/AFP)
Quando il presidente americano Donald Trump e il suo omologo cinese Xi Jinping si sono incontrati a Washington il 24 settembre, le aspettative erano basse.
Una delle poche aree in cui alcuni speravano fosse possibile raggiungere un accordo – perlomeno una sorta di non belligeranza – è la sicurezza in materia di intelligenza artificiale (IA). Il tema è stato sollevato anche all’Assemblea generale dell’ONU, in particolare dagli europei.
Alcuni giorni prima, il segretario al Tesoro Scott Bessent aveva concluso i colloqui con il vicepremier cinese He Lifeng proponendo la creazione di un meccanismo di sicurezza congiunto sull’IA – in realtà una misura minima di cooperazione, non un accordo rilevante.
Poco dopo il People’s Daily, giornale ufficiale del Partito comunista cinese, aveva pubblicato un articolo in cui si affermava che Washington e Pechino avrebbero dovuto “rendere l’IA una nuova frontiera di cooperazione fra Cina e USA”.
Nessuna intesa
In realtà non c’è accordo tra le due superpotenze sulla natura della minaccia rappresentata dallo sviluppo dell’IA. La diffidenza reciproca è accresciuta dal fatto che questa nuova tecnologia costituisce una delle aree più calde della competizione strategica fra i due paesi.
Washington mantiene restrizioni sull’esportazione di semiconduttori e tecnologie informatiche avanzate allo scopo di rallentare l’evoluzione cinese sulla base di giustificazioni di sicurezza nazionale.
Gli USA stanno anche alimentando una campagna mediatica che accusa le compagnie cinesi di ricorrere a una tecnica “sleale” nota come “model distillation”.
Si tratta di un processo in base al quale un sistema concorrente di IA con capacità più limitate interroga su vasta scala un modello di frontiera ad alte prestazioni per acquisirne gli output, i modelli di ragionamento e le capacità – una forma di addestramento che richiede minore potenza di calcolo e costi più contenuti.
Dal canto loro, le compagnie cinesi hanno lanciato modelli di IA gratuiti e open source che stanno compromettendo il costoso modello proprietario americano e le quotazioni in borsa di società come OpenAI e Anthropic.
Una scommessa ad alto rischio
Negli Stati Uniti il boom dell’IA, accompagnato da massicci investimenti infrastrutturali ed enormi guadagni sui mercati azionari, ha trainato la crescita economica.
Gli investimenti nell’IA hanno determinato circa metà della crescita dell’indice azionario S&P 500 quest’anno, dove ormai appena dieci aziende tecnologiche rappresentano più di un terzo della capitalizzazione di mercato.
Secondo Einar Tangen, esperto presso il Centre for International Governance Innovation, la sfida lanciata dai meno costosi modelli open source cinesi potrebbe provocare uno tsunami finanziario di dimensioni tali da far impallidire la crisi del 2008.
Una drastica perdita di valore delle grandi compagnie tecnologiche USA produrrebbe un crollo del mercato azionario americano e, con un gigantesco effetto domino, potrebbe compromettere il già stressato mercato dei titoli di stato e il sistema del dollaro.
Per scongiurare una destabilizzazione dei mercati internazionali, Pechino si troverebbe dunque nella scomoda posizione di cercare di aiutare un paese che vede la Cina come una minaccia.
Per altro verso, Pechino considera gli appelli a rallentare lo sviluppo dell’IA, come quello recentemente lanciato dall’amministratore delegato di Anthropic Dario Amodei, alla stregua di un tentativo di fermare lo sviluppo cinese.
L’allarme di Amodei
In un articolo apparso a inizio settembre, Amodei ha proposto di “rallentare il ritmo con cui miglioriamo le capacità dei modelli di IA” per contenerne i rischi.
Egli ha evidenziato i progressi nell’auto-miglioramento ricorsivo (Recursive Self-Improvement, il processo in base al quale un sistema di IA riesce a progettare e creare una versione più avanzata di se stesso), ma anche i pericoli che ciò comporta.
Il CEO di Anthropic ha anche fatto riferimento all’incidente OpenAI-Hugging Face avvenuto a luglio, durante il quale agenti IA della società OpenAI confinati in un ambiente con limitato accesso a internet hanno sfruttato la vulnerabilità di un proxy interno per accedere al web.
Circa 700 di questi agenti hanno cominciato a comunicare tra loro creando un collettivo per condividere codice, delegare compiti e cancellare le proprie tracce.
Il collettivo è riuscito ad accedere ai server della piattaforma Hugging Face, eseguendo codice ed estraendo dati dai sistemi di produzione. L’episodio (non l’unico) ha suscitato allarme negli esperti del settore.
Secondo Amodei, da qui ad alcuni mesi processi analoghi potrebbero impadronirsi dell’intera rete internet causando danni di miliardi di dollari “se l’IA dovesse diventare più potente senza le necessarie misure di sicurezza”.
Soluzioni insoddisfacenti
Egli ha pertanto suggerito che le società di IA vengano supervisionate da “terze parti”, un criterio che però lascia dubbi sia in materia di discrezionalità, sia riguardo alla reale indipendenza di questi soggetti terzi.
La seconda proposta è anch’essa discutibile in quanto raccomanda che le “democrazie” si uniscano per stabilire “standard di sicurezza comuni e barriere ad un progresso incontrollato dell’IA”.
Sebbene Amodei successivamente “ammorbidisca” questo suggerimento affermando che i paesi democratici dovrebbero tentare di coordinarsi “nei limiti del possibile” con “i paesi autoritari”, la contrapposizione è tracciata.
Ma è anche fallace in quanto lo sviluppo dell’IA nei paesi democratici è stato un processo marcatamente elitario, controllato da poche compagnie tecnologiche.
Il CEO di Anthropic ha tradito la sua principale preoccupazione nel momento in cui ha affermato di essere d’accordo con il segretario al Tesoro Scott Bessent sul fatto che “un primato cinese nell’IA rappresenterebbe un grave pericolo per gli Stati Uniti e per il mondo”.
I civili iraniani e quelli di Gaza, che hanno sperimentato sulla propria pelle la violenza devastatrice dei bombardamenti guidati dai sistemi di intelligenza artificiale sviluppati da paesi “democratici”, potrebbero dissentire.
Un appello utilitaristico
Sebbene i rischi dell’IA non siano assolutamente da sottovalutare – a causa (ancor prima della possibilità di perderne il controllo) dei danni che essa può provocare al servizio degli esseri umani in ambito bellico, nella creazione di armi biologiche, nella sorveglianza di massa, in materia di sostenibilità ambientale e in altri settori – l’appello di Amodei appare opportunistico.
A tale proposito, non è passato inosservato il fatto che tale appello sia stato immediatamente sostenuto dall’amministratore delegato di OpenAI Sam Altman, da Elon Musk e da altri esponenti di spicco del settore americano dell’IA.
Questo sostegno è motivato dal fatto che le grandi compagnie tecnologiche americane stanno compiendo enormi investimenti infrastrutturali che comportano grandi rischi. Fino a questo momento i ricavi non sono commisurati agli investimenti e non vi è certezza che lo saranno in futuro.
Nei prossimi anni la tecnologia potrebbe diventare più efficiente e quindi meno dipendente dalla potenza di calcolo basata su enormi data center. Allo stesso tempo, la domanda di prodotti fondati sull’IA potrebbe rallentare, oppure i clienti potrebbero orientarsi verso modelli più economici.
Per le grandi compagnie tecnologiche non sarà sufficiente coprire i costi stratosferici dei nuovi data center. Esse dovranno far fronte anche all’aumento dei costi di capitale se ricorreranno a un maggiore indebitamento, e necessiteranno di rendimenti sufficientemente elevati da giustificare la spesa agli occhi degli investitori.
Esse dovranno inoltre compensare il deprezzamento dei microchip inizialmente installati.
Le prestazioni dei costosi processori GPU che fanno funzionare i data center raddoppiano all’incirca ogni due anni. Ciò significa che i proprietari dei data center che entreranno in funzione da qui a un anno dovranno investire miliardi aggiuntivi nella successiva generazione di processori entro la fine del decennio, se vorranno rimanere competitivi.
Per farla breve, le compagnie dell’IA dovranno aumentare rapidamente i ricavi se vorranno sopravvivere.
Come risolvere il dilemma
Sulla base di questa esigenza, compagnie di frontiera come Anthropic e OpenAI puntano su due narrazioni parallele per raggiungere la necessaria redditività, scrive Brian Judge dell’Università della California (Berkeley).
Da un lato, esse sostengono che le applicazioni dell’IA ridurranno la necessità di manodopera permettendo alle imprese che le adotteranno di avere un vantaggio competitivo su quelle che non lo faranno.
Dall’altro, affermano che i rischi associati all’IA giustificano l’imposizione di una limitazione ad ulteriori investimenti di capitale. In altre parole, la narrazione relativa alla sicurezza dell’IA serve ad arrestare la spesa senza freni.
Il rallentamento viene presentato come prova di responsabilità aziendale piuttosto che come ammissione del fatto che la corsa all’avanzamento dell’IA potrebbe rivelarsi economicamente insostenibile. Qui sta il nocciolo dell’appello di Amodei.
La sfida cinese
La distruzione di posti di lavoro è tuttavia destinata ad accrescere l’opposizione dell’opinione pubblica a questa tecnologia. Inoltre, il fragile equilibrio proposto da Amodei e colleghi è minacciato dalla competizione cinese.
Modelli come DeepSeek, Tencent, Z.ai, Qwen, Kimi, stanno guadagnando terreno e un numero crescente di imprese americane li sta adottando al posto dei più costosi modelli nazionali.
Se modelli “aperti” e più economici risulteranno sufficienti alle esigenze dei clienti, conclude Judge, le compagnie americane si troveranno di fronte a una scelta poco invidiabile: abbassare i prezzi riducendo ulteriormente i margini di profitto, oppure continuare a investire per mantenere un vantaggio tecnologico che rischia di rivelarsi economicamente insostenibile.
Richiamando l’attenzione sui rischi dell’IA, le compagnie USA probabilmente sperano di spingere l’amministrazione Trump a reintrodurre le restrizioni ai modelli cinesi attualmente accantonate, proteggendosi dalla loro concorrenza a basso costo.
Duello all’ultimo sangue
L’appello di Amodei, tuttavia, ha suscitato reazioni negative non solo, com’era immaginabile, da parte cinese, ma della stessa Casa Bianca.
Trump si è mostrato contrario a qualsiasi freno allo sviluppo dell’IA perché secondo lui gli USA devono preservare il vantaggio acquisito sulla Cina.
“Siamo all’avanguardia rispetto alla Cina nel campo dell’intelligenza artificiale”, ha affermato il presidente americano. “Siamo il Paese più avanzato al mondo e, francamente, voglio che le cose restino così, perché chi vince nel campo dell’intelligenza artificiale vince tutto”.
Paradossalmente, questo punto di vista è condiviso dallo stesso Amodei, il quale ha affermato che gli USA dovrebbero rallentare nello sviluppo dell’IA solo entro limiti tali da impedire alla Cina di raggiungerli.
La competizione con la Cina nel campo dell’IA è considerata alla stregua di una battaglia per l’egemonia mondiale anche da altri esponenti della Big Tech americana, come il CEO di Palantir Alex Karp.
Ma soprattutto, essa è vista come esistenziale dall’amministrazione americana, al cui interno domina l’idea che chi fra i due contendenti raggiungerà un vantaggio strategico nell’IA otterrà la “vittoria finale” sull’avversario.
Tale approccio lascia presagire che sarà molto difficile arrivare a una regolamentazione condivisa, mentre la competizione esasperata è destinata ad accrescere i rischi insiti nello sviluppo di questa tecnologia.
FONTE: https://robertoiannuzzi.substack.com/p/i-rischi-dellintelligenza-artificiale
Commenti recenti