Come scrive il noto economista Robert Skidelsky (in The Machine Age, 2023), nel periodo premoderno le sfide esistenziali cui l’umanità doveva far fronte erano sostanzialmente quelle date dalle catastrofi naturali. Esse erano poi magari attribuite all’ira degli dèi per qualche disobbedienza o malefatta. Ma oggi il quadro è totalmente cambiato. Rifacendosi anche allo storico Misha Glenny, Skidelski sottolinea come ci troviamo di fronte a quattro diversi tipi di minacce esistenziali, e tutte causate dagli esseri umani: quella nucleare, la più vecchia e a lungo la sola temuta nel dopoguerra, quella relativa al riscaldamento globale, la minaccia di pandemie, e infine, la più recente, quella delle tecnologie, in particolare il possibile andare fuori controllo dei programmi di intelligenza artificiale.
Sino a non molti anni fa, la minaccia maggiore che si intravedeva con lo sviluppo tecnologico e la diffusione dei programmi di intelligenza artificiale era legata alla perdita massiccia di posti di lavoro; su questo fronte, una recente intervista di Bill Gates all’emittente televisiva Nbc, pur in un quadro ottimistico sugli sviluppi futuri, sottolinea come l’intelligenza artificiale renderà gli esseri umani non più necessari per la maggior parte delle attività. I fatti – afferma dal canto suo Skidelski –, per il momento almeno, puntano alla crescita continua della disoccupazione tecnologica, mascherata dallo sviluppo di quelli che lui chiama “lavori di merda”.
Un secondo e successivo tipo di minaccia percepita, sempre più concreta, sul fronte dello sviluppo tecnologico, è stata poi quella della crescita incontrollata dei grandi gruppi del big tech, che potrebbero acquisire troppo potere sulla società, anche a scapito dei governi eletti. Ma ora la preoccupazione maggiore riguarda la possibilità che l’umanità, con lo sviluppo dell’intelligenza artificiale, perda il controllo delle cose e si avvii verso la propria distruzione.
Le minacce dell’intelligenza artificiale
Thomas L. Friedman è uno dei più noti giornalisti statunitensi; collaboratore del “New York Times”, ha vinto in passato tre premi Pulitzer per il giornalismo. Ha pubblicato di recente un articolo sul suo giornale di riferimento, frutto di alcune riflessioni derivate da un viaggio, compiuto nello spazio di una settimana, prima a Washington e poi a Pechino.
Premettiamo che il raggiungimento della intelligenza artificiale generale, cioè di sistemi in grado di raggiungere le capacità della mente umana e anzi di superarle, è oggi l’obiettivo dichiarato dei centri di ricerca e delle grandi imprese che operano nel settore; c’era chi – anche degli scienziati molto autorevoli, come il nostro Federico Faggin – pensava che tale livello non sarebbe mai stato raggiunto, essendo impossibile da ottenere, chi invece fissava il suo raggiungimento prima verso il 2040, poi verso il 2030.
Ora, l’articolo di Friedman parte dalla constatazione che, nel settore, non esistono che gli Stati Uniti e la Cina, il resto del mondo, a partire dall’Europa, non conta in alcun modo. Incidentalmente, una situazione analoga si riscontra anche nel campo dei robot umanoidi, un settore che dialoga strettamente con i programmi di intelligenza artificiale e che presenta prospettive enormi. Qualche anno fa, a Bruxelles, era stato varato un modesto piano di intervento per l’intelligenza artificiale, ma di esso sembra che si siano perse le tracce. Nell’articolo Friedman, sulla base dei colloqui avuti e dei seminari a cui ha preso parte nelle due capitali in occasione del suo recente viaggio, ritiene che l’intelligenza artificiale arriverà entro il 2026 o, al massimo, entro l’anno successivo, con qualche probabilità che arrivi persino entro quest’anno. Si tratta di una notizia sconvolgente.
A questo punto, l’autore suggerisce che i presidenti di Stati Uniti e Cina si incontrino al più presto, e invece di parlare di Taiwan, di dazi e cose del genere, si intendano piuttosto su come introdurre dei sistemi di controllo dei programmi di intelligenza artificiale che li mettano in condizione di non nuocere. L’alternativa sarebbe la potenziale scomparsa dell’umanità.
Il caso cinese
In prima lettura non si può che concordare con tale disperato appello del giornalista statunitense. Poi, a una riflessione più approfondita, ci sembra che, per quanto riguarda la Cina (ma ovviamente potremmo sbagliarci), le derive dell’intelligenza artificiale siano già oggi sotto controllo, e che tutte le minacce vengano invece dagli Stati Uniti di Trump. Il problema è allora come convincere Trump a trovare delle soluzioni ragionevoli al problema, anche magari incontrandosi con Xiao Jiping. Impresa veramente difficile.
Ricordiamo a questo punto che la Cina si è già dotata, nel luglio 2023, di una serie di politiche per regolare il settore. Esse cercano di bilanciare il controllo del governo con il supporto alle imprese per aiutarle a sviluppare il settore. Le linee guida includono misure che richiedono alle varie piattaforme, che provvedono servizi di intelligenza artificiale, di registrare i loro programmi e passare una revisione di sicurezza prima di immetterli sul mercato. La regolamentazione segue una cornice strutturata che comprende la conformità dei dati alle norme, la cybersicurezza, la supervisione degli algoritmi e un controllo etico (L. G. Mpedi, Case in Point, “China Daily”, 29 aprile 2025).
A grandi passi verso il baratro
In attesa che si arrivi alla creazione dei modelli di intelligenza artificiale generale, le cose sembrano comunque già procedere in un senso per nulla positivo. Un recente articolo, apparso su “The Economist” (Code of Misconduct, 26 aprile 2025), presenta un resoconto su alcuni esperimenti effettuati con dei programmi di intelligenza artificiale: essi mostrano come tali programmi possano già arrivare a mentire all’operatore e, più in generale, come siano capaci di perseguire degli obiettivi in contrasto con quelli dei programmatori, sfuggendo al controllo umano; dagli esperimenti risulta anche che alcuni modelli optano per dire agli utilizzatori quello che vogliono sentirsi dire.
Insomma, ci siamo quasi.
