Jekyll e Hyde: lo spettro è stato scomposto

Nei giorni scorsi, nella solita indifferenza generale, è arrivata una notizia che meriterebbe ben altra attenzione, soprattutto a sinistra. L’agente esperto di intelligenza artificiale – denominato ChatGPT, che da pochi mesi sta irrompendo in aziende e pubbliche amministrazioni, sostituendosi all’attività di elaborazione di testi e video, sulla base di semplici tracce o appunti, un meccanismo che dimostra come ormai l’intelligenza artificiale possa sovrapporsi alla produzione umana in un flusso di informazioni – è stato analizzato e scomposto nelle sue componenti tecnologiche ed etiche. L’operazione è stata condotta da una società italiana di cybersecurity, Swascan, diretta da Pierguido Iezzi (vedi qui), autore con il sottoscritto di Net-war. Ucraina: come il giornalismo sta cambiando la guerra (Donzelli editore).

In poco tempo, meno di un semestre, il dispositivo, di proprietà di una società finanziata da Elon Musk, ha già trovato più di cinque milioni di clienti. Significa che oggi nell’infosfera – cioè nel nostro sistema sociale delle relazioni e dei rapporti di produzione – molto probabilmente abbiamo già incontrato testi, video e contenuti di comunicazione realizzati da questo software. La sua attività viene oggi ingegnerizzata nel circuito editoriale per ridimensionare le redazioni, ma anche nei sistemi di contatto degli apparati sanitari, o di imprese che, mediante questa soluzione, automatizzano tutte le fasi di comunicazione con l’esterno e l’interno. Ma ChatGPT fa molto di più. Intanto si autogenera, producendo autonomamente le sue evoluzioni, con una produzione di software che si riproduce esponenzialmente. Poi l’agente intelligente è in grado di lavorare sull’assetto cognitivo, e non solo sulla verbalizzazione di risposte in base a link. In sostanza, non è un Google che parla, ma un ricercatore che dà delle risposte a ogni tipo di domanda: come si ottiene alcol dalle patate? dove investire oggi? come penetrare in quel recinto? Un vero genio della lampada che soccorre e sostiene il suo padrone del momento.

Siamo solo alle prime versioni di ChatGPT. Già si annunciano aggiornamenti e integrazioni che tendono a semplificarne l’utilizzo. La prossima tappa è l’uso del linguaggio naturale per dare istruzioni al sistema. Più o meno come si fa con Alexa, quando gli si chiede una canzone o di sintonizzarsi su un programma radio. La differenza è che questa volta il risultato interferisce con l’intera rete di relazioni, alterando e intensificando la nostra capacità di impatto. Un tipico scenario distopico, dinanzi al quale si tende a esorcizzare il problema, considerandolo sempre l’effetto di distorsioni fantascientifiche, oppure a rassegnarsi dinanzi all’implacabilità del determinismo tecnologico che lo sorregge.

Questa volta, invece, si offre una terza via, che apre la strada a un intervento critico e consapevole sul sistema. I tecnici di Swascan, infatti, hanno compiuto una specie di autopsia sul sistema di input in base al quale è stato elaborato l’algoritmo che guida ChatGPT. Come spiega Iezzi, “abbiamo raggiunto l’anima del sistema, separando il bene dal male, individuando i principi in base ai quali è stato elaborato l’algoritmo. Diciamo che abbiamo reso visibile il dottor Jekyll e mister Hyde che sono nascosti nel dispositivo”.

In realtà, le versioni commerciali di ChatGPT non sono abilitate per sostenere azioni criminali. I ricercatori di Open AI (la fondazione che presiede alle formule di intelligenza artificiale in open source che ha elaborato il principio di ChatGPT) hanno imposto dei filtri che inibiscono attività illegali. Ma, come sempre in informatica, quello che viene elaborato può essere aggirato e superato. Dunque mister Hyde non è imprigionato, è solo nascosto nel sistema. Iezzi con i suoi collaboratori è riuscito ad arrivare al fondo dell’anima, individuando la “molecola etica” che guida l’organismo intelligente.

Il punto che sembra riguardarci, come sinistra, non è tanto la speculazione sulla pericolosità di questo software – e sulla possibilità di forzarlo o meno, di cui si occupano gli esperti e le autority dei diversi Stati –, quanto il principio sulla riprogrammazione etica dell’intelligenza artificiale. L’esperimento di Swascan dimostra infatti come sia oggi possibile e gestibile un intervento che possa riconvertire la potenza tecnologica in una direzione diversa da quella che viene imposta dalla proprietà. In sostanza, si da una forma concreta all’ambizione di negoziare l’algoritmo, e di ridisegnare l’intero sistema tecnologico proprio sulla base di una dialettica fra società e proprietà.

Il caso ChatGPT – che riguarda un vero apparato produttivo, per quanto immateriale, che tende a sostituire il lavoro vivo con lavoro morto, per usare una vecchia formula –, è materia per una riflessione politica a tutto tondo. Non possiamo oggi discutere di partito e sindacato, a sinistra, senza comprendere come questa variabile – il conflitto nel calcolo – sia oggi dirimente per ridare spazio e ruolo a una sinistra del Ventunesimo secolo. Non può essere solo compito di altri tecnici, altre aziende, altri interessi, contrapporsi alle mire monopolistiche di magnati come Musk che, integrando la sua nuova intelligenza automatica a un serbatoio di contenuti come Twitter, pensa di riprodurre artificialmente linguaggi e concetti con cui dominare il sistema informativo globale. Tocca a una mobilitazione di soggetti sociali – come le città, le categorie professionali, le università – prendere in mano questi strumenti alternativi e ripensare l’opportunità di una produzione automatica, che renda disponibili grandi ricchezze per la formazione e l’assistenza di ogni singolo individuo. Si torna a declinare un’utopia con la politica quotidiana.

Ovviamente, come ogni svolta non è indolore. Entrare in questo mondo, pensare a un conflitto sociale attorno all’algoritmo, reindirizzare lo sviluppo tecnologico, implica una diversa leva di quadri politici, di forme organizzative, di culture e visioni strategiche. Siamo dinanzi a un bivio, in cui – come spiegava Alessandro Magno ai suoi generali, che volevano tornare a casa invece di conquistare l’Hindu Kush – “dietro non c’è più nulla di quello che ci ricordiamo. Dobbiamo solo andare avanti per poter avere ancora una casa”.