In Italia il Garante per la Protezione dei Dati Personali ha bloccato il trattamento dei dati da parte di ChatGPT, il nuovo sistema di intelligenza artificiale (IA) di OpenAI, perché non conforme alle disposizioni europee del GDPR. Dalla Germania fanno sapere che potrebbero fare lo stesso. Intanto dagli USA, e non solo, arriva una richiesta di interruzione di 6 mesi del programma di addestramento per le intelligenze superiori a GPT-4. La richiesta è sorprendentemente capitanata dal visionario miliardario Elon Musk, ma è firmata soprattutto da addetti ai lavori, quindi professori. Nella lettera[1] spiegano come l’umanità possa godere di un futuro roseo grazie all’IA, a patto che vi sia una adeguata pianificazione e gestione. Esatto: pianificazione. I firmatari della proposta di pausa allo sviluppo dell’IA più potente pensano che senza una adeguata pianificazione, l’umanità, invece che godere di una “estate dell’IA”, sprofonderà nel suo autunno, con gravi rischi soprattutto per le democrazie.
Non è qui interessante indagare motivazioni, scopi e ragioni del contenuto della lettera aperta di Musk&Co. Né tanto meno l’adeguatezza delle richieste. Non si capisce infatti cosa dovrebbe succedere in 6 mesi, chi dovrebbe farlo e come. Ma in fondo, è proprio questo il tema. L’IA rivoluzionerà il mondo. Di questo non c’è dubbio. Non si fermerà la ricerca. Ed è chiaro che un mezzo tanto potente non può che intaccare le fondamenta del rapporto tra l’umanità e il pianeta. Ma la qualità di esso sarà il risultato di un altro rapporto, quello tra uomo e macchina, appunto.
Nella lettera di Musk&Co ci si chiede se dovremmo lasciare che le macchine ci possano sopraffare in numero e intelligenza e infine renderci obsoleti e rimpiazzarci. Il punto centrale è che, secondo i firmatari, i potenti sistemi di IA dovrebbero essere sviluppati solo dopo essere sicuri che i loro effetti siano positivi e i loro rischi gestibili (Powerful AI systems should be developed only once we are confident that their effects will be positive and their risks will be manageable). Ma chi decide quali siano gli effetti positivi e desiderabili?
L’IA ha fatto il suo ingresso in scena. E tutti sappiamo che il suo non sarà un ruolo da comprimario, ma sarà la tecnologia che rivoluzionerà il mondo. Ed è qui che interviene la politica, quella con la P maiuscola, quella che scava al nocciolo delle questioni filosofiche per decidere che posizione prendere: con chi e contro di chi, con cosa e contro cosa. Siamo all’anno zero della civiltà. Non al suo crepuscolo (quello c’è già stato, anche se non ce ne siamo interamente accorti). È questo il momento del mito. Perché è nel mito che mette le sue radici il Discorso. Quello in cui per Foucault agisce il Potere, che precede la nostra capacità di intendere, inclinando silenziosamente le nostre strutture mentali verso una scelta etica e morale piuttosto che un’altra. È l’anno zero della genealogia della morale, per dirla con Nietzsche. E tuttavia, pur essendo storicamente all’anno zero di una civiltà ancora da venire, i nostri sistemi mentali non lo sono affatto e, anzi, sono immersi nelle strutture discorsive del presente, perciò nell’attuale ordine del Potere. Quindi: chi decide quali siano gli effetti positivi da richiedere all’IA?
In un’intervista[2] a Repubblica, Pietro Schirano, che lavora come capo dell’IA per una società di fintech a New York, confessa di sentirsi male per l’Italia a causa del blocco di ChatGPT (anche se il blocco è relativo solo al trattamento dei dati e non al servizio in sé) perché, dice, “ci terrà indietro di 100 anni”. Sul punto può anche aver ragione, ma la parte più interessante viene dopo, quando dice che “il futuro non sarà uomini contro macchine, ma uomini che usano le macchine contro uomini che non le usano”. E poi, alla domanda sul perché – come nella lettera di Musk&Co – ci sia un costante timore che l’IA possa diventare cattiva, risponde:
“ChatGpt è allenato con storie. Facciamo un esempio. Io le racconto una storia. Le sfide di un cavaliere bianco e senza paura. Lei cosa pensa?”
Il giornalista risponde che da qualche parte ci deve essere un mostro o un cavaliere nero.
“Esatto. ChatGpt fa lo stesso. Si è nutrito di tutto ciò che è buono dell’umanità ma anche di tutto ciò che non lo è. Perché le nostre storie, i nostri modi di fare, di vivere, sono impregnati di cose buone e di cose cattive”.
Insomma, continua l’intervistatore, ChatGPT ha già il demonio in sé.
“Esattamente. E glielo abbiamo dato noi. Perché replica in qualche modo quello che da noi ha imparato. È per questo che si sono letti nei mesi scorsi quegli articoli in cui ChatGPT iniziava a rispondere male, o provava a rubare la fidanzata di un giornalista. Pensa che questo possa succedere. Perché sa che è successo. E lo abbiamo già fatto accadere noi.”
Siamo in piena fase di travaso del Discorso e delle sue strutture etiche attraverso una compressione del futuro ad opera del Potere presente. Altro che enorme potenziale! Da un punto di vista etico, morale e politico, stiamo assistendo all’eliminazione della potenzialità e della possibilità; ovvero della probabilità che qualcosa di diverso da ciò che abbiamo possa avvenire. Piuttosto, è il Potere di oggi che sta imponendo al futuro il Discorso attuale.
Qual è dunque la paura, comprensibile, di Musk&Co? Potremmo forse dire che è la paura di guardarsi allo specchio. Al cuore del capitalismo come sistema logico e sistema di potere vi è la riduzione del mondo a misura quantificabile. La quantità può poi essere convertita in monetizzazione. Sta tutta qui la profonda disempatia sulla quale può germogliare la fredda “cattiveria” delle macchine.
Ma andiamo con ordine e torniamo all’inizio del ragionamento. L’IA rivoluzionerà il rapporto uomo-pianeta. Per farlo si passerà attraverso la ridefinizione del rapporto tra uomo e macchina. E la competizione futura sarà tra uomini che utilizzano le macchine e uomini che non le utilizzano. Ulisse, nell’antro di Polifemo, sceglie un ramo di ulivo per colpire l’unico occhio del ciclope. Per farlo, deve però lavorare il legno, renderlo liscio e dritto. Secondo il geografo italiano Franco Farinelli[3], la scelta del ramo d’ulivo non è casuale. Esso è infatti tra i più nodosi ed irregolari che vi siano. L’insegnamento che discenderebbe da questo episodio dell’Odissea è che la forza dell’uomo risiede nella tecnica, nel saper trasformare gli oggetti per renderli utili ai propri scopi. E il dominio della tecnica apre anche la Modernità partorita dall’Umanesimo. Il Principe di Machiavelli deve saper padroneggiare gli strumenti morali e quelli tecnologici al fine di assoggettare il caos all’ordine. Ma nella fase crepuscolare della modernità, la tecnica si trasforma in minaccia dell’heideggeriana autenticità dell’uomo, pensato quasi solamente in termini maschili. Scrive il filosofo Franco “Bifo” Berardi nel suo Futurabilità:
“Dopo aver realizzato il compito di sottomettere il mondo naturale, gli umani si rendono conto di essere stati espropriati della loro potenza, ormai assorbita e sopraffatta dalla tecnologia”[4].
La paura, reazionaria, di perdere potere davanti alle macchine è ciò che avvertono Musk&Co, i quali chiedono “pianificazione” affinché il potere dell’IA non sfugga al controllo umano. Ovviamente non vi è mai stato un autentico primordiale, né la tecnologia è mai stata indipendente da strategie, intenzionalità e interessi della società. All’inizio del XIX secolo in Gran Bretagna, il nascente movimento operaio aveva scelto strategie di sabotaggio dei macchinari industriali, considerati la causa dei bassi salari e della disoccupazione. La strategia prese il nome di Luddismo e, ancora oggi, il termine viene utilizzato per indicare le resistenze operaie all’innovazione tecnologica. Va da sé che non è mai stata una macchina ad abbassare il salario né tanto meno a licenziare i lavoratori. Piuttosto, la tecnologia si intrecciava alle relazioni socio-economiche del sistema capitalista in via di affermazione globale.
Noam Chomsky, in Anarchia e Libertà, scrive in proposito:
“La riduzione dell’uomo ad appendice della macchina, a strumento di specializzazione della produzione, potrebbe essere superata – e invece allo stato è aggravata – da uno sviluppo ed un utilizzo mirati della tecnologia, da una produzione svincolata dal controllo autocratico di coloro che considerano l’uomo uno strumento al servizio dei propri interessi particolari, prescindendo – per usare l’espressione di Humboldt – dalla sua individualità.”[5]
Il problema del rapporto uomo-macchina, che è al centro della rivoluzione in arrivo e della futura relazione uomo-pianeta, è dunque un problema interamente politico. Chi detiene i mezzi di produzione? Quale sistema di potere discende da tale proprietà? La tecnica non è dunque né promessa né minaccia, ma strumento amplificante delle domande di fondo della politica. D’altra parte, l’accelerazione dovuta all’immissione di nuove tecnologie muta il rapporto degli umani con l’informazione, non lasciando tempo per la sedimentazione delle informazioni e per la conseguente necessaria riflessione. Così la questione del rapporto uomo-macchina in un contesto accelerato non si ridefinisce e rimane invece schiacciato sui tempi della tecno-finanza. Anzi, sono gli esseri umani che tendono ad adeguare i propri comportamenti, linguaggi e aspettative alle previsioni statistiche degli algoritmi, sprofondando così nell’impotenza, sopraffatti dalla riduzione del futuro a calcolo preventivo.
“La mutazione connettiva, la mutazione tecnica e linguistica che trasforma ogni agente di significazione in un segmento di costruzione sintattica, nega ogni possibilità di relazione etica e consegna la sfera del comportamento etico alla violenza dominante.”[6]
Il rapporto uomo-macchina impostato dalla tecno-finanza impoverisce la capacità creativa, erotica ed empatica dell’umano, ridotto a fredda appendice algoritmica. La macchina diventa per i più una minaccia. La sensazione reazionaria di inautenticità aumenta. Le relazioni sociali rispondono sempre meno a un bisogno etico di empatia, quale forma di sopravvivenza, ma sono “sempre più necessitate dagli automatismi della logica sintattica incorporata nelle macchine linguistiche che innervano e coordinano la vita sociale.”[7]
In Velocità e Politica, il filosofo francese Paul Virilio[8] proponeva un nuovo campo di studio: la dromologia, il cui cuore stava nella sostituzione della classe sociale da parte della velocità quale attore centrale dello sviluppo storico. Oggi la velocità raggiungibile dalla tecnologia supera largamente le capacità umane, che siano esse quelle dello spostamento fisico nello spazio-tempo, quelle del calcolo o di memorizzazione delle informazioni e la loro conseguente elaborazione. L’aumento di velocità richiede un aumento del consumo di energia. Se gli umani – e i lavoratori in primo luogo – saranno costretti ad adeguarsi alla velocità imposta dall’IA, essi verranno portati allo sfinimento, allo spossamento, all’esaurimento delle proprie energie, riducendo di fatto il proprio tempo di vita. In altre parole, se l’IA amplificherà il rapporto capitalistico all’interno della società e nei confronti dei lavoratori, essi ne verranno travolti. Qualora invece l’IA verrà utilizzata per correre al posto nostro, lasciandoci godere del tempo di vita, o addirittura per trovare il modo di rallentare globalmente, allora forse saranno gli umani a poterne beneficiare.
L’autunno dell’IA, prefigurato da Musk&Co, sta tutto qua dentro: la riduzione dell’uomo a calcolo e la sua trasformazione in componente sostituibile della macchina. Ma non è ciò che in parte era già avvenuto con l’industrializzazione? Abbiamo nutrito l’intelligenza artificiale con le storie di ciò che siamo diventati. Per questo ora contiene in sé la minaccia della competizione, dello sterminio, dell’inganno, della sopraffazione, dello sfruttamento, della riduzione delle relazioni umane a calcolo quantificabile e monetizzabile. La logica del Capitale che ha attraversato il rapporto uomo-macchina lungo tutta la Modernità è oggi stata inserita nell’IA, che rischia di spararcela in faccia in tutta la sua brutalità.
E se invece insegnassimo all’intelligenza artificiale il comunismo? Non quello delle grandi burocrazie statali, le quali continuano a perseguire la logica del calcolo, ma quello generato intorno ai commons, allo spazio comune, alla vita in comune. Per quanto folle e utopico possa sembrare un futuro in cui il lavoro è ridotto al minimo, le differenze sociali quasi completamente erose, e l’ecologia a guida dell’economia, è questo il terreno politico di confronto posto dall’innovazione dell’IA. Cosa vogliamo che essa faccia? Quali interessi dovrà servire? D’altra parte, se John Maynard Keynes, nel 1930, in Prospettive economiche per i nostri nipoti[9] prevedeva un futuro in cui avremmo lavorato solo 3 ore al giorno, noi ci sentiamo ancor più legittimati a pensare ad un futuro in cui la tecnologia venga usata per liberare gli uomini (e non solo i ricchi) dalla fatica, dalla disuguaglianza, dallo sfruttamento e dall’indigenza. Sperando magari che il risultato sia migliore di quello avuto da Keynes.
Secondo Nick Srnicek e Alex Williams, in Inventare il futuro: Per un mondo senza lavoro[10], dobbiamo riprendere a immaginare il futuro. Sul serio. L’autunno dell’IA discende dall’egemonia neoliberista del “there is no alternative”. Senza immaginare alternative, non ci può essere altro che la riproduzione dell’esistente, al limite amplificato dalle innovazioni tecnologiche. L’alternativa va dunque immaginata. Questa può essere appunto il futuro post-lavorista della totale automazione, come Srnicek e Williams propongono. Ma per farlo bisognerà insegnare il comunismo all’IA. Ora. Immaginare il futuro non deve essere un esercizio escatologico di attesa, ma un invito ad agire già ora per impostare la direzione. Ed ottenere il prima possibile il futuro immaginato. Il futuro o è una forza di modificazione del presente o è un cappio da evitare.
Chi scrive non ha competenze specifiche riguardanti l’IA, per cui non vengono affrontati temi tecnici, ma solamente politici. E se insegnare il comunismo all’IA sembra solo una provocazione, la realtà è invece che questo è il nuovo campo di battaglia. Non vi è determinismo tecnologico, per quanto ogni tecnologia apporti alcune specificità. La politica non scompare sotto i colpi della tecno-finanza. L’anno zero della nuova civiltà va ancora scritto. Se sarà estate o autunno, questo dipende solo dalla lotta politica, non da oscure macchinazioni fatte in ancor più oscuri laboratori dei nuovi sacerdoti dell’IA. Il comunismo ha oggi una nuova missione. Ed assomiglia tremendamente a quella vecchia: collettivizzazione dei mezzi di produzione, redistribuzione di ricchezza e liberazione dal lavoro.
[1] https://futureoflife.org/open-letter/pause-giant-ai-experiments/
[2] https://www.repubblica.it/tecnologia/2023/04/03/news/chatgpt_italia_blocco_openai_pietro_schirano-394767424/
[3] Farinelli F., L’invenzione della Terra, Palermo, Sellerio, 2007.
[4] Bifo, Futurabilità, Roma, Nero, 2017, p. 93.
[5] Chomsky, N., Anarchia e libertà, Roma, DataNews, 2003, pp. 18-19.
[6] Bifo, op. cit., p. 71.
[7] Ibid.
[8] Virilio, P., Velocità e politica: saggio di dromologia, Milano, Multhipla, 1982.
[9] Keynes, J. M. [1930], Prospettive economiche per i nostri nipoti, Milano, Adelphi, 2009.
[10] Srnicek, N., Williams, A., Inventare il futuro: Per un mondo senza lavoro, Roma, Nero, 2018.
