Democrazia e computer, parla Edoardo Fleischner: “L’anima dell’intelligenza artificiale? È comunque meccanica”

Intervista al docente di scrittura crossmediale e comunicazione digitale all’Università Statale di Milano, autore di format televisivi, consulente per la tv digitale e new media: “Controllare l’IA? Sono gli umani che devono essere addomesticati”
IA - intelligenza artificiale
Professor Edoardo Fleischner, la domenica mattina ascolto le Sue interviste a Radio Radicale nella rubrica “Media e dintorni”. Vi apprendo notizie sia sconvolgenti che sorprendenti, comunque insegnamenti. Da ultimo, l’applicazione dell’intelligenza artificiale (IA) alla composizione poetica. Autorevoli critici letterari non hanno saputo distinguere tra “poesia umana” e “poesia artificiale”. Uno shock! Le chiedo più dettagli a riguardo.

Occorre fare una premessa che penso valga per tutti i discorsi, i dibattiti, le dispute, i confronti e gli approfondimenti sull’attuale tema di grande consumo mediatico che è la cosiddetta intelligenza artificiale.

La premessa è: di quale intelligenza artificiale stiamo parlando? Negli ultimi due anni, dal 30 novembre 2022, data di rilascio, semplifico, della piattaforma di intelligenza artificiale generativa ChatGPT in grado di imitare il linguaggio naturale, quello umano, e in grado di rispondere abbastanza a tono alle richieste fatte alla piattaforma, stiamo quotidianamente disquisendo dell’intelligenza artificiale generativa (GenAI).

In teoria niente di nuovo. Si tratta di un chatbot (un “robot” chiacchierone”) che inizia la sua storia moderna nel 1966 con una antesignana, chiamiamola così: era ELIZA. Era poco più che un gioco intrigante, che ho avuto l’occasione di provare negli Usa un certo numero di volte. Era solo una schermata alfanumerica, per nulla amichevole, dove scrivere le domande a cui seguivano una riga di risposta. L’effetto di interloquire con un umano e non un computer fu comunque forte, non lo dimentico. E i chatbot hanno continuato ad essere sviluppati, ce li siamo trovati (anche parlanti) negli smartphone e nei cosiddetti “smart speaker”

Le aziende che li producono hanno avuto gioco facile a immettere nel vocabolario dei consumi digitali la magica espressione “intelligenza artificiale”, come elemento/tecnologia che, a un chatbot, offre il dono della parola scritta o vocalizzata. Un chatbot che riesce a interloquire con gli umani, ha probabilmente, nei piani dei sui costruttori, che oggi sono gli oligarchi veri del pianeta (Microsoft, Amazon, Google, Apple, ecc.), tre sbocchi.

Il professor Edoardo Fleischner - Facebook - IA
Il professor Edoardo Fleischner – Facebook

Il chatbot “più umano che più umano non si può” crea un legame perfetto, solido, empatico, con il cliente di una qualsiasi azienda che deve curare i propri utenti (“costumer care”), come una banca, una griffe, una compagnia aerea, un servizio telefonico.

Il secondo filone d’uso è far diventare il charbot la voce, dunque la “mente”, ma anche la personalità o addirittura il carattere del futuro robot che gli oligarchi delle tecnologie vorranno vendere ad ogni umano. Il terzo sbocco è quello della generazione di contenuti testuali, audio, video, artistici, musicali, ma anche coding. È quello di far lavorare l’intelligenza artificiale generativa come soggetto creativo, dunque come pittore, musicista, scrittore, saggista e, perché no, come poeta.

E qui il discorso si fa un po’ specialistico. Entriamo nel mondo dei contenuti creativi, chiamiamoli così. È la cosiddetta industria dell’intrattenimento (di massa) che costruisce contenuti, li pubblicizza e ce li mette a disposizione, nella maggior parte dei casi a pagamento. Quindi noi consumiamo film, serie televisive, videogiochi, concerti dal vivo e online, romanzi, musei, e poesie. In tutte queste offerte di migliaia di “pezzi” fruibili ci sono contenuti sublimi, unici, inimitabili ma anche “prodotti” medi e spesso opere scadenti.

Statisticamente parlano il prodotto medio e medio basso è il più commercializzato, diffuso e consumato, con tutti i mezzi: radio, televisione, online, recital, teatro, ecc. Il nostro orecchio, il nostro cervello acquisisce da queste fruizioni di contenuti delle “regole sottintese” di struttura e di piacevolezza.

Vale per i film, le canzoni, i thriller, e anche le poesie. E qui è il punto: se l’intelligenza artificiale imita bene o molto bene queste “regole sottintese di piacevolezza”, noi consumatori di contenuti ne rimaniamo soddisfatti. Se poi la poesia dell’IA ci offre della poesia dove il ritmo, le rime, la modulazione e l’incedere è particolarmente “orecchiabile”, allora è facile che, non essendo dei critici di mestiere, troviamo quella poesia artificiale più piacevole di poesie d’autore umano. Ovviamente questo arbitrario fattore di “piacevolezza” viene umanamente accolto con favore fino a farlo diventare il fattore portante di una nostra valutazione di valore.

In questo caso io parlo di raggiungimento e superamento della “soglia di Alan”. Quella data poesia artificiale ha superato il Test di Alan Turing, è andato oltre la soglia di imitazione dell’umano, fino a rendere più di valore il non umano.

Alan Turing - Creative Commons
Alan Turing – Creative Commons
In francese, “computer” è tradotto “ordinateur”, che evoca i nostri “elaboratore” e “calcolatore”. Con l’IA il computer sembra aver superato l’anima meccanica, “calcolatrice”, ed aver acquisito l’anima volitiva, “creatrice”. L’IA come Prometeo, “uno che riflette”?

Anche in questo caso il dibattito se l’IA abbia una sua creatività, o un’anima (parola in fondo adottata senza coscienza da parte dell’umano – ma poi cos’è la coscienza?) è acceso e ogni dove. Io penso che l’anima dell’intelligenza artificiale sia comunque meccanica, e sarà sempre meccanica, anche se ancora una volta l’umano scivola facilmente nell’animizzarla. Ancora una volta niente di nuovo sotto il sole: è il cosiddetto “effetto Eliza”, quando a un computer si attribuisce maggior intelligenza anche di quella umana e, magari, maggior poeticità.

L’IA mi appare alla stregua di ciclopico animale onnivoro che grufola nel trogolo delle conoscenze depositate in ogni tempo dagli esseri umani e le elabora. In che senso l’elaborazione delle conoscenze è intelligente? E quanto?

Comincerei dal quanto. Quanto elabora e quanto è intelligente l’IA? Direi che si potrebbe iniziare a dire: se un bambino sa fare la divisione a mente di 150 diviso 3 e un computer fa lo stesso, sono ugualmente intelligenti? Se hanno elaborato le stesse conoscenze matematiche, si potrebbe dire che sono ugualmente intelligenti. Se poi passiamo a un calcolo più complesso, e allo stesso bambino chiediamo quanto fa una sequenza matematica di 100 operazioni diverse con 1000 dati differenti e non sa farlo a mente, pur conoscendo il valore e il meccanismo delle operazioni esposte, mentre un banale computer lo fa in pochi decimi di secondo, concludiamo che l’elaboratore è più intelligente?

Oppure è più intelligente il bambino che ha imparato a usare il calcolatore?

E qui ci fermiamo perché occorrerebbe essere tutti d’accordo su cosa è l’intelligenza (umana). Direi che le analisi e discussioni sulla cosiddetta intelligenza artificiale ci potrebbero finalmente portare a discutere, tutti, su cosa sia l’intelligenza umana e quanto sia intelligente un umano, prendendo da più di un secolo, per buona (ahimè), la definizione del QI, del quoziente d’intelligenza.

Una veduta aerea di Apple Park, a Cupertino (California) - Wikimedia Commons
Una veduta aerea di Apple Park, a Cupertino (California) – Wikimedia Commons

Se poi passiamo all’intelligenza cosiddetta artificiale mi domando che differenza ci sia fra un sistema di autoapprendimento della macchina che ingoia trilioni di elementi e un bambino che da quando nasce incamera ogni minuto della sua vita altrettanti trilioni di dati? E che differenza c’è fra la macchina che imita l’umano in modo tale da ingannare gli umani stessi e il bambino che imita gli umani che lo circondano? La macchina “imita” e il bambino “imita”.

Perché il valore della loro imitazione, della loro elaborazione delle conoscenze, dovrebbe essere giudicato più o meno alto a seconda che l’imitazione sia umana o di un sistema di macchine?

L’IA possiede, al momento, una specifica “suità”?

Se per suità si intende una autonomia decisionale o perfino quella che noi chiamiamo autocoscienza, verrebbe da rispondere di no. Ma se si intende una sua caratteristica di elaborazione dei dati, allora possiamo dire che ha una sua intelligenza, una sua identità di prestazione, perfino una sua personalità, dunque una sua suità.

Nel secolo scorso e nella fantascienza c’era chi attendeva e chi temeva l’avvento di una “creazione-creatura” che combinasse materia inerte e materia organica. Al momento, l’IA è fatta soltanto di materia inerte. A combinarsi con materia organica manca poco o molto?

In realtà macchine che elaborano dati stanno mischiando il metallo a cellule organiche, già da tempo e lo faranno sempre di più. La fantascienza, per me è sempre stata predittrice degli sviluppi tecnologici portati avanti dagli umani. Il mio credo è che qualunque cosa l’umano elabori, anche la più fantasiosa, la più apparentemente lontana de quella che sembra essere la realtà, quel qualcosa un giorno esisterà.

Se avessimo detto a un bisnonno del XVIII secolo che un giorno avrebbe volato, avrebbe visto in uno schermetto suo figlio dall’altra parte dell’oceano, o trasmesso col pensiero dei comandi a una macchina (a un pc) avrebbe ragionevolmente affermato che si trattava di fantascienza.

IA Intelligenza artificiale

L’IA ha cominciato ad interessare il vasto pubblico in connessione alle votazioni, quando sono emersi i mille modi occulti in cui essa è capace di influenzare capillarmente la propaganda fino a distorcerla e indirizzarla in favore o contro un candidato.

È sempre stato così. Cambiano i mezzi ma “influenzare capillarmente” l’elettorato verso un candidato è sempre avvenuto. E i dati ci dicono che gli spostamenti attuali verso un candidato, usando le più sofisticate e magari illegali tecniche di propaganda (modernamente marketing), non raggiungono percentuali molto diverse da quelli ottenute dando a un votante una scarpa, promettendo la seconda scarpa solo se il suo voto è quello richiesto.

L’incidenza dell’IA sul processo democratico sta diventando esiziale per la sopravvivenza della democrazia liberale, nella quale il popolo, direttamente o indirettamente, insedia il parlamento e il governo principalmente sulla base delle idee ricevute e maturate circa gli uomini e gli indirizzi politici. Gli uni e gli altri oggi sono plasmabili come avatar dall’IA?

Anche in questo caso dico che è sempre stato così. Cambiano i mezzi, ma la storia è lastricata di crolli e formidabili recuperi dei meccanismi democratici, come li intendiamo in questa parte del mondo. Gli avatar creati dall’IA sono i sosia, le controfigure, le imitazioni, le primule rosse del più o meno recente passato.

David Hume, un padre della “libertà dei liberali” come non mi stanco di chiamarla, negli Essays ha scritto: “Sebbene gli uomini siano in massima parte governati dall’interesse, l’interesse stesso e tutti gli affari umani sono però interamente governati dall’opinione.” La capacità dell’IA di manipolare l’opinione pubblica appare già sconvolgente di per sé. Diventa viepiù terrificante e distruttiva considerando che le sue manipolazioni sono alla mercé di tutti, specialmente degli sprovveduti. Avremo dunque un nuovo tipo di governo rappresentativo, la “democrazia adulterata” come una frode alimentare?

Anche in questo caso dico che è sempre stato così. Anche all’epoca di Hume, appunto. Ma è così da millenni. Oggi le democrazie adulterate sono contabilizzate. Tre quarti degli abitanti del Pianeta vivono in democrazie adulterate, una grossa quota di queste sono peggio, sono democrazie marce, o più semplicemente dittature. L’IA è manipolatrice dell’opinione pubblica se viene usata da dei manipolatori. Tutto qui.

Poiché la società libera procede per tentativi, esperimenti ed errori, quali rimedi tecnologici sono allo studio per “addomesticare” l’IA?

Sarò lapidario. Sono gli umani che hanno bisogno di essere addomesticati. Lo strumento IA in mano ai cattivi viene già contrastato con la stessa arma, l’intelligenza artificiale.

L’umanità riuscirà a trarre in prevalenza dall’IA il buono che ne giustifichi i rischi e i costi?

Se i buoni prevarranno sui cattivi, costi e rischi saranno più che giustificati.

Elon Musk al comizio di Donald Trump tenuto a Butler, Pennsylvania
Elon Musk al comizio di Donald Trump tenuto a Butler, in Pennsylvania, il 5 ottobre 2024 – Associated Press/LaPresse
Chi sono e saranno i “proprietari” dell’IA? Soggetti ricchissimi? Il monopolio statale?

Sono quelli che chiamo da vent’anni gli oligarchi del digitale, della rete, delle nuove tecnologie.

Scrivevo qualche anno fa: “Una costituzione, cioè le regole fondanti, di una comunità che conta quasi 6 miliardi di abitanti del Pianeta fra loro connessi, esiste già di fatto. È una costituzione “materiale” che si auto-compone nella rete delle reti. È una costituzione non scritta fatta di miliardi di “accetto” in calce ad interminabili accordi scritti su altrettanti schermi grandi e piccoli, fissi e mobili. È una costituzione non votata, che viene votata nei consigli d’amministrazione delle web company globali e dei colossi del mercato del digitale. È una costituzione non dibattuta dove il dibattito è fra mi “piace” e “non clicco”. È una costituzione non radicata perché l’unico radicamento è quello dell’utente all’azienda online. È soprattutto una costituzione non percepita perché non c’è tempo per percepire ma solo un attimo per “interagire”. È una costituzione globale che inalvea il più avanzato strumento d’incontro della storia dell’umanità fra la domanda e l’offerta di beni, di servizi, di socialità, di politica, di creatività, di affetti e di umori, dove il modello d’affari è offrire qualsiasi cosa in cambio di un pezzo, anche infinitesimale, d’attenzione. È una costituzione invisibile, ma realissima, scritta ogni giorno dagli oligarchi della rete”.

Sono ancora d’accordo con me.

Pietro Di Muccio de Quattro

Previous slide
Next slide
Previous slide
Next slide
Previous slide
Next slide