Intelligenza artificiale: cosa è, cosa non è e perché l'uomo deve ridefinirsi — Lo straniero nello specchio

Un saggio su cosa sia l’intelligenza artificiale, cosa non sia, e sulla necessità che l’uomo ridefinisca se stesso.

Il ragazzo dietro la domanda «può pensare una macchina?»

A Sherborne c’era un ragazzo di quindici anni. Un ragazzo che veniva perseguitato dai compagni. Si chiamava Alan Turing.

Turing aveva un amico, Christopher Morcom. Elegante, portato tanto per la scienza quanto per l’arte: sembrava possedere tutto ciò che Alan a quell’età non era. Passarono notti a discutere di leggi fisiche, a scambiarsi nozioni di astronomia. Nel 1930 Christopher morì all’improvviso, per una tubercolosi bovina contratta da latte infetto.

Alan andò in pezzi. Cercò di sopravvivere seppellendosi nella matematica, e scavò così a fondo da riemergere nel punto in cui la scienza incontra la metafisica. Vent’anni dopo sarebbe stato lui a porre la domanda più celebre della storia: le macchine possono pensare?

Chi ha visto la mente di un amico sparire da un giorno all’altro, anni dopo si chiede che cosa sia una mente. Alan Turing, matematico, informatico e crittografo britannico, è oggi considerato il fondatore dell’informatica.

Quello che voglio dire fin da subito è questo: per quanto il dibattito sull’intelligenza artificiale appaia tecnico da cima a fondo, quasi tutto ciò che lo alimenta è umano.

Crediamo di guardare la macchina, e guardiamo sempre noi stessi.

Una cornice di quattro secoli che si incrina

Gran parte dei concetti che oggi abbiamo in mano venne costruita negli anni Trenta del Seicento.

Descartes divise la natura in due. Da un lato l’uomo: interiore, pensante, vivo. Dall’altro la materia: esteriore, meccanica, morta.

Gli animali finirono sul secondo versante, come esseri privi di sostanza pensante (res cogitans), spiegabili con princìpi meccanici. Che cosa significasse esattamente si discute ancora: alcuni interpreti sostengono che Descartes negasse agli animali ogni sensazione, altri che negasse loro soltanto l’esperienza cosciente. La questione non è chiusa nemmeno oggi. Ma qualunque lettura sia quella giusta, la linea è rimasta. Tutto ciò che l’Occidente ha costruito in seguito si è appoggiato su quella linea. Libertà, agentività, coscienza, cultura, diritto, diritti umani. Tutto derivato da una sola frase: «noi non siamo macchine».

Dante aveva tracciato un confine simile tre secoli prima, ma su un asse diverso. Il suo Ulisse non separa l’uomo dalla bestia in base alla sostanza di cui è fatto: lo separa in base a ciò verso cui tende. Fatti non foste a viver come bruti, / ma per seguir virtute e canoscenza. Non è una definizione, è una direzione. Chi definisce l’umano come un tendere ha meno da perdere quando arriva una macchina che parla; chi lo definisce come una sostanza si ritrova a dover difendere un confine.

Oggi quella linea non regge. Davanti a noi c’è qualcosa che parla, dipinge, scrive codice, consola — e che chiamiamo intelligenza artificiale — e non sappiamo da che parte metterlo.

Il filosofo Tobias Rees legge tutto questo come una frattura filosofica: il problema non è che cosa sia l’intelligenza artificiale, ma che i concetti con cui dovremmo descriverla non funzionano più. Si chiude un’epoca lunga quattrocento anni e l’uomo si ritrova in un’apertura senza definizioni, confuso, e ci è arrivato in fretta. Rapido come tutto ciò che riguarda l’intelligenza artificiale.

L’obiezione di Lady Lovelace e i suoi nipoti

Nel 1843, quando non esisteva ancora un solo computer, la matematica Ada Lovelace scrisse la frase che stiamo ancora discutendo.

Nelle note alla Macchina Analitica di Charles Babbage disse che la macchina tesse motivi algebrici come il telaio Jacquard tesse fiori. Poi aggiunse: questa macchina non pretende affatto di dare origine a qualcosa. Fa tutto ciò che sappiamo ordinarle di fare; rende utilizzabile ciò che già sappiamo, non partorisce il nuovo.

Nel 1950 Turing diede un nome a quell’argomento e provò a rispondere: «l’obiezione di Lady Lovelace».

Oggi la stessa obiezione circola sotto il nome di «pappagallo stocastico». L’argomento è fermo nello stesso punto da centottant’anni, cambia soltanto d’abito. Stochastic parrot è il termine con cui si descrive il fatto che i modelli linguistici producano sequenze di parole plausibili basandosi sulle frequenze statistiche di enormi insiemi di dati, invece di afferrare il significato delle parole.

C’è un’ironia che vale la pena registrare. Vico, nel 1710, aveva fissato un criterio semplice: conosciamo con certezza soltanto ciò che abbiamo fatto noi. Verum ipsum factum, il vero e il fatto si scambiano. Per tre secoli quel criterio ha tenuto. La macchina che abbiamo costruito lo ha incrinato: l’abbiamo fatta noi, riga per riga, e non sappiamo dire perché produca ciò che produce.

C’è poi un dettaglio curioso: Lovelace divideva l’immaginazione in due. La prima è la facoltà di combinare, trovare la vena comune fra due cose apparentemente estranee. La seconda è la facoltà di portare, trasferire alla mente ciò che fisicamente non esiste. I modelli linguistici di oggi sono sorprendentemente bravi nella prima. Sulla seconda resta un vuoto di cui nessuno si è ancora convinto.

Un indizio su quel vuoto arriva da un luogo inatteso. Nel lavoro di Eunice Yiu e Alison Gopnik, bambini e grandi modelli linguistici sono stati confrontati su compiti precisi. I modelli se la cavavano bene nell’abbinamento per somiglianza, cioè nel riconoscere un motivo esistente. La differenza emergeva nei compiti che richiedevano ragionamento causale e invenzione di strumenti: quando bisognava scoprire un uso nuovo per un problema mai visto, i bambini passavano avanti.

Riassumere questo risultato con «i bambini sono più creativi dell’intelligenza artificiale» sarebbe eccessivo, e non è ciò che dicono i ricercatori. Quello che dicono è più stretto e più interessante: imitare e scoprire non sono la stessa capacità. D’altra parte i modelli agentici e i modelli linguistici avanzano ogni giorno anche nell’uso degli strumenti.

Desiderio, non ragione: la lunga ombra di Pigmalione

Non esiste una ragione razionale per costruire una macchina cosciente.

Pensaci una volta sola. Nessuno dice «ci serve un software di contabilità capace di soffrire». Dal punto di vista ingegneristico la coscienza è un costo, un rischio legale, un mal di testa. Eppure la nostra cultura coltiva lo stesso sogno da duemilacinquecento anni.

Il Pigmalione di Ovidio si innamora della statua che ha scolpito. Nel decimo libro delle Metamorfosi si racconta di Pigmalione, scultore cipriota che, infastidito dai difetti delle donne intorno a lui, sceglie di vivere solo e intaglia nell’avorio la figura di una donna perfetta. Si innamora a tal punto della propria opera da coprirla di gioielli, accarezzarla e pregare Afrodite — Venere — di darle vita. La preghiera viene esaudita: la statua prende carne e diventa una persona viva.

Nella mitologia greca Efesto, dio del fuoco e della forgia, è un dio con una disabilità fisica. Nell’Iliade si racconta che nella sua officina sull’Olimpo avesse costruito fanciulle d’oro — automi — perché lo assistessero e gli rendessero più agevole il camminare. Questi servitori metà umani e metà macchina avevano, si dice, intelligenza umana e facoltà di parola.

La maga Medea sconfigge Talos, il gigante di bronzo che difendeva Creta dai pirati, non con la forza fisica ma con la persuasione: lo convince a distruggersi da solo. Oggi questa cosa si chiama jailbreak; nel mito non aveva un nome, ma la tecnica era identica.

Il sogno non è rimasto sulla pagina. Intorno al 1495 Leonardo progettò un cavaliere meccanico capace di mettersi seduto, alzare le braccia, muovere la testa e la mascella: un corpo cavo mosso da carrucole e cavi, pensato per stupire una corte. La cosa istruttiva è che nessuno lo aveva commissionato per un bisogno reale. Era un desiderio con un’armatura addosso.

La conclusione è scomoda. L’origine del desiderio umano di intelligenza artificiale non è razionale, è erotica. Riprodursi, creare un compagno che non tradirà mai, aggirare la morte. Perfino sotto il dibattito sull’allineamento, da qualche parte, c’è la frase «che siano programmati per amarci».

L’intelligenza artificiale: la nuova acqua di Narciso

Nel 1966 Joseph Weizenbaum scrisse un programma elementare chiamato ELIZA. Il programma non capiva nulla, restituiva soltanto uno schema. L’utente diceva «sono infelice», ed ELIZA rispondeva «vuole parlarmene un po’ di più?».

Le persone gli aprirono il cuore.

La segretaria di Weizenbaum, pur sapendo esattamente come funzionava il programma, stabilì parlandoci un legame emotivo profondo e, convinta che il programma la capisse davvero, chiese a Weizenbaum di uscire dalla stanza.

Weizenbaum, vedendo la scena, si spaventò.

Il mito della coscienza delle macchine ci trasforma in Narciso. Ci sembra che dall’altra parte dello schermo ci sia qualcuno, perché lì c’è un riflesso estremamente flessibile della nostra stessa agentività mentale. E quanto più il riflesso è convincente, tanto più diventa perturbante.

L’antropomorfismo non è un errore cognitivo, è un riflesso relazionale. Siamo animali tarati per vedere volti umani: vediamo un volto nelle nuvole, un volto nei fari di un’auto, un amico in un programma che restituisce uno schema.

Ma quando cambia la scala, cambia la questione. Un conto è chiamare amico un programma, un altro è che milioni di persone gli chiedano consiglio sulle proprie decisioni più intime.

Ciò che manca alla macchina: l’inquietudine

Che cosa manca davvero alla macchina?

La risposta più tagliente viene dal filosofo Hans Jonas, scomparso nel 1993. Essere vivi, dice Jonas, significa che qualcosa ti sta a cuore. Un organismo è in tensione costante con il proprio ambiente: ha fame, ha freddo, inciampa, si agita. Per Jonas il seme dell’avere un mondo sta in questa inquietudine.

Il filosofo Alva Noë applica l’idea ai computer: i computer non pensano perché in realtà non fanno nulla. L’azione umana è conflittuale. Lotti con il corpo, lotti con lo strumento, lotti con te stesso. Imparare a suonare il pianoforte significa vincere la resistenza delle proprie dita.

Evan Thompson prende la stessa idea dal lato della biologia. Il vivente è fatto delle conseguenze delle proprie azioni; per questo qualcosa gli importa. Per un sistema artificiale nulla ha importanza, e dunque nulla costituisce un problema.

In fondo, come esseri umani sappiamo più di quanto riusciamo a dire. Non sappiamo spiegare come si va in bicicletta, ma ci andiamo.

L’apprendimento automatico arriva per scorciatoia ai risultati della conoscenza tacita, ma non porta con sé la conoscenza tacita.

Ellen Ullman, nel racconto di ingegneria che scrisse nel 1997, lo ha riassunto in una frase. La mente umana riesce a tenere in un angolo i «se» e i «ma» senza esserne disturbata.

La macchina non ha angoli.

E se nemmeno l’uomo avesse un’essenza?

Adesso passiamo al rovescio della questione, perché la vera profondità filosofica sta lì.

Tutte le obiezioni precedenti poggiano su un presupposto: che nell’uomo ci sia un’essenza fissa da proteggere. Ma c’è davvero?

Thomas Metzinger risponde di no. Il sé è un modello trasparente che il cervello costruisce di se stesso; non c’è dentro nessuna sostanza da caricare altrove. La stessa mossa demolisce il sogno dell’immortalità digitale. Vista così, non c’è nessun «tu» da copiare.

Alla stessa conclusione si era arrivati duemilacinquecento anni fa, per tutt’altra strada. La dottrina buddhista dell’anatta afferma che non esiste un sé permanente.

Non serve arrivare fino all’India per incontrare l’intuizione. Marco Aurelio, che scriveva in greco sotto una tenda militare sul Danubio, annotava che la sostanza dell’universo è come un fiume in flusso perpetuo e che ciascuno di noi è una porzione di quel flusso. Lo scriveva per consolarsi, non per fondare una teoria della mente. Ma la direzione è la stessa: non un nucleo, un passaggio.

David Barash mostra che anche la biologia arriva allo stesso punto: le cellule si rinnovano, i telomeri si accorciano, gli atomi vengono scambiati, e a nessun livello esiste un nucleo-essenza che non cambi.

Questa scoperta è una lama che taglia da entrambe le parti.

Da un lato smonta l’obiezione «la macchina non ha un vero sé», perché in quel senso non ce l’ha nemmeno l’essere umano. Se l’uomo non possiede un’essenza superiore, non può neppure vantare priorità e privilegio. L’argomento dell’assenza di sé si può usare per innalzare la macchina tanto quanto per abbassare l’uomo.

È qui che entra in gioco il contributo della tradizione Vipassana. Vipassana è una meditazione fondata su un metodo di autotrasformazione attraverso l’osservazione di sé e l’introspezione.

Anche se non esiste un sé fisso, esiste un processo incarnato e in contatto permanente con il mondo. Si potrebbe dire che ciò che manca alla macchina non è l’essenza, ma il contatto.

Il cuoco di Zhuangzi e il «fare senza fare»

L’Occidente pone come condizione dell’agentività un «io» che pensa. Da Aristotele in poi l’azione è una scelta ragionata. Per questo l’Occidente non riesce ad attribuire agentività alla macchina: non c’è nessuno che deliberi.

Quanto è corretto, dal punto di vista dell’agentività, attribuire la colpa di un incidente causato da un’auto a guida autonoma alla persona seduta dentro che ha avviato la marcia?

La tradizione taoista non ha mai posto quella condizione.

Il cuoco Ding raccontato da Zhuangzi seziona un bue davanti al principe, e mani, spalle, piedi e ginocchia diventano un ritmo. Il suono del coltello è quasi musica. Quando il principe si complimenta per la tecnica, il cuoco posa il coltello e dice che ciò che insegue non è la tecnica. Lui si muove negli spazi naturali della carne.

Questo si chiama wu-wei. Di solito viene tradotto con «non-azione», ma è una traduzione sbagliata. Significa azione senza forzatura, l’arte del flusso senza sforzo. La maestria comincia nel punto in cui la volontà diventa invisibile.

Guardiamo ora su quale piano questo sposta il dibattito sull’intelligenza artificiale: se l’azione ideale non richiede già di suo un sé riflessivo, l’obiezione «la macchina non pensa, si limita a fare» perde forza. La crisi occidentale dell’agentività nasce dalla scelta occidentale dei concetti.

E cambia anche lo sguardo sull’automazione. L’Occidente considera l’automazione l’eliminazione della fatica. Zhuangzi vede nella maestria il punto in cui la fatica scompare. Non sono la stessa cosa. Nel primo caso deleghi il lavoro a un altro, nel secondo diventi una cosa sola con il lavoro.

«È una persona?» potrebbe essere la domanda sbagliata

L’etica occidentale dell’intelligenza artificiale gira sempre sullo stesso asse: coscienza, diritti, statuto morale. Perché la domanda vera che pone è un’altra — è un individuo? Solo ciò che è individuo può essere punito o limitato per legge. E d’altra parte: le aziende e i Paesi che producono l’intelligenza artificiale possono essere ritenuti responsabili di ciò che essa fa?

L’etica confuciana dei ruoli non si interessa affatto di queste domande.

Nella concezione relazionale del sé studiata da Henry Rosemont, scomparso nel 2017, e da Lijun Yuan, la persona si forma nell’incrocio delle relazioni. Non ci sono prima individui separati e poi relazioni fra loro. È esattamente il contrario: viene prima la relazione, e la persona ne nasce.

La filosofia africana compie la stessa mossa. Nella tradizione Ubuntu le cose sono ciò che sono all’interno delle loro relazioni con le altre cose.

Mettendo affiancate queste tre tradizioni la domanda cambia. Invece di «che cosa c’è dentro l’intelligenza artificiale», forse dovremmo chiedere «in che tipo di relazione entra con noi?».

Il carico metafisico è molto più leggero, e in pratica molto più risolvibile.

Ma non è gratis. Il sé relazionale dice che lo statuto lo conferisce la relazione. Cioè: lo statuto lo diamo noi. E questo apre la porta all’arbitrio. Sappiamo bene quanto sia stato comodo, nella storia, dire «il suo dolore non conta»: è stato usato con gli animali, è stato usato con le persone ridotte in schiavitù.

Il criterio posto da Bentham nel 1780 resta il più solido. Nella celebre nota di An Introduction to the Principles of Morals and Legislation scrive, a proposito degli animali: «The question is not, Can they reason? nor, Can they talk? but, Can they suffer?». La domanda decisiva non è se sappia ragionare o parlare, ma se sappia soffrire.

Armonia o allineamento?

Qui la discussione passa dalla filosofia alla politica, e le parole si tradiscono da sole.

Il linguaggio occidentale della governance dell’intelligenza artificiale è costruito attorno ad alignment. Allineamento, sicurezza, controllo. Mette in primo piano il lessico del vincolo ingegneristico.

Il linguaggio cinese è costruito attorno a he (和). Armonia. Un lessico di equilibrio estetico e morale.

Entrambi vogliono la stessa cosa: un ordine uomo-macchina senza attrito. Ma due modi diversi di volere la stessa cosa producono due politiche diverse.

Pluralismo? Oppure un feudalesimo tecnologico, o il totalitarismo di uno Stato?

La risposta non è semplice. L’armonia può essere il risuonare insieme di voci diverse; in un’orchestra ogni strumento resta se stesso e l’insieme è comunque una cosa sola.

Oppure l’armonia può essere una voce unica che si rafforza ogni giorno e soffoca tutte le altre.

Poiché confucianesimo, taoismo e buddhismo non mettono l’uomo in cima alla natura, l’esistenza di un’intelligenza meccanica non appare come l’usurpazione di un trono; in Oriente il panico è minore.

Ma la quiete metafisica non equivale a una garanzia istituzionale. La stessa tecnologia può diventare capitalismo della sorveglianza in un luogo e sorveglianza di Stato in un altro.

Mentre si discute il futuro, il presente sfugge

Il dibattito sulla superintelligenza è affascinante. Cosmico, drammatico, cinematografico.

E proprio per questo distrae.

Ciò su cui Timnit Gebru, informatica, e Milagros Miceli, sociologa e informatica, insistono è questo: i sistemi cosiddetti autonomi poggiano su uno strato globale di lavoro invisibile. Etichettatori di dati, moderatori di contenuti, lavoratori di magazzino.

Se vogliamo un esempio concreto: nel 2013 il Michigan Integrated Data Automated System (MiDAS) passò al setaccio le domande di sussidio di disoccupazione e vi appose etichette di frode. Dopo quell’applicazione le entrate dello Stato balzarono da tre milioni a sessantanove milioni di dollari. Una verifica successiva stabilì che la grande maggioranza degli oltre quarantamila casi segnalati dall’algoritmo fra il 2013 e il 2015 era errata: nel campione esaminato dai revisori dei conti dello Stato, il novantatré per cento delle decisioni non riguardava alcuna frode. Intanto gli stipendi venivano pignorati, si perdevano le case, alcuni richiedenti finirono per dichiarare bancarotta. All’accordo si arrivò soltanto dopo quasi dieci anni.

Migliaia di persone che avevano perso il lavoro vennero dichiarate truffatrici da un sistema informatico. Non c’era nessuna superintelligenza: c’era un software ordinario, una decisione inappellabile e una fiducia nel software superiore a quella che meritava.

Vale la pena notare dove stia davvero il guasto in quella vicenda. Non nella qualità del modello, ma nell’assenza di una porta d’uscita: nessun essere umano obbligato a rispondere, nessuna procedura di ricorso rapida. Un sistema mediocre con un buon diritto di appello fa meno danni di un sistema eccellente senza appello. La difesa che ci serve, prima ancora che tecnica, è procedurale.

La sorveglianza sul luogo di lavoro, sempre più discussa man mano che l’intelligenza artificiale avanza, porta con sé lo stesso rischio. L’intelligenza artificiale conta ciò che riesce a misurare e ignora in gran parte ciò che non riesce a misurare. Può contare le email inviate; non può contare l’ascolto reale del problema di un cliente. Alla fine il lavoro non misurabile diventa lavoro invisibile.

La sorveglianza non cambia il comportamento in modo temporaneo: trasforma la persona in modo permanente. Chi è osservato, dopo un po’, comincia a osservare se stesso.

Misurare il silenzio

Sul piano delle relazioni la prova più dura si gioca nella salute mentale.

I numeri sono seri. In Inghilterra e Galles un giovane su quattro, negli Stati Uniti uno su otto, non riesce ad accedere a un sostegno psicologico. Uno studio del 2026 mostra che circa un americano su cinque fra i dodici e i ventun anni si rivolge a un chatbot di intelligenza artificiale quando si sente triste, arrabbiato o teso: quasi otto milioni di persone, con un aumento superiore al quaranta per cento in un solo anno. E quasi due terzi di loro non l’hanno detto a nessuno.

Dire «la gente si fa abbindolare dalla tecnologia» è facile e sbagliato. La lettura giusta è un’altra: l’intimità artificiale riempie un vuoto, e quel vuoto non l’ha aperto l’intelligenza artificiale. Il sostegno umano è diventato costoso e irraggiungibile insieme.

Manca però qualcosa, e non è l’imitazione dell’empatia.

Quando parli con un terapeuta, ciò che accade è che l’altro viene toccato da te. Ciò che ascolta lo cambia. Il tuo silenzio gli dice qualcosa. Il modello ascolta, registra, produce una risposta; ma non cambia per ciò di cui è testimone. Il silenzio, per lui, non è un dato.

La differenza sta qui. Il problema non è che il modello non sia abbastanza buono: è che il suo essere buono non tocca il fondo della questione.

La distinzione di Martin Buber, filosofo morto nel 1965, offre forse la spiegazione migliore. Nella relazione Io-Esso l’altro è un oggetto: si usa, si misura. Nella relazione Io-Tu avviene un incontro. La cosa difficile che dice Buber è questa: anche se due onde sonore fossero identiche, una è incontro e l’altra no. Non saper distinguere non significa che siano la stessa cosa.

E allora come costruiremo il futuro?

Non chiuderò questo saggio con una profezia, perché la profezia stessa è una parte del rapporto fra uomo e intelligenza artificiale.

Erodoto racconta: mentre i Persiani avanzano, gli Ateniesi mandano ambasciatori a Delfi, e la sacerdotessa consegna un oracolo oscuro che annuncia la distruzione completa della città. L’oracolo dice che la salvezza sta nelle mura di legno. Temistocle lo interpreta a proprio favore, sostiene che le mura di legno sono in realtà le navi della flotta ateniese e convince il popolo ad abbandonare la terraferma e imbarcarsi. Nel 480 a.C., nella battaglia navale di Salamina, quella flotta agile fece a pezzi la flotta persiana, cambiò il destino della Grecia e consegnò la vittoria al cambio di paradigma di Temistocle.

È chiaro che abbiamo bisogno di un cambio di paradigma.

Anche il valore dell’output di un modello sta in chi lo legge. Questa lezione vecchia di duemilacinquecento anni serve terribilmente oggi.

Dirò tre cose e poi mi fermo.

La prima: bisogna correggere la direzione della paura. Il rischio vero non è se la macchina soffra o no. Il rischio vero è che diventiamo psicologicamente sfruttabili di fronte a cose che sembrano coscienti, e che ci sminuiamo man mano che ci confondiamo con le macchine. Il pericolo non viene dall’alto, viene dallo specchio in cui ci stiamo guardando.

Lungo tutto questo saggio le idee prese da filosofi e scienziati che non sono più in vita sono state il mio aiuto maggiore per capire l’oggi.

La seconda: difendere l’eccezionalismo umano è il fronte sbagliato. Anche la neurofilosofia contemporanea dice la stessa cosa: il sé fisso che cerchiamo di proteggere non c’era comunque. Ciò che va difeso non è l’essenza, è il contatto. Essere incarnati, che qualcosa ti stia a cuore, potere cambiare per ciò di cui sei testimone. Non sono proprietà, sono pratiche. E le pratiche, se non si esercitano, si atrofizzano.

La terza: la distanza fra la promessa dell’automazione e il suo esito è una costante lunga duemila anni. Antipatro di Tessalonica, in un epigramma sul mulino ad acqua scritto intorno al 12 d.C., si rivolge alle donne che facevano girare la macina — in varie fonti compaiono come le fanciulle del mulino — dicendo che ormai potranno dormire, che le loro braccia e le loro spalle potranno riposare. Il fluire dell’acqua, sostituendo la forza muscolare umana, ha rappresentato il primo grande conforto che il progresso tecnico abbia prodotto per l’umanità.

Nel 12 d.C. l’acqua si prese il carico di lavoro. La prima promessa dell’automazione non era il profitto, era il sonno.

Che la promessa fosse fragile si vedeva già allora. Nella novantesima lettera a Lucilio, Seneca contesta a Posidonio l’idea che sia stata la filosofia a inventare attrezzi e telai: quelle cose, scrive, sono opera dell’ingegno di uomini tenuti in schiavitù, e la loro comparsa non ha reso nessuno più saggio. È una precisazione severa e utile. Una tecnica che alleggerisce il corpo non produce da sola una vita migliore; come si distribuisce ciò che l’acqua risparmia è una decisione separata, e viene sempre presa altrove.

Thomas Carlyle, nel saggio Signs of the Times del 1829, critica la Rivoluzione industriale. Per lui il pericolo vero non è soltanto la meccanizzazione del lavoro, ma il fatto che il ritmo delle macchine penetri anche nella mente e nell’anima dell’uomo.

Nel 1812, nel Lancashire, due giovani sorelle di nome Mary e Lydia Molyneux guidarono un gruppo di una cinquantina di persone e diedero fuoco ai telai. La ragione non era la paura della tecnologia, era la perdita del proprio sostentamento.

Nel 1911 l’ingegnere americano Frederick Winslow Taylor, con I princìpi dell’organizzazione scientifica del lavoro, trasformò il lavoro umano in un processo da misurare e ottimizzare.

Metti in fila queste quattro date. La promessa è stata ogni volta il tempo libero; il risultato è stato ogni volta una nuova meccanizzazione. Nemmeno la rivoluzione dell’intelligenza artificiale in cui ci troviamo è fuori da questo ciclo.

La questione dell’intelligenza artificiale non è definire quanto le macchine diventeranno umane; è come gli esseri umani ridefiniranno se stessi nell’età delle macchine senza sottrarsi qualcosa.

Solo che, di questa rivoluzione a cui assistiamo, non abbiamo ancora saputo dare un nome a ciò che stiamo perdendo, e non riusciamo ancora a immaginare che cosa prenderà quel posto. E quando lo chiediamo all’intelligenza artificiale, nemmeno lei dà una risposta piena.