L'arte di sbagliare
Testo completo della conferenza su cibernetica, IA e umanità, tenuta alla comunità MondoX di S'Aspru, il primo giugno 2026.
Il primo giugno 2026 ho avuto il privilegio e il piacere di condividere una serata con gli amici della comunità di MondoX a S’Aspru, dove padre Salvatore Morittu e padre Stefano Gennari, insieme ai loro ospiti, costruiscono quotidianamente una nuova speranza per chi combatte contro ogni tipo di dipendenza.
Il sito di MondoX Sardegna è qui. La pagina Facebook qui e quella Instagram qui.
Buonasera a tutti. Prima di cominciare, permettetemi di ringraziare padre Morittu, padre Stefano e i fratelli Salis per questa serata.
Ho avuto un anno abbastanza complesso e temevo che non sarebbe stato possibile tornare a parlare con voi. Mi sarebbe dispiaciuto molto perché questo posto ormai custodisce un pezzo del mio cuore, ma grazie a loro e al dipanarsi di qualche nube di troppo, eccoci qui.
Come sapete, io sono un professore di cibernetica. Questo significa che quando parlo in pubblico, di solito parlo a persone che già conoscono almeno un po’ quello di cui sto parlando, perché parlo per lo più ai miei sventurati studenti.
Questa sera è più difficile: affronteremo temi complessi e dobbiamo farlo in modo che tutti ne escano arricchiti. Ormai mi conoscete bene e sapete quanto sia verboso. Se a un certo punto dovessi partire per la tangente o perdermi dietro tecnicismi, fatemi dei gesti Questa è una serata insieme e non una lezione. Alla fine ci aspetta una buona cena e non un esame col voto finale.
Allo stesso modo, se mentre procediamo ci fossero concetti che non vi sembrano troppo chiari, non aspettate la fine per chiedere delucidazioni. Alzate la mano e chiedete subito quel che non vi è chiaro. Cercherò di rispiegarlo meglio e poi ripartiremo.
Questa sera ci occuperemo di cosa c’entrano i computer con la vita, la sofferenza e la rinascita. Sembra che non c’entrino niente o quasi e invece queste cose si intrecciano in modo sorprendente grazie all’intelligenza artificiale, ad una vecchia scienza ormai dimenticata che si chiama Cibernetica e di cui sono un fiero rappresentante e soprattutto grazie all’insostituibile valore dell’errore umano.
Cominciamo.
Il viso che vedete alle mie spalle è quello di Samuel Beckett. Non c’è dubbio che sia stato il più grande drammaturgo contemporaneo e uno dei più grandi scrittori di sempre. Il suo lavoro riguarda molto da vicino tanto la condizione umana che la “macchina” e questo potrebbe essere il tema di altre decine di conferenze, ma non temete.
Questa sera ci concentreremo su una sola sua frase che è tratta da una sua breve prosa del 1983. Il titolo è Worstward Ho ed è un gioco di parole, intraducibile in italiano. I timonieri dei battelli sul Tamigi sono soliti gridare Westward Ho che significa più o meno: “a dritta! tieni la destra!” Ma invece di west Beckett usa worst che significa “peggio”. Potremmo tentare una cattiva traduzione con “Tieni la peggio” al posto di “Tieni la destra” o “Peggio tutta!” al posto di “Avanti tutta”.
Sono brutte entrambe, quindi meglio il gioco di parole originale. Di cui ci interessano molto i concetti di “timoniere e timonare”. Ci torneremo sopra prestissimo.
Ma cosa dice questa famosa frase di Beckett?
Ever tried. Ever failed. No matter. Try again. Fail again. Fail better.
Hai sempre provato. Hai sempre fallito. Non importa. Prova ancora. Fallisci ancora. Fallisci meglio.
Ora lasciamo sospeso per qualche istante il senso profondo della frase di Beckett e andiamo a conoscere un altro grande personaggio.
Questo signore dall’aspetto curioso è Norbert Wiener ed è stato un grande genio scientifico, anche se oggi è un po’ dimenticato.
Wiener era un uomo brillante che ebbe un’infanzia orribile e finì con l’avere sempre la testa tra le nuvole. Si racconta che un giorno la sua famiglia avesse cambiato casa. La moglie, sapendo che Wiener era smemorato, gli scrisse il nuovo indirizzo su un foglietto. Lui, ovviamente, lo usò per scriverci sopra un’equazione e lo perse. A fine giornata andò alla vecchia casa, la trovò vuota, e vagò per il quartiere finché non vide una bambina. Le chiese: “Scusa bambina, per caso sai dove si è trasferita la famiglia Wiener?”. E lei rispose: “Sì, papà, la mamma mi ha mandato a cercarti”.
Questo scienziato che non sapeva trovare la via di casa, ha fondato la cibernetica, cioè la scienza del tenere la rotta.
La cibernetica è nata ufficialmente nel 1948, proprio grazie a lui e indovinate un po’… La parola viene dal greco kybernḗtēs, che significa “timoniere”, colui che guida la nave, scegliendo la rotta.
La cibernetica studia come i “sistemi” e qui non importa se i “sistemi” sono macchine, animali o esseri umani, possono mantenere la loro rotta in un mondo che cambia di continuo, pieno di tempeste e imprevisti.
Il feedback retroattivo è il fondamento della cibernetica. Il timoniere non disegna una linea retta perfetta. La navigazione è, in realtà, una serie continua di piccoli errori e continue correzioni.
E questa è la prima grande rivoluzione che la cibernetica ha portato nel pensiero scientifico e che ha importanti ricadute anche in ambito psicologico e filosofico: l’errore non è un fallimento, è un’informazione vitale. Se non sbagli, non sai dove sei. Se il timoniere non sentisse la barca andare fuori rotta, non saprebbe come aggiustare il timone. Il termostato di casa vostra funziona così: aspetta che la stanza diventi troppo fredda (un errore rispetto alla temperatura desiderata) per accendere il riscaldamento.
Pensiamo a noi stessi. La società ci insegna che sbagliare è una macchia indelebile. Che la caduta è la fine. La cibernetica ci dice l’esatto opposto: l’uomo commette un errore, sbatte contro la realtà (prova dolore, subisce una conseguenza), quella informazione “torna indietro” (feedback) al suo cervello e gli permette di dire: “Ho capito. Devo correggere la rotta”.
Senza errore, non c’è apprendimento. Senza il dolore della pelle che si brucia, non toglieremmo la mano dal fuoco. Il feedback retroattivo è il metodo più potente inventato dalla natura, e sistematizzato dalla cibernetica, per migliorare se stessi. Cadere, capire perché si è caduti, rialzarsi con una postura nuova.
Per dimostrarvi che questa non è solo teoria campata per aria, ma pratica che funziona e funziona bene voglio parlarvi di alcune macchine costruite verso la fine degli anni ‘40.
Il primo è l’omeostato di W. Ross Ashby (1948). Ashby non voleva costruire una macchina che facesse calcoli matematici. Voleva costruire una macchina che fosse in grado di “sopravvivere”.
L’omeostato era composto da quattro blocchi collegati tra loro. Quando uno scienziato provava a disturbare la macchina, magari invertendo una corrente o bloccando un ago, la macchina iniziava a riconfigurarsi da sola, provando decine di combinazioni a caso finché non ritrovava il suo equilibrio, la sua omeostasi.
Era la rappresentazione meccanica della resilienza. Se ricevo uno schiaffo dalla vita, cambio il mio assetto interno finché non ritrovo l’equilibrio.
Per una simulazione del funzionamento, clic qui:
https://davideriboli.github.io/Ashby/.
La seconda macchina, o meglio, le seconde macchine di cui voglio parlarvi, sono le tartarughe robotiche di William Grey Walter (1949). Si chiamavano Elmer ed Elsie. Grey Walter era un neurofisiologo. Finita la Seconda Guerra Mondiale, usò i rottami dei sistemi di puntamento dei bombardieri per costruire dei robottini molto pacifici che, secondo lui, erano a forma di tartaruga.
Questi robot avevano solo due “neuroni” (due valvole termoioniche), un sensore per la luce e un sensore per il contatto. Niente intelligenza artificiale complessa, niente hard disk, nessuna connessione wi-fi. Eppure, con sole due regole (cerca la luce, evita gli ostacoli), queste tartarughe esibivano comportamenti incredibili. E sapevano trovare la via per tornare a casa.
Per una simulazione del funzionamento, clic qui:
https://davideriboli.github.io/Elmer-Elsie/.
Oggi viviamo in quella che tutti chiamano “L’epoca dell’Intelligenza Artificiale”. Ne sentite parlare ovunque. Sistemi che scrivono poesie, che guidano automobili, che diagnosticano malattie. Sembra magia e, a volte, una minaccia. L’idea generale è che stiamo costruendo macchine perfette, infallibili, destinate a sostituirci perché non commettono i nostri stessi errori. Ma non è così.
Le grandi corporazioni che sviluppano l’IA oggi, con l’intento di moltiplicare i profitti, distribuendo Intelligenza Artificiale a chiunque, cercano di eliminare il più possibile il ruolo del timoniere. Stiamo sviluppando sistemi sempre più autonomi; macchine capaci di fare più o meno tutto, da sole.
Ma la cibernetica originaria ci mette in guardia contro questo. Da qui nasce il concetto fondamentale nell’ingegneria dei sistemi sicuri: quello che chiamiamo Human In The Loop (l’uomo nel ciclo di controllo o se preferite una traduzione più libera e poetica, l’uomo al centro).
Significa che per quanto la macchina possa essere veloce a calcolare, la decisione finale, la comprensione del contesto, deve spettare a un essere umano. La macchina non prova empatia, non prova la paura di sbagliare, non sa cosa sia la compassione. Una macchina può ottimizzare una rotta navale per risparmiare carburante, ma solo l’umano capirà se vale la pena deviare quella rotta per salvare dei naufraghi. L’umano è il garante etico.
Togliere l’umano dal ciclo significa togliere la possibilità dell’etica, che si fonda proprio sulla nostra fragilità e la consapevolezza della sofferenza.
Oggi, l’uso dell’IA comporta benefici immensi per l’umanità e pericoli altrettanto grandi. Tra i benefici, dobbiamo senza dubbio mettere in cima alla lista la ricerca scientifica e quella medica in particolare, la difesa, l’incremento della produzione e persino la nascita di nuove forme d’arte.
Tra i pericoli, ci sono l’automazione fredda delle decisioni sociali, la perdita di posti di lavoro, la sorveglianza di massa, la generazione di falsità indistinguibili dal vero.
Ma la “vecchia” cibernetica contiene in sé tre potenti antidoti contro questi veleni:
1. Il feedback retroattivo: dobbiamo continuare a costruire sistemi che ammettano i propri limiti e permettano all’uomo di correggerli, e dobbiamo applicare questa stessa clemenza alle nostre stesse vite. Sbagliare è il motore di ogni evoluzione personale.
2. il controllo umano (Human In The Loop): rifiutare l’abdicazione delle nostre responsabilità. La macchina propone, ma è l’uomo che dispone.
3. l’interdisciplinarietà: quando Norbert Wiener partecipava alle Conferenze Macy negli anni ‘40 e ‘50, non sedeva solo con ingegneri. C’erano filosofi, antropologi come Margaret Mead, psicologi, linguisti. Avevano capito che non puoi costruire una mente artificiale se non studi l’anima umana. La tecnologia da sola è sterile; ha bisogno della filosofia, dell’etica e dell’arte per avere un senso.
E non pensate che questa storia del tavolo di Wiener sia roba vecchia, roba da museo. Ottant’anni dopo è successa di nuovo. E nel posto più inaspettato del mondo.
Pochi giorni fa Papa Leone XIV ha pubblicato la sua prima enciclica. La prima, capite: il primo grande documento del suo pontificato. Un Papa, di solito, la dedica a Dio, alla Chiesa, alla pace. Lui l’ha dedicata all’intelligenza artificiale. Si intitola, in latino, Magnifica humanitas: “la magnifica umanità”.
Notiamo che centotrentacinque anni fa un altro Papa Leone, Leone XIII, scrisse una celebre lettera per difendere gli operai delle fabbriche, gli uomini schiacciati dalla rivoluzione industriale, dalle macchine a vapore. Leone XIV ha voluto firmare la sua nel giorno esatto dell’anniversario di quella. Come a dire: allora abbiamo difeso l’umanità di fronte alla macchina che lavora; oggi la difendiamo di fronte alla macchina che pensa.
Ma la cosa che mi ha colpito di più è un’altra. Il giorno della presentazione, in Vaticano, il Papa non ha messo attorno al tavolo soltanto cardinali e teologi. Ha voluto anche uno scienziato. Uno che l’intelligenza artificiale la costruisce per mestiere: Chris Olah, uno dei fondatori di Anthropic, una delle grandi aziende che fanno questi sistemi. Capite cosa significa? È il tavolo di Norbert Wiener che torna a riunirsi, ottant’anni dopo, sotto le volte del Vaticano. Da una parte la fede, dall’altra la scienza. Sedute vicine. A parlarsi. Esattamente l’interdisciplinarità di cui vi dicevo.
E sentite cosa ha detto questo scienziato, perché avrebbe potuto scriverlo un cibernetico. Ha spiegato che questi sistemi non si costruiscono come si costruisce un ponte o un aeroplano, pezzo per pezzo. Si coltivano, ha detto, come si fa crescere una pianta: si nutrono di tutte le parole che noi esseri umani abbiamo scritto. “Sono fatti di noi”, ha detto, “delle nostre parole”.
E poi ha fatto una richiesta che, in bocca a chi guadagna costruendo queste macchine, è quasi commovente. Ha chiesto al mondo, alla Chiesa, alla gente comune, di tenere gli occhi aperti su di loro. Ha detto: “Abbiamo bisogno di critici informati che dicano ai laboratori quando stiamo fallendo”. E ancora: “Abbiamo bisogno di voci morali che gli incentivi non possano piegare”.
Fermatevi un attimo su queste parole. Un uomo che costruisce le macchine più potenti del mondo si alza, davanti al Papa, e chiede che qualcuno da fuori lo controlli. Che qualcuno gli dica quando sta sbagliando. Perché lui sa — l’ha detto lui stesso — che da dentro, da solo, non riesce a vedere tutto. Questo, amici miei, è il timoniere. Questo è l’uomo nel ciclo, lo Human In The Loop, chiesto a gran voce proprio da chi i motori li costruisce. La vecchia cibernetica aveva ragione.
E il Papa, dal canto suo, ha scritto in quella lettera una frase che potrebbe essere il cuore di tutta la nostra serata. Ha scritto che dobbiamo “accettare il limite e la fragilità dell’umanità senza considerarli un errore da correggere”. E che, sono parole sue, “la vera realizzazione non nasce dalla rimozione delle fragilità, ma da una crescita armoniosa”.
Ci avete fatto caso? Un Papa e uno scienziato, partiti da due mondi lontanissimi, che non si erano mai parlati prima, arrivano esattamente dove era arrivata la cibernetica settant’anni fa, e dove voi siete arrivati con la vostra vita: l’essere umano non è una macchina da perfezionare. La sua fragilità non è un guasto da riparare. È il luogo stesso in cui diventiamo umani.
Per concludere: non temete le macchine, ma temete chi vuole trasformare gli esseri umani in macchine che non possono permettersi di sbagliare. Rivendicate il diritto all’errore, perché è da quell’attrito col mondo che nasce il feedback per correggere la rotta. Siamo noi i timonieri, i ciberneti del nostro stesso destino.
Grazie per la vostra attenzione.
La mia traduzione completa del discorso di Chris Olah di fronte a Papa Leone XIV in occasione della presentazione dell’enciclica “Magnifica Humanitas” è qui: