Oltre Turing
Questo libro porta nel titolo il nome di un matematico inglese, e gli deve una spiegazione. Alan Turing è ricordato dal grande pubblico per due ragioni: la macchina che a Bletchley Park contribuì a violare i codici di Enigma, accorciando la guerra, e la domanda che aprì nel 1950 il dibattito sull'intelligenza delle macchine: «Can machines think?», le macchine possono pensare? Ma prima dell'una e dell'altra, nel 1936, un Turing ventiquattrenne aveva fatto qualcosa di più profondo: aveva definito, con precisione matematica, che cosa significa calcolare. E nello stesso gesto con cui fondava l'informatica, ne aveva tracciato il confine: esistono problemi, perfettamente definiti, che nessuna macchina - nessuna, mai, per quanto potente - potrà risolvere.
È per questo che il capitolo sta all'inizio del libro, e non in appendice. Il "resto incalcolabile" che dà il titolo a quest'opera non nasce come protesta romantica contro la tecnica, né come rivendicazione della fede contro il calcolo. Nasce dentro la matematica, per mano dei suoi giganti. Prima ancora di essere una speranza della filosofia o una certezza delle fedi, il limite del calcolabile è un teorema. Chi lo dimostrò non era un umanista in polemica con le macchine: era l'uomo che le macchine le aveva appena inventate.
1. La macchina di Turing: che cosa significa calcolare
Nel 1936 il problema sul tavolo dei matematici era stato posto da David Hilbert e aveva un nome tedesco solenne, Entscheidungsproblem, il problema della decisione: esiste un procedimento meccanico capace di stabilire, per qualunque enunciato matematico, se sia dimostrabile? Per rispondere, Turing dovette prima rispondere a una domanda che nessuno aveva formalizzato: che cos'è, esattamente, un "procedimento meccanico"? La sua risposta è la macchina che oggi porta il suo nome: un nastro illimitato diviso in caselle, una testina che legge e scrive un simbolo alla volta, un insieme finito di stati e di regole. Nient'altro. Un'idealizzazione volutamente povera, quasi umiliante nella sua semplicità - e proprio per questo universale.
Perché il colpo di genio è il secondo passo: Turing dimostrò che esiste una macchina universale, una singola macchina capace di simulare qualunque altra, purché gliene si fornisca la descrizione sul nastro. Quella descrizione oggi la chiamiamo programma, e quella macchina universale la portiamo in tasca. Lo smartphone, il server ospedaliero che archivia le cartelle cliniche, il sistema informativo aziendale che elabora gli ordini, la piattaforma che addestra i grandi modelli linguistici sui big data: nella loro essenza matematica, sono tutti la stessa macchina del 1936, resa soltanto più veloce. La tesi formulata in quegli anni da Alonzo Church e dallo stesso Turing - e mai smentita da novant'anni di informatica - dice precisamente questo: tutto ciò che è calcolabile in senso intuitivo è calcolabile da una macchina di Turing. È una delle idee più potenti della storia del pensiero, e ogni capitolo di questo libro le rende omaggio: le pipeline, i sensori, i profili, i modelli incontrati in queste pagine sono variazioni, mirabili, di quell'unico tema.
Ma una definizione esatta ha un prezzo che i venditori di meraviglie preferiscono tacere: ciò che è definito con esattezza ha confini esatti. Definire il calcolo significa poter dimostrare che cosa il calcolo non può fare. Ed è qui che la storia si fa vertiginosa.
2. Il problema dell'arresto: il confine dimostrato
Torniamo alla domanda di Hilbert: esiste un procedimento meccanico che decide ogni questione matematica? La risposta di Turing fu costruire una domanda che nessuna macchina può decidere. La più celebre ha la forma di un paradosso pratico che ogni programmatore conosce: dato un programma qualsiasi e un input qualsiasi, esiste un algoritmo che stabilisca in anticipo se quel programma terminerà o resterà a girare per sempre? È il problema dell'arresto. E la dimostrazione di Turing - una diagonale limpida, per assurdo - stabilisce che quell'algoritmo non può esistere. Non "non è stato ancora trovato": non può esistere, con la stessa necessità con cui non esiste il più grande dei numeri primi. Se esistesse, si potrebbe costruire un programma che lo interroga su sé stesso e fa l'opposto di ciò che l'oracolo prevede: la previsione si morde la coda, e l'oracolo crolla.
Vale la pena respirare l'aria di questo risultato, perché è più radicale di quanto sembri. Non dice che il problema dell'arresto è difficile, costoso, fuori portata per i calcolatori di oggi. Dice che è indecidibile: nessun aumento di potenza, nessun processore futuro, nessun modello più grande lo porterà mai dentro il recinto del calcolabile. Il limite non è tecnologico; è logico. E non è un caso isolato. Un teorema del 1953, dovuto a Henry Gordon Rice, generalizza il colpo: ogni proprietà non banale del comportamento dei programmi è indecidibile. Vuoi un algoritmo che certifichi, in generale, se un altro programma è corretto? Se non violerà mai una regola? Se farà sempre ciò che promette? Non esiste, e non esisterà. Chi ha letto i capitoli sulla governance e sulla sorveglianza umana trovi qui la radice profonda di ciò che vi si afferma: la supervisione dell'uomo sui sistemi automatici non è soltanto una prudenza giuridica scritta nei regolamenti - è ciò che resta necessario quando la matematica stessa dimostra che il controllo totale automatico è impossibile. L'articolo 14 dell'AI Act ha, senza citarlo, un fondamento che viene dal 1936.
C'è poi un modo ancora più vertiginoso di guardare lo stesso confine, e lo si deve a un semplice conteggio. I programmi possibili sono infiniti, ma di un'infinità numerabile: si possono elencare, uno dopo l'altro, come i numeri naturali. I problemi possibili - le funzioni da calcolare - sono infiniti di un'infinità più grande, quella del continuo, che nessun elenco può esaurire: è l'argomento diagonale che Georg Cantor aveva scoperto mezzo secolo prima. La conseguenza è sconcertante e inevitabile: le funzioni calcolabili sono un'isola numerabile in un oceano non numerabile. In un senso matematicamente preciso, quasi tutto ciò che si può definire non si può calcolare. L'incalcolabile non è l'eccezione ai margini del calcolo: è la regola. È il calcolabile a essere il miracolo raro.
3. Gödel: la verità eccede la dimostrazione
Cinque anni prima di Turing, un giovane logico di Brno aveva già aperto una crepa nello stesso edificio, dall'altro versante. Nel 1931 Kurt Gödel dimostrò i teoremi di incompletezza: ogni sistema formale coerente, abbastanza ricco da contenere l'aritmetica, contiene enunciati veri che il sistema stesso non può dimostrare; e nessun sistema siffatto può dimostrare la propria coerenza dall'interno. Il sogno di Hilbert - una matematica interamente meccanizzabile, capace di autocertificarsi - moriva due volte nello stesso decennio: Gödel mostrò che la verità eccede ogni singolo sistema di dimostrazione, Turing che la decisione eccede ogni macchina. Sono due facce dello stesso confine, e la storia della logica le ha saldate: il risultato di Turing si può leggere come la forma computazionale dell'incompletezza.
Su ciò che questi teoremi significano per la mente umana bisogna essere onesti, perché l'onestà è il metodo di questo libro. Una linea di pensiero illustre - dal filosofo John Lucas nel 1961 al fisico matematico Roger Penrose - ha sostenuto che l'incompletezza dimostri che la mente non è una macchina: l'uomo "vede" la verità dell'enunciato che il sistema formale non può dimostrare, dunque eccede ogni sistema formale. È un argomento affascinante, e controverso: obiezioni rigorose hanno mostrato che la conclusione non segue con necessità, perché nulla garantisce che la mente umana sia coerente nel senso richiesto dal teorema, né che essa conosca la propria eventuale specifica formale. Questo libro non ha bisogno di forzare Gödel oltre ciò che Gödel ha dimostrato. Gli basta ciò che i teoremi stabiliscono senza controversia: primo, ogni sistema formale ha un fuori - un territorio di verità che gli è strutturalmente inaccessibile; secondo, il gesto con cui Gödel e Turing videro e dimostrarono questi confini non fu esso stesso l'esecuzione di un algoritmo noto, ma un atto di comprensione che ha fatto ciò che nessuna procedura del loro tempo prevedeva: ha guardato il sistema dall'esterno. Chiunque voglia ridurre integralmente il pensiero a calcolo deve almeno spiegare come il calcolo abbia potuto dimostrare, di sé, ciò che nessun calcolo decide.
E qui il lettore riconosce il lessico dell'intera opera: l'esistenza di un fuori. Il segnale e il sintomo, il dato e il soggetto, il profilo e il cliente: ogni capitolo ha incontrato un piano che il sistema formalizza e un piano che lo eccede. La matematica del Novecento non è la metafora di questa struttura: ne è il caso fondativo, quello in cui l'eccedenza è stata dimostrata con il rigore di un teorema.
4. Il gioco dell'imitazione: che cosa misura il test di Turing
Nel 1950, su una rivista di filosofia, Turing pose infine la domanda che lo rese celebre - le macchine possono pensare? - e con l'istinto dell'ingegnere la dichiarò subito mal posta: troppo vaga per essere decisa. Propose di sostituirla con un esperimento operativo, il gioco dell'imitazione: se, conversando per iscritto con un interlocutore nascosto, un esaminatore umano non riesce a distinguere la macchina dall'uomo, diremo che la macchina ha superato il test. È una mossa metodologicamente magistrale, e bisogna leggerla per quello che è: Turing non definì il pensiero; definì un criterio di indistinguibilità del comportamento. Il test misura la qualità dell'imitazione, per costruzione. Sul fatto che l'imitazione perfetta coincida con la cosa imitata, il test - onestamente - tace.
Per decenni la questione rimase accademica, perché nessuna macchina ci andava vicina. Oggi non più: i grandi modelli linguistici conversano con una fluidità che avrebbe stupito lo stesso Turing, e studi sperimentali recenti documentano che, in conversazioni brevi, gli esaminatori li scambiano per umani con frequenze notevoli (Jones e Bergen 2024). Il punto decisivo, per questo libro, è capire che cosa questo successo dimostri - e che cosa no. Dimostra che il comportamento linguistico è, in larga misura, calcolabile: che la superficie della conversazione può essere appresa da una macchina di Turing addestrata su una porzione sufficiente del linguaggio umano. Non dimostra che dietro la superficie sia comparso qualcuno. Già nel 1966 Joseph Weizenbaum aveva osservato, con il suo semplice programma ELIZA, quanto poco basti perché l'uomo attribuisca comprensione a ciò che esegue regole: e ne fu così turbato da dedicare il resto della vita ad avvertirci. L'errore non sta nella macchina, che fa ciò che è: sta nell'inferenza dell'osservatore, che dal funzionare deduce l'essere. Il Prologo di questo libro ha un nome per questo passaggio indebito, l'errore categoriale, e l'Epilogo lo dispiega per intero. Qui basti fissare il punto con il rigore del capitolo: il test di Turing è una misura di prestazione, non un certificato di esistenza. Superarlo dice molto sull'imitazione e nulla, per costruzione, sull'imitatore.
5. Il resto matematico: perché "oltre" Turing
Si può allora dire con precisione che cosa significhi il titolo di questo libro. "Oltre Turing" non è contro Turing - è, alla lettera, ciò che sta al di là del confine che Turing stesso ha tracciato. Nessuno più di lui aveva titolo per tracciarlo: il padre della macchina universale è anche il padre della sua prima impossibilità. E c'è una nobiltà commovente in questo doppio primato, che la vita stessa di Turing incarna: l'uomo che meccanizzò il calcolo fu anche l'uomo che il calcolo servì a salvare vite, a Bletchley, in silenzio; un uomo la cui grandezza il suo tempo non seppe custodire, e al quale la storia ha chiesto perdono. Le macchine che ha inventato hanno cambiato il mondo. I teoremi che ha dimostrato dicono che il mondo non si esaurisce in esse.
Il lettore tecnico noterà che questo capitolo ha parlato di limiti logici, non di limiti pratici - e che tra i due c'è un'ulteriore fascia di territorio: problemi calcolabili in linea di principio ma intrattabili in pratica, dove i tempi di calcolo esplodono oltre ogni risorsa fisica. È materia della teoria della complessità, e rafforza il quadro: anche dentro l'isola del calcolabile, ciò che è davvero alla portata delle macchine è una regione ancora più piccola. Ma il cuore del capitolo è il confine esterno, perché è lì che la tesi del libro trova il suo fondamento più duro. Quando le pagine che seguono diranno che il sintomo eccede il segnale, che il soggetto eccede il dato, che la colpa eccede il punteggio, il lettore sappia che questa struttura - un dentro formalizzabile, un fuori irriducibile - non è una nostalgia dei filosofi: è la forma stessa che la matematica ha scoperto guardando sé stessa.
E qui sta la conclusione, che è insieme un fatto storico e una vertigine. Il limite della macchina non fu scoperto dai suoi nemici: fu dimostrato dai suoi padri, nel suo stesso linguaggio. Prima che nascesse il primo calcolatore, l'umanità sapeva già - con certezza matematica - che cosa nessun calcolatore avrebbe mai potuto fare. L'isola del calcolabile è numerabile; l'oceano che la circonda non lo è. E su quell'isola, da novant'anni, costruiamo meraviglie - questo libro le attraversa tutte - senza che l'oceano si sia ritirato di un metro. Il resto incalcolabile, prima di abitare il volto dell'uomo, la sua libertà e la sua speranza, abita i teoremi. La fede lo custodisce, la filosofia lo interroga: la matematica, semplicemente, lo ha dimostrato.
Riferimenti richiamati nel testo: Turing A.M. (1936), On Computable Numbers, with an Application to the Entscheidungsproblem, Proceedings of the London Mathematical Society; Church A. (1936), An Unsolvable Problem of Elementary Number Theory, American Journal of Mathematics; Gödel K. (1931), Über formal unentscheidbare Sätze der Principia Mathematica und verwandter Systeme I, Monatshefte für Mathematik und Physik; Rice H.G. (1953), Classes of Recursively Enumerable Sets and Their Decision Problems, Transactions of the American Mathematical Society; Cantor G. (1891), Über eine elementare Frage der Mannigfaltigkeitslehre, Jahresbericht der Deutschen Mathematiker-Vereinigung; Turing A.M. (1950), Computing Machinery and Intelligence, Mind; Weizenbaum J. (1966), ELIZA - A Computer Program for the Study of Natural Language Communication between Man and Machine, Communications of the ACM; Weizenbaum J. (1976), Computer Power and Human Reason; Jones C., Bergen B. (2024), People Cannot Distinguish GPT-4 from a Human in a Turing Test, arXiv; Lucas J.R. (1961), Minds, Machines and Gödel, Philosophy; Penrose R. (1989), The Emperor's New Mind; Regolamento (UE) 2024/1689, art. 14.