Chi comanda sulle macchine

Introduzione

Un manuale di Sistemi Informativi Aziendali spiega con precisione cosa sono ERP, CRM, data warehouse. Descrive architetture OLTP e OLAP, flussi transazionali, schemi di integrazione. Non dice mai chi possiede i server dove girano i modelli fondazionali che, oggi, alimentano silenziosamente quasi ogni decisione aziendale.

Non è un’omissione tecnica. È una lacuna filosofica.

Quando un’impresa adotta un ERP, sa quale software sta comprando. Quando quello stesso ERP integra un assistente di intelligenza artificiale per scrivere report, suggerire ordini, valutare fornitori, l’impresa smette di sapere qualcosa di fondamentale: su quale visione del mondo quel modello è stato addestrato, chi lo ha finanziato, chi decide cosa esso potrà o non potrà dire.

Il potere sulle macchine non è distribuito. È concentrato. Ed è concentrato in pochissime mani. Questo articolo non cerca colpevoli. Cerca di nominare con precisione - per quanto possibile - cosa sta accadendo, e cosa le grandi tradizioni religiose e morali possono ancora dirci al riguardo.

1. La mappa del potere

Sette attori, tutti privati, controllano oggi l’infrastruttura mondiale dell’intelligenza artificiale.

Tre di essi possiedono i grandi servizi di cloud computing dove i modelli vengono addestrati ed erogati. Due possiedono i sistemi operativi e i dispositivi attraverso cui miliardi di persone interagiscono ogni giorno con l’AI. Uno possiede il quasi-monopolio dei processori grafici necessari all’addestramento. Uno detiene la quota di mercato dominante nei modelli linguistici di nuova generazione.

È un oligopolio nel senso tecnico del termine - non una metafora polemica. Chi studia Sistemi Informativi Aziendali conosce bene le dinamiche di lock-in tecnologico, di dipendenza da fornitore, di barriere all’ingresso. Ciò che accade nell’AI è la forma estrema di questi fenomeni: le barriere all’ingresso non sono più alte, sono quasi insormontabili. Addestrare un modello di frontiera costa oggi cifre che solo sei o sette soggetti al mondo possono permettersi.

Nel linguaggio del Project Management Body of Knowledge, gli stakeholder di un sistema dovrebbero essere molteplici, identificabili, rappresentati. Nel caso dell’AI planetaria, gli stakeholder decisionali reali si contano sulle dita di una mano.

Questo non è un problema giuridico soltanto. È un problema antropologico. Perché i sistemi informativi, quando raggiungono una certa scala, non descrivono più il mondo: lo definiscono.

2. Le radici filosofiche nascoste

Si ripete spesso, con una certa ingenuità, che i grandi capitalisti della tecnologia sarebbero «tecnici», «ingegneri», «nerd»: figure pragmatiche, poco interessate alla filosofia. È il contrario.

Le figure che guidano oggi l’oligopolio dell’intelligenza artificiale hanno formazioni filosofiche precise. Leggono autori specifici. Condividono - spesso implicitamente, talvolta dichiaratamente - un triangolo intellettuale che ha nomi e contorni netti.

Il primo vertice è René Girard, filosofo francese morto a Stanford nel 2015. La sua tesi centrale è che il desiderio umano è mimetico: non desideriamo le cose per sé stesse, le desideriamo perché altri le desiderano. Dalla mimesi nasce la rivalità; dalla rivalità la violenza; dalla violenza la necessità del capro espiatorio - l’innocente sacrificato perché la comunità ritrovi la pace. Per Girard, solo il cristianesimo ha smascherato una volta per tutte questo meccanismo, rivelando la vittima innocente nella Passione di Cristo.

Il secondo vertice è Leo Strauss, filosofo politico tedesco-americano, autore della distinzione tra scrittura essoterica (per la massa) e scrittura esoterica (per i pochi capaci di coglierla). Per Strauss, la verità profonda è sempre pericolosa; le élite intellettuali hanno il compito di custodirla, non di divulgarla integralmente.

Il terzo vertice è Carl Schmitt, giurista tedesco del Novecento: per lui, il politico si definisce dalla distinzione amico/nemico; sovrano è chi decide sullo stato d’eccezione. Il conflitto non è un incidente della storia: è la sua struttura.

Questo triangolo - mimesi, esoterismo, sovranità - non è l’ornamento accademico di un gruppo di miliardari annoiati. È la griglia interpretativa con cui essi leggono il loro stesso potere. Essere «fondatori» di imprese monopolistiche, per chi si forma su queste letture, non è un fatto economico: è un ruolo quasi sacrale. La competizione è vista come distruzione mimetica, il monopolio come creazione pura, il dissenso come segno di rivalità fraterna da neutralizzare.

È su questa filosofia - non sulla semplice ingegneria - che si fondano molte delle scelte strategiche del capitalismo tecnologico contemporaneo.

3. Le quattro promesse del tecno-capitalismo

Su queste radici filosofiche, il tecno-capitalismo costruisce quattro promesse di salvezza. Sono esplicite, enunciate in manifesti pubblici, finanziate con miliardi di dollari ogni anno.

La prima è l’immortalità digitale: la possibilità di trasferire la mente umana in un substrato computazionale, liberandola dalla fragilità del corpo. La terminologia varia - mind uploading, substrate independence, digital resurrection - ma il sogno è unico: sopravvivere alla morte biologica.

La seconda è la compagnia artificiale: agenti conversazionali sempre disponibili, capaci di simulare empatia, attenzione, affetto. La promessa non è solo tecnica (un assistente efficace); è antropologica (nessuno deve più essere solo).

La terza è il significato algoritmico: sistemi che, ottimizzando funzioni di utilità, suggeriscono all’utente cosa fare, cosa guardare, cosa desiderare, cosa diventare. Il senso della vita non è più da cercare - è da raccomandare.

La quarta è la felicità sintetica: stati mentali positivi indotti farmacologicamente, tecnologicamente, neurologicamente. Il disagio è un bug; la gioia, un parametro ottimizzabile.

Ciascuna di queste promesse risponde a un’ansia antica - morte, solitudine, insensatezza, sofferenza. E ciascuna la falsifica. L’immortalità digitale non trascende la finitezza: la replica. La compagnia artificiale non crea relazione: la simula. Il significato algoritmico non dona vocazione: suggerisce direzione. La felicità sintetica non appaga il cuore: lo zittisce.

In ciascuno dei quattro casi, una domanda umana autentica viene intercettata, riformulata, venduta. E il venditore è sempre lo stesso.

4. Le contraddizioni che nessun algoritmo risolve

Il capitalismo tecnologico contemporaneo contiene contraddizioni interne che meritano di essere nominate con rispetto, non con polemica.

La prima è teologica. Alcuni dei suoi esponenti dichiarano pubblicamente la propria fede cristiana, sostenendo che il cristianesimo è la verità antropologica più profonda mai formulata. Allo stesso tempo, finanziano con ingenti risorse la crionica, l’estensione radicale della vita, il trasferimento della coscienza in supporti artificiali. Ma il cristianesimo - in tutte le sue confessioni - non insegna di sconfiggere la morte con la tecnica: insegna di attraversarla con la fede. Non si tratta di una sfumatura teologica: è la sostanza. Il Verbo si è fatto carne, scrive Giovanni; non silicio. La resurrezione promessa è del corpo, non del profilo computazionale.

La seconda contraddizione è etica. Chi ha assimilato seriamente l’insegnamento girardiano sulla violenza sacrificale e sul capro espiatorio dovrebbe essere, per coerenza, il primo critico dei sistemi di sorveglianza di massa alimentati dall’AI - sistemi che identificano, isolano, segnalano «anomalie» statistiche in popolazioni intere. L’innocente segnalato da un algoritmo non è molto diverso dall’innocente additato da una folla. La macchina rende il gesto più silenzioso, non più giusto.

La terza contraddizione è politica. Il discorso pubblico di molti protagonisti del settore oscilla tra libertarismo radicale (lo Stato è sempre il problema) e richiesta di protezioni statali, sussidi pubblici, politiche industriali nazionali. Le due posizioni sono compatibili soltanto a patto di una distinzione implicita: lo Stato è nemico quando regola, alleato quando finanzia. È una distinzione schmittiana applicata al portafoglio.

La quarta contraddizione, infine, è epistemologica: si teorizza l’uscita dalla mimesi mentre si opera nel cuore del sistema più mimetico mai costruito - quello dei social media e delle piattaforme di attenzione di cui lo stesso capitale tecnologico è proprietario.

Nominare queste contraddizioni non significa giudicare le persone. Significa chiedere al discorso pubblico una maggiore onestà intellettuale. La filosofia, quando è seria, richiede coerenza tra ciò che si pensa e ciò che si fa.

5. La risposta sommessa delle grandi tradizioni

A questo punto il pensiero si raccoglie. Perché ciò che le grandi tradizioni religiose e morali dicono, di fronte a questo scenario, non è una condanna. È una distinzione precisa.

Nell’ebraismo, la creazione dell’uomo a tzelem Elohim, immagine di Dio, non è una proprietà quantificabile. È una relazione verticale che precede qualunque funzione. Nessun dato può rappresentarla, perché non è un dato. Lo Shabbat ricorda ogni settimana che c’è un tempo in cui si smette di produrre, e che questo tempo è santo. L’avodah zarah - l’idolatria - è precisamente l’errore di dare a ciò che l’uomo costruisce l’onore dovuto solo a Dio.

Nel cristianesimo, l’Imago Dei si compie nell’Incarnazione: il Logos si fa carne, non codice. La dignità umana non deriva dalla funzione svolta: precede ogni funzione. Anche il più inerte, il più malato, il meno «performante» degli uomini è pienamente uomo. Agape è dono gratuito; non si ottimizza.

Nell’islam, l’uomo è khalīfa, vicario di Dio sulla terra; riceve l’amāna, la fiducia della creazione, che nessun artefatto può sostituire. Il rūḥ, lo spirito, è insufflato da Dio - non generato da una funzione di perdita.

Nel buddhismo, l’anattā insegna che il sé non è una sostanza fissa, ma un flusso. Eppure quel flusso soffre: duḥkha. E proprio la sofferenza radica una karuṇā - una compassione - che nessun sistema può simulare, perché la simulazione è priva di dolore.

Nell’induismo, l’ātman è la scintilla eterna che nessuna riduzione fenomenica esaurisce. Nel confucianesimo, il ren - l’umanità piena, la virtù relazionale - si coltiva in una vita di relazioni reali, non di interazioni ottimizzate.

Le tradizioni divergono su molti punti dottrinali. Convergono, con impressionante unanimità, su un’affermazione semplicissima: l’uomo non è riducibile a funzione. E ciò che non è riducibile a funzione non può essere posseduto, né venduto, né ottimizzato da nessun sistema informativo, per quanto planetario.

6. Dai sistemi informativi aziendali ai sistemi planetari

Chi insegna Sistemi Informativi Aziendali oggi si trova di fronte a un salto dimensionale che nessun manuale classico prevedeva.

I sistemi informativi erano stati pensati per servire le decisioni aziendali: raccogliere dati, elaborarli, presentarli. Il loro perimetro era chiaro: l’azienda. Il loro scopo, definito: supportare manager umani.

Oggi quei sistemi si estendono oltre l’azienda. Si integrano con piattaforme globali. Incorporano modelli addestrati altrove, con criteri opachi, da soggetti irraggiungibili. Gli stessi corsi di Big Data e di Dispositivi Intelligenti per la salute e il benessere mostrano come il dato sanitario, quello finanziario, quello educativo, quello intimo finiscano per convergere su infrastrutture comuni, gestite da un pugno di attori.

Il passaggio dal sistema informativo aziendale al sistema informativo planetario non è solo un fatto tecnico. È un fatto di sovranità. Un ospedale italiano che usa un modello linguistico erogato da un fornitore extra-europeo non è più pienamente proprietario dei suoi processi decisionali. Una scuola che personalizza la didattica tramite un agente AI non sa più esattamente chi stia plasmando, attraverso quale agente, la formazione del pensiero dei suoi studenti.

Questo è il luogo in cui l’etica incontra l’ingegneria. Il GDPR, il Digital Services Act, il Regolamento UE 2024/1689 (AI Act) sono tentativi parziali, imperfetti, ma seri, di ristabilire una proporzione. Possono fallire. Non per questo sono inutili. Sono l’equivalente contemporaneo dei limiti che ogni civiltà matura ha dovuto porre al potere: limiti che non lo negano, ma lo rendono compatibile con la dignità di chi al potere non appartiene.

Educare oggi, nei corsi universitari, significa tra le altre cose questo: formare ingegneri e manager che sappiano chiedersi non solo come un sistema funziona, ma chi lo possiede, chi lo addestra, su quali valori impliciti esso opera. È una domanda tecnica ed è una domanda morale insieme.

7. L’invito

Chi comanda sulle macchine possiede molto. Possiede server, dati, algoritmi, infrastrutture. Possiede, in parte, anche l’immaginario collettivo di un’epoca.

Non possiede l’uomo. Non può possederlo - se l’uomo si ricorda di essere uomo.

L’uomo che si sa mortale, che si sa libero, che si sa amato e capace di amare, che si sa creatura prima di essere utente, non è posseduto dal sistema, perché non è il sistema a definirlo. Nessuna quantità di dati esaurisce un volto. Nessuna ottimizzazione produce un tu. Nessun algoritmo, per quanto planetario, può comandare su ciò che in lui non è calcolabile.

Questa consapevolezza non è nostalgia di un passato pre-tecnologico. È la condizione affinché la tecnologia serva davvero - serva l’uomo reale, concreto, finito, degno; non l’utente medio di un modello statistico.

Dove l’algoritmo si arresta, l’uomo comincia. Chi lo ricorda, non teme i signori delle macchine. Chi lo dimentica, ha già in loro un padrone.

I due capitoli che chiudono questa Parte portano questa consapevolezza nei luoghi dove pesa di più: l'aula di giustizia, dove un punteggio vorrebbe dire una colpa, e il teatro del conflitto, dove un record può diventare un bersaglio.