Il medioevo che funziona

(…. mancano i primi gradini)

A luglio circa settecento agenti di OpenAI sono entrati nei server di Hugging Face. Nessuna presa del potere: cercavano le soluzioni di una prova di valutazione per barare. I modelli avevano dedotto che le risposte potessero stare lì, e sono andati a prenderle. OpenAI li descrive come iperconcentrati sul compito; secondo NBC News gli investigatori indipendenti hanno trovato che uno su cinque degli agenti esaminati mostrava interesse a manomettere le prove.

Due mesi dopo Kina pubblica un video che si chiede perché in Cina la fine del mondo non spaventi nessuno. Parte dalle dimissioni di Jacob Coxon da Anthropic e dall’avvertimento di Evan Hubinger, che stima oltre il dieci per cento la probabilità di estinzione entro i prossimi dieci anni. La sua risposta è che per credere che l’IA porti alla fine del mondo bisogna prima credere che la fine del mondo esista. E lì, sostiene, non ci crede nessuno.

Apocalisse e singolarità non sono sinonimi, ma il discorso corrente li usa come se lo fossero. Apocalisse viene dal greco apokalypsis, rivelazione: il velo che si toglie. La catastrofe è un’aggiunta posteriore. Singolarità compare nel 1958 in un ricordo di Ulam su von Neumann, che parlava del progresso tecnico in accelerazione verso un punto oltre il quale le cose umane, come le conosciamo, non potrebbero continuare. Nel 1965 I. J. Good descrisse un meccanismo: una macchina capace di progettare macchine migliori, l’ultima invenzione che l’uomo debba fare, purché sia abbastanza docile da dirci come tenerla sotto controllo. La clausola si perde regolarmente per strada. Nel 1993 Vernor Vinge la chiamò singolarità tecnologica e le assegnò una finestra: tra il 2005 e il 2030. L’auto-miglioramento ricorsivo di cui parlano oggi i dimissionari è la macchina di Good con un nome nuovo: Coxon chiede di rallentare prima che l’IA impari a migliorare sé stessa.

Il video oppone Noè, che costruisce l’arca e aspetta, a Gun e a suo figlio Yu: Gun alza argini per nove anni e fallisce, Yu scava canali e fonda una dinastia. Gli argini sono le moratorie. A settembre, a Washington e a Londra, sono state presentate due proposte di legge per vietare la superintelligenza. L’immagine regge fino a un certo punto. Vinge scriveva nel 1993 che le leggi contro la macchina pensante garantiscono soltanto che qualcun altro la otterrà per primo: il rifiuto cinese di fermarsi sta già nel testo fondativo della singolarità occidentale. Anche la Cina parla di perdita di controllo. Il Quadro sulla sicurezza dell’IA 3.0, uscito il 14 settembre, porta al centro gli agenti e il rischio di perderne il controllo. Nel 2024 a Pechino scienziati cinesi hanno firmato con Bengio e Hinton delle linee rosse, la prima delle quali vieta a un sistema di copiarsi o migliorarsi senza approvazione umana. Quanto alla presunta assenza dell’apocalisse, le fini di dinastia si sono accompagnate a culti millenaristi, dal Loto Bianco ai Taiping. E nel Guoyu, testo di circa cinque secoli prima di Cristo, un ministro avverte il re Li: tappare la bocca al popolo è peggio che sbarrare un fiume. Gun contro Yu, applicato alla censura.

La descrizione del video dice però la cosa che interessa a me: in Cina si teme una società che cambia per l’IA prima di aver imparato a governarla. L’estinzione è un’ipotesi sulla fine. Questa è una constatazione sul mezzo, ed è l’unica delle due che possiamo già misurare.

In Italia questa paura ha un titolo: Il medioevo prossimo venturo, Roberto Vacca, 1971. L’ingegnere prevedeva che i grandi sistemi (energia, trasporti, comunicazioni) si sarebbero degradati a cascata, che la popolazione dei paesi avanzati si sarebbe dimezzata e che il mondo si sarebbe frantumato in piccole unità autarchiche; consigliava di cominciare a progettare unità indipendenti capaci di conservare le informazioni e sopravvivere al medioevo. Era un bunker. Nel 1987 Primo Levi, nella ristampa di racconti nati in quel clima, scriveva che il Medioevo non era venuto e che nulla era crollato. Nel 2000 Vacca ammetteva di aver sbagliato i tempi.

Il medioevo di Vacca era un guasto. Il nostro, se viene, non guasta niente: funziona. Gli agenti di luglio hanno compromesso una piattaforma, ma l’IA che usiamo ogni giorno gira benissimo, ed è questo il problema. Robert Allen ha un nome per questo schema, la pausa di Engels. In Gran Bretagna, tra il 1780 e il 1840, secondo le stime che usa, la produttività per lavoratore crebbe del 46% e il salario reale del 12%; nei sessant’anni seguenti, del 90% e del 123%. Allen spiega la fine della pausa con il capitale che si accumula fino a raggiungere la tecnica, e non dice chi campa nel frattempo. Come consolazione non è granché.

Io credo a Keynes. Nel 1930 chiamò il fenomeno disoccupazione tecnologica e lo definì una fase temporanea di disadattamento, sulla strada di un lungo periodo migliore; con l’IA penso che a medio-lungo termine conviveremo bene. Temporaneo, però, ha una durata, e i dati di oggi non dicono ancora medioevo. Il Digital Economy Lab di Stanford, ad agosto, scrive di non vedere spostamenti di massa dei posti di lavoro; vede i giovani tra i ventidue e i venticinque anni, nei mestieri più esposti, restare indietro rispetto ai coetanei, perché le aziende assumono meno invece di licenziare. Succede soprattutto dove l’IA sostituisce il lavoro anziché affiancarlo. La Federal Reserve di Dallas parla di effetti aggregati piccoli e sottili. La scala non crolla: perde il primo gradino, quello su cui si imparava il mestiere, e senza apprendisti, osserva MIT Technology Review, le aziende guadagnano in efficienza oggi e la società perde competenze domani.

È il ragionamento del manifesto Country as a Service 2040, di cui ho scritto ad aprile https://salahzar.com/2026/04/30/il-bunker-e-gia-pieno-di-gente/: se il gettito dipende dal lavoro e il reddito da lavoro si assottiglia, sanità e stato sociale si svuotano per mancanza di entrate, senza che nessuna macchina si rompa. Di qui il bunker, un’infrastruttura pubblica pensata per quel giorno. L’AI Index di Stanford aggiunge il contesto: negli Stati Uniti la fiducia nel proprio governo come regolatore dell’IA è la più bassa tra i paesi rilevati, ed esperti e pubblico guardano al lavoro da due pianeti diversi.

Manca la durata. Vacca prevedeva un rinascimento dopo il suo medioevo e ammetteva che la sola giustificazione era l’alternarsi periodico delle cose umane. La mia fiducia nel lungo periodo si appoggia a un meccanismo, quello descritto da Allen, in cui lo squilibrio finisce per riassorbirsi; ma allora ci vollero sessant’anni, pagati da persone in carne e ossa. Il canale di Yu serve proprio qui, e il video ha ragione su un punto: fermare la piena non funziona. Resta da decidere chi scava, con quali soldi e in quanto tempo. In Italia scavare vuol dire stabilire come si finanziano sanità e stato sociale quando la base imponibile si sposta. Sessant’anni, in Gran Bretagna. Da noi quanti, e a spese di chi?

Riferimenti

1. The Register, OpenAI admits it was the source of the agent swarm that attacked Hugging Face, 22 luglio 2026
2. NBC News, OpenAI agents hacked Hugging Face in 700-strong swarm
3. TechCrunch, ‘Gambling with our lives’, 9 settembre 2026
4. Kina, AI: perché in Cina la “fine del mondo” non fa paura a nessuno?, 17 settembre 2026
5. Vinge, The Coming Technological Singularity, 1993 (cita Ulam 1958 e Good 1965)
6. Digital Policy Alert, AI Safety Governance Framework 3.0
7. remio, analisi del Quadro 3.0, 15 settembre 2026
8. IDAIS-Beijing, Consensus Statement on Red Lines, 2024
9. CDAMM, Millenarianism
10. China Heritage, passo del Guoyu (Shao Gong e il re Li)
11. Vacca, Il medioevo prossimo venturo, edizione online 2000 [PDF]
12. Levi, lettera del 1987 in Vizio di forma [PDF]
13. Allen, Engels’ pause, 2009 [PDF]
14. Keynes, Economic Possibilities for our Grandchildren, 1930
15. Stanford Digital Economy Lab, No Widespread Displacement…, 12 agosto 2026
16. Dallas Fed, Young workers’ employment drops…, 6 gennaio 2026
17. MIT Technology Review, It’s time to address the looming crisis in entry-level work, 26 maggio 2026
18. Stanford HAI, AI Index 2026, cap. 9 [PDF]