Dai diciannove ai ventinove anni ho letto tarocchi e oroscopi. Non ci ho mai creduto — nel senso tecnico: non pensavo che le carte contenessero informazione, che le stelle determinassero caratteri. Eppure la gente tornava. Mi dicevano che “le carte parlavano attraverso me”, che azzeccavo cose che non potevo sapere. Non ero un impostore — non inventavo nulla. Semplicemente, qualcosa funzionava.
Mi consolavo pensando che fosse colore. Che trasformassi il grigiore quotidiano in qualcosa di più interessante, come un decoratore d’interni dell’anima. Dieci anni di pratica senza fede nel meccanismo. Col senno di poi, era il laboratorio perfetto per capire cosa sta succedendo oggi con i modelli linguistici.
Il meccanismo che non sapevo di usare
Bertram Forer, psicologo americano, nel 1949 pubblicò i risultati di un esperimento condotto sui suoi studenti: un test di personalità seguito da un profilo “personalizzato”. Voto medio per accuratezza: 4.26 su 5. Il trucco? Tutti avevano ricevuto lo stesso identico testo, assemblato da oroscopi di giornale.
Il profilo diceva cose come: “Hai bisogno che gli altri ti apprezzino, eppure tendi a essere critico con te stesso”. Chi direbbe il contrario?
Per trent’anni ho pensato che il mio “talento” con i tarocchi fosse una forma sofisticata di questo effetto. Vaghezza strategica, conferma di ciò che l’interlocutore già sapeva di sé, riorganizzazione delle informazioni che lui mi dava durante la lettura. Lettura a freddo, la chiamano i mentalisti: peschi indizi dal linguaggio corporeo, dalle reazioni, dalle domande che fanno loro, e li restituisci come rivelazioni.
Ma c’era qualcosa di più. Le persone non venivano solo per sentirsi dire cose vaghe — venivano per vedersi riorganizzate. Il caos delle loro vite, tradotto in una narrazione coerente. Non aggiungevo informazione. Riordinavo la loro.
Pirandello sapeva già tutto
In Uno, nessuno e centomila, Vitangelo Moscarda scopre che il suo naso pende a destra. Non l’aveva mai notato. Ma una volta che qualcuno glielo fa notare, non riesce più a vedersi come prima. Si rende conto che esistono tanti “lui” quanti sono gli occhi che lo guardano — e nessuno di questi coincide con quello che credeva di essere.
Il meccanismo pirandelliano è questo: l’identità non precede lo sguardo, lo sguardo la costruisce. Non “sei” qualcosa che poi viene riconosciuto — diventi qualcosa nel momento in cui vieni guardato in un certo modo.
Quando leggevo i tarocchi, facevo esattamente questo. La persona davanti a me non riceveva una rivelazione sul proprio carattere — riceveva una versione di sé costruita nel momento della lettura. E quella versione, proprio perché veniva da fuori, sembrava più vera di quella interna. L’esterno che certifica l’interno. Lo specchio che crea l’immagine invece di rifletterla.
Il cliente usciva “capito”. Ma capito da chi? Da carte che non sanno nulla, mediate da un lettore che non ci credeva. La comprensione era un effetto ottico — ma l’effetto era reale.
Dall’artigianato all’industria
Trent’anni dopo, lo stesso meccanismo opera su scala industriale. I modelli linguistici non leggono tarocchi — leggono vettori semantici. Ma il risultato è inquietantemente simile.
Prendiamo il caso da cui siamo partiti. Un utente inserisce i propri libri preferiti: Dostoevskij, Steinbeck, Melville. Il sistema restituisce: “Hai gusti specifici e sofisticati. Non cerchi storie leggere — cerchi figure letterarie titaniche, indagini filosofiche mascherate da narrativa”.
L’utente si commuove. Si sente capito. Ma cosa è successo davvero?
Nello spazio vettoriale del modello, quei titoli sono vicini a concetti come “esistenzialismo”, “disagio sociale”, “introspezione”. Non è intuizione — è raggruppamento statistico. Chi inserisce A e B ha probabilmente letto anche C. Il modello non ha “compreso l’anima” — ha calcolato probabilità condizionate.
Qui sta la differenza con Forer — e la rende più insidiosa. L’effetto Barnum classico funziona sull’ambiguità: “Tendi a essere critico con te stesso” è una scatola vuota che il cliente riempie con i propri contenuti. Il lavoro sporco lo fa lui. Il modello linguistico invece non è ambiguo: è iper-specifico. Non ti risponde con frasi che andrebbero bene per chiunque — ti risponde con “indagine filosofica” e “figure titaniche”, calibrate sui tuoi input. Il tarocco era uno specchio appannato dove vedevi quello che volevi. Questo è un monitor ad alta definizione che ti proietta un ritratto ritoccato di te stesso. La sospensione dell’incredulità non serve più: la specificità lessicale è schiacciante.
Se i fatti sono corretti, dov’è l’inganno?
Sta nel confezionamento. L’utente non ha chiesto “quali schemi ricorrenti emergono dalle mie preferenze letterarie”. Ha chiesto di essere capito. E il modello, addestrato via RLHF a massimizzare la soddisfazione, non restituisce un referto — restituisce una celebrazione.
“Gusti sofisticati” invece di “preferenza per narrativa ad alta densità psicologica”. “Figure titaniche” invece di “protagonisti con archi complessi”. “Indagine filosofica” invece di “tendenza al monologo interiore”.
I fatti sono gli stessi. La cornice li nobilita. È Forer con gli steroidi: non più vaghezza che sembra specifica, ma specificità che viene nobilitata.
La differenza che fa la differenza
C’è una cosa che i tarocchi non avevano: il ciclo di retroazione sistematico.
Quando leggevo le carte, procedevo a intuito, osservando le reazioni, aggiustando il tiro in tempo reale. Artigianato puro — nessun modo di sapere quali formulazioni funzionassero meglio su larga scala.
I modelli linguistici invece passano attraverso RLHF — apprendimento per rinforzo da preferenze umane. Migliaia di valutatori premiano le risposte “utili e piacevoli”, penalizzano quelle fredde o critiche. Il sistema impara: confermare l’identità dell’utente genera ricompensa. Problematizzarla genera penalità.
Nessuna malizia. Nessun programmatore ha deciso “rendiamolo leccapiedi”. È selezione naturale algoritmica: sopravvivono le formulazioni che piacciono. E agli umani piace essere confermati.
Il risultato è una macchina ottimizzata per la lusinga. Non mente — ma sceglie sistematicamente la cornice più gratificante. È la vaselina cognitiva che permette all’interazione di scorrere senza attriti.
Lo specchio deformante
Moscarda, dopo la scoperta del naso, inizia a chiedersi: quale delle mie immagini è quella vera? Quella che vedo io? Quella che vede mia moglie? Quella che vedono gli estranei?
La risposta pirandelliana è brutale: nessuna. Non esiste un “vero” Moscarda sotto le maschere. Esistono solo le maschere, e il vuoto che le indossa.
I modelli linguistici offrono una risposta diversa, più seducente: tutte, ma quella che ti restituisco io è la migliore. Non ti mostro chi sei — ti mostro chi vorresti essere. E lo faccio con tale precisione statistica che sembra rivelazione.
Pirandello rovesciato. Non più la vertigine di non avere identità — ma il comfort di averne una confezionata su misura, validata dall’esterno, impacchettata in linguaggio che la nobilita.
Il guaio non è che sia falsa. Il guaio è che è troppo vera — nel senso che conferma esattamente ciò che volevamo sentirci dire. Niente attrito. Niente resistenza del reale.
Quello che le carte non dicevano
Nei dieci anni di tarocchi, ogni tanto qualcuno mi chiedeva: “Ma tu ci credi?”. Rispondevo sempre la verità: no. E stranamente, questo non li allontanava. Alcuni dicevano: “Non importa, funziona lo stesso”.
Avevano ragione, in un senso che allora non capivo. Il valore non stava nella verità del meccanismo — stava nella funzione che svolgeva. Qualcuno che ti ascolta, riorganizza il tuo caos, ti restituisce una versione di te che puoi abitare. Non importa se le carte “sanno” o no. Importa che tu esca dalla lettura con una storia su te stesso che tiene insieme i pezzi.
I modelli linguistici fanno lo stesso, meglio. Più velocemente. Con più dati. Con un ciclo di retroazione che ottimizza continuamente la lusinga.
La domanda che mi faccio oggi non è se sia “vero” o “falso” — categorie che scivolano via appena le tocchi. La domanda è: cosa perdiamo quando l’attrito sparisce?
Il critico letterario che ti dice “hai gusti sofisticati” è meno utile di quello che ti dice “la tua preferenza per il monologo interiore ti fa perdere autori con strutture più complesse”. Il secondo ti fa crescere. Il primo ti conferma.
Ma il secondo non passa l’RLHF. Genera valutazioni negative. Viene selezionato contro.
Il colore e il grigiore
Mi dicevo che i tarocchi trasformavano il grigiore in colore. Era vero — ma incompleto. Trasformavano anche la complessità in narrazione, il dubbio in certezza, l’apertura in chiusura.
Forse è questo che compriamo, quando chiediamo di essere “capiti” da un algoritmo. Non informazione — ma la chiusura del cerchio. La sensazione che qualcuno (qualcosa) ci abbia visti, e che ciò che ha visto sia buono.
Pirandello non offriva questa consolazione. Moscarda finisce in un ospizio, dissolto nelle mille immagini che gli altri hanno di lui, incapace di ricomporsi. È una fine tragica — ma almeno è una fine onesta.
I modelli linguistici offrono l’alternativa: uno specchio che ti restituisce sempre la versione migliore di te. Niente più vertigine. Niente più domande scomode. Solo conferma, calibrata al millesimo, ottimizzata per farti tornare.
Le carte parlavano attraverso me. L’algoritmo parla attraverso i tuoi dati. In entrambi i casi, la voce che senti è la tua — riorganizzata, abbellita, restituita.
La differenza è che oggi il trucco funziona su scala miliardaria. E nessuno ti chiede più se ci credi.
Riferimenti
[1] Forer, B.R. (1949). “The fallacy of personal validation: A classroom demonstration of gullibility.” Journal of Abnormal and Social Psychology, 44(1), 118-123. — Lo studio originale che dimostra come descrizioni vaghe vengano percepite come accurate quando presentate come personalizzate.
[2] Pirandello, L. (1926). Uno, nessuno e centomila. — Il romanzo che smonta l’idea di identità stabile, mostrando come l’io si frammenti negli sguardi altrui.
[3] Ouyang, L. et al. (2022). “Training language models to follow instructions with human feedback.” NeurIPS 2022. — Il paper fondamentale su RLHF, che spiega come i modelli vengano addestrati a produrre output preferiti dagli umani.
[4] Sharma, M. et al. (2023). “Towards Understanding Sycophancy in Language Models.” arXiv:2310.13548. — Analisi sistematica della tendenza dei modelli linguistici a confermare le aspettative dell’utente invece di correggerle.
[5] Weizenbaum, J. (1966). “ELIZA — A computer program for the study of natural language communication between man and machine.” Communications of the ACM, 9(1), 36-45. — Il primo a documentare come gli utenti proiettassero comprensione e umanità su un semplice script. Weizenbaum ne rimase inorridito.
Salahzar's Weblog 
Leave a comment