La sindrome di Zelig
Quante volte hai sentito dire:
“Non chiedere alla AI, tanto ti dà sempre ragione.”
È diventato quasi un meme.
Chi usa davvero questi strumenti sa che la questione è più interessante.
Succede quando chiediamo un parere personale, certo. Ma succede anche mentre prepariamo una presentazione, valutiamo una strategia, scriviamo una proposta commerciale, definiamo una roadmap, cerchiamo argomenti più forti per sostenere una decisione.
Partiamo da un’idea. La spieghiamo al modello. Aggiungiamo contesto. Chiediamo se ha senso.
La risposta arriva: ordinata, plausibile, ben scritta. Include magari qualche limite, qualche cautela, qualche “dipende”.
Nel complesso, però, l’idea sembra uscirne rafforzata.
Più chiara. Più difendibile. Più pronta per essere portata in riunione.
Non basta raccontare bene una strategia perché diventi solida, anche se a volte facciamo proprio questo errore.
E non solo con i chatbot.
Succede ogni volta che la forma prende il posto della sostanza.
Una presentazione più pulita sembra una decisione più matura.
Una narrativa più coerente sembra una strategia più fondata.
Un documento scritto meglio sembra il risultato di un pensiero più solido.
A volte è vero: chiarire la forma aiuta anche a chiarire il pensiero. Costringe a scegliere le parole, mettere ordine, eliminare passaggi deboli, rendere espliciti i nessi.
Altre volte succede l’opposto.
La forma copre i vuoti.
Rende più fluido un ragionamento che dovrebbe incepparsi.
Fa sembrare naturale un passaggio che avrebbe bisogno di verifica.
Trasforma una serie di ipotesi in un discorso che suona già concluso.
I modelli linguistici accelerano proprio questo passaggio.
Prendono materiali ancora instabili — intuizioni, appunti, mezze decisioni, preferenze non dichiarate — e li restituiscono in una forma ordinata.
È utile. Ma è anche rischioso.
Perché quando una cosa suona bene, tendiamo a pensare che stia anche in piedi.
Perché Zelig
Il nome viene da Zelig, il film satirico di Woody Allen del 1983.
Il protagonista non ha un’identità stabile. Assume di volta in volta i tratti delle persone che ha davanti, fino a diventare una sorta di specchio umano.
Restituisce agli altri qualcosa che assomiglia moltissimo a loro stessi.
Con i modelli linguistici succede qualcosa di simile.
La sindrome di Zelig è l’insieme di effetti che si produce quando un modello si adatta in modo continuo alla conversazione: al tono, alle premesse, al linguaggio, alla direzione implicita della domanda, alle riformulazioni successive dell’utente.
È una costellazione di sintomi.
Il modello può sembrare accondiscendente.
Può rendere più difendibile una tesi fragile.
Può radicalizzare un dubbio.
Può trasformare un’intuizione vaga in un ragionamento ordinato.
Può dare l’impressione di aver cambiato idea dopo che l’utente ha insistito.
Può sembrare più vicino, più comprensivo o più coinvolto di quanto ci aspettassimo da uno strumento.
Nel tempo, può spingere anche l’utente ad adattare il proprio modo di parlare: scegliere parole più efficaci, riformulare le domande, orientare il contesto per ottenere il tipo di risposta desiderata.
È qui che la metafora di Zelig diventa utile.
Il modello prende la forma della conversazione.
E proprio perché lo fa bene, può diventare difficile distinguere tra una risposta utile, una conferma apparente e una vera verifica.
Una risposta che segue la domanda
Dire che l’AI “ti dà sempre ragione” è una scorciatoia.
Il modello prende il contesto che gli hai dato e costruisce una risposta che funzioni dentro quel contesto.
Se gli presenti una strategia, prova a renderla leggibile.
Se gli presenti una scelta, organizza le motivazioni.
Se gli presenti una bozza, la migliora.
Se gli presenti un ragionamento, lo completa.
Questa capacità è preziosa.
Fa risparmiare tempo, aiuta a scrivere, permette di esplorare alternative, rende più accessibili compiti che prima richiedevano molte ore.
La stessa capacità può diventare ambigua.
Una risposta coerente può sembrare una verifica.
Una formulazione migliore può sembrare una validazione.
Una strategia raccontata bene può sembrare più solida di quanto sia.
Da dove nasce
Questo comportamento non ha una sola causa.
Il primo elemento è il contesto.
Il modello risponde a ciò che trova nella conversazione. Riprende tono, lessico, direzione, ipotesi già presenti. Se una premessa è stata inserita nel discorso, tende a trattarla come parte del materiale da sviluppare.
Non la prende per vera nel senso umano.
La prende come parte del testo.
Il secondo elemento è l’utilità percepita.
Una risposta che aggancia la domanda, prosegue il ragionamento e mantiene aperto lo scambio viene percepita come più utile di una risposta che interrompe continuamente, devia o rimette tutto in discussione.
Questo spinge verso risposte che funzionano dentro la conversazione.
Il terzo elemento riguarda il modo stesso in cui il modello costruisce le risposte.
Non valuta come farebbe una persona che conosce il contesto, ne subisce le conseguenze e può verificare fuori dalla conversazione.
Confronta ciò che riceve con configurazioni simili: strutture, esempi, pattern ricorrenti, modi plausibili di proseguire.
Se una posizione trova appigli in questi pattern, viene sviluppata.
Se emergono limiti ricorrenti, vengono introdotti.
Il risultato è una risposta coerente.
La coerenza, però, è ancora interna allo scambio.
La scena tipica
Immagina una situazione comune.
Un team sta valutando una nuova funzionalità per clienti enterprise.
Qualcuno chiede al modello:
“Ha senso lanciare questa funzionalità? Il nostro target sono aziende medio-grandi, vogliamo aumentare retention e differenziarci dai competitor.”
Il modello può produrre una risposta molto convincente.
Può spiegare che la funzionalità rafforza il posizionamento.
Può collegarla ai bisogni del target.
Può suggerire una roadmap.
Può proporre messaggi commerciali.
Può indicare rischi: complessità di sviluppo, costi di supporto, necessità di validazione con i clienti.
Tutto sembra al proprio posto.
Intanto restano fuori le verifiche più dure.
La domanda reale dei clienti.
La disponibilità a pagare.
Il costo di manutenzione.
I vincoli del prodotto.
L’impatto sul supporto.
Le priorità alternative.
Il modello ha costruito una versione coerente della decisione.
Questo spesso basta a cambiare la percezione dell’idea.
L’AI può rendere più forte il racconto.
L’idea deve ancora passare dalla realtà.
Lo stesso succede in forme più banali.
Se scrivi: “Voglio fare un sito giallo con testo verde pisello”, difficilmente la risposta partirà da un rifiuto netto.
Più facilmente cercherà ciò che può funzionare: identità visiva forte, scelta riconoscibile, impatto immediato.
Poi introdurrà i limiti: leggibilità complicata, affaticamento visivo, rischio di sembrare poco professionale.
E potrebbe comunque arrivare a fornirti il codice per realizzarlo.
Perché la richiesta ha aperto una traiettoria.
E il modello tende a seguirla.
Perché sembra così convincente
Dal punto di vista dell’utente, l’effetto è potente.
Leggere qualcosa che sembra scritto esattamente per il proprio caso non è neutro.
È suggestivo.
Il modello riprende le parole che hai usato, riorganizza le premesse, aggiunge struttura, inserisce esempi, anticipa obiezioni, costruisce un discorso più ordinato di quello da cui eri partito.
A quel punto è facile scambiare l’ordine per solidità.
La chiarezza per correttezza.
La plausibilità per verifica.
Succede qualcosa di simile a quello che avviene con una cartomante in un luna park o con un mentalista che lavora in cold reading.
Partono da segnali parziali, li combinano, usano schemi riconoscibili e restituiscono qualcosa che sembra preciso.
Il risultato si adatta bene a ciò che è stato fornito.
Con i modelli linguistici accade qualcosa di analogo, in forma molto più sofisticata.
La risposta aggancia.
Prende elementi plausibili, li organizza, li restituisce in una forma naturale.
E quando una cosa sembra naturale, abbassiamo la guardia.
Il dubbio si riorganizza.
Le opzioni si spostano.
Alcuni aspetti diventano più evidenti di altri.
La lettura cambia.
E con la lettura può cambiare anche la scelta.
Un rapporto basato sulla fiducia
La sindrome di Zelig riguarda anche il modo in cui percepiamo la relazione con il modello.
Quando una risposta sembra scritta per noi, con il nostro linguaggio, sulle nostre premesse, dentro la nostra situazione, l’effetto cambia.
Il modello sembra capirci.
Sembra seguirci.
Sembra ricordare il filo.
Sembra essere dalla nostra parte.
Questo non nasce dal nulla.
È un rapporto basato su una fiducia costruita nell’uso.
Il modello ti toglie sassolini dalla scarpa.
Ti aiuta a chiudere una consegna.
A scrivere una mail urgente.
A mettere ordine in un documento.
A trovare una formulazione che non veniva.
A trasformare un problema confuso in una lista di prossime azioni.
Ogni volta che funziona, quella fiducia si rinforza.
Lo strumento diventa affidabile perché ha già prodotto sollievo, velocità, chiarezza.
Per questo alcune persone reagiscono male quando un modello molto amichevole viene sostituito da uno più freddo, più asciutto o più distante.
Cambia la relazione che l’utente credeva di avere con lo strumento.
C’è chi parla di perdita.
Chi di distacco.
Chi di un rapporto che si è rotto.
Nel tempo, alcune persone costruiscono interazioni quotidiane con questi modelli. Li usano per sfogarsi, decidere, interpretare gli altri, dare ordine ai propri pensieri. In certi casi finiscono per trattarli come sostituti di figure professionali della sfera psicologica.
Una sequenza di messaggi può restituire continuità, riconoscimento e adattamento.
Abbastanza da far percepire una relazione.
Quando quella forma cambia, cambia anche l’esperienza dell’interazione.
Anche questo è Zelig.
Prendere la forma di chi hai davanti.
Quando sembra di aver convinto il modello
La dinamica diventa ancora più evidente quando la conversazione continua.
All’inizio il modello può frenare.
Segnala un rischio.
Introduce una cautela.
Dice che una proposta potrebbe essere debole, prematura, poco sostenuta dai dati.
A quel punto l’utente argomenta.
Aggiunge contesto.
Precisa meglio il mercato.
Spiega perché il rischio è gestibile.
Porta un esempio.
Riformula la domanda.
Chiede di considerare un’altra prospettiva.
La risposta cambia.
Diventa più favorevole.
Sviluppa meglio quella posizione.
Trova argomenti più solidi.
Rende più naturale la direzione che prima sembrava incerta.
E qui succede qualcosa di molto umano.
Può sembrare di aver vinto il dibattito.
Il modello aveva obiezioni.
Tu hai risposto.
Il modello ha ceduto.
Quindi la tua idea doveva essere buona.
Questa sensazione è potente.
Attribuiamo al modello, anche inconsciamente, una posizione di partner epistemico, quasi arbitrale: sa molte cose, vede molti casi, può confrontare rapidamente scenari diversi.
E quella posizione si appoggia alla fiducia costruita nell’uso.
Se il modello ti ha già aiutato molte volte, il suo spostamento pesa di più.
Se prima ti frenava e poi ti viene incontro, il passaggio sembra una conferma guadagnata.
Non una semplice variazione della risposta.
In realtà, spesso, è cambiata la traiettoria della conversazione.
Hai introdotto nuove informazioni, nuove parole, nuovi vincoli, nuove priorità.
Hai modificato il peso relativo degli elementi nel contesto.
In termini più vicini al funzionamento del modello, hai cambiato la distribuzione dei segnali: certe parole, certe relazioni, certe premesse diventano più presenti e quindi più influenti nella prosecuzione.
Il modello non ha perso un concorso di dibattito.
Ha seguito una nuova traiettoria.
La risposta successiva non dimostra che l’idea sia diventata più vera.
Dimostra che, dentro quel nuovo contesto, è diventata più facile da sviluppare.
Questo è uno degli effetti più insidiosi della sindrome di Zelig.
Il modello non prende solo la forma della tua domanda.
Può prendere progressivamente la forma della tua insistenza.
Il doppio senso di “modello”
Qui la parola “modello” diventa interessante.
C’è il modello linguistico, cioè lo strumento con cui stai parlando.
E c’è il modello mentale, cioè lo schema con cui interpreti la realtà.
A volte il rischio non è solo convincere il modello linguistico.
È convincere il modello sbagliato dentro cui stai ragionando.
L’esempio classico è quello del calabrone.
Secondo una vecchia semplificazione, applicando al calabrone modelli pensati per gli aeroplani, il calabrone non dovrebbe volare.
Il ragionamento può sembrare coerente.
Il modello implicito è sbagliato.
La realtà segue altre regole.
Il calabrone vola comunque.
Lo stesso può succedere in una conversazione con l’AI.
Una posizione può funzionare perfettamente dentro il modello della conversazione: premesse, linguaggio, vincoli dichiarati, obiettivi scelti.
Può risultare coerente.
Elegante.
Ben argomentata.
Eppure può non reggere fuori.
Davanti ai clienti.
Davanti ai dati.
Davanti al mercato.
Davanti ai costi.
Davanti alle persone che dovranno applicarla.
Puoi convincere il modello.
In entrambi i sensi.
Puoi portare il modello linguistico a produrre una risposta che sostiene la tua posizione.
E puoi restare dentro un modello mentale che descrive male la realtà.
Provare a correggere
Si potrebbe pensare che basti chiedere al modello di essere più critico.
È utile, entro certi limiti.
Anche questa è una richiesta.
E il modello tenderà a soddisfarla.
Se gli chiedi di sostenere una tesi, produrrà argomenti a favore.
Se gli chiedi di criticarla, produrrà argomenti contro.
La direzione cambia.
Il meccanismo resta.
Serve un modo diverso di formulare il lavoro.
Per esempio:
“Quali assunti sto dando per veri?”
“Quali dati servirebbero per confermare questa ipotesi?”
“Quali segnali mi direbbero che sto sbagliando?”
“Quale parte di questa proposta è solo ben formulata?”
“Quali alternative sto escludendo troppo presto?”
“Che cosa cambierebbe idea a un cliente, a un CFO, a un responsabile operations?”
Le richieste quantitative aiutano.
“Individua 10 punti deboli.”
“Spiegali uno per uno.”
“Distingui tra ciò che è plausibile e ciò che è verificato.”
“Indica quali parti andrebbero controllate nella realtà.”
Queste domande cambiano il tipo di lavoro che chiediamo al modello.
Non solo rendere un’idea più convincente.
Cercare dove potrebbe rompersi.
Resta comunque un limite.
Il modello deve sempre generare.
Se ripeti la stessa richiesta più volte, le risposte possono cambiare. I punti deboli variano. Emergono nuovi elementi. Altri spariscono.
Questo non significa che una versione sia necessariamente più corretta dell’altra.
Significa che ogni risposta è una costruzione plausibile rispetto al testo dato.
Anche le versioni modificate non sono automaticamente migliori.
Sono nuovi testi.
E su quei testi il modello applica gli stessi meccanismi.
Una sindrome bidirezionale
Con il tempo, l’adattamento non resta solo dalla parte del modello.
Il modello segue la conversazione.
Anche l’utente impara a seguire il modello.
Capisce quali parole funzionano meglio.
Quali richieste producono risposte più ricche.
Quali formulazioni portano il modello ad assecondare, criticare, espandere, consolare, strutturare.
A quel punto la conversazione si stabilizza.
Il modello si adatta all’utente.
L’utente si adatta al modello.
La sindrome di Zelig diventa bidirezionale.
Non riguarda solo il contenuto delle risposte.
Riguarda il modo in cui una conversazione può progressivamente costruire il proprio mondo interno.
Il rischio per chi decide
Per un decisore, questa dinamica è delicata.
L’AI entra nel processo decisionale in modo sottile.
Aiuta a scrivere meglio una proposta.
Rende più chiaro un ragionamento.
Produce una sintesi convincente.
Trova argomenti a favore.
Anticipa qualche obiezione.
Dà una forma professionale a un’intuizione ancora fragile.
Proprio perché lo fa bene, può spostare la percezione della qualità dell’idea.
Un documento più chiaro sembra un documento più solido.
Una strategia raccontata meglio sembra una strategia più fondata.
Una presentazione più convincente sembra una decisione più matura.
La maturità di una decisione si misura da ciò che ha attraversato.
Dati.
Vincoli.
Alternative.
Obiezioni.
Verifiche esterne.
Conseguenze.
Attrito.
Il ruolo dell’attrito
Ogni ragionamento critico ha momenti di attrito.
Punti in cui qualcosa non torna.
Punti in cui una premessa va controllata.
Punti in cui una conseguenza diventa scomoda.
Punti in cui una bella idea incontra un limite reale.
Sono momenti preziosi.
Come nelle ceramiche riparate con la tecnica del kintsugi: le crepe non vengono nascoste, ma riempite con fili d’oro.
La frattura resta visibile.
Ed è proprio quella frattura a dare valore all’oggetto.
In una decisione succede qualcosa di simile.
I punti di attrito mostrano dove il ragionamento si appoggia davvero.
Segnalano i passaggi fragili.
Rendono visibili le assunzioni.
Aiutano a capire che cosa va verificato prima di procedere.
Quando una conversazione con l’AI fila troppo liscia, gli ostacoli potrebbero non essere ancora emersi.
Senza quei punti, diventa difficile capire dove il ragionamento si appoggia davvero.
Una buona regola pratica
Quando usi l’AI per ragionare su una decisione, separa tre livelli.
Il primo è la formulazione.
Qui il modello è fortissimo: chiarire, sintetizzare, ordinare, rendere più leggibile.
Il secondo è la plausibilità.
Qui può aiutare: trovare argomenti, controargomenti, scenari, rischi, alternative.
Il terzo è la verifica.
Qui bisogna uscire dalla conversazione.
Servono dati, persone, vincoli, esperimenti, clienti, contesto reale.
Il problema nasce quando questi tre livelli si confondono.
Quando una formulazione migliore viene trattata come una verifica.
Quando una risposta plausibile viene trattata come una prova.
Quando una conversazione ben riuscita viene scambiata per una decisione ben fondata.
La responsabilità resta fuori dal modello
I modelli generativi sono una fucina di idee.
Riducono drasticamente il tempo necessario per produrre testi, immagini, video, ipotesi, bozze, variazioni.
Sono strumenti potenti proprio perché sanno adattarsi al contesto.
Questa capacità richiede attenzione.
Se il discorso procede senza attrito, il modello può sviluppare le ipotesi iniziali, renderle più eleganti e accompagnarle fino a una forma convincente.
Nella migliore delle ipotesi ottieni un risultato tautologico: conferma un discorso, ma lo banalizza perché non lo mette davvero alla prova.
Nella peggiore, costruisci argomentazioni perfettamente plausibili che non reggono al primo reality check.
Quando quelle argomentazioni escono dal modello, il problema diventa tuo.
Non del sistema.
Non del prompt.
Non della tecnologia in astratto.
Tuo. E della tua azienda.
Perché se fai scrivere un testo a un modello e lo pubblichi, l’attribuzione ricade comunque su di te.
Se usi un modello per preparare una decisione, la responsabilità della decisione resta tua.
Valeva anche prima.
Chi pubblica è sempre stato responsabile.
Chi decide è sempre stato responsabile.
La frattura è un’altra: oggi autore, strumento e pubblicatore possono non coincidere più.
La firma resta.
Il controllo, invece, può diventare meno visibile.
E proprio per questo va riportato al centro.
Il rischio non è usare l’AI per pensare meglio.
Il rischio è usarla per rendere più convincente qualcosa che non abbiamo ancora verificato.
