Il ghost writer inesistente e il problema dell’attribuzione

«Perché io non esisto, sire.»
«E com’è che fate a prestar servizio, se non ci siete?»
«Con la forza di volontà,» disse Agilulfo, «e la fede nella nostra santa causa!»
«Be’, per essere uno che non esiste, siete in gamba!»

Italo Calvino, Il Cavaliere inesistente

Un libro ha un nome in copertina, un articolo ha una firma, un post ha un profilo, un comunicato ha un logo.

Per chi legge, l’attribuzione è quasi automatica: quel testo appartiene a quel nome, a quel profilo, a quell’azienda, a quell’istituzione. Naturalmente, sul piano legale, editoriale e operativo, le cose possono essere molto più complesse. Un testo può essere stato discusso, corretto, riscritto, approvato, commissionato; può essere il risultato di una redazione, di un editor, di un ufficio comunicazione, di un consulente esterno o di una lunga catena di revisioni interne.

Eppure, tutte queste sfumature tendono comunque a convergere nello stesso punto: nel nome che firma, nel profilo che pubblica, nell’azienda che presenta, nell’istituzione che rende pubblico quel testo.

L’attribuzione, infatti, non dice soltanto a chi un testo appartiene. Porta con sé anche un’ipotesi, spesso implicita, sulla sua produzione. Se un libro ha un nome in copertina, immaginiamo che dietro ci sia una voce, un’esperienza, un’intenzione, un controllo. Anche quando sappiamo che il processo reale può essere più stratificato, continuiamo a collocare il testo dentro una filiera umana, fatta di scelte, competenze, responsabilità e mediazioni.

Nell’editoria, per esempio, esistono da tempo i ghost writer. Scrivono, ma non appaiono. La loro invisibilità è parte del lavoro: il nome visibile deve restare quello dell’autore ufficiale, perché è lì che si concentrano reputazione, valore economico e responsabilità pubblica. Nessuno si sognerebbe, alla presentazione di un libro, di chiedere la dedica al ghost writer invece che all’autore “laureato” in copertina.

Ma anche quando il ghost writer resta nascosto, dietro il testo c’è comunque qualcuno. C’è una persona, c’è un contratto, c’è un accordo di riservatezza, c’è una catena magari opaca, ma ancora umana. Il testo può essere attribuito a un nome diverso da quello di chi lo ha materialmente scritto, ma la produzione rimane comunque collocabile dentro rapporti tra persone.

Con l’intelligenza artificiale generativa succede qualcosa di diverso.

Possiamo separare quasi completamente la produzione dall’attribuzione. Da una parte c’è un sistema che genera linguaggio; dall’altra c’è una persona che chiede un testo. Questa persona può indicare un argomento, un tono, un obiettivo; può correggere qualche frase, scegliere tra due versioni, integrare un passaggio o eliminare ciò che non funziona. Può anche, in molti casi, non fare quasi nulla.

È il mandante, non l’esecutore.

Ha chiesto che un testo venisse prodotto, ma non lo ha scritto nel senso tradizionale del termine. Eppure proprio qui nasce una delle ambiguità più forti dell’AI generativa: chi usa l’AI tende spesso a sentire una qualche paternità del testo, perché ha dato l’input, perché ha orientato la risposta, perché ha riconosciuto nel risultato qualcosa che gli sembrava adatto, perché alla fine quel testo passa comunque dalle sue mani.

Ma non c’è mai stato un momento in cui quella persona abbia davvero scritto il testo parola per parola. Ha commissionato, selezionato, accettato, eventualmente corretto. L’esecuzione linguistica, però, è avvenuta altrove.

O meglio: non è nemmeno avvenuta presso qualcun altro.

È avvenuta in un sistema.

Ed è qui che compare una figura nuova: il ghost writer inesistente.

Se applichiamo all’AI lo schema del ghost writer umano, scopriamo infatti che dietro non c’è un autore nascosto. Non c’è uno studente di scrittura creativa pagato in segreto, non c’è un professionista vincolato da un NDA, non c’è qualcuno a cui risalire. C’è un sistema che ha prodotto linguaggio.

Ma quel sistema non ha un’esperienza da scandagliare, non ha una tesi da diffondere, non ha una reputazione da perdere, non ha interessi da difendere, non ha affermazioni di cui rispondere e non ha conseguenze da giustificare.

Finché il testo resta dentro il processo, la sua natura rimane ambigua. È linguaggio prodotto, ma non ancora pienamente assunto. È un output, una bozza, una possibilità testuale. Non ha ancora attraversato quella soglia che trasforma una sequenza di frasi in una dichiarazione rivolta a qualcuno.

Poi accade qualcosa.

Il testo viene portato fuori. Viene inviato, firmato, pubblicato, inserito in un sito, mandato a un cliente, usato per rispondere a un cittadino, a un paziente, a un collega, a un investitore.

La pubblicazione, intesa nel senso più ampio possibile, non è soltanto diffusione. È attribuzione.

Nel momento in cui il testo viene sottoposto a terzi, la separazione si richiude. La produzione poteva essere scissa dall’attribuzione fino a un secondo prima; ma appena il testo entra in una relazione sociale, viene ricompresso su un soggetto: una persona, un profilo, un’azienda, un’istituzione.

A quel punto il testo non è più soltanto linguaggio generato. Diventa una dichiarazione attribuita. E insieme all’attribuzione arrivano anche la paternità e la responsabilità, non perché chi pubblica sia stato davvero l’esecutore materiale del testo, ma perché, presentandolo a terzi, lo assume come proprio.

C’è dunque un ulteriore effetto, forse ancora più rilevante: con l’AI generativa i livelli dell’attribuzione tendono a comprimersi. Nel caso di un testo copiato e incollato da un output automatico, chi lo usa può pensare di non esserne davvero autore, perché non lo ha scritto parola per parola. Ma nel momento in cui quel testo viene inviato, pubblicato o firmato, l’attribuzione si concentra comunque su chi lo ha fatto circolare. Non conta soltanto chi ha prodotto la frase, ma chi ha deciso che quella frase potesse parlare in un certo contesto.

La stessa compressione diventa ancora più evidente nei sistemi automatici, come i chatbot. Qui non c’è neppure un gesto umano puntuale di selezione o approvazione del singolo enunciato. Eppure il chatbot parla dentro uno spazio già attribuito: il sito di un’azienda, il portale di un ente, un servizio clienti, un canale ufficiale. Per questo le sue risposte non vengono percepite come parole sospese nel vuoto, ma come comunicazioni riconducibili al soggetto che ha scelto di mettere quel sistema in condizione di parlare.

In questo senso, l’attribuzione non segue più soltanto la scrittura, ma l’esposizione del testo. Non è autore chi genera, ma risponde chi fa parlare. L’AI non elimina quindi la responsabilità autoriale: la sposta dal momento della composizione al momento dell’assunzione pubblica. E nei sistemi automatici questa assunzione può avvenire prima ancora di ogni singola frase, già nella decisione di affidare a un sistema generativo una funzione comunicativa verso terzi.

Questa è la voragine.

Chi scrive con l’AI può sentirsi autore senza esserlo davvero. Può essere soltanto il mandante di un testo che non ha materialmente scritto e può perfino non avere le competenze necessarie per valutarlo. Se chiedo a un sistema di scrivermi un testo giuridico e quel testo contiene un errore, chi ne risponde? Se chiedo un’analisi medica e quell’analisi riporta conclusioni sbagliate, chi ne risponde? Se chiedo una valutazione finanziaria e il testo contiene dati imprecisi, allucinazioni o inferenze scorrette, chi ne risponde?

E se quel “qualcuno” che ha scritto non è una persona, non ha presenza giuridica, non ha responsabilità propria e non può essere chiamato davvero a rispondere, dove si colloca la responsabilità?

Nell’articolo sull’horror vacui dell’intelligenza artificiale, avevo già parlato di un caso di cronaca legato ad Air Canada. Lì mi serviva a mostrare un altro aspetto del problema: quando l’AI non sa, tende comunque a produrre linguaggio. Riempie il vuoto, costruisce una risposta plausibile, dà forma a un testo che può sembrare coerente anche quando non è necessariamente vero.

Qui lo riprendo da un’altra angolazione, perché quel caso ha una chiarezza quasi didattica anche rispetto al problema dell’attribuzione.

Il chatbot sul sito di Air Canada ha fornito a un passeggero un’informazione sbagliata sulle tariffe agevolate per lutto. In sostanza, ha detto che il rimborso poteva essere richiesto anche dopo il viaggio, entro un certo termine. Era una regola che non esisteva, costruita per inferenza e plausibilità a partire da altre regole esistenti.

Ma quel linguaggio plausibile, una volta pubblicato, non resta sospeso nel sistema che lo ha generato. Ricade su qualcuno.

Quando il passeggero ha chiesto che quell’informazione venisse rispettata, Air Canada ha provato a sostenere che il chatbot fosse responsabile delle proprie risposte. Ma questa linea non ha retto.

Il chatbot era sul sito di Air Canada, parlava dentro lo spazio operativo di Air Canada e rispondeva ai clienti di Air Canada. Per questo quelle parole, anche se generate da un sistema, sono state attribuite ad Air Canada: non al chatbot, non al modello, non al processo automatico, ma all’azienda che aveva messo quel testo in condizione di raggiungere un cliente.

Ecco l’evidenza che ci serviva: la pubblicazione ricomprime ciò che la produzione aveva separato. Prima, un sistema genera linguaggio; dopo, qualcuno ne porta le conseguenze.

Il ghost writer umano poteva restare invisibile, ma restava umano.

Il ghost writer inesistente non è solo invisibile, ma non esiste proprio.

Non puoi trovarlo, nemmeno se lo cerchi. Perché semplicemente non c’è.

Presta servizio, proprio come Agilulfo.

Ma non può farti da scudo per ciò che hai deciso di far parlare a tuo nome.