Perché i chatbot AI "allucinano": Le radici statistiche degli errori dei modelli linguistici

Un'allucinazione dell'IA è una risposta da un chatbot o un modello linguistico che legge come fluida e plausibile ma è fattualmente scorretta — un caso giudiziario fabbricato, una statistica inventata, una data sbagliata presentata con totale sicurezza. Il termine si è spostato da una frase di nicchia dell'apprendimento automatico nel vocabolario quotidiano, poiché più persone utilizzano strumenti come ChatGPT per la ricerca, la scrittura e il lavoro legale.

Cosa dice la ricerca di OpenAI che lo causa

In un articolo intitolato "Why Language Models Hallucinate", pubblicato sul sito Web di OpenAI e sul server di preprint arXiv nel settembre 2025, i ricercatori Adam Tauman Kalai, Ofir Nachum, Santosh S. Vempala ed Edwin Zhang sostengono che le allucinazioni non sono un difetto misterioso ma un risultato prevedibile di come i modelli vengono costruiti e valutati, secondo il riassunto di OpenAI dell'articolo.

Durante il pretraining, un modello impara dal testo che mostra solo esempi corretti di uso linguistico — non gli viene mai mostrato esplicitamente un elenco etichettato di dichiarazioni false da evitare. I ricercatori descrivono questo come la trasformazione dell'allucinazione in un problema di classificazione binaria: se un modello non può distinguere in modo affidabile un'affermazione vera da una falsa nei suoi dati di training, gli errori emergeranno attraverso la pressione statistica ordinaria, indipendentemente da quanto sia buona l'ingegneria, come riporta OpenAI.

Perché i modelli indovinano invece di dire "Non so"

L'affermazione centrale dell'articolo riguarda ciò che accade dopo il pretraining, durante la valutazione. Secondo OpenAI, la maggior parte dei benchmark di accuratezza ampiamente utilizzati valutano una risposta sicura e sbagliata allo stesso modo di un'ammissione di incertezza — entrambe contano semplicemente come "sbagliata" — mentre una risposta corretta e sicura ottiene il miglior punteggio. I ricercatori lo paragonano a uno studente che indovina un esame a scelta multipla: indovinare ha una possibilità di essere giusto, mentre lasciare una domanda in bianco garantisce zero credito, come riportato da OpenAI.

La soluzione proposta da OpenAI non è un test separato dell'allucinazione ma un cambiamento nel modo in cui i benchmark esistenti vengono valutati: penalizzare gli errori sicuri più pesantemente delle espressioni di incertezza, in modo che i modelli non siano più ottimizzati per bluffare il loro cammino attraverso lacune nella conoscenza, come affermato da OpenAI.

Quanto variano i tassi di allucinazione per modello

I ricercatori di OpenAI riportano un'illustrazione concreta di questo compromesso: una valutazione di un modello chiamato GPT-5-thinking-mini ha portato il suo tasso di errore al 26%, rispetto al 75% per il precedente modello o4-mini, secondo il documento come riportato da InfoQ. I ricercatori notano che il modello a errore inferiore ha ottenuto ciò in parte rispondendo con l'equivalente di "Non so" in più della metà delle sue risposte, anziché indovinare, come riportato da InfoQ.

Una conseguenza nel mondo reale: citazioni legali fabbricate

Il costo pratico delle allucinazioni è emerso ripetutamente nei tribunali statunitensi. La Corte d'appello del 2° distretto della California ha multato l'avvocato dell'area di Los Angeles Amir Mostafavi di 10.000 dollari nel settembre 2025 dopo aver scoperto che 21 delle 23 citazioni di casi in un breve di appello che ha depositato erano state fabbricate da ChatGPT, secondo il rapporto di CalMatters. La corte ha scritto che nessun deposito legale dovrebbe contenere citazioni che l'avvocato che presenta "non ha personalmente letto e verificato", come riportato da CalMatters.

Mostafavi, che ha depositato il breve nel luglio 2023 senza verificare il contenuto generato dall'IA, ha detto al tribunale: "Spero che questo esempio aiuti gli altri a non cadere nella buca. Sto pagando il prezzo," secondo CalMatters. L'outlet ha anche riferito che il Consiglio giudiziario della California ha richiesto ai tribunali di tutto lo stato di vietare l'IA generativa o adottare una politica di utilizzo entro il 15 dicembre 2025, e che i tracker di tecnologia legale hanno registrato più di 600 istanze documentate di citazioni fabbricate generate dall'IA nei fascicoli dei tribunali statunitensi.

Punti chiave

• Le allucinazioni sono affermazioni fluide e sicure da un modello linguistico che sono fattualmente errate, non difetti casuali.
• L'articolo di OpenAI di settembre 2025 le attribuisce in parte ai limiti del pretraining — i modelli non sempre distinguono tra affermazioni vere e false nei loro dati di training.
• Il driver più grande, secondo OpenAI, è la progettazione della valutazione: i benchmark che premiano indovinare sicuro e penalizzano le ammissioni di incertezza allo stesso modo delle risposte sbagliate.
• In un esempio riportato da OpenAI, un modello più recente (GPT-5-thinking-mini) ha ridotto il suo tasso di errore dal 75% di un modello precedente (o4-mini) al 26%, in parte dicendo "Non so" più spesso, ma l'azienda dice che il problema di incentivo sottostante richiede una modifica del modo in cui i benchmark vengono valutati a livello industriale.
• Le citazioni legali generate dall'IA fabbricate hanno già portato a sanzioni dei tribunali negli Stati Uniti, inclusa una multa di 10.000 dollari in California nel 2025.