Perché i modelli linguistici di IA allucinano: La ricerca dietro le risposte false

Un'allucinazione dell'IA è un'affermazione prodotta da un modello linguistico che suona fluida e sicura ma è fattualmente errata — una citazione fabbricata, una data sbagliata, una persona che non esiste. In un documento di ricerca pubblicato a settembre 2025, i ricercatori di OpenAI descrivono le allucinazioni in questi termini e affermano che, con i metodi di addestramento e valutazione attuali, il problema non può essere completamente risolto.

Come il processo di addestramento crea errori

Secondo il documento di OpenAI, pubblicato su arXiv, parte della spiegazione risiede nel modo in cui i modelli sono preaddestrati. Durante il preaddestramento, un modello impara solo da testo fluido, senza etichette che contrassegnano quali affermazioni sono vere o false. Viene addestrato con un obiettivo statistico (cross-entropy loss) che premia la previsione di parole successive probabili, non la verifica dei fatti.

I ricercatori mostrano che ciò produce errori anche su dati che non contengono errori. Per i fatti che appaiono una sola volta nei dati di addestramento — i ricercatori fanno l'esempio del compleanno di una persona — l'analisi del documento rileva che il tasso di allucinazione su quei fatti dovrebbe essere almeno alto quanto la quota di tali fatti "singleton" nel set di addestramento. In altre parole, se un fatto è stato menzionato una sola volta, il modello è matematicamente incline a sbagliarlo. Il documento chiama alcuni errori inevitabili anche per i modelli senza limiti di potenza di calcolo, perché determinati compiti sono quello che descrive come intrattabili computazionalmente.

Perché i sistemi di valutazione premiano le congetture

Il secondo argomento del documento riguarda il modo in cui i modelli vengono valutati dopo il preaddestramento. Paragona un modello linguistico a uno studente che affronta un esame a scelta multipla: una risposta vuota ottiene zero punti, quindi le congetture sono sempre la strategia statisticamente migliore quando ogni risposta sbagliata costa quanto lasciare la domanda senza risposta. I ricercatori di OpenAI hanno esaminato dieci benchmark di IA ampiamente utilizzati — inclusi GPQA, MMLU-Pro e SWE-bench — e hanno scoperto che nove di loro utilizzano una valutazione binaria che non assegna alcun credito per una risposta come "Non so", lo stesso punteggio di una risposta sbagliata.

Secondo il documento, questo schema di punteggio spinge i modelli a continuare a indovinare piuttosto che ammettere l'incertezza, perché l'indovinare fiducioso punteggia meglio in media rispetto alla copertura onesta. TechCrunch, riportando sul documento, ha descritto questo come valutazioni che creano gli incentivi sbagliati ricompensando le congetture fortunate corrette allo stesso modo delle risposte genuinamente ben supportate.

I modelli di ragionamento hanno allucinato di più, non di meno

Il trend non è limitato ai modelli più vecchi. La propria scheda di sistema di OpenAI per i suoi modelli di ragionamento o3 e o4-mini, rilasciati ad aprile 2025 e riportati da TechCrunch, ha rilevato che i tassi di allucinazione sono aumentati con i nuovi sistemi di ragionamento sul benchmark PersonQA interno dell'azienda, che testa domande fattive su persone.

OpenAI ha affermato che è necessaria ulteriore ricerca per capire perché le allucinazioni aumentano man mano che i modelli di ragionamento si ampliano, notando che questi modelli fanno più affermazioni in generale, il che produce sia affermazioni più corrette che più errate. Neil Chowdhury, un ricercatore del gruppo di ricerca sull'IA Transluce citato da TechCrunch, ha offerto un'ipotesi: il tipo di apprendimento per rinforzo utilizzato per addestrare i modelli di ragionamento della serie o può amplificare i problemi che le tecniche di addestramento standard normalmente mitigano.

Cosa OpenAI propone di fare per correggerlo

Il documento di settembre 2025 propone di cambiare il modo in cui vengono valutati i benchmark piuttosto che aggiungere test di allucinazione separati. La sua correzione suggerita consiste nel costruire soglie di confidenza esplicite nelle istruzioni di valutazione — ad esempio, dire a un modello di rispondere a una domanda solo se è più del 75% sicuro, con errori che costano più punti di un'astensione. In teoria, questo rende l'astensione la scelta matematicamente migliore quando un modello è incerto, piuttosto che quella peggiore, come accade negli attuali sistemi di valutazione.

Il documento esplicita che questo approccio ridurrebbe, non eliminerebbe, le allucinazioni. Poiché alcuni errori derivano da fatti statisticamente rari o da compiti che i ricercatori descrivono come intrattabili computazionalmente, gli autori concludono che un modello linguistico con zero allucinazioni non è raggiungibile con i metodi attuali.