Come funzionano i rilevatori di testo IA, spiegato attraverso una controversia su un romanzo premio

Un risultato di uno strumento di rilevamento che ha dichiarato un romanzo premiato quasi interamente scritto da una macchina ha messo sotto scrutinio i rilevatori di testo IA. Il caso solleva una questione pratica per scrittori, studenti e redattori: cosa stanno realmente misurando questi strumenti, e quanto ci si può fidare dei loro verdetti?

Ciò che ha scatenato il dibattito

L'autore peruviano David Silva Rojas ha vinto il primo Almadía Ventosa-Arrufat International Short Novel Prize, del valore di 20.000 euro, per il suo romanzo "Donde el agua trabaja", una storia ambientata su un'azienda vinicola nella regione di Ica in Perù. Una giuria unanime che includeva gli scrittori Cristina Rivera Garza, Selva Almada e Mónica Ojeda ha selezionato l'opera fra 2.204 candidature provenienti da 22 paesi, secondo Infobea.

Secondo Infobea, che ha citato un'analisi del giornale spagnolo El País, l'esecuzione del romanzo di circa 26.000 parole attraverso lo strumento di rilevamento Pangram 4.1 ha attribuito il 99% all'intelligenza artificiale. Lo stesso strumento ha segnalato il 97% delle risposte dell'intervista che Silva Rojas ha dato a settembre e l'80% di un testo autobiografico di 924 parole che ha presentato, mentre le parole dell'intervistatore stesso sono risultate completamente umane. Le regole del concorso richiedevano ai partecipanti di dichiarare che i loro manoscritti non fossero "scritti, né parzialmente né totalmente, con strumenti di intelligenza artificiale", pena la squalifica.

L'editore Almadía ha sospeso gli eventi di presentazione del romanzo a Madrid, Barcellona, Siviglia e Cadice, che dovevano iniziare il 23 ottobre 2026, secondo Proceso. L'editore ha affermato che Silva Rojas aveva firmato un contratto dichiarando di non aver utilizzato tali strumenti e ha chiesto tempo per indagare. Silva Rojas ha rifiutato di commentare quando contattato da Infobea per la sua versione.

Come funzionano realmente i rilevatori di testo IA

Secondo la metodologia pubblicata di GPTZero, il suo strumento assegna un punteggio al testo su tre segnali principali: la perplessità, o quanto sono prevedibili le scelte di parole per un modello linguistico; la raffica (burstiness), che significa quanto variano la lunghezza e lo stile della frase in un passaggio; e il tono generale, controllando se la scrittura legge come generica o ripetitiva. GPTZero dice che stratifica un modello proprietario con "centinaia di fattori" su queste misure di base.

Pangram, lo strumento utilizzato nel caso del romanzo, funziona diversamente. Secondo la voce Wikipedia dello strumento e il blog di Pangram stesso, è addestrato accoppiando grandi volumi di scrittura umana con testo generato da IA abbinato per argomento, lunghezza e tono, quindi utilizza un'architettura "miscela di esperti" per classificare le singole sezioni di un documento prima di combinarle in un punteggio a livello di passaggio. Pangram richiede almeno 50 parole di prosa per produrre un risultato e riporta tassi di falsi positivi separati per dominio di scrittura – ad esempio, vicino allo 0% su articoli medici rispetto a tassi più elevati su poesia e ricette.

Crucialmente, nessuno di questi strumenti sostiene di identificare un autore. Produce una stima statistica – una probabilità che un determinato passaggio assomigli più a testo generato da macchina che a testo umano che il modello ha visto nell'addestramento.

Perché nessun rilevatore offre certezza

OpenAI ha chiuso il suo classificatore di testo IA nel luglio 2023, citando un basso tasso di accuratezza, secondo TechCrunch. Nel test informale di TechCrunch su sette passaggi generati da IA, lo strumento di OpenAI ha identificato correttamente solo uno, mentre GPTZero ne ha identificati cinque. OpenAI ha affermato in quel momento che stava ricercando "tecniche di provenienza più efficaci".

Le stesse figure di Pangram mostrano la stessa tensione tra confidenza e errore. La voce Wikipedia dello strumento nota che valutazioni indipendenti hanno scoperto che ha perso circa il 10,1% dei passaggi scritti da sistemi di IA che imitano lo stile di un autore specifico, e che ha ottenuto risultati peggiori su testo elaborato tramite strumenti "umanizzatore" progettati per camuffare l'output dell'IA. La stessa voce elenca controversie passate in cui i risultati di Pangram sono stati contestati, inclusa la scrittrice Mia Ballard, il cui scritto è stato segnalato come IA al 78%, e critiche dell'editore del Wall Street Journal James Taranto, che ha definito lo strumento una "macchina per la diffamazione" dopo aver segnalato tre articoli dello staff – sebbene due dei quei autori di articoli abbiano affermato di aver usato l'IA solo per aiutare a rivedere le loro bozze.

Ciò che il caso del romanzo mostra e non mostra

Il punteggio di Pangram 4.1 è un forte segnale che ha spinto Almadía a mettere in pausa il lancio del romanzo e ad aprire un'indagine, ma un punteggio di rilevamento da solo non costituisce la prova di come è stato prodotto un testo. Secondo la dichiarazione dell'editore riportata da Proceso, Almadía non aveva annunciato un risultato finale, e Silva Rojas non aveva dato il suo racconto ufficialmente. La regola del concorso contro l'uso dell'IA – e la dichiarazione firmata ad essa collegata – è ciò che espone l'autore alla potenziale squalifica se un'indagine conferma il sospetto, separatamente da ciò che un singolo punteggio di rilevamento può stabilire da solo.