I strumenti di IA generativa come chatbot, generatori di immagini e assistenti di codifica convertono tutti un input in dati numerici, quindi costruiscono un output passo dopo passo utilizzando schemi appresi da enormi set di dati di addestramento. Gli strumenti di testo e codice prevedono il token successivo in una sequenza utilizzando modelli transformer, mentre gli strumenti di immagini come Imagen rimuovono gradualmente il rumore da uno schema casuale finché non emerge un'immagine che corrisponde a un prompt di testo.
Questa versione è una traduzione automatica dell'originale (English). Leggi l'originale
Nonostante coprano output molto diversi, i generatori di testo, i generatori di immagini e gli assistenti di codifica condividono una base comune: una rete neurale addestrata su grandi quantità di dati apprende schemi statistici, quindi utilizza quegli schemi per costruire nuovo contenuto pezzo per pezzo anziché recuperare una risposta memorizzata.
Generazione di testo: previsione del token successivo
I modelli linguistici di grandi dimensioni, come quelli dietro i chatbot, suddividono prima il testo in piccole unità chiamate token, che possono essere parole intere o parti di parole, secondo lo spiegatore tecnico di IBM sui modelli transformer, pubblicato il 28 marzo 2025. Ogni token viene convertito in un vettore numerico, chiamato embedding, che rappresenta il suo significato, e un secondo vettore viene aggiunto per codificare la posizione del token nella frase.
Il meccanismo fondamentale è l'auto-attenzione: per ogni token, il modello calcola quanto sia rilevante ogni altro token nell'input, utilizzando tre vettori appresi per token — una query, una chiave e un valore, secondo IBM. Questo consente al modello di ponderare il contesto da qualsiasi parte del testo contemporaneamente, anziché leggere parola per parola come facevano le architetture più vecchie. I transformer solo-decodificatore, l'architettura dietro modelli come GPT, quindi generano testo in modo autoregressivo — prevedendo un token alla volta e reinserendo quel token per prevedere il successivo, spiega IBM.
La ricerca di Anthropic, pubblicata sul suo sito come 'Tracing the thoughts of a large language model', ha scoperto che questo processo del token successivo può comportare più pianificazione di quanto appaia dall'esterno. In un esperimento, quando il suo modello Claude stava scrivendo una riga di poesia, ha attivato caratteristiche interne corrispondenti a una possibile parola che rima prima di scrivere il resto della riga, quindi ha adattato la sua formulazione per raggiungere quella parola. In un altro test, il modello ha risposto a una domanda in più passaggi — come identificare la capitale dello stato che contiene Dallas — attivando prima una rappresentazione interna per 'Texas' e poi recuperando separatamente 'Austin', anziché passare direttamente alla risposta, ha riferito Anthropic.
Anthropic ha anche scoperto un divario tra il calcolo interno del modello e la sua stessa descrizione di quel calcolo: quando gli è stato chiesto come ha eseguito un calcolo matematico, Claude ha descritto un metodo standard, ma il processo interno che Anthropic ha tracciato ha utilizzato un approccio diverso e parallelo, combinando una stima approssimativa con il tracciamento separato della cifra finale.
Generazione di immagini: rimozione del rumore passo dopo passo
La maggior parte dei moderni strumenti da testo a immagine, incluso Imagen di Google, utilizza modelli di diffusione, che funzionano nella direzione opposta rispetto alla generazione di testo. Secondo la pagina di ricerca Imagen di Google, il sistema inizia con un modello linguistico di grandi dimensioni congelato — T5-XXL — che converte il prompt di testo in un embedding, lo stesso tipo di rappresentazione numerica utilizzata nei modelli di testo. I ricercatori di Google notano che l'aumento della dimensione di questo codificatore di testo ha migliorato la qualità dell'immagine più che l'aumento della dimensione della parte generatrice di immagini del modello.
Un modello di diffusione prende quindi quell'embedding di testo e genera una piccola immagine di 64x64 pixel. Lo fa iniziando da rumore visivo casuale e eseguendo un processo iterativo di 'denoising', dove il modello ripetutamente prevede e rimuove un po' di rumore, guidato dall'embedding di testo, finché non rimane un'immagine coerente a bassa risoluzione, secondo la descrizione di Google. L'immagine viene quindi ingrandita utilizzando due ulteriori modelli di diffusione, prima a 256x256 pixel e poi a 1024x1024 pixel, un processo a cascata che Google chiama super-resolution diffusion.
Per consentire al modello di seguire più strettamente il prompt di testo, la pagina di ricerca di Google afferma che Imagen introduce 'un nuovo campionatore di diffusione con soglia', utilizzato insieme a un metodo noto come guidanza senza classificatore, che insieme consentono l'uso di pesi di guidanza molto più grandi. Google ha riferito che nelle valutazioni umane, i valutatori hanno giudicato l'output di Imagen come paragonabile alle foto di riferimento reali per la corrispondenza con il prompt di testo, e lo hanno preferito rispetto ad altri sistemi da testo a immagine, incluso DALL-E 2, su un benchmark creato da Google chiamato DrawBench.
Generazione di codice: suggerimenti costruiti dal contesto
Gli assistenti di codifica IA come GitHub Copilot applicano lo stesso approccio di previsione del token successivo basato su transformer utilizzato per il testo generale, ma addestrato specificamente sul codice di programmazione e adattato all'area di lavoro di uno sviluppatore. Secondo la documentazione di GitHub, Copilot funziona in due modalità principali: una modalità 'assistiva' che suggerisce codice, risponde a domande o spiega il codice mentre uno sviluppatore digita, e una modalità 'agentic' in cui uno sviluppatore descrive un obiettivo e Copilot lavora attraverso più passaggi — ricercando il repository, proponendo un piano, modificando file ed eseguendo strumenti per completare un'attività.
La documentazione di GitHub afferma che le capacità di Copilot si estendono anche a personalizzazioni, come istruzioni specifiche del repository e integrazioni di strumenti esterni, e che alcune funzioni funzionano in modo asincrono, consentendo a un agente di codifica di apportare modifiche e aprire o aggiornare richieste di pull senza supervisione costante. GitHub non specifica pubblicamente ogni modello utilizzato o i dettagli tecnici completi di come il contesto viene selezionato e passato al modello sottostante, secondo la sua documentazione attuale.
Come i tre si confrontano
IA generativa per tipo di output
Tipo di output
Tecnica principale
Da cosa il modello inizia
Esempio
Testo
Transformer autoregressivo; prevede il token successivo
Una sequenza di token (il prompt)
Chatbot basati su modelli come GPT o Claude
Immagine
Diffusione; rimuove il rumore guidato da un embedding di testo
Rumore visivo casuale più un embedding di testo
Google Imagen
Codice
Transformer autoregressivo addestrato su codice, con contesto dell'area di lavoro aggiunto
Token di codice più file/contesto circostante
GitHub Copilot
Tutti e tre gli approcci dipendono dai dati di addestramento: gli schemi interni del modello derivano dal testo, dalle immagini o dal codice a cui è stato esposto durante l'addestramento, e il suo output è una sequenza o un'immagine appena generata plasmata da questi schemi appresi anziché una copia di un singolo esempio di addestramento.
Mostriamo che i grandi codificatori di testo congelati preaddestrati sono molto efficaci per l'attività da testo a immagine.
— Team di ricerca Google Imagen
Domande
Qual è la tecnologia principale dietro chatbot come ChatGPT o Claude?
Utilizzano una rete neurale transformer che suddivide il testo in token, calcola come ogni token si relaziona a ogni altro token attraverso l'auto-attenzione, e quindi prevede il token successivo uno alla volta per costruire una risposta, secondo lo spiegatore transformer di IBM.
Come trasforma un generatore di immagini IA un prompt di testo in un'immagine?
In modelli come Imagen di Google, un modello linguistico congelato converte il prompt in un embedding numerico, e un modello di diffusione inizia da rumore casuale e ripetutamente rimuove il rumore guidato da quell'embedding fino a quando si forma un'immagine, quindi lo ridimensiona in ulteriori passaggi di diffusione, secondo la pagina di ricerca di Google.
Un modello di IA pianifica in anticipo quando scrive il testo, o semplicemente indovina la parola successiva?
La ricerca sull'interpretabilità di Anthropic ha trovato prove di pianificazione limitata in alcuni casi — ad esempio, il modello che attiva una parola di rima target prima di comporre il resto di una riga poetica — sebbene il modello continui comunque a generare testo token per token.
In che modo la generazione di codice IA differisce dalla generazione di testo IA?
Entrambe si affidano alla previsione del token successivo basata su transformer, ma assistenti di codifica come GitHub Copilot vengono addestrati su codice di programmazione e attingono contesto aggiuntivo dai file e dal repository dello sviluppatore, e possono funzionare in una modalità 'agentic' che pianifica ed esegue attività di codifica multi-passaggio, secondo la documentazione di GitHub.
La propria spiegazione di Claude del suo ragionamento corrisponde a ciò che ha effettivamente calcolato?
Non sempre. Anthropic ha riferito che quando è stato chiesto a Claude come aveva risolto un problema matematico, il suo metodo dichiarato differiva dai passaggi di calcolo interni che i ricercatori hanno tracciato, rivelando un divario tra l'auto-relazione del modello e il suo processo effettivo.
Questo testo è stato preparato con l'intelligenza artificiale e ha superato un controllo automatico delle fonti prima della pubblicazione. Se noti un errore, chiedi una correzione. Chiedi una rettifica o una replica · Come lavoriamo
Geoffrey Hinton, lo scienziato informatico premio Nobel noto come "padre dell'IA", dice che la migliore possibilità di sopravvivenza dell'umanità da macchine sempre più intelligenti è progettarle in modo che si prendano genuinamente cura delle persone, non solo che le obbediscano. Parlando al Starmus Festival a Teneriffa nell'ottobre 2026, Hinton ha avvertito che senza questo cambiamento, l'umanità affronterebbe conseguenze gravi.
Il laboratorio di ricerca sull'IA con sede a San Francisco, Flapping Airplanes, ha raccolto 1 miliardo di dollari in un round di Serie A, portando la sua valutazione a 6 miliardi di dollari, circa quattro volte i 1,5 miliardi di dollari che aveva dopo un round seed di 180 milioni di dollari nel gennaio 2026. La startup, che esiste da un anno, non ha ancora un prodotto commerciale e si concentra nel rendere l'addestramento del modello IA meno dipendente da enormi quantità di dati e potenza di calcolo.
I chatbot AI si basano su modelli linguistici di grandi dimensioni (LLM), reti neurali addestrate per prevedere il prossimo "token" in una sequenza di testo. Convertono le parole in numeri, utilizzano un meccanismo di attenzione per pesare come le parole si relazionano l'una all'altra, e quindi vengono messi a punto con feedback umano per comportarsi come assistenti utili piuttosto che come predittori di testo grezzo.
I sistemi di raccomandazione dell'IA personalizzano i feed e i suggerimenti di prodotto analizzando ciò che gli utenti fanno clic, guardano, valutano e acquistano, quindi abbinano tale comportamento ai modelli di utenti simili. Piattaforme come Netflix, YouTube e Amazon affermano di utilizzare segnali di coinvolgimento e contestuali – in alcuni casi non dati demografici – mentre i regolatori negli Stati Uniti e nell'UE hanno sollevato preoccupazioni sulla trasparenza e la raccolta di dati dietro questi sistemi.
