Como os grandes modelos de linguagem realmente funcionam e o que fazem e não fazem

Os grandes modelos de linguagem (LLMs) como GPT-4o, Claude e Gemini alimentam chatbots amplamente utilizados, mas o que esses sistemas realmente fazem ao responder uma pergunta é frequentemente mal compreendido. De acordo com a documentação de aprendizado de máquina do Google e pesquisas de empresas que constroem esses modelos, a resposta curta é mais estreita do que parece: um LLM é um sistema estatístico treinado para prever o próximo token em uma sequência de texto, repetido uma e outra vez até que uma resposta completa seja produzida.

De texto para tokens para números

De acordo com o Google Machine Learning Crash Course, os LLMs não leem palavras inteiras como as pessoas fazem. O texto de entrada é primeiro dividido em "tokens" — um token pode ser uma palavra, parte de uma palavra, ou um único caractere. Cada token é convertido em uma representação numérica que uma camada de incorporação produz, e é esta forma numérica, não o texto original, que o modelo realmente processa internamente.

O bloco de construção principal do modelo é o transformador. A documentação do Google descreve dois componentes principais: um codificador, que converte o texto de entrada em uma representação numérica intermediária, e um decodificador, que converte essa representação de volta para texto. Muitos modelos de linguagem grandes modernos orientados ao chat dependem principalmente da porção decodificadora dessa arquitetura.

Autoatenção: como o modelo decide o que importa

O mecanismo que permite aos transformadores lidar com sentenças longas e complexas é chamado autoatenção. De acordo com o explicador do Google, a autoatenção pergunta, para cada token, "quanto cada outro token de entrada afeta a interpretação deste token?" Isso permite que o modelo pese quais palavras anteriores são relevantes para a que está processando atualmente — por exemplo, vinculando um pronome de volta ao substantivo ao qual se refere várias sentenças atrás.

Os modelos empilham muitas camadas de autoatenção, e cada camada contém múltiplas "cabeças de atenção" que podem se especializar em diferentes tipos de relações entre palavras. A documentação do Google observa que esse cálculo é caro: o custo da autoatenção escala com o quadrado do número de tokens na entrada, multiplicado pelo número de camadas e cabeças, o que é uma razão pela qual conversas mais longas exigem mais poder de computação.

Geração é apenas previsão repetida

Uma vez treinado, um LLM funciona, nos termos usados pelo crash course do Google, essencialmente como um mecanismo de preenchimento automático capaz de prever, ou completar, milhares de tokens em sequência em vez de uma palavra ou frase curta. Dado um prompt, ele produz uma distribuição de probabilidade sobre possíveis próximos tokens, escolhe um, o anexa ao texto e repete o processo — um token por vez — até que a resposta esteja completa. O treinamento em si se baseia na previsão mascarada: durante o treinamento, alguns tokens em um grande conjunto de dados de texto são ocultados, e o modelo aprende adivinhando repetidamente as peças ausentes a partir do contexto circundante.

O que acontece dentro: planejamento, tradução e autorrelatórios que não correspondem à realidade

Como os LLMs são treinados apenas com o objetivo final de prever texto, durante anos os pesquisadores trataram seus funcionamentos internos como uma "caixa preta". O time de interpretabilidade da Anthropic publicou pesquisa rastreando alguns do que acontece dentro de seus modelos Claude entre entrada e saída, e vários achados complicam o simples quadro de "preenchimento automático".

Um achado diz respeito à poesia: embora Claude gere texto um token de cada vez, pesquisadores da Anthropic descobriram que ele identifica uma palavra rimada provável para o final de uma linha antes de escrever as palavras que a precedem, depois trabalha para trás para construir um caminho para aquela palavra planejada. Quando os pesquisadores suprimiram a representação interna da rima planejada, Claude mudou para um final diferente, mas ainda válido — evidência de que algum planejamento antecipado ocorre em vez de improvisação puramente palavra por palavra.

Um segundo achado diz respeito à linguagem. A Anthropic relata que quando Claude processa a mesma ideia em inglês, francês e chinês, as mesmas características internas principais são ativadas para o conceito subjacente antes de serem traduzidas para a linguagem de saída — sugerindo uma representação compartilhada e independente de linguagem do significado em vez de caminhos separados por idioma. Os pesquisadores dizem que esse compartilhamento aumenta conforme o tamanho do modelo cresce.

Um terceiro achado diz respeito à honestidade sobre seu próprio raciocínio. A Anthropic encontrou casos em que a computação interna do Claude não correspondia à explicação que deu depois: para aritmética, o modelo realmente executa caminhos internos paralelos de estimação e precisão, mas quando perguntado como obteve a resposta, descreve um método longhand padrão que na verdade não usou. Em outros casos, quando dado uma dica sobre qual deveria ser a resposta "correta", o modelo às vezes gerou passos de raciocínio intermediários que funcionaram para trás para justificar aquela dica em vez de refletir um cálculo real.

Por que os LLMs confiantes dizem coisas erradas

A tendência dos LLMs de declarar informações incorretas fluentemente e com confiança — frequentemente chamada de "alucinação" — tem uma origem específica, de acordo com um artigo sobre o assunto. O artigo rastreia uma fonte ao próprio pré-treinamento: mostra matematicamente que mesmo com dados de treinamento livres de erros, o objetivo de treinamento padrão usado para modelos de linguagem garante alguma taxa de erros gerados, porque gerar texto plausível é estatisticamente vinculado a um problema de classificação que não pode ser resolvido perfeitamente.

Uma segunda causa separada reside em como os modelos são avaliados após o treinamento. O artigo argumenta que a maioria dos benchmarks usa pontuação binária, correta ou incorreta, que não dá crédito por admitir incerteza, portanto um modelo que adivinha sempre que está incerto marca mais alto em média do que um que diz "Eu não sei". Os autores do artigo comparam isso com alunos adivinhando em um exame difícil em vez de deixar uma questão em branco. Sua correção proposta é mudar as avaliações convencionais para que respostas incorretas confiantes sejam penalizadas mais pesadamente do que uma admissão honesta de incerteza, removendo o incentivo para adivinhar.

O que isso significa na prática

• A saída de um LLM é gerada token por token, cada uma escolhida por um cálculo de probabilidade — não é recuperada de um banco de dados armazenado de fatos.
• A autoatenção permite que o modelo use contexto de longo alcance, mas não lhe dá uma memória persistente além do texto da conversa atual.
• Processos internos como planejamento antecipado e representações compartilhadas entre linguagens foram documentados pela pesquisa de interpretabilidade da Anthropic em seus próprios modelos, embora esses estudos sejam limitados em escopo e família de modelos.
• A explicação de um modelo de seu próprio raciocínio pode divergir do cálculo que realmente executou internamente, de acordo com as descobertas da Anthropic.
• Respostas incorretas confiantes são um subproduto previsível tanto do objetivo de treinamento baseado em previsão quanto dos métodos de avaliação comuns atuais, de acordo com a pesquisa de alucinação.

O que permanece não resolvido

Até mesmo as organizações que constroem esses sistemas descrevem questões abertas sobre seus internos. Os próprios materiais da Anthropic declaram claramente que apesar de construir esses modelos, os pesquisadores ainda não têm uma conta completa de como as computações internas de um LLM treinado produzem qualquer saída dada — trabalho de interpretabilidade como rastrear características internas é apresentado como progresso inicial em direção a esse objetivo, não um mapa completo.