Como as Redes Neurais Aprendem: A Matemática por Trás do ChatGPT e Gemini

Toda vez que um chatbot responde uma pergunta ou um aplicativo de fotos reconhece um rosto, uma rede neural está executando um processo de aprendizagem que segue os mesmos passos básicos, independentemente da tarefa. De acordo com IBM, esse processo repousa em duas técnicas vinculadas: retropropagação, que calcula quanto cada parâmetro interno contribuiu para um erro, e descida de gradiente, o método de otimização que usa esses cálculos para corrigir os parâmetros.

O Que Uma Rede Neural Realmente É

O Instituto de Stanford para IA Centrada no Ser Humano (HAI) descreve uma rede neural como um modelo computacional inspirado na estrutura do cérebro humano, construído a partir de camadas interconectadas de 'neurônios' artificiais que processam e transmitem informações. Cada neurônio recebe entradas numéricas, as multiplica por valores ajustáveis chamados pesos, adiciona um termo de viés, e passa o resultado através de uma função de ativação não linear antes de enviá-lo para a próxima camada, de acordo com a descrição da IBM da arquitetura. Stanford HAI observa que essa estrutura em camadas é o que permite às redes neurais extrair padrões de grandes quantidades de dados, formando a base do aprendizado profundo.

Passo Um: A Passagem para Frente

O treinamento começa com pesos e vieses definidos como valores aleatórios, explica IBM. Durante a 'passagem para frente', dados de entrada se movem através da rede camada por camada: cada neurônio calcula sua soma ponderada, aplica sua função de ativação, e encaminha a saída, até que a camada final produz uma previsão. Nesse estágio inicial, porque os pesos são aleatórios, essa previsão é essencialmente uma adivinhação.

Passo Dois: Medindo o Erro

A rede então compara sua previsão com a resposta correta usando uma função de perda, uma fórmula que quantifica quão longe a saída estava, de acordo com IBM. Diferentes tarefas usam diferentes fórmulas — erro quadrático médio é comum para prever números, enquanto entropia cruzada é usada para tarefas de classificação como classificar imagens em categorias.

Passo Três: Retropropagação Rastreia a Culpa

A 'passagem para trás' é onde o aprendizado acontece. IBM descreve a retropropagação como funcionando da camada de saída em direção à camada de entrada, usando uma técnica de cálculo chamada a regra da cadeia para determinar quanto cada peso individual contribuiu para o erro geral. O resultado é um gradiente: um conjunto de valores, um para cada peso e viés, indicando a direção e o tamanho do ajuste que reduziria o erro.

IBM aponta a eficiência dessa abordagem: para uma rede com um milhão de pesos, testar cada parâmetro individualmente por tentativa e erro exigiria mais de um milhão de passagens separadas para frente através da rede. A retropropagação alcança a mesma informação em apenas duas passagens — uma para frente, uma para trás.

Passo Quatro: Descida de Gradiente Atualiza os Pesos

Uma vez que o gradiente é conhecido, descida de gradiente move cada peso um pequeno passo na direção que reduz o erro, explica IBM. O tamanho desse passo é controlado pela 'taxa de aprendizado': uma taxa de aprendizado mais alta acelera o treinamento mas corre o risco de ultrapassar os melhores valores, enquanto uma taxa mais baixa é mais precisa mas mais lenta para convergir. Os quatro passos — passagem para frente, cálculo de perda, passagem para trás, atualização de pesos — repetem uma e outra vez, frequentemente em milhões de exemplos, até que a perda pare de diminuir significativamente.

Da Técnica de Laboratório a ChatGPT e Gemini

Grandes modelos de linguagem aplicam esse mesmo ciclo de retropropagação e descida de gradiente em uma escala muito maior, em dois estágios distintos. O primeiro, pré-treinamento, expõe o modelo a quantidades massivas de texto não rotulado — corpora contendo centenas de bilhões de tokens, de acordo com RBC Borealis — e repetidamente o pede para prever a próxima palavra em uma sequência. Um blog de pesquisa da RBC Borealis descreve esse modelo de fundação como fundamentalmente uma rede treinada para 'prever a próxima palavra em uma string de entrada parcialmente completa', que a ensina gramática, fatos e padrões gerais mas por si só não a torna um assistente confiável.

O segundo estágio, ajuste fino, adapta a rede pré-treinada para comportamento específico. RBC Borealis descreve três abordagens comuns: ajuste fino supervisionado em respostas escritas por humanos; aprendizado por reforço de feedback humano (RLHF), no qual um modelo de recompensa separado treinado em preferências humanas guia atualizações de peso adicionais; e métodos mais novos como otimização de preferência direta, que pulam o modelo de recompensa separado mas ainda dependem de retropropagação. Esse estágio de ajuste fino é o que transforma um preditor geral de próxima palavra em um sistema que segue instruções e recusa certas solicitações, em vez de simplesmente continuar o texto na direção que for estatisticamente provável.

Por Que o Mecanismo Importa

Porque tanto o pré-treinamento quanto o ajuste fino dependem do mesmo loop subjacente de retropropagação e descida de gradiente, as melhorias para essa técnica central — hardware mais rápido, melhores funções de perda, otimização mais eficiente — afetam cada aplicação downstream de uma vez, desde reconhecimento de imagens até assistentes conversacionais. Stanford HAI observa que redes neurais agora formam a base de sistemas de aprendizado profundo usados em reconhecimento facial, assistentes de voz e veículos autônomos, todos os quais são treinados através de variações do mesmo ciclo de quatro passos descrito acima.