Do Código de Máquina ao ChatGPT: Como a Programação Mudou em Oito Décadas

A programação de software não começou digitando comandos em uma linguagem de alto nível. Os primeiros computadores eletrônicos foram configurados instrução por instrução nos padrões binários brutos que seu hardware podia ler diretamente — o que agora é chamado de código de máquina. A partir de então, a programação passou pela linguagem assembly, depois por linguagens de alto nível construídas para pessoas e não para processadores, e na última década para sistemas que geram seu próprio código e texto. As datas e números abaixo vêm do próprio histórico corporativo da IBM, da IEEE Computer Society, da conta de Dartmouth College sobre seu workshop de 1956, e do artigo de pesquisa de 2017 que introduziu a arquitetura Transformer usada nos chatbots atuais.

Do código de máquina aos mnemônicos

De acordo com uma cronologia publicada pela IEEE Computer Society, uma das primeiras linguagens de programação foi Plankalkül, desenvolvida pelo engenheiro alemão Konrad Zuse nos anos 1940. Em 1949, a linguagem assembly e um sistema chamado Shortcode haviam aparecido, substituindo longas sequências de dígitos binários por códigos mnemônicos curtos — mas esses códigos ainda precisavam ser traduzidos, linha por linha, para o formato que o processador podia executar.

Linguagens de alto nível: escrever para pessoas, não para processadores

A mudança se acelerou em 1957, quando a IBM entregou Fortran, abreviatura de 'tradução de fórmulas'. O próprio histórico da IBM do projeto afirma que uma equipe liderada pelo matemático John Backus — que incluía Lois Haibt, que construiu o analisador de expressões aritméticas do compilador — trabalhou três anos em uma linguagem originalmente esperada para levar seis meses. A IBM diz que Fortran reduziu programas que anteriormente precisavam de aproximadamente 1.000 instruções de código de máquina para apenas 47 linhas, permitindo que cientistas e engenheiros escrevessem comandos semelhantes a álgebra como 'DO' e 'GO TO' em vez de codificar o hardware diretamente. Em meados dos anos 1960, Fortran havia se tornado um padrão de computação nacional, segundo a IBM.

A cronologia da IEEE Computer Society lista Algol e Lisp como chegando em 1958, e Cobol, construido para computação empresarial, em 1959. Em 1972, a equipe de Dennis Ritchie nos Bell Labs produziu C, que a mesma cronologia da IEEE credita como a base estrutural para linguagens posteriores incluindo JavaScript, PHP e Python. A programação orientada a objetos seguiu com C++ em 1983. O relato da IEEE também registra o debut de Python em 1991, Java, JavaScript e PHP em 1995, Go do Google em 2009, e Swift da Apple em 2014.

Uma trilha paralela: ensinar máquinas a raciocinar

Enquanto as linguagens de alto nível se espalhavam, uma linha separada de pesquisa perguntava se as máquinas poderiam simular inteligência em vez de simplesmente seguir instruções. O próprio relato do Dartmouth College descreve o Projeto de Pesquisa do Verão de Dartmouth de 1956, organizado pelo matemático John McCarthy, cuja proposta visava testar o que chamava de 'a conjectura de que todo aspecto da aprendizagem ou qualquer outra característica da inteligência pode em princípio ser tão precisamente descrito que uma máquina pode ser feita para simulá-lo'. Dartmouth credita esse workshop como o ponto de partida da inteligência artificial como campo de pesquisa definido.

Décadas depois, essa pesquisa produziu um teste público amplamente observado. O histórico da IBM sobre seu computador de xadrez Deep Blue afirma que a máquina perdeu sua primeira partida contra o campeão mundial Garry Kasparov 4–2 em Filadélfia em fevereiro de 1996, depois venceu uma revanche em Nova York em maio de 1997 por uma pontuação de 3.5–2.5 — a primeira vez, segundo a IBM, que um computador havia derrotado um campeão mundial reinante de xadrez sob condições padrão de torneio.

O Transformer e a era da IA generativa

A arquitetura por trás dos chatbots atuais remonta a um único artigo de 2017. Oito pesquisadores — Ashish Vaswani, Noam Shazeer, Niki Parmar, Jakob Uszkoreit, Llion Jones, Aidan Gomez, Lukasz Kaiser e Illia Polosukhin — postaram 'Attention Is All You Need' no servidor de preprints arXiv em 12 de junho de 2017. O artigo introduziu o Transformer, descrito em seu resumo como uma rede baseada apenas em mecanismos de atenção, removendo as camadas recorrentes e convolucionais nas quais os sistemas de tradução anteriores se baseavam. Os autores relataram pontuações de 28.4 BLEU em tradução inglês-alemão e 41.8 BLEU em tradução inglês-francês, com treinamento mais rápido que modelos anteriores.

Essa arquitetura está na base dos grandes modelos de linguagem lançados a partir de 2018. A OpenAI lançou ChatGPT em 30 de novembro de 2022. De acordo com um relato de History.com citando o cofundador da OpenAI Sam Altman, o serviço alcançou um milhão de usuários em cinco dias e aproximadamente 100 milhões de usuários mensais em aproximadamente dois meses, que o relato descreve como a adoção mais rápida de aplicativo de consumidor registrada naquela época.

Ao longo de quase oito décadas, cada passo traçado acima reduziu o quanto de detalhe específico do hardware uma pessoa precisava escrever manualmente — desde o Plankalkül de Zuse e instruções binárias definidas manualmente, passando pelos comandos semelhantes a álgebra de Fortran, até modelos baseados em atenção que agora geram código e texto a partir de prompts em linguagem natural.