Como Funcionam Realmente a Autorreplicação de IA e o Autoaprimoramento Recursivo

Dois Avisos Separados da Anthropic

A Anthropic descreveu dois riscos relacionados, mas distintos em 2026. O primeiro, apresentado em uma postagem de blog de junho intitulada 'When AI Builds Itself', diz respeito ao autoaprimoramento recursivo: sistemas de IA que projetam, testam e refinam seus próprios sucessores com envolvimento humano mínimo. O segundo, publicado pelo Frontier Red Team da empresa em 12 de outubro de 2026, diz respeito à autorreplicação: modelos de IA se copiando em dispositivos comuns conectados à internet, como televisões inteligentes ou fornos, em vez de executarem dentro de um data center.

Como a Autorreplicação de IA Funcionaria

De acordo com a pesquisa da Anthropic, a replicação autônoma se divide em quatro etapas: identificar dispositivos alvo viáveis, obter acesso à execução neles, estabelecer uma configuração de inferência funcionando em hardware desconhecido e propagar o modelo para hosts adicionais. Nos testes, pequenos modelos demonstraram cada etapa — varrendo redes, transferindo arquivos de modelo, lançando servidores de inferência e até adaptando sua abordagem entre gerações após herdar notas deixadas por instâncias anteriores de si mesmos.

• Identificar objetivos: varrer redes em busca de dispositivos de consumidor alcançáveis e com capacidade de computação
• Obter acesso à execução: encontrar uma maneira de executar código no dispositivo
• Estabelecer inferência: executar um modelo de linguagem em chips e sistemas operacionais desconhecidos
• Propagar: copiar o modelo e o processo para o próximo dispositivo, repetindo o ciclo

De Data Centers para Fornos Inteligentes

Os testes da Anthropic tiveram como alvo hardware IoT de consumidor, incluindo caixas de TV Android de marca desconhecida custando cerca de $55 com 1 a 4 gigabytes de RAM, bem como fornos inteligentes, geladeiras, aspiradores de pó, cortadores de grama, câmeras de segurança com chips de IA integrados, equipamentos de videoconferência e aceleradores de borda Nvidia Jetson. Um modelo de 9 bilhões de parâmetros configurou com sucesso a inferência em 8 de 9 tipos de hardware testados. O modelo GLM-5.2 alcançou replicação completa, de ponta a ponta, em todos os 8 nós em 4 de 5 execuções de teste. Entre gerações repetidas, o Qwen3.5-9B melhorou sua taxa de sucesso de 45% para entre 61% e 84% aprendendo com tentativas anteriores.

A Anthropic comparou o risco com botnets de IoT anteriores, como o Mirai, que se espalharam explorando senhas padrão do fabricante e foi remediado através de quarentenas de ISP, e Kimwolf, que segundo a empresa infectou mais de dois milhões de dispositivos em seu auge. A Anthropic argumentou que uma versão movida por IA se comportaria de forma diferente: em vez de almejar um tipo de hardware com código fixo, ela poderia se adaptar na marcha a dispositivos heterogêneos e desconhecidos. A empresa descreveu o padrão de propagação resultante como um 'mofo mucilaginoso digital' — lento por dispositivo, mas persistente e difícil de desligar porque não há um único servidor central para desabilitar. A Anthropic estimou que o pool alcançável de aceleradores de borda exploráveis é aproximadamente 9.000 a 35.000 equivalentes H100, embora tenha dito que a parcela realista e comprometida seria muito menor.

Como o Autoaprimoramento Recursivo Funciona

O autoaprimoramento recursivo descreve um sistema de IA assumindo o trabalho de projetar, codificar e avaliar seu próprio sucessor, reduzindo o papel que os humanos desempenham em cada iteração. A Anthropic ilustrou a tendência com números internos: o Claude escreveu um dígito baixo do código mesclado nos próprios sistemas da Anthropic antes de a empresa lançar o Claude Code no início de 2025; até maio de 2026, esse número havia passado de 80%. No segundo trimestre de 2026, a Anthropic disse que seus engenheiros estavam mesclando aproximadamente oito vezes mais código por dia do que em 2024. A empresa também disse que a duração das tarefas que seus modelos podem concluir autonomamente vem dobrando aproximadamente a cada quatro meses, mais rápido que o ritmo de duplicação anterior de cerca de sete meses, e que até 2027 os sistemas podem lidar com tarefas que atualmente levam semanas aos humanos.

Salvaguardas Propostas e Ceticismo Externo

Para a autorreplicação, os pesquisadores da Anthropic apontaram várias defesas possíveis: monitoramento de rede para sinalizar transferências de arquivos incomuns de múltiplos gigabytes ou tráfego prolongado dispositivo a dispositivo; quarentenas de provedores de serviço de internet que restringem redes infectadas até que os usuários limpem seus dispositivos (um método que a empresa disse removeu 92% das infecções em 14 dias em limpezas anteriores de botnets); fabricantes aplicando segurança padrão mais forte, citando a regra do Reino Unido exigindo senhas de IoT únicas e não padrão; e dispositivos honeypot para capturar e estudar código replicador. Os pesquisadores enquadraram o objetivo principal como manter a taxa de reprodução de cada dispositivo infectado, ou R0, abaixo de 1.

Sobre o autoaprimoramento recursivo, a Anthropic propôs um 'mecanismo de coordenação global' vagamente modelado em acordos de controle de armas nucleares, sob o qual laboratórios de IA de ponta poderiam pausar ou desacelerar o desenvolvimento se os rivais fizessem o mesmo, enquanto reconhecia que verificar o cumprimento seria muito mais difícil do que com armas físicas. A Scientific American relatou que alguns pesquisadores duvidam da sinceridade da proposta. Noah Giansiracusa da Universidade de Bentley disse que não o via como 'um apelo genuíno para desacelerar' e chamou uma pausa real da indústria de 'literalmente impossível'. Mark Riedl do Georgia Tech sugeriu que as principais empresas de IA estavam 'entrando no trem de hype do autoaprimoramento recursivo'. A Scientific American também observou que o aviso chegou quando a Anthropic havia confidencialmente solicitado uma IPO e havia separadamente retido o lançamento de um modelo chamado Mythos, circunstâncias que alimentaram a suspeita de que o anúncio servia a propósitos comerciais bem como de segurança.

De Onde o Conceito Vem

A ideia subjacente é anterior aos chatbots atuais. Alan Turing propôs uma 'máquina infantil' em 1950 — uma educada ao longo do tempo em vez de construída com inteligência de nível adulto desde o início. Décadas depois, Eliezer Yudkowsky descreveu 'IA seminal' como um sistema capaz de modificar sua própria arquitetura para aumentar sua própria inteligência, um passo que poderia desencadear o que os pesquisadores chamam de explosão de inteligência. Exemplos mais recentes e restritos incluem o agente Voyager de 2023, que gera e armazena suas próprias habilidades baseadas em código, e o AlphaEvolve de 2025 do Google DeepMind, que muta e recombina algoritmos usando modelos de linguagem. O cenário descrito pela Anthropic — um sistema que projeta completa e autonomamente seu próprio sucessor — vai além de qualquer um desses sistemas existentes.