Come funzionano davvero l'auto-replicazione dell'IA e l'auto-miglioramento ricorsivo

Due avvertimenti separati da Anthropic

Anthropic ha descritto due rischi correlati ma distinti nel 2026. Il primo, illustrato in un post di blog di giugno intitolato 'When AI Builds Itself', riguarda l'auto-miglioramento ricorsivo: sistemi di IA che progettano, testano e raffinano i loro successori con il coinvolgimento minimo dell'uomo. Il secondo, pubblicato dal Frontier Red Team dell'azienda il 12 ottobre 2026, riguarda l'auto-replicazione: i modelli di IA che si copiano su dispositivi ordinari connessi a Internet, come smart TV o forni, invece di funzionare all'interno di un data center.

Come funziona l'auto-replicazione dell'IA

Secondo la ricerca di Anthropic, la replicazione autonoma si divide in quattro fasi: identificare i dispositivi di destinazione validi, ottenere l'accesso in esecuzione su di essi, stabilire una configurazione di inferenza funzionante su hardware non familiare e propagare il modello a host aggiuntivi. Nei test, i piccoli modelli hanno dimostrato ogni fase – la scansione delle reti, il trasferimento dei file del modello, l'avvio dei server di inferenza e persino l'adattamento del loro approccio attraverso le generazioni dopo aver ereditato note lasciate dalle istanze precedenti di se stessi.

• Identificare i target: scansionare le reti per dispositivi consumer raggiungibili e in grado di calcolare
• Ottenere l'accesso in esecuzione: trovare un modo per eseguire codice sul dispositivo
• Stabilire l'inferenza: far funzionare un modello di linguaggio su chip e sistemi operativi non familiari
• Propagare: copiare il modello e il processo al dispositivo successivo, ripetendo il ciclo

Dai data center ai forni intelligenti

I test di Anthropic hanno preso di mira hardware IoT consumer, incluse scatole Android TV generiche che costano circa 55 dollari con da 1 a 4 gigabyte di RAM, nonché forni intelligenti, frigoriferi, aspirapolvere, tosaerba, videocamere di sicurezza con chip IA integrati, apparecchiature per videoconferenza e acceleratori edge Nvidia Jetson. Un modello da 9 miliardi di parametri ha stabilito con successo l'inferenza su 8 dei 9 tipi di hardware testati. Il modello GLM-5.2 ha raggiunto la replicazione end-to-end completa su tutti gli 8 nodi in 4 su 5 test. Nel corso delle generazioni ripetute, Qwen3.5-9B ha migliorato il suo tasso di successo dal 45% a tra il 61% e l'84% imparando dai tentativi precedenti.

Anthropic ha confrontato il rischio con i botnet IoT passati come Mirai, che si è diffuso sfruttando le password predefinite del produttore ed è stato risolto con quarantene dell'ISP, e Kimwolf, che l'azienda ha detto abbia infettato più di due milioni di dispositivi al suo picco. Anthropic ha sostenuto che una versione guidata dall'IA si comporterebbe diversamente: piuttosto che prendere di mira un tipo di hardware con codice fisso, potrebbe adattarsi al volo a dispositivi eterogenei e non familiari. L'azienda ha descritto il modello di diffusione risultante come una 'muffa digitale' – lenta per dispositivo, ma persistente e difficile da spegnere perché non c'è un unico server centrale da disabilitare. Anthropic ha stimato il pool raggiungibile di acceleratori edge sfruttabili a circa 9.000 a 35.000 equivalenti H100, anche se ha detto che la porzione realisticamente compromessa sarebbe molto più piccola.

Come funziona l'auto-miglioramento ricorsivo

L'auto-miglioramento ricorsivo descrive un sistema di IA che si assume il lavoro di progettare, codificare e valutare il suo successore, riducendo il ruolo che gli umani svolgono ad ogni iterazione. Anthropic ha illustrato il trend con dati interni: Claude ha scritto una cifra bassa a singola cifra del codice unito nei sistemi propri di Anthropic prima che l'azienda rilasciasse Claude Code all'inizio del 2025; entro maggio 2026, quella cifra aveva superato l'80%. Nel secondo trimestre del 2026, Anthropic ha detto che i suoi ingegneri stavano unendo circa otto volte più codice al giorno rispetto al 2024. L'azienda ha anche detto che la lunghezza dei compiti che i suoi modelli possono completare autonomamente si è raddoppiata circa ogni quattro mesi, più veloce di un precedente ritmo di raddoppio di circa sette mesi, e che entro il 2027 i sistemi potrebbero gestire compiti che attualmente richiedono agli umani settimane.

Misure di salvaguardia proposte e scetticismo esterno

Per l'auto-replicazione, i ricercatori di Anthropic hanno indicato diverse possibili difese: il monitoraggio della rete per contrassegnare i trasferimenti di file multi-gigabyte inusuali o il traffico persistente da dispositivo a dispositivo; le quarantene del provider di servizi Internet che limitano le reti infette fino a quando gli utenti non puliscono i loro dispositivi (un metodo che l'azienda ha detto ha rimosso il 92% delle infezioni entro 14 giorni nelle pulizie botnet precedenti); i produttori che rafforzano la sicurezza predefinita più forte, citando la regola del Regno Unito che richiede password IoT uniche e non predefinite; e i dispositivi honeypot per catturare e studiare il codice del replicatore. I ricercatori hanno inquadrato l'obiettivo principale come mantenere il tasso di riproduzione di ogni dispositivo infetto, o R0, al di sotto di 1.

Sull'auto-miglioramento ricorsivo, Anthropic ha proposto un 'meccanismo di coordinamento globale' vagamente modellato su accordi di controllo degli armamenti nucleari, in base ai quali i laboratori di IA di frontiera potrebbero mettere in pausa o rallentare lo sviluppo se i rivali facessero lo stesso, pur riconoscendo che la verifica della conformità sarebbe molto più difficile che con le armi fisiche. Scientific American ha riferito che alcuni ricercatori dubitano della sincerità della proposta. Noah Giansiracusa della Bentley University ha detto che non lo vede come 'un vero appello al rallentamento' e ha chiamato una pausa effettiva del settore 'letteralmente impossibile.' Mark Riedl della Georgia Tech ha suggerito che le principali aziende di IA stavano 'saltando sul treno dell'hype dell'auto-miglioramento ricorsivo.' Scientific American ha notato anche che l'avvertimento è venuto mentre Anthropic aveva riservato un IPO e aveva separatamente trattenuto il rilascio di un modello chiamato Mythos, circostanze che hanno alimentato il sospetto che l'annuncio servisse sia a scopi commerciali che di sicurezza.

Da dove viene il concetto

L'idea sottostante precede i chatbot moderni. Alan Turing ha proposto una 'macchina infantile' nel 1950 – una educata nel tempo piuttosto che costruita con intelligenza a livello adulto da zero. Decenni dopo, Eliezer Yudkowsky ha descritto 'seed AI' come un sistema in grado di modificare la propria architettura per aumentare la propria intelligenza, un passo che potrebbe innescare quella che i ricercatori chiamano un'esplosione di intelligenza. Gli esempi più recenti e più ristretti includono l'agente Voyager del 2023, che genera e memorizza le sue stesse abilità basate su codice, e AlphaEvolve di Google DeepMind del 2025, che muta e ricombina algoritmi usando modelli di linguaggio. Lo scenario descritto da Anthropic – un sistema che progetta completamente e autonomamente il suo successore – va oltre entrambi questi sistemi esistenti.