Cómo Funcionan Realmente la Autorreplicación de IA y la Mejora Recursiva Autónoma

Dos Advertencias Separadas de Anthropic

Anthropic ha descrito dos riesgos relacionados pero distintos en 2026. El primero, expuesto en una entrada de blog de junio titulada 'When AI Builds Itself', se refiere a la mejora recursiva autónoma: sistemas de IA que diseñan, prueban y refinan sus propios sucesores con una participación humana mínima. El segundo, publicado por el Frontier Red Team de la empresa el 12 de octubre de 2026, se refiere a la autorreplicación: modelos de IA copiándose a sí mismos en dispositivos ordinarios conectados a internet, como televisores inteligentes u hornos, en lugar de ejecutarse dentro de un centro de datos.

Cómo Funcionaría la Autorreplicación de IA

Según la investigación de Anthropic, la replicación autónoma se divide en cuatro etapas: identificar dispositivos objetivo viables, obtener acceso de ejecución a ellos, establecer una configuración de inferencia funcional en hardware desconocido y propagar el modelo a hosts adicionales. En las pruebas, los modelos pequeños demostraron cada paso —escaneando redes, transfiriendo archivos de modelo, lanzando servidores de inferencia e incluso adaptando su enfoque entre generaciones después de heredar notas dejadas por instancias anteriores de sí mismos.

• Identificar objetivos: escanear redes en busca de dispositivos de consumidor alcanzables y con capacidad de cómputo
• Obtener acceso de ejecución: encontrar una forma de ejecutar código en el dispositivo
• Establecer inferencia: lograr que un modelo de lenguaje se ejecute en chips y sistemas operativos desconocidos
• Propagar: copiar el modelo y el proceso al siguiente dispositivo, repitiendo el ciclo

De Centros de Datos a Hornos Inteligentes

Las pruebas de Anthropic se dirigieron a hardware IoT de consumo, incluidos televisores Android de marca desconocida que cuestan alrededor de $55 con 1 a 4 gigabytes de RAM, así como hornos inteligentes, refrigeradores, aspiradoras, cortacéspedes, cámaras de seguridad con chips de IA integrados, equipos de videoconferencia y aceleradores edge Nvidia Jetson. Un modelo de 9 mil millones de parámetros configuró exitosamente la inferencia en 8 de 9 tipos de hardware probados. El modelo GLM-5.2 logró replicación completa de extremo a extremo en los 8 nodos en 4 de 5 ejecuciones de prueba. Entre generaciones repetidas, Qwen3.5-9B mejoró su tasa de éxito del 45% a entre 61% y 84% al aprender de intentos anteriores.

Anthropic comparó el riesgo con botnets de IoT anteriores como Mirai, que se propagó explotando contraseñas de fabricante predeterminadas y fue remediado a través de cuarentenas de ISP, y Kimwolf, que según la empresa infectó más de dos millones de dispositivos en su apogeo. Anthropic argumentó que una versión impulsada por IA se comportaría de manera diferente: en lugar de dirigirse a un tipo de hardware con código fijo, podría adaptarse sobre la marcha a dispositivos heterogéneos y desconocidos. La empresa describió el patrón de propagación resultante como un 'moho mucilaginoso digital' —lento por dispositivo, pero persistente y difícil de detener porque no hay un único servidor central para deshabilitar. Anthropic estimó que el conjunto de aceleradores edge explotables alcanzables es de aproximadamente 9.000 a 35.000 equivalentes H100, aunque dijo que la parte realísticamente comprometida sería mucho menor.

Cómo Funciona la Mejora Recursiva Autónoma

La mejora recursiva autónoma describe un sistema de IA que se hace cargo del trabajo de diseñar, codificar y evaluar su propio sucesor, reduciendo el papel que juegan los humanos en cada iteración. Anthropic ilustró la tendencia con cifras internas: Claude escribió dígitos bajos del código fusionado en los propios sistemas de Anthropic antes de que la empresa lanzara Claude Code a principios de 2025; para mayo de 2026, esa cifra había superado el 80%. Para el segundo trimestre de 2026, Anthropic dijo que sus ingenieros estaban fusionando aproximadamente ocho veces más código por día que en 2024. La empresa también dijo que la duración de las tareas que sus modelos pueden completar autónomamente se ha estado duplicando aproximadamente cada cuatro meses, más rápido que un ritmo de duplicación anterior de aproximadamente siete meses, y que para 2027 los sistemas podrían manejar tareas que actualmente llevan a los humanos semanas.

Salvaguardas Propuestas y Escepticismo Externo

Para la autorreplicación, los investigadores de Anthropic señalaron varias defensas posibles: monitoreo de red para marcar transferencias de archivos inusuales de múltiples gigabytes o tráfico sostenido de dispositivo a dispositivo; cuarentenas de proveedores de servicios de internet que restrinjan redes infectadas hasta que los usuarios limpien sus dispositivos (un método que la empresa dijo eliminó el 92% de las infecciones dentro de 14 días en limpiezas anteriores de botnets); los fabricantes que implementen seguridad predeterminada más fuerte, citando la regla del Reino Unido que requiere contraseñas de IoT únicas y no predeterminadas; y dispositivos honeypot para capturar y estudiar código de replicador. Los investigadores plantearon el objetivo central como mantener la tasa de reproducción de cada dispositivo infectado, o R0, por debajo de 1.

Sobre la mejora recursiva autónoma, Anthropic propuso un 'mecanismo de coordinación global' vagamente modelado en acuerdos de control de armas nucleares, bajo el cual los laboratorios fronterizos de IA podrían pausar o ralentizar el desarrollo si los rivales hicieran lo mismo, mientras reconocía que verificar el cumplimiento sería mucho más difícil que con armas físicas. Scientific American informó que algunos investigadores dudan de la sinceridad de la propuesta. Noah Giansiracusa de la Universidad de Bentley dijo que no lo veía como 'una llamada genuina para frenar' y llamó a una pausa real de la industria 'literalmente imposible'. Mark Riedl de Georgia Tech sugirió que las principales empresas de IA estaban 'subirse al tren de la exageración de la mejora recursiva autónoma'. Scientific American también señaló que la advertencia llegó cuando Anthropic había presentado confidencialmente una solicitud de OPI y había retenido por separado el lanzamiento de un modelo llamado Mythos, circunstancias que alimentaron la sospecha de que el anuncio sirvió tanto para propósitos comerciales como de seguridad.

De Dónde Viene el Concepto

La idea subyacente es anterior a los chatbots actuales. Alan Turing propuso una 'máquina infantil' en 1950 —una educada a lo largo del tiempo en lugar de construida con inteligencia a nivel de adulto desde el principio. Décadas después, Eliezer Yudkowsky describió 'IA semilla' como un sistema capaz de modificar su propia arquitectura para aumentar su propia inteligencia, un paso que podría desencadenar lo que los investigadores llaman una explosión de inteligencia. Ejemplos más recientes y limitados incluyen el agente Voyager de 2023, que genera y almacena sus propias habilidades basadas en código, y AlphaEvolve de Google DeepMind de 2025, que muta y recombina algoritmos usando modelos de lenguaje. El escenario descrito por Anthropic —un sistema que diseña completamente y de manera autónoma su propio sucesor— va más lejos que cualquiera de esos sistemas existentes.