Hoe AI-zelfveelvoudiging en recursieve zelfverbetering eigenlijk werken

Twee aparte waarschuwingen van Anthropic

Anthropic heeft in 2026 twee gerelateerde maar verschillende risico's beschreven. De eerste, uitgelegd in een blogpost van juni met als titel 'When AI Builds Itself', betreft recursieve zelfverbetering: AI-systemen die hun eigen opvolgers ontwerpen, testen en verfijnen met minimale menselijke betrokkenheid. De tweede, gepubliceerd door het Frontier Red Team van het bedrijf op 12 oktober 2026, betreft zelfveelvoudiging: AI-modellen kopiëren zichzelf op gewone internetverbonden apparaten, zoals smart-tv's of ovens, in plaats van binnen een datacentrum te werken.

Hoe AI-zelfveelvoudiging werkt

Volgens het onderzoek van Anthropic verloopt autonome veelvoudiging in vier fasen: het identificeren van levensvatbare doelapparaten, het verwerven van uitvoeringstoegang ervan, het opzetten van een werkende inferenceconfiguratie op onbekende hardware en het verspreiden van het model naar aanvullende hosts. In tests toonden kleine modellen elke stap aan – het scannen van netwerken, het overdragen van modelbestanden, het starten van inferencesservers en zelfs het aanpassen van hun aanpak over generaties heen nadat zij notities hadden overgenomen die achtergelaten waren door eerdere exemplaren van zichzelf.

• Doelen identificeren: netwerken scannen op bereikbare, berekeningssterke consumentenapparaten
• Uitvoeringstoegang verkrijgen: een manier vinden om code op het apparaat uit te voeren
• Inferentie vaststellen: een taalmodel aan de gang zetten op onbekende chips en besturingssystemen
• Verspreiden: het model en proces naar het volgende apparaat kopiëren en de cyclus herhalen

Van datacenters naar slimme ovens

Anthropics tests waren gericht op consument-IoT-hardware, waaronder niet-merkgebonden Android-tv-boxen ter waarde van ongeveer 55 dollar met 1 tot 4 gigabyte RAM, evenals slimme ovens, koelkasten, stofzuigers, grasmaaiers, beveiligingscamera's met ingebouwde AI-chips, videoconferentieapparatuur en Nvidia Jetson-edge-accelerators. Een model van 9 miljard parameters stelde met succes inferentie in op 8 van de 9 geteste hardwaretypen. Het model GLM-5.2 bereikt volledige end-to-end-replicatie over alle 8 knooppunten in 4 van de 5 testruns. Over herhaalde generaties verbeterde Qwen3.5-9B zijn succespercentage van 45% naar tussen 61% en 84% door te leren van eerdere pogingen.

Anthropic vergeleek het risico met eerdere IoT-botnets zoals Mirai, dat zich verspreidde door standaard wachtwoorden van fabrikanten uit te buiten en werd verholpen door ISP-quarantaines, en Kimwolf, waarvan het bedrijf zei dat het op zijn hoogtepunt meer dan twee miljoen apparaten infecteerde. Anthropic stelde dat een AI-aangestuurde versie anders zou werken: in plaats van één hardwaretype met vaste code te richten, zou het zich ter plekke kunnen aanpassen aan heterogene, onbekende apparaten. Het bedrijf beschreef het resulterende spreidingspatroon als een 'digitale slijmerige schimmel' – langzaam per apparaat, maar hardnekkig en moeilijk uit te schakelen omdat er geen enkele centrale server is om uit te schakelen. Anthropic schatte de bereikbare pool van exploiteerbare edge-accelerators op ruwweg 9.000 tot 35.000 H100-equivalenten, hoewel het zei dat het realistisch compromitteerbare aandeel veel kleiner zou zijn.

Hoe recursieve zelfverbetering werkt

Recursieve zelfverbetering beschrijft een AI-systeem dat het werk van het ontwerpen, coderen en evalueren van zijn eigen opvolger overneemt, waardoor de rol die mensen bij elke iteratie spelen wordt gereduceerd. Anthropic illustreerde de trend met interne cijfers: Claude schreef voor de vrijgave van Claude Code begin 2025 lage eencijferige getallen van de code die in Anthropics eigen systemen werd samengevoegd; tegen mei 2026 was dat getal boven de 80% gestegen. In het tweede kwartaal van 2026 zeiden Anthropics ingenieurs dat ze ongeveer acht keer meer code per dag samenvogen dan in 2024. Het bedrijf zei ook dat de lengte van taken die zijn modellen autonoom kunnen voltooien ongeveer elke vier maanden verdubbelt, sneller dan een eerder verdubbelingstempo van ongeveer zeven maanden, en dat tegen 2027 systemen taken zouden kunnen verwerken die mensen nu weken kosten.

Voorgestelde veiligheidsmaatregelen en externe scepsis

Voor zelfveelvoudiging wezen Anthropics onderzoekers op verschillende mogelijke verdedigingen: netwerkbewaking om ongebruikelijke multi-gigabyte-bestandsoverdrachten of voortdurend apparaat-naar-apparaat-verkeer aan te geven; internetproviderisoleringen die geïnfecteerde netwerken beperken totdat gebruikers hun apparaten hebben opgeschoond (een methode waarvan het bedrijf zei 92% van de infecties binnen 14 dagen in eerdere botnet-opschoning te hebben verwijderd); fabrikanten die sterker standaardbeveiliging afdwingen, aangevens op de regel van het Verenigd Koninkrijk die unieke, niet-standaard IoT-wachtwoorden vereist; en honeypot-apparaten om replicatorcode vast te leggen en te bestuderen. De onderzoekers stelden het kernoel als doelstelling om de reproductiegraad of R0 van elk geïnfecteerd apparaat onder de 1 te houden.

Over recursieve zelfverbetering stelde Anthropic een 'globaal coördinatiemechanisme' voor, losjes gemodelleerd naar nucleaire wapenbeheersingsovereenkomsten, waarbij frontier-AI-laboratoriums de ontwikkeling zouden kunnen pauzeren of vertragen als rivalen hetzelfde deden, terwijl erkend werd dat het verifiëren van naleving veel moeilijker zou zijn dan met fysieke wapens. Scientific American meldde dat sommige onderzoekers twijfelen aan de oprechtheid van het voorstel. Noah Giansiracusa van Bentley University zei dat hij het niet zag als 'een echt oproep tot vertraging' en noemde een werkelijke industriepauze 'letterlijk onmogelijk.' Mark Riedl van Georgia Tech suggereerde dat grote AI-bedrijven 'op de hype-trein van recursieve zelfverbetering sprongen.' Scientific American merkte ook op dat de waarschuwing kwam terwijl Anthropic vertrouwelijk een IPO had ingediend en afzonderlijk de release van een model genaamd Mythos had ingehouden, omstandigheden die het vermoeden voedden dat de aankondiging zowel zakelijke als veiligheidsdoeleinden diende.

Waar het concept vandaan komt

Het onderliggende idee gaat vooraf aan huidge chatbots. Alan Turing stelde in 1950 een 'kindmachine' voor – één die in de loop van de tijd zou worden onderwezen in plaats van gebouwd met volwassen intelligentie vanaf het begin. Decennia later beschreef Eliezer Yudkowsky 'zaad-AI' als een systeem dat zijn eigen architectuur zou kunnen wijzigen om zijn eigen intelligentie te vergroten, een stap die kon triggeren wat onderzoekers een 'intelligentie-explosie' noemen. Meer recente, smallere voorbeelden zijn de Voyager-agent van 2023, die zijn eigen op code gebaseerde vaardigheden genereert en opslaat, en Google DeepMinds AlphaEvolve van 2025, die algoritmen muteert en recombineert met taalmodellen. Anthropics beschreven scenario – een systeem dat volledig en autonoom zijn eigen opvolger ontwerpt – gaat verder dan beide bestaande systemen.