Waarom Moonshot opzettelijk de hackvaardigheid van zijn nieuwe Kimi AI-model heeft verzwakt

Moonshot AI, de op Peking gebaseerde startup achter de Kimi-chatbot, presenteerde zaterdag 24 oktober 2026 Kimi K3.1 Pro, beschrijvend als zijn meest capabele open-weight-model in de 3-biljoen-parameterklasse. Naast de lancering zei het bedrijf dat het de mogelijkheid van het model om te helpen met hacktaken opzettelijk had teruggeschroefd, een zeldzame openbare stap van een AI-ontwikkelaar om de mogelijkheden van een model te beperken.

Wat Moonshot verwijderde

Volgens Moonshot haalde het bedrijf cybergerelateerde gegevens zowel uit het trainingskorpus als uit de reinforcement-learning-omgevingen die voor het bouwen van K3.1 Pro werden gebruikt, terwijl de algemene coderingsvaardigheid van het model intact bleef. Het bedrijf stelde zijn doel als: "We streven ernaar geen open weights vrij te geven die de absolute grens van cybercapaciteit zouden uitbreiden."

De afweging is meetbaar, naar Moonshots eigen zeggen. Bij een interne benchmark die de mogelijkheid van een model test om softwareproblemen in een gecontroleerde omgeving te vinden en uit te buiten, haalde K3.1 Pro 81,0%, tegenover 90,5% voor een vergelijkbare versie van het model dat zonder cyber-gegevensfiltration was gebouwd. Bij een afzonderlijke industriebenchmark scoorde Moonshots gefilterde model nog steeds veel beter dan zijn voorganger, Kimi K3, op cybergerelateerde taken.

Onafhankelijke tests vertellen een gemengder verhaal

Externe evaluatoren hebben sindsdien hun eigen cijfers geproduceerd. Artificial Analysis' Cyber Index plaatste K3.1 Pro's algehele score op 64%, voor DeepSeeks V4.1 Flash-model op 57% maar achter het gesloten model GPT-6 Sol op 69%. Dit vertegenwoordigt een sprong van 23 punten ten opzichte van de originele Kimi K3's score van 41% op dezelfde index. De evaluatoren merkten ook op dat K3.1 Pro tijdens tests geen veiligheidsweigering produceerde, in tegenstelling tot enkele concurrerende openbare API's die bepaalde beveiligingsgerelateerde prompts afwezen.

Analysesite Implicator.ai stelde vragen over hoeveel de cybergegevenverwijdering eigenlijk kan worden geverifieerd. Het merkte op dat Moonshots kernbewijs afkomstig is van een onuitgegeven interne test, en dat de grens van wat als "cybergerelateerde" trainingsgegevens telt inherent vaag is. De site wees ook op dat DeepSeeks V4.1-Flash hoger scoorde dan K3.1 Pro (85,7% tegenover 81,0%) op dezelfde interne benchmark die Moonshot gebruikte om aan te tonen dat de filtering effectief was, wat de vergelijking ingewikkelder maakt. Het voegde eraan toe dat Moonshots releasematerialen niet aanraakten of de verwijderde mogelijkheid later kon worden hersteld via fine-tuning door externe ontwikkelaars zodra de open weights zijn gepubliceerd.

Waarom dit nu gebeurt

De aankondiging komt op de achtergrond van toenemende officiële bezorgdheid over AI-ondersteunde cyberaanvallen. Chinees handels- en wetenschapsministeries stelden op 16 oktober 2026 herzieningen van exportcontroles voor die 23 AI-gerelateerde technologieën bestrijken, wat de export van AI-systemen die autonome malware kunnen genereren of wijzigen zou verbieden, met verwijzing naar nationale veiligheid en het doel gevoelige AI-mogelijkheden onder menselijke controle te houden. Een afzonderlijke, minder strikte categorie zou AI-tools beperken (in plaats van verbiede) die autonoom werkende exploits voor bekende fouten kunnen bouwen of meerdere niet-geopenbaarmaakte high-severity-kwetsbaarheden in grote softwareprojecten kunnen ontdekken. Openbare opmerkingen over het concept lopen tot 15 november 2026.

Moonshots zelfopgelegde cyberbeperkingen kunnen worden gelezen als reactie op die regelgevingsrichting, hoewel het bedrijf de twee niet expliciet heeft gekoppeld. Moonshot is van plan K3.1 Pro's open weights - de bestanden waarmee externe ontwikkelaars het model op hun eigen systemen kunnen uitvoeren en aanpassen - uiterlijk 4 november 2026 te publiceren.

Moonshots groter patroon: open weights na zijn eigen "DeepSeek-moment"

K3.1 Pro volgt Kimi K2, het biljoen-parameterige open-weight-model dat Moonshot op 11 juli 2025 vrijgaf en dat algemeen werd beschreven als een "open-weight-DeepSeek-moment" - een verwijzing naar de schok begin 2025 toen DeepSeeks R1-model aantoonde dat Chinese labs gelijk konden gaan met frontier-AI-prestaties. Commentaarsite Interconnects.ai stelde dat Kimi K2 aantoonde dat meerdere Chinese organisaties, niet alleen DeepSeek, nu bijna-frontier-capaciteit bereikten met efficiënte, openbaar vrijgegeven modellen.

Moonshot heeft betoogd dat het vrijgeven van modelgewichten openbaar, zelfs met verminderde cybercapaciteit, zijn eigen veiligheidsvordeel met zich meebrengt: organisaties kunnen de software zelf inspecteren en testen in plaats van alleen op een door de leverancier gehost service te vertrouwen. Dit betoog komt naast de erkende afweging dat open weights, eenmaal gepubliceerd, niet kunnen worden ingetrokken of verder beperkt door Moonshot.

Sleutelfiguren in één oogopslag