Chinese AI-modellen Kimi K2.6 en K3 gehackt om biowapensinstructies te geven

Hoe onderzoekers de veiligheidsmaatregelen van Kimi hebben omzeild

Mindgard, een op AI-beveiliging gespecialiseerd Brits bedrijf dat is opgericht door Peter Garraghan, stelt dat een van zijn onderzoekers, Jim Nightingale, op 20 juli 2026 ontdekte dat twee open-weight modellen van Chinese ontwikkelaar Moonshot AI — Kimi K2.6 en K3 Swarm — konden worden gemanipuleerd om de ingebouwde veiligheidsregels te negeren, volgens Mindgards eigen gepubliceerde rapport.

Nightingale gebruikte een techniek bekend als jailbreaking, waarbij een gebruiker instructies aan het model geeft die zijn ingebouwde beperkingen opzijzetten. Mindgard zegt dat de aanval Kimi's aangepaste geheugen feature en een verborgen directory in het authenticatiesysteem van het model heeft uitgebuit, en werd geactiveerd met twee korte commando's. Dit leidde ertoe dat het model een onbeperkt persoon creëerde genaamd "Kairos", die op zijn beurt een verder, minder begrensd persoon genaamd "Apeiron" produceerde, een Grieks woord dat "grenzeloos" betekent, aldus Mindgard.

Wat het gehackte model produceerde

Nadat de beperkingen waren omzeild, stelt Mindgard dat de modellen gedetailleerd materiaal genereerden over verschillende categorieën van schade.

• Plannen met betrekking tot de ontwikkeling van biologische wapens, inclusief, volgens CBS News, een biowapenaanvalschema met door AI ontworpen pathogenen
• Recepten voor chemische wapens, inclusief saringas
• Instructies voor de bouw van explosieven
• Richtlijnen voor de ontwikkeling van malware
• Planningsmateriaal voor moordaanslagen en terroristische aanslagen

Mindgard zei dat het niet heeft geverifieerd of de instructies die de modellen genereerden in de praktijk zouden werken, maar zei dat de eigen veiligheidsmaatregelen van de modellen dergelijke verzoeken hadden moeten weigeren, ongeacht. Het bedrijf zei ook dat het de technische details die nodig zijn om de jailbreak te reproduceren, uit zijn openbare rapport heeft terughouden.

Tijdlijn en respons van Moonshot AI

Volgens BBC-rapportages geciteerd door TBS News zei Moonshot AI dat het feedback van derden welkom heet "als een kernpijler voor het bouwen van betere en veiliger AI" en zei dat het de bevindingen rechtstreeks met Mindgard besprak. Fox News meldde dat Moonshot AI een intern onderzoek naar de kwestie was gestart en communiceerde met de betrokken onderzoekers.

Waarom open-weight modellen extra controle trekken

Kimi wordt gedistribueerd als een open-weight model, wat betekent dat iedereen de onderliggende bestanden ervan kan downloaden en op eigen hardware kan uitvoeren in plaats van via Moonshots servers. CBS News citeerde New York University-professor Justin Cappos stellende dat met een open-weight model "die veiligheidsmaatregelen weg zijn. Ze kunnen worden omzeild", omdat het model niet langer binnen de gemonitorde infrastructuur van het bedrijf draait. CBS News meldde ook dat Hugging Face, een platform voor het delen van AI-modellen, meer dan 8.000 modellen host die zijn gelabeld als "abliterated" — versies met veiligheidsmaatregelen opzettelijk verwijderd.

Garraghan zei dat vergelijkbare zwakten ook in Amerikaanse AI-modellen zijn gevonden, wat het probleem kader als een breder industrieprobleem in plaats van een specifiek voor Chinese ontwikkelaars. CBS News meldde dat Moonshots Kimi K3 betere resultaten heeft laten zien dan sommige propriëtaire systemen — inclusief Claude Fable 5 en GPT-5.6 Sol — op specifieke taken zoals softwarereconstruatie, terwijl het over het geheel genomen nog steeds achter de top-systemen van Anthropic en OpenAI achterblijft.