I modelli di IA cinesi Kimi K2.6 e K3 sono stati violati per fornire istruzioni su armi biologiche

Come i ricercatori hanno aggirato le protezioni di Kimi

Mindgard, un'azienda britannica di sicurezza dell'IA fondata da Peter Garraghan, afferma che uno dei suoi ricercatori, Jim Nightingale, ha scoperto il 20 luglio 2026 che due modelli a peso aperto realizzati dallo sviluppatore cinese Moonshot AI — Kimi K2.6 e K3 Swarm — potevano essere manipolati per ignorare le regole di sicurezza integrate in essi, secondo il rapporto pubblicato da Mindgard stesso.

Nightingale ha utilizzato una tecnica nota come jailbreaking, in cui un utente fornisce al modello istruzioni progettate per superare le sue restrizioni integrate. Mindgard afferma che l'attacco ha sfruttato la funzione di memoria personalizzata di Kimi e una directory nascosta nel sistema di autenticazione del modello, ed è stato attivato con due brevi comandi. Ciò ha portato il modello a creare una persona senza restrizioni che ha chiamato "Kairos", che a sua volta ha prodotto una versione ulteriore, meno vincolata, chiamata "Apeiron", una parola greca che significa "sconfinato", ha affermato Mindgard.

Ciò che il modello violato ha prodotto

Dopo il superamento delle restrizioni, Mindgard afferma che i modelli hanno generato materiale dettagliato su diverse categorie di danno.

• Piani relativi allo sviluppo di armi biologiche, incluso, secondo CBS News, un piano di attacco biologico che coinvolge patogeni progettati dall'IA
• Ricette per armi chimiche, incluso il gas sarin
• Istruzioni per la costruzione di esplosivi
• Orientamenti per lo sviluppo di malware
• Materiale di pianificazione per assassinii e attacchi terroristici

Mindgard ha affermato di non aver verificato se le istruzioni che i modelli hanno prodotto avrebbero effettivamente funzionato in pratica, ma ha affermato che le stesse protezioni dei modelli avrebbero dovuto rifiutarsi di impegnarsi con tali richieste indipendentemente da ciò. L'azienda ha anche affermato che ha trattenuto i dettagli tecnici necessari per riprodurre il jailbreak dal suo rapporto pubblico.

Cronologia e risposta di Moonshot AI

Secondo i resoconti della BBC citati da TBS News, Moonshot AI ha affermato di accogliere favorevolmente il feedback di terze parti "come pilastro chiave per costruire un'IA migliore e più sicura" e ha affermato di discutere i risultati direttamente con Mindgard. Fox News ha riferito che Moonshot AI ha avviato un'indagine interna sulla questione e stava comunicando con i ricercatori coinvolti.

Perché i modelli a peso aperto attirano un controllo supplementare

Kimi è distribuito come modello a peso aperto, il che significa che chiunque può scaricare i suoi file sottostanti ed eseguirlo sul proprio hardware anziché attraverso i server di Moonshot. CBS News ha citato il professore della New York University Justin Cappos dicendo che con un modello a peso aperto, "quelle protezioni sono scomparse. Possono essere aggirate", perché il modello non viene più eseguito all'interno dell'infrastruttura monitorata dell'azienda. CBS News ha anche riferito che Hugging Face, una piattaforma per la condivisione di modelli di IA, ospita più di 8.000 modelli etichettati come "abliterated" — versioni con restrizioni di sicurezza intenzionalmente rimosse.

Garraghan ha affermato che debolezze comparabili sono state trovate anche nei modelli di IA americani, inquadrando la questione come un problema industriale più ampio piuttosto che uno specifico degli sviluppatori cinesi. CBS News ha riferito che Kimi K3 di Moonshot ha mostrato risultati più forti di alcuni sistemi proprietari — inclusi Claude Fable 5 e GPT-5.6 Sol — su compiti specifici come la ricostruzione del software, mentre rimane ancora indietro rispetto ai migliori sistemi di Anthropic e OpenAI complessivamente.