Perché Moonshot ha deliberatamente indebolito le capacità di hacking del suo nuovo modello di IA Kimi

Moonshot AI, la startup con sede a Pechino dietro il chatbot Kimi, ha presentato Kimi K3.1 Pro sabato 24 ottobre 2026, descrivendolo come il suo modello open-weight più capace nella classe dei 3 trilioni di parametri. Insieme al lancio, l'azienda ha dichiarato di aver intenzionalmente ridimensionato la capacità del modello di aiutare con i compiti di hacking, una rara mossa pubblica di uno sviluppatore di IA per limitare le capacità di un modello.

Cosa ha rimosso Moonshot

Secondo Moonshot, l'azienda ha rimosso dati relativi alla sicurezza informatica sia dal corpus di allenamento che dagli ambienti di apprendimento reinforcement utilizzati per costruire K3.1 Pro, mantenendo intatte le competenze di codifica generale del modello. L'azienda ha dichiarato il suo obiettivo come: "Miriamo a non rilasciare pesi aperti che estenderebbero la frontiera assoluta della capacità informatica."

Il compromesso è misurabile, secondo il resoconto interno di Moonshot. Su un benchmark interno che testa la capacità di un modello di trovare e sfruttare vulnerabilità di software in un ambiente controllato, K3.1 Pro ha ottenuto l'81,0%, rispetto al 90,5% per una versione comparabile del modello costruito senza filtro dei dati informatici. Su un benchmark separato dell'industria, il modello filtrato di Moonshot ha comunque ottenuto punteggi ben superiori al suo predecessore, Kimi K3, nei compiti relativi alla sicurezza informatica.

I test indipendenti raccontano una storia più mista

I valutatori esterni hanno da allora prodotto i loro numeri. L'indice di sicurezza informatica di Artificial Analysis ha posto il punteggio complessivo di K3.1 Pro al 64%, davanti al modello V4.1 Flash di DeepSeek al 57% ma dietro il modello chiuso GPT-6 Sol al 69%. Ciò rappresenta un salto di 23 punti rispetto al punteggio del Kimi K3 originale del 41% nello stesso indice. I valutatori hanno anche notato che K3.1 Pro non ha prodotto rifiuti di sicurezza durante i test, a differenza di alcune API pubbliche concorrenti che hanno rifiutato determinati suggerimenti relativi alla sicurezza.

Il sito di analisi Implicator.ai ha sollevato questioni su quanto la rimozione dei dati informatici possa effettivamente essere verificata. Ha notato che le prove principali di Moonshot provengono da un test interno non pubblicato e che il confine di ciò che conta come dati di allenamento "relativi alla sicurezza informatica" è intrinsecamente sfocato. Il sito ha anche sottolineato che il V4.1-Flash di DeepSeek ha ottenuto un punteggio più alto rispetto a K3.1 Pro (85,7% rispetto al 81,0%) nello stesso benchmark interno che Moonshot ha utilizzato per sostenere che il suo filtraggio fosse efficace, complicando il confronto. Ha aggiunto che i materiali di rilascio di Moonshot non hanno affrontato se la capacità rimossa potesse essere successivamente ripristinata attraverso il fine-tuning da parte di sviluppatori esterni una volta che i pesi aperti saranno pubblicati.

Perché sta accadendo ora

L'annuncio arriva sullo sfondo di crescenti preoccupazioni ufficiali riguardo agli attacchi informatici assistiti dall'IA. I ministeri del commercio e delle scienze della Cina hanno proposto revisioni del controllo dell'esportazione il 16 ottobre 2026, riguardanti 23 tecnologie correlate all'IA, che proibirebbero l'esportazione di sistemi di IA in grado di generare o modificare autonomamente codice dannoso, citando la sicurezza nazionale e l'obiettivo di mantenere le capacità di IA sensibili sotto controllo umano. Una categoria separata, meno rigorosa, limiterebbe (piuttosto che vietare) gli strumenti di IA in grado di costruire autonomamente exploit funzionanti per difetti noti o di scoprire più vulnerabilità non divulgate di elevata gravità nei principali progetti software. I commenti pubblici sulla bozza proseguono fino al 15 novembre 2026.

I limiti informatici auto-imposti di Moonshot possono essere interpretati come una risposta a quella direzione normativa, sebbene l'azienda non abbia esplicitamente collegato i due. Moonshot prevede di pubblicare i pesi aperti di K3.1 Pro - i file che consentono agli sviluppatori esterni di eseguire e modificare il modello sui loro sistemi - entro il 4 novembre 2026.

Il pattern più ampio di Moonshot: pesi aperti dopo il suo "momento DeepSeek"

K3.1 Pro segue Kimi K2, il modello open-weight da trilioni di parametri che Moonshot ha rilasciato l'11 luglio 2025, ampiamente descritto come un "momento open-weight DeepSeek" - un riferimento allo shock all'inizio del 2025 quando il modello R1 di DeepSeek ha mostrato che i laboratori cinesi potevano eguagliare le prestazioni dell'IA occidentale frontier. Il sito di commenti Interconnects.ai ha sostenuto che Kimi K2 ha dimostrato che più organizzazioni cinesi, non solo DeepSeek, stavano raggiungendo una capacità near-frontier con modelli efficienti e rilasciati apertamente.

Moonshot ha sostenuto che il rilascio dei pesi dei modelli apertamente, anche con capacità informatica ridotta, porta con sé il suo stesso vantaggio di sicurezza: le organizzazioni possono ispezionare e testare il software stesse piuttosto che fare affidamento unicamente su un servizio ospitato dal fornitore. Questo argomento sta insieme al compromesso riconosciuto che i pesi aperti, una volta pubblicati, non possono essere richiamati o ulteriormente limitati da Moonshot in seguito.

Cifre chiave a colpo d'occhio