Dlaczego Moonshot Celowo Osłabił Umiejętności Hakowania Swojego Nowego Modelu AI Kimi

Moonshot AI, startup z Pekinu stojący za chatbotem Kimi, zaprezentował Kimi K3.1 Pro w sobotę, 24 października 2026 roku, opisując go jako swój najbardziej zdolny model o otwartych wagach w klasie 3 bilionów parametrów. Wraz z uruchomieniem firma stwierdziła, że celowo ograniczyła zdolność modelu do pomagania w zadaniach hakowania — rzadki publiczny krok dewelopera AI polegający na ograniczeniu własnych możliwości modelu.

Co usunął Moonshot

Według Moonshot, firma usunęła dane związane z cyberbezpieczeństwem zarówno z korpusu treningowego, jak i ze środowisk uczenia się ze wzmacnianiem używanych do budowania K3.1 Pro, przy zachowaniu ogólnych umiejętności kodowania modelu. Firma określiła swój cel następująco: "Dążymy do tego, aby nie uwalniać otwartych wag, które rozszerzałyby absolutną granicę możliwości cyber."

Kompromis jest mierzalny, zgodnie z własnymi danymi Moonshot. W wewnętrznym benchmarku testującym zdolność modelu do znajdowania i wykorzystywania luk w oprogramowaniu w kontrolowanym środowisku, K3.1 Pro uzyskał 81,0%, w porównaniu z 90,5% dla porównywalnej wersji modelu zbudowanej bez filtrowania danych cyber. W oddzielnym branżowym benchmarku filtrowany model Moonshot nadal uzyskał dobre wyniki powyżej swojego poprzednika Kimi K3 w zadaniach związanych z cyberbezpieczeństwem.

Niezależne testowanie pokazuje bardziej mieszaną historię

Zewnętrzni ewaluatorzy następnie opracowali swoje własne liczby. Indeks Cyber od Artificial Analysis przyznał K3.1 Pro ogólny wynik 64%, co jest wyższe niż model V4.1 Flash DeepSeek z wynikiem 57%, ale poniżej zamkniętego modelu GPT-6 Sol z wynikiem 69%. Stanowi to skok o 23 punkty w porównaniu z wynikiem oryginalnego Kimi K3 wynoszącym 41% w tym samym indeksie. Ewaluatorzy zauważyli również, że K3.1 Pro nie wykazał żadnych odmów bezpieczeństwa podczas testowania, w przeciwieństwie do niektórych konkurencyjnych publicznych API, które odrzuciły pewne monity związane z bezpieczeństwem.

Witryna analityczna Implicator.ai postawiła pytania dotyczące tego, jak wiele można faktycznie zweryfikować usunięcie danych cyber. Zauważyła, że głównym dowodem Moonshot jest niepublikowany test wewnętrzny, a granica między tym, co liczy się jako dane treningowe "powiązane z cyber", jest z natury rozmyta. Witryna zwróciła również uwagę, że DeepSeek V4.1-Flash uzyskał wyższy wynik niż K3.1 Pro (85,7% versus 81,0%) w tym samym wewnętrznym benchmarku, który Moonshot wykorzystał, aby argumentować skuteczność swojego filtrowania, co komplikuje porównanie. Dodała, że materiały Moonshot nie odnosiły się do tego, czy usunięta zdolność mogłaby być później przywrócona poprzez precyzyjną kalibrację przez zewnętrznych programistów po opublikowaniu otwartych wag.

Dlaczego to się dzieje teraz

Ogłoszenie pojawia się na tle rosnących oficjalnych obaw dotyczących cyberataków wspieranych sztuczną inteligencją. Ministerstwa handlu i nauki Chin zaproponowały zmiany przepisów kontroli eksportu 16 października 2026 roku, obejmujące 23 technologie związane z AI, które zabraniałyby eksportu systemów AI zdolnych do autonomicznego generowania lub modyfikowania złośliwego kodu, powołując się na bezpieczeństwo narodowe i cel utrzymania wrażliwych możliwości AI pod kontrolą człowieka. Oddzielna, mniej surowa kategoria ograniczałaby (a nie zabraniała) narzędziom AI zdolnym do autonomicznego budowania działających exploitów dla znanych luk lub wykrywania wielu nieujawnionych luk o wysokiej ważności w dużych projektach oprogramowania. Publiczne komentarze do projektu będą dostępne do 15 listopada 2026 roku.

Samodzielnie nałożone ograniczenia cyber Moonshot można odczytać jako odpowiedź na ten kierunek regulacyjny, choć firma nie ustanowiła jawnego powiązania między nimi. Moonshot planuje opublikować otwarte wagi K3.1 Pro — pliki umożliwiające zewnętrznym programistom uruchamianie i modyfikowanie modelu na ich własnych systemach — do 4 listopada 2026 roku.

Szerszy wzór Moonshot: otwarte wagi po własnym "momencie DeepSeek"

K3.1 Pro następuje po Kimi K2, modelu o otwartych wagach z bilionem parametrów, który Moonshot wydał 11 lipca 2025 roku, który był szeroko opisywany jako "moment otwartych wag DeepSeek" — odniesienie do szoku w początkach 2025 roku, gdy model R1 DeepSeek wykazał, że chińskie laboratoria mogły dorównać zachodniej zdolności sztucznej inteligencji. Witryna komentarzy Interconnects.ai argumentowała, że Kimi K2 wykazała, że wiele chińskich organizacji, nie tylko DeepSeek, osiągało teraz możliwości bliskie granicy z efektywnymi, otwarcie wydawanymi modelami.

Moonshot argumentował, że publikowanie wag modelu otwarcie, nawet z ograniczoną zdolnością cyber, niesie swoją własną korzyść bezpieczeństwa: organizacje mogą same badać i testować oprogramowanie, zamiast polegać wyłącznie na usłudze hostowanej przez dostawcę. Argument ten stoi obok przyznanych kompromisów, że otwarte wagi, po opublikowaniu, nie mogą być wycofane ani dalej ograniczone przez Moonshot po tym fakcie.

Kluczowe dane na pierwszy rzut oka