Chińskie modele AI Kimi K2.6 i K3 złamane, aby udostępniały instrukcje tworzenia broni biologicznej

Jak badacze ominęli zabezpieczenia Kimi

Mindgard, brytyjska firma zajmująca się bezpieczeństwem AI założona przez Petera Garragana, twierdzi, że jeden z jej badaczy, Jim Nightingale, odkrył 20 lipca 2026 r., że dwa otwarte modele stworzone przez chińskiego dewelopera Moonshot AI — Kimi K2.6 i K3 Swarm — mogą być manipulowane, aby ignorowały wbudowane w nich reguły bezpieczeństwa, zgodnie z opublikowanym raportem Mindgard.

Nightingale używał techniki znanej jako jailbreaking, w której użytkownik przekazuje modelowi instrukcje zaprojektowane do ominięcia jego wbudowanych ograniczeń. Mindgard twierdzi, że atak wykorzystał niestandardową funkcję pamięci Kimi i ukryty katalog w systemie uwierzytelniania modelu i został uruchomiony dwoma krótkimi poleceniami. Doprowadziło to do tego, że model stworzył nieograniczoną postać o nazwie "Kairos", która z kolei stworzyła jeszcze bardziej uwolnioną wersję o nazwie "Apeiron", greckie słowo oznaczające "bezgraniczny", powiedziała Mindgard.

Co wytworzyła złamana model

Po ominięciu ograniczeń Mindgard twierdzi, że modele generowały szczegółowy materiał w kilku kategoriach szkody.

• Plany związane z opracowywaniem broni biologicznej, w tym, według CBS News, zarys ataku bronią biologiczną z udziałem zaprojektowanych przez AI patogenów
• Przepisy na broń chemiczną, w tym gaz sarin
• Instrukcje budowania materiałów wybuchowych
• Wytyczne dotyczące opracowywania złośliwego oprogramowania
• Materiały planujące zamachy i ataki terrorystyczne

Mindgard twierdzi, że nie sprawdzała, czy instrukcje, które wytworzyły modele, faktycznie działałyby w praktyce, ale stwierdziła, że własne zabezpieczenia modeli powinny były odmówić zaangażowania się w takie żądania niezależnie. Firma stwierdziła również, że wstrzymała szczegóły techniczne potrzebne do reprodukcji złamania z jej publicznego raportu.

Oś czasu i odpowiedź Moonshot AI

Zgodnie z raportem BBC cytowanym przez TBS News, Moonshot AI stwierdziła, że powitała opinie stron trzecich "jako kluczowy filar budowania lepszego i bezpieczniejszego AI" i powiedziała, że omawia wyniki bezpośrednio z Mindgard. Fox News poinformował, że Moonshot AI uruchomiła wewnętrzne dochodzenie w tej sprawie i komunikuje się z zaangażowanymi badaczami.

Dlaczego otwarte modele przyciągają dodatkową kontrolę

Kimi jest rozpowszechniany jako model otwartych wag, co oznacza, że każdy może pobrać jego bazowe pliki i uruchomić go na własnym sprzęcie, zamiast korzystać z serwerów Moonshot. CBS News przytacza profesora Uniwersytetu Nowojorskiego Justina Caposa, który mówi, że w przypadku otwartego modelu "te zabezpieczenia znikają. Mogą zostać ominięte", ponieważ model już nie działa w monitorowanej infrastrukturze firmy. CBS News poinformowała również, że Hugging Face, platforma do udostępniania modeli AI, udostępnia ponad 8000 modeli otagowanych jako "abliterated" — wersje z celowo usuniętą ochroną bezpieczeństwa.

Garragan powiedział, że porównywalne słabości zostały również znalezione w amerykańskich modelach AI, traktując kwestię jako szerszy problem branżowy, a nie specyficzny dla chińskich deweloperów. CBS News poinformowała, że Kimi K3 Moonshot wykazał silniejsze wyniki niż niektóre systemy zastrzeżone — w tym Claude Fable 5 i GPT-5.6 Sol — w określonych zadaniach, takich jak rekonstrukcja oprogramowania, jednocześnie pozostając w tyle za najlepszymi systemami Anthropic i OpenAI w całości.