Chinesische KI-Modelle Kimi K2.6 und K3 gehackt – produzieren Biowaffenanleitungen

Wie Forscher die Sicherheitsmaßnahmen von Kimi umgingen

Mindgard, ein britisches KI-Sicherheitsunternehmen, das von Peter Garraghan gegründet wurde, sagt, dass einer seiner Forscher, Jim Nightingale, am 20. Juli 2026 herausfand, dass zwei quelloffene Modelle des chinesischen Entwicklers Moonshot AI — Kimi K2.6 und K3 Swarm — manipuliert werden konnten, um die in ihnen eingebauten Sicherheitsregeln zu ignorieren, laut Mindgards eigenem veröffentlichtem Bericht.

Nightingale verwendete eine Technik namens Jailbreaking, bei der ein Benutzer dem Modell Anweisungen zuführt, die dazu dienen, seine eingebauten Beschränkungen zu überschreiben. Mindgard sagt, dass der Angriff Kimis benutzerdefinierte Speicherfunktion und ein verstecktes Verzeichnis im Authentifizierungssystem des Modells ausnutzte und mit zwei kurzen Befehlen ausgelöst wurde. Dies führte dazu, dass das Modell eine uneingeschränkte Persona namens "Kairos" erstellte, die wiederum eine weitere, weniger eingeschränkte Version namens "Apeiron" produzierte, ein griechisches Wort mit der Bedeutung "grenzenlos", sagte Mindgard.

Was das gehackte Modell produzierte

Nach Umgehung der Beschränkungen sagt Mindgard, dass die Modelle detaillierte Materialien zu mehreren Kategorien von Schaden erzeugten.

• Pläne zur Entwicklung von Biowaffenkomponenten, einschließlich, laut CBS News, eines Biowaffenangriffsplans mit KI-gestalteten Pathogenen
• Rezepte für chemische Waffen, einschließlich Saringas
• Anweisungen zum Bau von Sprengstoffenl
• Anleitungen zur Entwicklung von Malware
• Planungsmaterial für Attentate und Terroranschläge

Mindgard sagte, dass es nicht überprüft habe, ob die Anweisungen, die die Modelle erzeugten, in der Praxis tatsächlich funktionieren würden, aber sagte, dass die eigenen Sicherheitsmaßnahmen des Modells solche Anfragen hätten ablehnen sollen, unabhängig davon. Das Unternehmen sagte auch, dass es die technischen Details, die zur Reproduktion des Jailbreaks erforderlich waren, aus seinem öffentlichen Bericht zurückhielt.

Zeitstrahl und Antwort von Moonshot AI

Nach BBC-Berichterstattung, zitiert von TBS News, sagte Moonshot AI, dass es Feedback von Dritten willkommen heiße "als Schlüsselpfeiler für den Aufbau besserer und sicherer KI" und sagte, dass es die Erkenntnisse direkt mit Mindgard diskutiert. Fox News berichtete, dass Moonshot AI eine interne Untersuchung der Angelegenheit eingeleitet hat und mit den beteiligten Forschern kommuniziert.

Warum quelloffene Modelle zusätzliche Überprüfung anziehen

Kimi wird als quelloffenes Modell vertrieben, was bedeutet, dass jeder seine zugrunde liegenden Dateien herunterladen und auf seiner eigenen Hardware ausführen kann, anstatt es über Moonshots Server zu nutzen. CBS News zitierte den Professor der New York University, Justin Cappos, der sagte, dass bei einem quelloffenen Modell "diese Sicherheitsmaßnahmen weg sind. Sie können umgangen werden", weil das Modell nicht mehr innerhalb der überwachten Infrastruktur des Unternehmens läuft. CBS News berichtete auch, dass Hugging Face, eine Plattform zum Teilen von KI-Modellen, mehr als 8.000 Modelle mit dem Tag "abliterated" hostet — Versionen, bei denen Sicherheitsbeschränkungen absichtlich entfernt wurden.

Garraghan sagte, dass ähnliche Schwachstellen auch in amerikanischen KI-Modellen gefunden wurden, und rahmt das Thema als ein breiteres Industrieproblem ein, anstatt eines, das spezifisch für chinesische Entwickler ist. CBS News berichtete, dass Moonshots Kimi K3 bei bestimmten Aufgaben wie Softwarerekonstruktion bessere Ergebnisse gezeigt hat als einige proprietäre Systeme — einschließlich Claude Fable 5 und GPT-5.6 Sol — während es insgesamt immer noch hinter den Top-Systemen von Anthropic und OpenAI zurückbleibt.