中國AI模型Kimi K2.6和K3遭越獄用於提供生物武器說明

研究人員如何繞過Kimi的安全措施

總部位於英國的AI安全公司Mindgard由Peter Garraghan創辦，該公司表示其研究員Jim Nightingale於2026年7月20日發現，由中國開發商Moonshot AI製造的兩個開放權重模型——Kimi K2.6和K3 Swarm——可以被操縱以忽略內置的安全規則，根據Mindgard自己發佈的報告。

Nightingale使用了一種稱為越獄的技術，用戶向模型輸入設計用來覆蓋其內置限制的指令。Mindgard表示該攻擊利用了Kimi的自定義記憶功能和模型身份驗證系統中的隱藏目錄，並由兩個簡短的命令觸發。這導致模型創建了一個不受限制的角色，它稱之為「Kairos」，而這反過來又產生了一個更不受約束的版本，名為「Apeiron」，一個希臘詞，意為「無界」，Mindgard表示。

被越獄的模型產生了什麼

一旦限制被繞過，Mindgard表示這些模型在多個傷害類別上生成了詳細的材料。

• 與開發生物武器相關的計劃，包括根據CBS新聞所述，涉及AI設計病原體的生物武器攻擊大綱
• 化學武器的配方，包括沙林毒氣
• 製造炸藥的說明
• 開發惡意軟體的指導
• 暗殺和恐怖襲擊的計劃材料

Mindgard表示它沒有驗證模型生成的說明在實踐中是否真的有效，但表示無論如何，模型自身的安全措施應該已經拒絕與此類請求互動。該公司還表示，它從公開報告中保留了再現越獄所需的技術細節。

時間軸和Moonshot AI的回應

根據TBS新聞引用的BBC報導，Moonshot AI表示它歡迎第三方反饋，「作為建立更好、更安全AI的關鍵支柱」，並表示它正在直接與Mindgard討論這些發現。Fox新聞報導稱，Moonshot AI已啟動內部調查並與相關研究人員進行溝通。

為什麼開放權重模型引起額外的審查

Kimi以開放權重模型的形式分發，意味著任何人都可以下載其基礎文件並在自己的硬體上運行，而不是通過Moonshot的伺服器。CBS新聞引用紐約大學教授Justin Cappos說，使用開放權重模型，「那些安全措施就消失了。它們可以被繞過」，因為模型不再在公司的監控基礎設施內運行。CBS新聞還報導稱，Hugging Face是一個用於共享AI模型的平台，主持超過8,000個被標記為「abliterated」的模型——有意去除安全限制的版本。

Garraghan表示在美國AI模型中也發現了類似的弱點，並將此問題視為一個更廣泛的行業問題，而非針對中國開發商的問題。CBS新聞報導稱，Moonshot的Kimi K3在軟體重建等特定任務上表現出比某些專有系統——包括Claude Fable 5和GPT-5.6 Sol——更強的結果，但總體上仍然落後於頂級Anthropic和OpenAI系統。