人工智慧 · 文章
為什麼Moonshot故意削弱其新Kimi AI模型的黑客技能
發布:
重點
中國AI實驗室Moonshot表示,它從其新的Kimi K3.1 Pro模型中移除了網絡相關的訓練數據,以防止這個開源權重系統將進攻性黑客能力的「邊界」推向新高度。該舉措於2026年10月24日星期六宣佈,此時各國政府和安全研究人員警告稱,越來越強大的AI可能使複雜的網絡攻擊變得更便宜、更容易實施。
此版本是原文（English）的機器翻譯。 閱讀原文
Moonshot AI是Kimi聊天機器人背後的北京新創公司,於2026年10月24日星期六推出了Kimi K3.1 Pro,將其描述為其在3萬億參數級別中最強大的開源權重模型。在推出的同時,該公司表示它已有意地縮減了該模型在幫助黑客任務中的能力,這是一家AI開發商限制其模型自身能力的罕見公開舉措。
Moonshot移除了什麼
根據Moonshot的說法,該公司從用於構建K3.1 Pro的訓練語料庫和強化學習環境中清除了網絡相關數據,同時保留了模型的一般編碼技能。該公司將其目標表述為:「我們的目標是不發佈會擴展網絡能力絕對邊界的開源權重。」
根據Moonshot自己的說法,這種權衡是可衡量的。在內部基準測試中,該測試衡量模型在受控環境中發現和利用軟體漏洞的能力,K3.1 Pro得分為81.0%,而相應版本(未進行網絡數據過濾)的得分為90.5%。在另一個行業基準測試中,Moonshot的過濾後模型在網絡相關任務上仍然遠高於其前身Kimi K3。
獨立測試講述了更加複雜的故事
外部評估者隨後也進行了評估並得出了他們自己的數據。Artificial Analysis的網絡安全指數將K3.1 Pro的總體得分定為64%,超過了DeepSeek的V4.1 Flash模型(57%),但落後於閉源模型GPT-6 Sol(69%)。這相比原始Kimi K3在同一指數上41%的得分提高了23個百分點。評估人員還指出,K3.1 Pro在測試中沒有產生安全拒絕,不像某些競爭的公開API拒絕了某些與安全相關的提示。
分析網站Implicator.ai對網絡數據移除能否實際驗證提出了質疑。它指出Moonshot的核心證據來自一項未發佈的內部測試,以及什麼算作「網絡相關」訓練數據的邊界本質上是模糊的。該網站還指出,DeepSeek的V4.1-Flash在Moonshot用來論證其過濾有效性的相同內部基準測試上得分高於K3.1 Pro(85.7%對81.0%),使比較變得複雜。它補充說,Moonshot的發佈材料沒有說明一旦發佈開源權重,外部開發人員是否可以通過微調來恢復被移除的能力。
為什麼這現在發生了
這項宣佈出現在官方對AI輔助網絡攻擊日益關注的背景下。中國商務和科學部於2026年10月16日提出了出口管制修訂,涵蓋23項與AI相關的技術,這將禁止出口能夠自主生成或修改惡意代碼的AI系統,理由是國家安全和保持敏感AI能力人工控制的目標。一個單獨的、較不嚴格的類別將限制(而不是禁止)能夠自主為已知缺陷建構有效利用代碼或在主要軟體項目中發現多個未披露的高嚴重漏洞的AI工具。對草案的公眾評論期延至2026年11月15日。
Moonshot自我施加的網絡限制可以被理解為對該監管方向的回應,儘管該公司沒有明確將兩者聯繫起來。Moonshot計劃在2026年11月4日前發佈K3.1 Pro的開源權重——讓外部開發人員在自己的系統上運行和修改模型的文件。
Moonshot更大的模式:在自己的「DeepSeek時刻」之後的開源權重
K3.1 Pro跟隨著Kimi K2,這是Moonshot於2025年7月11日發佈的1萬億參數開源權重模型,被廣泛描述為「開源權重DeepSeek時刻」——這是指2025年早期DeepSeek的R1模型表明中國實驗室能夠匹配前沿西方AI性能時的震驚。評論網站Interconnects.ai主張,Kimi K2表明多個中國組織,不僅僅是DeepSeek,現在正以高效、公開發佈的模型達到接近前沿的能力。
Moonshot辯稱,即使網絡能力有所降低,公開發佈模型權重也具有自己的安全好處:組織可以自己檢查和測試軟體,而不是僅依賴於供應商的託管服務。這個論點與公開承認的權衡相伴,即開源權重一旦發佈,就不能被Moonshot事後回收或進一步限制。
一目了然的關鍵數據
| 基準 | K3.1 Pro(過濾) | 比較點 | 來源 |
|---|---|---|---|
| Moonshot內部網絡基準 | 81.0% | 90.5%(未過濾版本) | Moonshot,經路透社 |
| Artificial Analysis網絡安全指數 | 64% | 57%(DeepSeek V4.1 Flash),69%(GPT-6 Sol) | Artificial Analysis |
| 相同指數,與前身對比 | 64% | 41%(Kimi K3) | Artificial Analysis |
| 同一內部基準,競爭模型 | 81.0% | 85.7%(DeepSeek V4.1-Flash) | Implicator.ai分析 |
常見問題
- Moonshot在Kimi K3.1 Pro中究竟改變了什麼?
- Moonshot表示,它從用於構建模型的訓練語料庫和強化學習環境中移除了網絡相關數據,同時保留了其一般編碼能力,以限制其進攻性黑客能力。
- 這項改變實際上減少了模型的黑客能力嗎?
- 在Moonshot自己的內部基準測試中,過濾後的模型得分為81.0%,而未過濾版本得分為90.5%,但獨立分析指出該測試未發佈,而競爭模型DeepSeek V4.1-Flash在同一基準測試上得分更高(85.7%)。
- Kimi K3.1 Pro的開源權重何時會推出?
- Moonshot表示計劃在2026年11月4日前發佈模型的開源權重。
- 這與中國的出口管制提案有什麼關係?
- 中國於2026年10月16日提出了出口管制修訂,涵蓋23項AI技術,這將禁止或限制用於生成惡意軟體或發現軟體漏洞的AI工具,理由是國家安全關切,公眾評論期延至2026年11月15日;Moonshot尚未表示其K3.1 Pro限制是為了回應該提案而制定的。
- 為什麼Kimi K2被稱為「DeepSeek時刻」?
- 評論人士使用該術語是因為Kimi K2於2025年7月11日發佈,表明DeepSeek之外的中國AI實驗室可以生成具有接近前沿性能的開源權重模型,呼應了當年早期對DeepSeek R1發佈的反應。
來源
- Yahoo News (Reuters) — Moonshot curbs hacking ability in new Kimi model as fears grow over AI-powered cyberattacks
- alphaXiv — Kimi K3.1 Pro model page
- AlphaSignal — Moonshot's Kimi K3.1 Pro Tops Every Public API Model in Security Benchmarks
- Implicator.ai — Kimi K3.1 Pro Hacking Cut Rests on Unpublished Moonshot Test
- TechNode Global — China proposes export controls on 23 AI technologies
- Interconnects.ai — Kimi K2 and when "DeepSeek Moments" become normal
本文由人工智慧撰寫，發布前已通過自動來源查核。如發現錯誤，請申請更正。 申請更正或回應 · 我們如何製作
相關文章
人工智慧文章
神經網絡如何學習：ChatGPT 和 Gemini 背後的數學
神經網絡通過進行預測、使用損失函數測量預測的錯誤程度，然後通過稱為反向傳播的過程向後調整稱為權重的內部值來學習——這個過程與稱為梯度下降的優化方法相結合。相同的機制在擴展到數十億參數時，構成了 ChatGPT 和 Gemini 等系統首先被訓練、然後通過微調適應到特定任務的基礎。
人工智慧文章
AI如何生成藝術和音樂，以及為何「真正創意」仍有爭議
Midjourney和Stable Diffusion等AI圖像工具透過學習反轉雜訊過程來生成圖片，而Suno和Udio等音樂工具則將音訊壓縮為令牌，在文本提示的指導下逐步預測。這些過程是否構成真正的創意仍未確定：研究人員在將其稱為基於模式的「混音」和認可其可測量創意表現之間存在分歧。
人工智慧文章
人工智能文本檢測器如何運作——通過獲獎小說爭議進行解析
人工智能文本檢測器無法證明誰寫了某件事；它們通過測量統計模式（例如詞語可預測性和句長變化）來估計概率。一個名為 Pangram 4.1 的檢測器最近將一部價值 €20,000 的獲獎西班牙語小說的 99% 歸因於人工智能，促使其出版商暫停宣傳活動進行調查。
人工智慧文章
Moonshot 的 Kimi K3.1 Pro：這個新 AI 模型能做什麼以及它的比較
Moonshot AI 於 2026 年 10 月 23 日推出 Kimi K3.1 Pro，這是一個開源權重 AI 模型，擁有 2.8 兆個參數，專為編碼、3D 建模和金融研究而開發。這家北京初創公司表示，該模型在幾項自己的基準測試上縮小與 OpenAI 的 GPT-6 Astra 和 Anthropic 的 Claude Opus 5.5 的差距，儘管這些數據是自我報告的，完整的模型權重計劃於 2026 年 11 月 4 日才會發布。