人工智能 · 文章
Moonshot为何故意削弱其新型Kimi AI模型的黑客技能
发布:
要点
中国AI实验室Moonshot表示,它从新款Kimi K3.1 Pro模型中删除了与网络安全相关的训练数据,以防止开源权重系统推动进攻型黑客能力的"前沿"。这一举动于2026年10月24日星期六宣布,此时各国政府和安全研究人员纷纷警告,日益强大的AI可能会使复杂的网络攻击更便宜、更容易实施。
此版本是原文（English）的机器翻译。 阅读原文
北京初创公司Moonshot AI是Kimi聊天机器人的幕后公司,于2026年10月24日星期六推出了Kimi K3.1 Pro,称其为3万亿参数级别中最强大的开源权重模型。在推出这款模型的同时,该公司表示有意降低了该模型在黑客任务方面的能力,这是AI开发者为限制模型自身能力而做出的罕见公开举动。
Moonshot删除了什么
据Moonshot介绍,该公司从用于构建K3.1 Pro的训练语料库和强化学习环境中删除了与网络安全相关的数据,同时保持了模型的一般编码技能。该公司表述了其目标:"我们的目标是不发布会扩展网络能力绝对前沿的开源权重。"
根据Moonshot自己的说法,这种权衡是可以衡量的。在一个内部基准上,该基准测试了模型在受控环境中发现和利用软件漏洞的能力,K3.1 Pro得分为81.0%,而未进行网络数据过滤的可比版本模型得分为90.5%。在另一个行业基准上,Moonshot的过滤模型在与网络相关的任务上仍然远高于其前身Kimi K3的得分。
独立测试讲述了更复杂的故事
外部评估者随后发布了自己的数据。Artificial Analysis的网络安全指数将K3.1 Pro的总体得分设定为64%,超过DeepSeek的V4.1 Flash模型的57%,但落后于闭源模型GPT-6 Sol的69%。这相比原始Kimi K3在同一指数上的41%的得分提高了23个百分点。评估者还指出,K3.1 Pro在测试期间没有产生安全拒绝,这与一些竞争性公共API不同,它们拒绝了某些与安全相关的提示。
分析网站Implicator.ai对网络数据删除实际上能被验证的程度提出了质疑。它指出Moonshot的核心证据来自未发表的内部测试,并且"与网络相关"的训练数据的界限本质上是模糊的。该网站还指出,DeepSeek的V4.1-Flash在Moonshot用来论证其过滤有效性的相同内部基准上的得分(85.7%对81.0%)高于K3.1 Pro,这使比较变得复杂。它补充说,Moonshot的发布材料没有说明一旦发布开源权重,删除的能力是否可以稍后通过外部开发者的微调来恢复。
为什么现在会发生这种情况
这一公告发布之际,官方对AI辅助网络攻击的担忧日益加剧。中国商务部和科学部于2026年10月16日提议修订出口管制,涵盖23项与AI相关的技术,禁止出口能够自主生成或修改恶意代码的AI系统,理由是国家安全和保持敏感AI能力受人类控制的目标。另一个限制性较少的类别将限制(而非禁止)能够自主为已知缺陷构建有效漏洞利用或在大型软件项目中发现多个未公开高严重性漏洞的AI工具。对草案的公众评论时间至2026年11月15日。
Moonshot自我施加的网络安全限制可以理解为对该监管方向的回应,尽管该公司没有明确将两者联系起来。Moonshot计划于2026年11月4日前发布K3.1 Pro的开源权重——这些文件使外部开发者能够在自己的系统上运行和修改该模型。
Moonshot更大的模式:在自己的"DeepSeek时刻"之后推出开源权重
K3.1 Pro继Kimi K2之后,Kimi K2是Moonshot于2025年7月11日发布的万亿参数开源权重模型,被广泛描述为"开源权重DeepSeek时刻"——这指的是2025年早些时候DeepSeek的R1模型令人震惊的表现,它表明中国实验室可以达到西方前沿AI性能。评论网站Interconnects.ai主张,Kimi K2表明多家中国组织,而不仅仅是DeepSeek,现在正在通过高效、公开发布的模型达到接近前沿的能力。
Moonshot辩称,即使网络安全能力降低,公开发布模型权重也有其自身的安全好处:组织可以自己检查和测试软件,而不是仅仅依赖供应商的托管服务。这一论点与公认的权衡并存,即一旦发布开源权重,Moonshot事后无法撤回或进一步限制。
关键数据一览
| 基准 | K3.1 Pro(过滤后) | 对比点 | 来源 |
|---|---|---|---|
| Moonshot内部网络安全基准 | 81.0% | 90.5%(未过滤版本) | Moonshot,via Reuters |
| Artificial Analysis网络安全指数 | 64% | 57%(DeepSeek V4.1 Flash),69%(GPT-6 Sol) | Artificial Analysis |
| 同一指数,与前代产品对比 | 64% | 41%(Kimi K3) | Artificial Analysis |
| 相同的内部基准,竞争对手模型 | 81.0% | 85.7%(DeepSeek V4.1-Flash) | Implicator.ai分析 |
常见问题
- Moonshot在Kimi K3.1 Pro中确切改变了什么?
- Moonshot表示,它从用于构建模型的训练语料库和强化学习环境中删除了与网络安全相关的数据,同时保持了其一般的编码能力,以限制其进攻型黑客能力。
- 该更改是否实际降低了模型的黑客能力?
- 在Moonshot自己的内部基准上,过滤后的模型得分为81.0%,而未过滤版本得分为90.5%,但独立分析指出该测试未发表,竞争对手模型DeepSeek V4.1-Flash在同一基准上得分更高(85.7%)。
- Kimi K3.1 Pro的开源权重何时可用?
- Moonshot表示,它计划在2026年11月4日前发布该模型的开源权重。
- 这与中国的出口管制提议有什么关系?
- 中国于2026年10月16日提议修订出口管制,涵盖23项AI技术,禁止或限制用于生成恶意软件或发现软件漏洞的AI工具,理由是国家安全考虑,公众评论时间至2026年11月15日;Moonshot尚未声称其K3.1 Pro的限制是专门针对该提议而做出的。
- 为什么Kimi K2被称为"DeepSeek时刻"?
- 评论者使用这个术语是因为Kimi K2(于2025年7月11日发布)表明除DeepSeek之外的中国AI实验室也可以生产具有接近前沿性能的开源权重模型,这与2025年早些时候DeepSeek的R1发布引发的反应相呼应。
来源
- Yahoo News (Reuters) — Moonshot curbs hacking ability in new Kimi model as fears grow over AI-powered cyberattacks
- alphaXiv — Kimi K3.1 Pro model page
- AlphaSignal — Moonshot's Kimi K3.1 Pro Tops Every Public API Model in Security Benchmarks
- Implicator.ai — Kimi K3.1 Pro Hacking Cut Rests on Unpublished Moonshot Test
- TechNode Global — China proposes export controls on 23 AI technologies
- Interconnects.ai — Kimi K2 and when "DeepSeek Moments" become normal
本文由人工智能撰写，发布前已通过自动来源核查。如发现错误，请申请更正。 申请更正或回应 · 我们如何制作
相关文章
人工智能文章
神经网络如何学习：ChatGPT和Gemini背后的数学
神经网络通过进行预测、用损失函数衡量预测的错误程度，然后通过网络向后调整称为权重的内部值来学习——这个过程称为反向传播，与称为梯度下降的优化方法相结合。同样的机制，扩展到数十亿个参数的规模，是ChatGPT和Gemini等系统首先被训练，然后通过微调适配特定任务的基础。
人工智能文章
人工智能如何生成艺术和音乐，以及为什么'真正的创意'仍然存在争议
Midjourney和Stable Diffusion等AI图像工具通过学习反转噪声过程来生成图片，而Suno和Udio等音乐工具将音频压缩为令牌，并在文本提示的指导下逐步预测它们。这两个过程是否算作真正的创意仍未解决：研究人员分为两派，一派称其为基于模式的'混音'，另一派则赞同其具有可衡量的创意表现。
人工智能文章
AI文本检测工具如何工作：通过获奖小说纠纷案例解析
AI文本检测工具无法证明谁写了某段文本，它们通过测量词汇可预测性和句子长度变化等统计模式来估计概率。名为Pangram 4.1的检测工具最近认为一部获得€20,000奖金的西班牙语小说有99%的内容由人工智能生成，促使其出版商暂停宣传活动进行调查。
人工智能文章
Moonshot的Kimi K3.1 Pro：新AI模型的功能及竞争对比
Moonshot AI于2026年10月23日推出Kimi K3.1 Pro，这是一款拥有2.8万亿总参数的开源权重AI模型，专为编码、3D建模和金融研究而打造。这家北京初创公司表示，该模型在其自有基准测试中缩小了与OpenAI的GPT-6 Astra和Anthropic的Claude Opus 5.5的差距，但这些数据是自我报告的，完整的模型权重预计于2026年11月4日发布。