인공지능 · 해설 기사
문샷이 의도적으로 새로운 Kimi AI 모델의 해킹 능력을 약화시킨 이유
게시:
요약
중국 AI 연구소인 문샷이 새로운 Kimi K3.1 Pro 모델에서 사이버 관련 학습 데이터를 제거했다고 발표했습니다. 공개 가중치 시스템이 공격적 해킹 능력의 '프론티어'를 밀어붙이지 않도록 하기 위함입니다. 토요일 2026년 10월 24일에 발표된 이 조치는 정부와 보안 연구자들이 점점 더 능력이 뛰어난 AI가 정교한 사이버 공격을 더 저렴하고 쉽게 수행할 수 있도록 만들 수 있다고 경고하는 가운데 이루어졌습니다.
이 버전은 원문(English)의 기계 번역입니다. 원문 읽기
Kimi 챗봇을 개발한 베이징 소재 스타트업인 문샷 AI는 2026년 10월 24일 토요일 Kimi K3.1 Pro를 공개했습니다. 동사는 이를 3조 파라미터 클래스에서 가장 강력한 공개 가중치 모델로 설명했습니다. 출시와 함께 회사는 이 모델의 해킹 작업 지원 능력을 의도적으로 축소했다고 밝혔으며, 이는 AI 개발자가 자신의 모델 기능을 제한하는 드문 공개 조치입니다.
문샷이 제거한 것
문샷에 따르면, 회사는 K3.1 Pro 구축에 사용된 학습 코퍼스와 강화 학습 환경 모두에서 사이버 관련 데이터를 제거했으며, 모델의 일반적인 코딩 능력은 유지했습니다. 회사는 자신의 목표를 다음과 같이 설명했습니다: "우리는 사이버 능력의 절대적 프론티어를 확장하는 공개 가중치를 출시하지 않으려고 합니다."
문샷 자신의 설명에 따르면, 트레이드오프는 측정 가능합니다. 통제된 환경에서 모델이 소프트웨어 취약점을 찾고 악용할 수 있는 능력을 테스트하는 내부 벤치마크에서 K3.1 Pro는 81.0%를 획득했습니다. 반면 사이버 데이터 필터링 없이 구축된 동등 모델 버전은 90.5%였습니다. 별도의 업계 벤치마크에서 문샷의 필터링된 모델은 이전 버전인 Kimi K3보다도 여전히 사이버 관련 작업에서 더 높은 점수를 획득했습니다.
독립적 테스트는 더 복잡한 결과를 보여줍니다
외부 평가자들이 자체 수치를 발표했습니다. Artificial Analysis의 사이버 지수는 K3.1 Pro의 전체 점수를 64%로 평가했으며, DeepSeek의 V4.1 Flash 모델의 57%를 앞섰지만 폐쇄형 모델인 GPT-6 Sol의 69%에는 미치지 못했습니다. 이는 같은 지수에서 원래 Kimi K3의 41% 점수에서 23포인트 상승입니다. 평가자들은 또한 테스트 중에 K3.1 Pro가 안전 거부를 생성하지 않았음을 언급했으며, 이는 특정 보안 관련 프롬프트를 거부한 일부 경쟁 공개 API와 다릅니다.
분석 사이트인 Implicator.ai는 사이버 데이터 제거가 실제로 검증될 수 있는지에 대해 의문을 제기했습니다. 이 사이트는 문샷의 핵심 증거가 미발표 내부 테스트에서 나온다고 지적했으며, '사이버 관련' 학습 데이터의 경계가 본질적으로 모호하다고 지적했습니다. 또한 DeepSeek의 V4.1-Flash가 문샷이 필터링의 효율성을 주장하기 위해 사용한 동일한 내부 벤치마크에서 K3.1 Pro보다 더 높은 점수(85.7% vs 81.0%)를 획득했다고 지적하여 비교를 복잡하게 만들고 있습니다. 또한 문샷의 공개 자료가 오픈 가중치 발표 후 외부 개발자의 미세 조정을 통해 제거된 능력을 나중에 복원할 수 있는지 여부를 다루지 않았다고 덧붙였습니다.
지금 이것이 일어나는 이유
이 발표는 AI 지원 사이버 공격에 대한 공식적 우려의 증가를 배경으로 이루어졌습니다. 중국의 상무부와 과학부는 2026년 10월 16일 23개의 AI 관련 기술을 다루는 수출 규제 개정안을 제안했으며, 악의적 코드를 자율적으로 생성하거나 수정할 수 있는 AI 시스템의 수출을 금지할 것을 제안했습니다. 이는 국가 안보와 민감한 AI 능력을 인간의 통제 하에 유지하려는 목표를 이유로 합니다. 별도의 덜 엄격한 범주는 알려진 결함에 대해 작동하는 악용을 자율적으로 구축하거나 주요 소프트웨어 프로젝트에서 여러 미공개 고심각도 취약점을 발견할 수 있는 AI 도구를 제한(금지가 아닌)할 것입니다. 공개 의견 수렴 기간은 2026년 11월 15일까지입니다.
문샷의 자율적 사이버 제한은 해당 규제 방향에 대한 대응으로 읽을 수 있지만, 회사는 명시적으로 두 가지를 연결하지 않았습니다. 문샷은 K3.1 Pro의 공개 가중치를 2026년 11월 4일까지 발표할 계획입니다.
문샷의 더 큰 패턴: 자신의 'DeepSeek 모멘트' 후 공개 가중치
K3.1 Pro는 문샷이 2025년 7월 11일에 출시한 1조 파라미터 공개 가중치 모델인 Kimi K2를 따릅니다. 이는 널리 '공개 가중치 DeepSeek 모멘트'라고 설명되었습니다—2025년 초 DeepSeek의 R1 모델이 중국 랩이 서방의 최첨단 AI 성능과 일치할 수 있음을 보였을 때의 충격에 대한 참조입니다. 논평 사이트인 Interconnects.ai는 Kimi K2가 DeepSeek만이 아닌 여러 중국 조직이 효율적으로 공개 출시된 모델로 거의 최첨단 능력에 도달하고 있음을 보였다고 주장했습니다.
문샷은 사이버 능력이 축소되었다 하더라도 공개 가중치 출시가 자체 보안 이점을 가진다고 주장합니다: 조직은 벤더의 호스팅 서비스만 신뢰하기보다는 소프트웨어 자체를 검사하고 테스트할 수 있습니다. 이 논거는 공개 가중치가 발표되면 문샷이 사후에 이를 회수하거나 추가로 제한할 수 없다는 인정된 트레이드오프와 함께합니다.
주요 수치 한눈에
| 벤치마크 | K3.1 Pro (필터링됨) | 비교 포인트 | 출처 |
|---|---|---|---|
| 문샷 내부 사이버 벤치마크 | 81.0% | 90.5% (필터링되지 않은 버전) | 문샷, 로이터 경유 |
| Artificial Analysis 사이버 지수 | 64% | 57% (DeepSeek V4.1 Flash), 69% (GPT-6 Sol) | Artificial Analysis |
| 같은 지수, 이전 모델 비교 | 64% | 41% (Kimi K3) | Artificial Analysis |
| 같은 내부 벤치마크, 경쟁사 모델 | 81.0% | 85.7% (DeepSeek V4.1-Flash) | Implicator.ai 분석 |
자주 묻는 질문
- 문샷이 Kimi K3.1 Pro에서 정확히 무엇을 변경했습니까?
- 문샷은 모델 구축에 사용된 학습 코퍼스 및 강화 학습 환경에서 사이버 관련 데이터를 제거했으며, 일반적인 코딩 능력은 유지했다고 말했습니다. 공격적 해킹 능력을 제한하기 위함입니다.
- 이 변경이 모델의 해킹 능력을 실제로 축소했습니까?
- 문샷 자신의 내부 벤치마크에서 필터링된 모델은 81.0%를 획득했으며, 필터링되지 않은 버전의 90.5%와 비교됩니다. 그러나 독립적 분석은 테스트가 미발표이며 경쟁사 모델인 DeepSeek V4.1-Flash가 동일한 벤치마크에서 더 높은 점수(85.7%)를 획득했다고 지적합니다.
- Kimi K3.1 Pro의 공개 가중치는 언제 사용 가능합니까?
- 문샷은 2026년 11월 4일까지 모델의 공개 가중치를 발표할 계획이라고 말했습니다.
- 이것이 중국의 수출 규제 제안과 어떻게 관련됩니까?
- 중국은 2026년 10월 16일 23개 AI 기술을 다루는 수출 규제 개정안을 제안했으며, 악성코드 생성 또는 소프트웨어 취약점 발견이 가능한 AI 도구를 금지하거나 제한할 것을 제안했습니다. 국가 안보 우려를 이유로 하며, 공개 의견 수렴 기간은 2026년 11월 15일까지입니다. 다만 문샷은 K3.1 Pro 제한이 이 제안에 구체적으로 대응하여 행해졌다고 명시하지 않았습니다.
- 왜 Kimi K2를 'DeepSeek 모멘트'라고 부릅니까?
- 논평자들은 이 용어를 사용했습니다. Kimi K2가 2025년 7월 11일에 출시되었으며, DeepSeek 뿐 아니라 여러 중국 AI 랩이 거의 최첨단 성능을 가진 공개 가중치 모델을 생산할 수 있음을 보였기 때문입니다. 이는 그해 초 DeepSeek의 R1 출시에 대한 반응을 반영합니다.
출처
- Yahoo News (Reuters) — Moonshot curbs hacking ability in new Kimi model as fears grow over AI-powered cyberattacks
- alphaXiv — Kimi K3.1 Pro model page
- AlphaSignal — Moonshot's Kimi K3.1 Pro Tops Every Public API Model in Security Benchmarks
- Implicator.ai — Kimi K3.1 Pro Hacking Cut Rests on Unpublished Moonshot Test
- TechNode Global — China proposes export controls on 23 AI technologies
- Interconnects.ai — Kimi K2 and when "DeepSeek Moments" become normal
이 글은 인공지능으로 작성되었고 게시 전에 자동 출처 검증을 거쳤습니다. 오류를 발견하면 정정을 요청해 주세요. 정정 또는 반론 요청 · 제작 원칙
관련 기사
인공지능해설 기사
신경망이 어떻게 학습하는지: ChatGPT와 Gemini 뒤의 수학
신경망은 예측을 하고 손실 함수로 얼마나 잘못되었는지 측정한 후 네트워크를 통해 가중치라고 불리는 내부 값을 역방향으로 조정하여 학습합니다. 이 과정을 역전파(backpropagation)라고 하며, 경사하강법(gradient descent)이라는 최적화 방법과 쌍을 이룹니다. 수십억 개의 매개변수로 확대된 동일한 메커니즘이 ChatGPT 및 Gemini와 같은 시스템이 처음 학습되고 미세 조정(fine-tuning)을 통해 특정 작업에 적응하는 방식을 뒷받침합니다.
인공지능해설 기사
AI가 예술과 음악을 생성하는 방법, 그리고 왜 '진정한 창의성'은 계속 논쟁의 여지가 있는가
Midjourney 및 Stable Diffusion과 같은 AI 이미지 도구는 노이즈 프로세스를 역으로 학습함으로써 그림을 구축하고, Suno 및 Udio와 같은 음악 도구는 오디오를 토큰으로 압축하고 단계적으로 예측하며, 텍스트 프롬프트에 의해 가이드됩니다. 이 두 프로세스 중 하나가 진정한 창의성으로 간주되는지 여부는 미해결입니다. 연구자들은 패턴 기반 '리믹싱'이라고 부르는 것과 측정 가능한 창의적 성과로 인정하는 것 사이에 의견이 나뉩니다.
인공지능해설 기사
「상을 수상한 소설 분쟁을 통해 설명되는 AI 텍스트 감지기의 작동 원리」
「AI 텍스트 감지기는 누가 무언가를 썼는지를 증명하지 않습니다. 대신 단어 예측 가능성과 문장 길이 변동 같은 통계적 패턴을 측정하여 확률을 추정합니다. Pangram 4.1이라는 감지기는 최근 €20,000의 상을 받은 스페인어 소설의 99%를 인공지능에 돌리며, 그 출판사에 조사 중 홍보 이벤트를 중단하도록 강요했습니다.」
인공지능해설 기사
문샷의 새로운 AI 모델 Kimi K3.1 Pro: 이 모델이 할 수 있는 것과 다른 모델과의 비교
문샷 AI는 2026년 10월 23일에 Kimi K3.1 Pro를 출시했습니다. 이는 2.8조 개의 총 매개변수를 가진 오픈 가중치 AI 모델이며, 코딩, 3D 모델링 및 금융 연구를 위해 구축되었습니다. 베이징의 스타트업은 자체 벤치마크 테스트에서 OpenAI의 GPT-6 Astra와 Anthropic의 Claude Opus 5.5와의 격차를 좁혔다고 주장하지만, 이러한 수치는 자체 보고된 수치이며 전체 모델 가중치는 2026년 11월 4일까지 릴리스될 예정입니다.