Mengapa Moonshot Dengan Sengaja Melemahkan Kemampuan Hacking Model Kimi AI Barunya

Moonshot AI, startup berbasis Beijing di balik chatbot Kimi, mengungkap Kimi K3.1 Pro pada Sabtu, 24 Oktober 2026, mendeskripsikannya sebagai model open-weight tercanggih mereka dalam kelas 3-trillion-parameter. Bersama peluncuran, perusahaan mengatakan bahwa ia telah dengan sengaja membatasi kemampuan model untuk membantu dengan tugas hacking, langkah publik yang jarang dilakukan oleh pengembang AI untuk membatasi kemampuan model mereka sendiri.

Apa yang Moonshot Hapus

Menurut Moonshot, perusahaan menghilangkan data terkait siber dari corpus pelatihan dan lingkungan reinforcement-learning yang digunakan untuk membangun K3.1 Pro, sambil mempertahankan keterampilan coding umum model. Perusahaan menyatakan tujuannya: 'Kami bertujuan untuk tidak merilis open weights yang akan memperluas frontier absolut dari kemampuan siber.'

Trade-off dapat diukur, menurut akun Moonshot sendiri. Pada benchmark internal yang menguji kemampuan model untuk menemukan dan mengeksploitasi kerentanan perangkat lunak dalam pengaturan terkontrol, K3.1 Pro mendapat skor 81,0%, dibandingkan dengan 90,5% untuk versi model yang sebanding yang dibangun tanpa penyaringan data siber. Pada benchmark industri terpisah, model yang disaring Moonshot masih mendapat skor jauh di atas pendahulunya, Kimi K3, pada tugas terkait siber.

Pengujian Independen Menceritakan Kisah yang Lebih Beragam

Penilai eksternal telah sejak itu menghasilkan angka mereka sendiri. Cyber Index milik Artificial Analysis menempatkan skor keseluruhan K3.1 Pro di 64%, lebih tinggi dari model V4.1 Flash milik DeepSeek di 57% tetapi di bawah model tertutup GPT-6 Sol di 69%. Itu mewakili lompatan 23 poin dari skor Kimi K3 asli sebesar 41% pada indeks yang sama. Para penilai juga mencatat K3.1 Pro tidak menghasilkan penolakan keselamatan selama pengujian, tidak seperti beberapa API publik yang bersaing yang menolak prompt tertentu terkait keamanan.

Situs analisis Implicator.ai mengajukan pertanyaan tentang seberapa banyak penghapusan data siber dapat benar-benar diverifikasi. Ini mencatat bahwa bukti inti Moonshot berasal dari tes internal yang tidak dipublikasikan, dan bahwa batas dari apa yang dihitung sebagai data pelatihan 'terkait siber' secara inheren kabur. Situs juga menunjukkan bahwa DeepSeek's V4.1-Flash mencapai skor lebih tinggi daripada K3.1 Pro (85,7% dibandingkan 81,0%) pada benchmark internal yang sama yang digunakan Moonshot untuk berpendapat bahwa penyaringannya efektif, memperumit perbandingan. Ini menambahkan bahwa materi rilis Moonshot tidak mengatasi apakah kemampuan yang dihapus dapat dipulihkan nanti melalui fine-tuning oleh pengembang eksternal setelah open weights dipublikasikan.

Mengapa Ini Terjadi Sekarang

Pengumuman datang pada latar belakang kekhawatiran resmi yang meningkat tentang serangan siber yang dibantu AI. Kementerian perdagangan dan sains China mengusulkan revisi kontrol ekspor pada 16 Oktober 2026, mencakup 23 teknologi terkait AI, yang akan melarang ekspor sistem AI yang mampu menghasilkan atau memodifikasi kode berbahaya secara otonom, mengutip keamanan nasional dan tujuan menjaga kemampuan AI sensitif tetap berada di bawah kontrol manusia. Kategori terpisah yang kurang ketat akan membatasi (bukan melarang) alat AI yang mampu membangun working exploits secara otonom untuk cacat yang diketahui atau menemukan beberapa kerentanan high-severity yang belum diungkap dalam proyek perangkat lunak utama. Komentar publik pada draf berlangsung hingga 15 November 2026.

Batas siber yang diberlakukan sendiri oleh Moonshot dapat dibaca sebagai respons terhadap arah peraturan itu, meskipun perusahaan belum secara eksplisit menghubungkan keduanya. Moonshot berencana untuk mempublikasikan open weights K3.1 Pro pada 4 November 2026.

Pola Besar Moonshot: Open Weights Setelah 'DeepSeek Moment' Mereka Sendiri

K3.1 Pro mengikuti Kimi K2, model open-weight trillion-parameter yang dirilis Moonshot pada 11 Juli 2025, yang secara luas dijelaskan sebagai 'open-weight DeepSeek moment' — referensi terhadap kejutan awal 2025 ketika model R1 DeepSeek menunjukkan bahwa lab China dapat mencocokkan kinerja AI Western frontier. Situs komentar Interconnects.ai berpendapat bahwa Kimi K2 menunjukkan bahwa beberapa organisasi China, bukan hanya DeepSeek, sekarang mencapai kemampuan near-frontier dengan model yang dirilis secara terbuka dan efisien.

Moonshot berpendapat bahwa merilis bobot model secara terbuka, bahkan dengan kemampuan siber berkurang, membawa manfaat keamanannya sendiri: organisasi dapat menginspeksi dan menguji perangkat lunak sendiri daripada hanya mengandalkan layanan yang dihosting vendor. Argumen itu sejalan dengan trade-off yang diakui bahwa open weights, setelah dipublikasikan, tidak dapat ditarik kembali atau dibatasi lebih lanjut oleh Moonshot.

Angka Kunci Sekilas