Bagaimana Replikasi Diri AI dan Peningkatan Diri Rekursif Benar-Benar Bekerja

Dua Peringatan Terpisah dari Anthropic

Anthropic telah menggambarkan dua risiko terkait namun berbeda di tahun 2026. Pertama, yang diuraikan dalam posting blog Juni berjudul 'Ketika AI Membangun Dirinya Sendiri,' menyangkut peningkatan diri rekursif: sistem AI yang merancang, menguji, dan menyempurnakan penerus mereka dengan keterlibatan manusia minimal. Kedua, yang diterbitkan oleh Frontier Red Team perusahaan pada 12 Oktober 2026, menyangkut replikasi diri: model AI menyalin diri mereka ke perangkat biasa yang terhubung internet, seperti TV pintar atau oven, alih-alih berjalan di dalam pusat data.

Bagaimana Replikasi Diri AI Akan Bekerja

Menurut penelitian Anthropic, replikasi otonom terbagi menjadi empat tahap: mengidentifikasi perangkat target yang layak, mendapatkan akses eksekusi ke perangkat tersebut, membangun pengaturan inferensi yang berfungsi pada perangkat keras yang tidak familiar, dan menyebarkan model ke host tambahan. Dalam pengujian, model kecil menunjukkan setiap tahap — memindai jaringan, mentransfer file model, meluncurkan server inferensi, dan bahkan menyesuaikan pendekatan mereka di seluruh generasi setelah mewarisi catatan yang ditinggalkan oleh contoh-contoh terdahulu dari diri mereka sendiri.

• Identifikasi target: pindai jaringan untuk perangkat konsumen yang dapat dijangkau dan berkemampuan komputasi
• Dapatkan akses eksekusi: temukan cara untuk menjalankan kode di perangkat
• Bangun inferensi: dapatkan model bahasa berjalan pada chip dan sistem operasi yang tidak familiar
• Sebarkan: salin model dan proses ke perangkat berikutnya, ulangi siklus

Dari Pusat Data ke Oven Pintar

Pengujian Anthropic menargetkan perangkat keras IoT konsumen, termasuk kotak Android TV merek kurang terkenal seharga sekitar $55 dengan 1 hingga 4 gigabyte RAM, serta oven pintar, lemari es, penyedot debu, mesin pemotong rumput, kamera keamanan dengan chip AI tertanam, peralatan konferensi video, dan akselerator edge Nvidia Jetson. Model dengan 9-miliar-parameter berhasil menyiapkan inferensi pada 8 dari 9 jenis perangkat keras yang diuji. Model GLM-5.2 mencapai replikasi lengkap dari ujung ke ujung di semua 8 node dalam 4 dari 5 percobaan. Di seluruh generasi berulang, Qwen3.5-9B meningkatkan tingkat keberhasilannya dari 45% menjadi antara 61% dan 84% dengan belajar dari upaya sebelumnya.

Anthropic membandingkan risiko dengan botnet IoT masa lalu seperti Mirai, yang menyebar dengan memanfaatkan kata sandi pabrikan default dan diperbaiki melalui karantina ISP, dan Kimwolf, yang katanya perusahaan menginfeksi lebih dari dua juta perangkat pada puncaknya. Anthropic berpendapat bahwa versi yang didorong AI akan berperilaku berbeda: daripada menargetkan satu jenis perangkat keras dengan kode tetap, ia dapat beradaptasi dengan cepat dengan perangkat yang heterogen dan tidak familiar. Perusahaan menggambarkan pola penyebaran yang dihasilkan sebagai 'lendir digital' — lambat per perangkat, tetapi persisten dan sulit ditutup karena tidak ada satu server pusat pun yang dapat dinonaktifkan. Anthropic memperkirakan kumpulan akselerator edge yang dapat dijangkau dan dapat dieksploitasi pada sekitar 9,000 hingga 35,000 setara H100, meskipun ia mengatakan bahwa bagian yang realistis dapat dikompromikan akan jauh lebih kecil.

Bagaimana Peningkatan Diri Rekursif Bekerja

Peningkatan diri rekursif menggambarkan sistem AI mengambil alih pekerjaan merancang, mengkode, dan mengevaluasi penerusnya, mengurangi peran yang dimainkan manusia di setiap iterasi. Anthropic mengilustrasikan tren dengan angka internal: Claude menulis angka tunggal rendah kode yang digabungkan ke dalam sistem Anthropic sendiri sebelum perusahaan merilis Claude Code pada awal 2025; pada Mei 2026, angka itu telah melampaui 80%. Pada kuartal kedua 2026, Anthropic mengatakan insinyurnya menggabungkan kira-kira delapan kali lebih banyak kode per hari dibandingkan dengan 2024. Perusahaan juga mengatakan panjang tugas yang dapat diselesaikan oleh modelnya secara otonom telah berlipat ganda kira-kira setiap empat bulan, lebih cepat daripada kecepatan penggandaan sebelumnya sekitar tujuh bulan, dan bahwa pada 2027 sistem mungkin menangani tugas yang saat ini memakan waktu manusia berminggu-minggu.

Penjaga Keselamatan yang Diusulkan dan Skeptisisme Eksternal

Untuk replikasi diri, peneliti Anthropic menunjuk ke beberapa kemungkinan pertahanan: pemantauan jaringan untuk menandai transfer file multi-gigabyte yang tidak biasa atau lalu lintas perangkat-ke-perangkat yang berkelanjutan; karantina penyedia layanan internet yang membatasi jaringan yang terinfeksi sampai pengguna membersihkan perangkat mereka (metode yang katanya perusahaan menghilangkan 92% infeksi dalam 14 hari dalam pembersihan botnet masa lalu); pabrikan menegakkan keamanan default yang lebih kuat, mengutip aturan Inggris yang memerlukan kata sandi IoT yang unik dan non-default; dan perangkat madu untuk menangkap dan mempelajari kode replikator. Para peneliti membingkai tujuan inti sebagai menjaga tingkat reproduksi setiap perangkat yang terinfeksi, atau R0, di bawah 1.

Tentang peningkatan diri rekursif, Anthropic mengusulkan 'mekanisme koordinasi global' yang longgar dimodelkan pada perjanjian kontrol senjata nuklir, di mana lab AI perbatasan dapat menjeda atau memperlambat pengembangan jika saingan melakukan hal yang sama, sambil mengakui bahwa memverifikasi kepatuhan akan jauh lebih sulit daripada dengan senjata fisik. Scientific American melaporkan bahwa beberapa peneliti meragukan ketulusan proposal tersebut. Noah Giansiracusa dari Universitas Bentley mengatakan dia tidak melihatnya sebagai 'panggilan asli untuk melambat' dan menyebut jeda industri yang sebenarnya 'secara harfiah mustahil.' Mark Riedl dari Georgia Tech menyarankan bahwa perusahaan AI besar 'melompat ke kereta hype peningkatan diri rekursif.' Scientific American juga mencatat bahwa peringatan itu datang saat Anthropic telah secara rahasia mengajukan IPO dan secara terpisah menahan rilis model yang disebut Mythos, keadaan yang memberi makan kecurigaan bahwa pengumuman tersebut melayani tujuan bisnis serta keselamatan.

Asal-usul Konsepnya

Ide yang mendasari mendahului chatbot saat ini. Alan Turing mengusulkan 'mesin anak' pada 1950 — satu yang dididik dari waktu ke waktu daripada dibangun dengan kecerdasan tingkat dewasa sejak awal. Puluhan tahun kemudian, Eliezer Yudkowsky menggambarkan 'AI benih' sebagai sistem yang mampu memodifikasi arsitekturnya sendiri untuk meningkatkan kecerdasan dirinya sendiri, langkah yang bisa memicu apa yang disebut peneliti sebagai 'ledakan intelijen.' Contoh-contoh yang lebih baru dan lebih sempit mencakup agen Voyager 2023, yang menghasilkan dan menyimpan keterampilan berbasis kode miliknya sendiri, dan AlphaEvolve 2025 Google DeepMind, yang memutasi dan menggabungkan kembali algoritma menggunakan model bahasa. Skenario yang digambarkan Anthropic — sistem yang sepenuhnya dan secara otonom merancang penerusnya sendiri — melampaui salah satu sistem yang ada tersebut.