Bagaimana Model Machine Learning Dilatih, Dioptimalkan, dan Diterapkan

Setiap sistem machine learning, dari filter spam hingga model bahasa besar, melewati busur yang sama sebelum mencapai pengguna: data disiapkan, model dilatih pada data tersebut, kinerjanya diukur dan disesuaikan, dan akhirnya dirilis ke lingkungan langsung di mana terus dipantau. Penyedia cloud dan tim teknik menggambarkan busur ini sebagai ML lifecycle, dan mekanismenya sebagian besar sama apakah model adalah pengklasifikasi kecil atau jaringan dengan parameter miliaran.

Pelatihan: bagaimana model belajar dari data

Menurut dokumentasi arsitektur Google Cloud, siklus hidup dimulai dengan pemrosesan data: tim menjalankan analisis data eksplorasi untuk memahami struktur data, membersihkannya, membaginya menjadi set pelatihan, validasi, dan pengujian, serta merekayasa fitur sehingga data dalam format yang sesuai untuk model. Hanya setelah persiapan ini ahli data mengimplementasikan algoritma dan mulai melatih.

Untuk jaringan saraf khususnya, pelatihan mengandalkan dua teknik terkait, seperti yang dijelaskan oleh GeeksforGeeks: pass maju, di mana jaringan memproses data masukan untuk menghasilkan prediksi, dan fungsi kerugian, yang mengukur seberapa jauh prediksi tersebut dari label asli. Backpropagation kemudian menghitung, lapis demi lapis menggunakan aturan rantai, berapa banyak setiap parameter internal berkontribusi pada kesalahan itu. Gradient descent menggunakan gradien yang dihitung untuk mendorong setiap parameter ke arah yang mengurangi kerugian. Siklus pass-maju/pass-mundur/pembaruan ini diulang selama banyak epoch hingga model menyatu menuju minimum dari fungsi kerugian, menurut GeeksforGeeks.

Optimasi: menyesuaikan dan memvalidasi model

Pelatihan saja tidak menjamin model yang dapat digunakan. Dokumentasi Google Cloud mencatat bahwa tim melakukan penyetelan hiperparameter pada algoritma yang diimplementasikan untuk mendapatkan kinerja terbaik, menyesuaikan setelan seperti tingkat pembelajaran, ukuran batch, atau jumlah epoch daripada parameter yang model pelajari sendiri. Dokumentasi pengembang Google tentang mengelola proyek ML menambahkan bahwa fase eksperimen ini adalah tempat tim menguji kombinasi fitur yang berbeda, nilai hiperparameter, dan arsitektur model yang berbeda, sering menjalankan ratusan eksperimen sebelum menemukan kombinasi yang dapat bekerja.

Setelah model kandidat ada, dievaluasi pada set pengujian holdout — data yang tidak pernah dilihat model selama pelatihan — untuk menghasilkan metrik kualitas. IBM menggambarkan langkah ini sebagai mengevaluasi kinerja menggunakan metrik seperti akurasi dan keadilan pada data yang tidak terlihat. Model kemudian divalidasi terhadap garis dasar: dokumentasi Google Cloud menyatakan ini mengonfirmasi kinerja prediktif model lebih baik dari ambang yang ditentukan sebelum diizinkan untuk bergerak menuju penerapan.

Penerapan: menempatkan model ke dalam produksi

Penerapan adalah titik di mana model yang divalidasi mulai membuat prediksi pada data nyata. Dokumentasi Snowflake mendefinisikan penerapan model sebagai rilis yang diatur dari model yang divalidasi, bersama dengan dependensi dan logika infesensinya, ke lingkungan produksi di mana dapat diversi, dijalankan, dipantau, dan di-rollback jika diperlukan.

Baik Google Cloud maupun Snowflake menggambarkan serangkaian pola penerapan yang sebanding, dirangkum di bawah.

Snowflake mencatat bahwa setiap gaya penerapan membawa trade-off: penyajian real-time memerlukan penanganan latensi, ketersediaan, dan penskalaan yang hati-hati, sementara sistem batch lebih mudah untuk diatur tetapi dibatasi oleh seberapa sering jadwal penilaian berjalan. Penerapan edge mengurangi latensi dan menjaga data tetap lokal, tetapi membuat lebih sulit untuk melacak versi model mana yang berjalan di seluruh banyak perangkat terdistribusi.

Pemantauan, pergeseran, dan pelatihan ulang

Penerapan bukanlah akhir dari proses. IBM menyatakan bahwa pengawasan berkelanjutan melacak kinerja model dalam produksi, mendeteksi masalah seperti pergeseran akurasi, dan menghasilkan peringatan yang memungkinkan intervensi cepat dan dapat memicu pelatihan ulang dengan data yang diperbarui. Snowflake demikian pula mencantumkan pemantauan dan deteksi pergeseran sebagai tanggung jawab penerapan inti, bersama dengan perencanaan rollback — pemicu yang telah ditentukan sebelumnya dan struktur kepemilikan untuk kembali ke versi model sebelumnya jika yang baru berkinerja buruk.

Dokumentasi Google Cloud membingkai ini sebagai spektrum kematangan. Pada tingkat otomasi paling sedikit, setiap langkah — dari persiapan data hingga penerapan — adalah manual, khas dari proyek tahap awal dengan rilis tidak sering. Pengaturan yang lebih matang menambahkan pipa otomatis yang memvalidasi data dan model serta mendeteksi pergeseran, dan pengaturan yang paling otomatis mengintegrasikan integrasi dan pengiriman berkelanjutan sehingga eksperimen, pengujian, penerapan, dan pemantauan berjalan sebagai tahap yang terhubung, sebagian besar otomatis.

Peralatan di balik siklus hidup

Ikhtisar IBM tentang praktik ini, dikenal sebagai MLOps, mencantumkan kategori alat yang umumnya diandalkan tim pada setiap tahap: kerangka kerja machine learning seperti TensorFlow dan PyTorch untuk membangun dan melatih model, Git untuk kontrol versi, platform CI/CD seperti Jenkins atau GitLab CI/CD untuk mengotomatiskan langkah pipa, dan platform MLOps khusus seperti Kubeflow atau MLflow untuk mengorekstrasi pelatihan, penerapan, dan pemantauan pada infrastruktur cloud seperti AWS, Azure, atau IBM Cloud.