چگونه مدل‌های یادگیری ماشین آموزش داده می‌شوند، بهینه‌سازی می‌شوند و مستقر می‌شوند

هر سیستم یادگیری ماشین، از یک فیلتر اسپم گرفته تا یک مدل زبان بزرگ، همان قوس گسترده را طی می‌کند قبل اینکه به دستان کاربر برسد: داده‌ها آماده می‌شوند، یک مدل بر روی آن داده‌ها آموزش داده می‌شود، عملکرد آن اندازه‌گیری و تنظیم می‌شود، و سرانجام به یک محیط زنده منتشر می‌شود جایی که مورد نظارت مستمر قرار می‌گیرد. ارائه‌دهندگان خدمات ابری و تیم‌های مهندسی این قوس را دورة حیات یادگیری ماشین می‌نامند، و مکانیسم‌های آن تقریباً یکسان است چه مدل یک طبقه‌بندی کوچک باشد و چه شبکه‌ای با میلیارد پارامتر.

آموزش: چگونه یک مدل از داده‌ها یاد می‌گیرد

بر اساس مستندات معماری Google Cloud، دورة حیات با پردازش داده شروع می‌شود: تیم‌ها تحلیل اکتشافی داده را انجام می‌دهند تا ساختار داده را درک کنند، آن را تمیز می‌کنند، آن را به مجموعه‌های آموزش، اعتبارسنجی و آزمایش تقسیم می‌کنند، و ویژگی‌ها را مهندسی می‌کنند تا داده‌ها برای یک مدل مناسب باشند. تنها پس از این آماده‌سازی است که دانشمندان داده الگوریتم‌ها را اجرا می‌کنند و آموزش را آغاز می‌کنند.

برای شبکه‌های عصبی به‌طور خاص، آموزش بر دو تکنیک مرتبط متکی است، همان‌طور که GeeksforGeeks توضیح می‌دهد: یک گذار رو به جلو، جایی که شبکه داده‌های ورودی را پردازش می‌کند تا پیش‌بینی تولید کند، و یک تابع ضرر، که اندازه می‌گیرد این پیش‌بینی چقدر از برچسب واقعی فاصله دارد. انتشار معکوس سپس، طبقه به طبقه با استفاده از قاعده زنجیر، محاسبه می‌کند چه میزان هر پارامتر درونی به آن خطا کمک کرد. کاهش شیب آن شیب‌های محاسبه‌شده را استفاده می‌کند تا هر پارامتر را در جهتی فشار دهد که ضرر را کاهش می‌دهد. این چرخه گذار رو به جلو/گذار معکوس/به‌روز‌رسانی بر روی حقب بسیاری تکرار می‌شود تا مدل به سمت حداقل تابع ضرر همگرا شود، بر اساس GeeksforGeeks.

بهینه‌سازی: تنظیم و اعتبارسنجی مدل

آموزش به تنهایی تضمین یک مدل قابل استفاده نیست. مستندات Google Cloud یادآوری می‌کند که تیم‌ها بر الگوریتم‌های اجرا‌شده تنظیم ابرپارامتری را انجام می‌دهند تا بهترین عملکرد را کسب کنند، تنظیمات مانند میزان یادگیری، اندازه دسته یا تعداد حقب را تغییر می‌دهند تا به جای پارامترهایی که مدل به تنهایی یاد می‌گیرد. مستندات توسعه‌دهندگان Google درباره مدیریت پروژه‌های یادگیری ماشین می‌افزاید که این مرحله آزمایش است جایی که تیم‌ها ترکیب‌های ویژگی مختلف، مقادیر ابرپارامتر و معماری‌های مدل را آزمایش می‌کنند، اغلب صدها آزمایش انجام می‌دهند قبل از اینکه ترکیب قابل عملی بیابند.

هنگامی که یک مدل کاندیدا وجود دارد، بر روی مجموعه آزمایش نگاه‌داشته‌شده ارزیابی می‌شود - داده‌ای که مدل در طول آموزش ندیده است - تا معیارهای کیفیت تولید کند. IBM این گام را به‌عنوان ارزیابی عملکرد با استفاده از معیارهایی مانند دقت و انصاف بر روی داده‌های دیده‌نشده توصیف می‌کند. مدل سپس در برابر یک خط پایه اعتبارسنجی می‌شود: مستندات Google Cloud بیان می‌کند این تایید می‌کند که عملکرد پیش‌بینی مدل بهتر از یک آستانه تعریف‌شده است قبل از اینکه به سمت استقرار پیش برود.

استقرار: قرار دادن یک مدل در تولید

استقرار نقطه‌ای است که یک مدل اعتبارسنجی‌شده شروع به انجام پیش‌بینی‌ها بر روی داده‌های واقعی می‌کند. مستندات Snowflake نشر مدل را به‌عنوان انتشار کنترل‌شده یک مدل اعتبارسنجی‌شده تعریف می‌کند، همراه با وابستگی‌ها و منطق استنتاج آن، به یک محیط تولید جایی که می‌تواند نسخه‌دار شود، اجرا شود، نظارت شود و اگر ضروری باشد معکوس شود.

هم Google Cloud و هم Snowflake مجموعه‌های مشابهی از الگوهای استقرار را توصیف می‌کنند، خلاصه‌شده در زیر.

Snowflake یادآوری می‌کند که هر سبک استقرار مبادلات را حمل می‌کند: خدمات زمان واقعی مدیریت دقیق تاخیر، دسترس‌پذیری و مقیاس‌بندی را نیاز دارند، در حالی که سیستم‌های دسته‌ای اداره‌شدن آسان‌تر هستند اما توسط تکرار برنامه امتیاز محدود می‌شوند. استقرار لبه تاخیر را کاهش می‌دهد و داده‌ها را محلی نگه می‌دارد، اما تتبع کدام نسخه مدل بر روی بسیاری دستگاه‌های توزیع‌شده اجرا می‌شود را دشوار می‌کند.

نظارت، رانش و بازآموزش

استقرار پایان فرایند نیست. IBM بیان می‌کند که نظارت مستمر عملکرد مدل در تولید را ردیابی می‌کند، مسائلی مانند رانش دقت را شناسایی می‌کند، و هشدارهایی تولید می‌کند که مداخله سریع را فعال می‌کند و می‌تواند بازآموزش را با داده‌های به‌روز‌شده آغاز کند. Snowflake نیز نظارت و تشخیص رانش را به‌عنوان مسؤولیت‌های استقرار اساسی فهرست می‌کند، همراه با برنامه‌ریزی برگشت - محفزهای از پیش تعریف‌شده و ساختارهای مالکانه برای بازگشت به یک نسخه مدل قدیمی‌تر اگر نسخه جدید کم‌تر عملکرد کند.

مستندات Google Cloud این را به‌عنوان یک طیف بلوغ قاب‌بندی می‌کند. در سطح کمترین خودکارسازی، هر گام - از آماده‌سازی داده تا استقرار - دستی است، معمول در پروژه‌های اولیه با انتشارات نادر. تنظیمات بالغ‌تر خط‌های لوله خودکاری را اضافه می‌کنند که داده‌ها و مدل‌ها را اعتبارسنجی می‌کنند و رانش را تشخیص می‌دهند، و معظم تنظیمات خودکار‌شده یکپارچگی و تسلیم مستمر را یکپارچه می‌کنند تا آزمایش، آزمایش، استقرار و نظارت به‌عنوان مراحل متصل و بیشتر خودکار اجرا شوند.

ابزارهای پشت دورة حیات

در نظرة عام IBM این تمرین، معروف به MLOps، دسته‌های ابزارهایی را که تیم‌ها عموماً در هر مرحله به آن‌ها متکی هستند فهرست می‌کند: فریم‌ورک‌های یادگیری ماشین مانند TensorFlow و PyTorch برای ساخت و آموزش مدل‌ها، Git برای کنترل نسخه، پلتفرم‌های CI/CD مانند Jenkins یا GitLab CI/CD برای خودکارسازی مراحل خط لوله، و پلتفرم‌های MLOps اختصاصی مانند Kubeflow یا MLflow برای متناسب‌سازی آموزش، استقرار و نظارت بر زیرساخت ابری مانند AWS، Azure یا IBM Cloud.