머신러닝 모델이 훈련, 최적화, 배포되는 방식

스팸 필터에서 대규모 언어 모델에 이르기까지 모든 머신러닝 시스템은 사용자에게 도달하기 전에 동일한 광범위한 아크를 거칩니다. 데이터가 준비되고, 해당 데이터에 대해 모델이 훈련되고, 성능이 측정 및 조정되며, 마지막으로 실시간 환경으로 릴리스되어 계속 모니터링됩니다. 클라우드 제공자와 엔지니어링 팀은 이 아크를 ML 라이프사이클이라고 하며, 모델이 작은 분류기든 수십억 파라미터 네트워크든 그 메커니즘은 거의 동일합니다.

훈련: 모델이 데이터에서 학습하는 방식

Google Cloud의 아키텍처 문서에 따르면, 라이프사이클은 데이터 처리로 시작됩니다. 팀은 탐색적 데이터 분석을 실행하여 데이터의 구조를 이해하고, 정리하고, 훈련, 검증 및 테스트 세트로 분할하고, 데이터를 모델에 적합한 형식으로 만들기 위해 특성을 엔지니어링합니다. 이러한 준비 후에만 데이터 과학자들이 알고리즘을 구현하고 훈련을 시작합니다.

신경망의 경우, 훈련은 GeeksforGeeks에서 설명한 대로 두 가지 연결된 기술에 의존합니다. 네트워크가 입력 데이터를 처리하여 예측을 생성하는 정방향 패스와 해당 예측이 참 레이블에서 얼마나 멀리 떨어져 있는지를 측정하는 손실 함수입니다. 역전파는 연쇄 법칙을 사용하여 계층별로 그 오류에 각 내부 파라미터가 얼마나 기여했는지 계산합니다. 경사하강법은 계산된 기울기를 사용하여 손실을 줄이는 방향으로 각 파라미터를 조정합니다. 이 정방향 패스/역방향 패스/업데이트 사이클은 모델이 손실 함수의 최솟값으로 수렴할 때까지 많은 에포크에 걸쳐 반복됩니다 (GeeksforGeeks에 따르면).

최적화: 모델 튜닝 및 검증

훈련만으로는 사용 가능한 모델을 보장하지 않습니다. Google Cloud의 문서에 따르면, 팀은 구현된 알고리즘에서 하이퍼파라미터 튜닝을 실시하여 최고의 성능을 얻으며, 학습률, 배치 크기 또는 에포크 수와 같은 설정을 조정합니다. 이는 모델이 자체적으로 학습하는 파라미터가 아니며, Google의 개발자 문서 (ML 프로젝트 관리)는 이 실험 단계가 팀이 다양한 특성 조합, 하이퍼파라미터 값 및 모델 아키텍처를 테스트하는 곳이며, 종종 실행 가능한 조합을 찾기 전에 수백 개의 실험을 실행한다고 추가합니다.

후보 모델이 있으면, 훈련 중에 모델이 보지 못한 데이터인 홀드아웃 테스트 세트에 대해 평가되어 품질 메트릭을 생성합니다. IBM은 이 단계를 정확도 및 공정성 같은 메트릭을 사용하여 보지 못한 데이터에 대한 성능을 평가하는 것으로 설명합니다. 그 후 모델은 기준에 대해 검증됩니다. Google Cloud의 문서에 따르면, 이는 모델의 예측 성능이 배포로 진행하기 전에 정의된 임계값보다 좋은지를 확인합니다.

배포: 모델을 프로덕션으로 전환

배포는 검증된 모델이 실제 데이터에 대한 예측을 시작하는 지점입니다. Snowflake의 문서는 모델 배포를 검증된 모델의 관리된 릴리스로 정의하며, 이는 종속성 및 추론 논리와 함께 버전 관리, 실행, 모니터링 및 필요한 경우 롤백이 가능한 프로덕션 환경으로 릴리스됩니다.

Google Cloud와 Snowflake는 모두 비슷한 배포 패턴 세트를 설명하며, 아래에 요약되어 있습니다.

Snowflake는 각 배포 스타일이 트레이드오프를 수반한다고 지적하며, 실시간 서빙은 지연, 가용성 및 스케일링의 신중한 처리를 요구하는 반면, 배치 시스템은 관리하기 더 쉽지만 채점 일정이 실행되는 빈도에 의해 제한됩니다. 엣지 배포는 지연을 줄이고 데이터를 로컬로 유지하지만, 많은 분산 디바이스에 걸쳐 실행 중인 모델 버전을 추적하기 더 어렵게 만듭니다.

모니터링, 드리프트 및 재훈련

배포는 프로세스의 끝이 아닙니다. IBM은 지속적인 감시가 프로덕션에서 모델 성능을 추적하고, 정확도 드리프트 같은 문제를 감지하며, 신속한 개입을 가능하게 하고 업데이트된 데이터로 재훈련을 트리거할 수 있는 경고를 생성한다고 합니다. Snowflake는 마찬가지로 모니터링 및 드리프트 감지를 롤백 계획 (이전 모델 버전으로 되돌리기 위한 사전 정의된 트리거 및 소유권 구조)과 함께 핵심 배포 책임으로 나열합니다. 새 모델의 성능이 저하될 경우를 대비해서입니다.

Google Cloud의 문서는 이를 성숙도 스펙트럼으로 설명합니다. 자동화가 가장 적은 수준에서는 모든 단계 (데이터 준비에서 배포까지)가 수동이며, 이는 릴리스가 빈번하지 않은 초기 단계 프로젝트에서 일반적입니다. 더 성숙한 설정은 데이터 및 모델을 검증하고 드리프트를 감지하는 자동화된 파이프라인을 추가하며, 가장 자동화된 설정은 지속적 통합 및 배포를 통합하여 실험, 테스트, 배포 및 모니터링이 연결된, 대부분 자동화된 단계로 실행됩니다.

라이프사이클 뒤의 도구

MLOps로 알려진 이 관행의 IBM 개요는 팀이 각 단계에서 일반적으로 의존하는 도구의 카테고리를 나열합니다. TensorFlow 및 PyTorch와 같은 머신러닝 프레임워크 (모델 구축 및 훈련), 버전 제어용 Git, Jenkins 또는 GitLab CI/CD와 같은 CI/CD 플랫폼 (파이프라인 단계 자동화), 그리고 Kubeflow 또는 MLflow와 같은 전용 MLOps 플랫폼 (AWS, Azure 또는 IBM Cloud와 같은 클라우드 인프라에서 훈련, 배포 및 모니터링 오케스트레이션)입니다.