Jak trenuje się, optymalizuje i wdraża modele uczenia maszynowego

Każdy system uczenia maszynowego, od filtra spamu do dużego modelu językowego, przechodzi ten sam szeroki łuk zanim dotrze do użytkownika: dane są przygotowywane, model jest trenowany na tych danych, jego wydajność jest mierzona i dostrajana, i wreszcie jest on uwalniany do środowiska na żywo, gdzie jest stale obserwowany. Dostawcy usług w chmurze i zespoły inżynierskie opisują ten łuk jako cykl życia ML, a jego mechanika jest w dużej mierze taka sama niezależnie od tego, czy model jest małym klasyfikatorem, czy siecią z miliardami parametrów.

Trening: jak model uczy się na danych

Zgodnie z dokumentacją architektury Google Cloud, cykl życia zaczyna się od przetwarzania danych: zespoły przeprowadzają eksploracyjną analizę danych, aby zrozumieć strukturę danych, czyszczą je, dzielą na zbiory treningowe, walidacyjne i testowe, i opracowują cechy, aby dane były w formacie odpowiednim dla modelu. Dopiero po tej przygotowaniu naukowcy zajmujący się danymi wdrażają algorytmy i rozpoczynają trening.

W przypadku sieci neuronowych trening opiera się na dwóch powiązanych technikach, jak wyjaśnia GeeksforGeeks: przepuszczenie do przodu, w którym sieć przetwarza dane wejściowe, aby wytworzyć przewidywanie, i funkcja straty, która mierzy, jak daleko to przewidywanie jest od prawdziwej etykiety. Propagacja wsteczna następnie oblicza, warstwa za warstwą, używając reguły łańcuchowej, ile każdy wewnętrzny parametr wniósł do tego błędu. Gradient descent używa obliczonych gradientów, aby przesunąć każdy parametr w kierunku, który zmniejsza stratę. Cykl przepuszczenia do przodu/przepuszczenia do tyłu/aktualizacji powtarza się przez wiele epok, aż model zbiegnie się w kierunku minimum funkcji straty, zgodnie z GeeksforGeeks.

Optymalizacja: dostrajanie i walidacja modelu

Samo trening nie gwarantuje użytecznego modelu. Dokumentacja Google Cloud zauważa, że zespoły przeprowadzają dostrojenie hiperparametrów zaimplementowanych algorytmów, aby osiągnąć najlepszą wydajność, dostrajając ustawienia takie jak szybkość uczenia, rozmiar paczki lub liczbę epok, a nie parametry, które model uczy się sam. Dokumentacja dla programistów Google dotycząca zarządzania projektami ML dodaje, że ta faza eksperymentowania to miejsce, w którym zespoły testują różne kombinacje cech, wartości hiperparametrów i architektury modeli, często przeprowadzając setki eksperymentów przed znalezieniem działającej kombinacji.

Gdy tylko istnieje model kandydat, jest on oceniany na zbiorze testowym trzymanym na uboczu — dane, które model nie widział podczas treningu — w celu uzyskania metryk jakości. IBM opisuje ten krok jako ocenę wydajności przy użyciu metryk takich jak dokładność i sprawiedliwość na niewidocznych danych. Model jest następnie walidowany w stosunku do linii bazowej: dokumentacja Google Cloud stwierdza, że to potwierdza, że wydajność predykcyjna modelu jest lepsza niż zdefiniowany próg, zanim mu pozwolono się przesunąć w kierunku wdrożenia.

Wdrażanie: wprowadzenie modelu do produkcji

Wdrażanie to moment, w którym zweryfikowany model zaczyna dokonywać przewidywań na rzeczywistych danych. Dokumentacja Snowflake definiuje wdrażanie modelu jako kontrolowane wydanie zweryfikowanego modelu wraz z jego zależnościami i logiką wnioskowania do środowiska produkcyjnego, gdzie może być wersjonowany, wykonywany, monitorowany i wycofywany w razie potrzeby.

Zarówno Google Cloud, jak i Snowflake opisują porównywalne zestawy wzorców wdrażania, podsumowane poniżej.

Snowflake zauważa, że każdy styl wdrażania niesie ze sobą kompromisy: serwowanie w czasie rzeczywistym wymaga ostrożnego obsługiwania opóźnienia, dostępności i skalowania, podczas gdy systemy wsadowe są łatwiejsze do zarządzania, ale ograniczone tym, jak często uruchamia się harmonogram oceniania. Wdrażanie brzegowe zmniejsza opóźnienie i utrzymuje dane w lokalizacji, ale utrudnia śledzenie, która wersja modelu jest uruchomiona na wielu rozproszonych urządzeniach.

Monitorowanie, przesunięcie i przetrening

Wdrażanie to nie koniec procesu. IBM stwierdza, że ciągłe nadzorowanie śledzi wydajność modelu w produkcji, wykrywając problemy takie jak przesunięcie dokładności, i generuje alerty, które umożliwiają szybką interwencję i mogą wyzwolić przetrening z zaktualizowanymi danymi. Snowflake podobnie wymienia monitorowanie i wykrywanie przesunięć jako podstawowe obowiązki wdrażania, obok planowania wycofania — wstępnie zdefiniowane wyzwolenia i struktury własności do powrotu do wcześniejszej wersji modelu, jeśli nowa działa gorzej.

Dokumentacja Google Cloud przedstawia to jako spektrum dojrzałości. Na najmniej zautomatyzowanym poziomie każdy krok — od przygotowania danych do wdrażania — jest ręczny, typowy dla projektów na wczesnym etapie z rzadkimi wydaniami. Bardziej dojrzałe konfiguracje dodają zautomatyzowane potoki, które walidują dane i modele i wykrywają przesunięcia, a najbardziej zautomatyzowane konfiguracje integrują ciągłą integrację i dostarczanie, tak że eksperymentowanie, testowanie, wdrażanie i monitorowanie działają jako połączone, w dużej mierze zautomatyzowane etapy.

Narzędzia stojące za cyklem życia

Przegląd IBM tej praktyki, znany jako MLOps, wymienia kategorie narzędzi, na których zespoły zwykle polegają na każdym etapie: frameworki uczenia maszynowego takie jak TensorFlow i PyTorch do budowania i trenowania modeli, Git do kontroli wersji, platformy CI/CD takie jak Jenkins lub GitLab CI/CD do automatyzacji kroków potoku, oraz dedykowane platformy MLOps takie jak Kubeflow lub MLflow do dirigowania treningiem, wdrażaniem i monitorowaniem na infrastrukturze chmurowej takich jak AWS, Azure lub IBM Cloud.