MLOps Engineering on AWS (MLPOPS)

Cloud
Strojově přeloženo

Tento kurz navazuje na metodologii DevOps rozšířenou v oblasti vývoje softwaru a rozšiřuje ji o sestavování, trénování a nasazování modelů strojového učení (ML). Kurz je založen na čtyřúrovňovém rámci vyspělosti MLOps. Kurz se zaměřuje na první tři úrovně, zahrnující počáteční, opakovatelnou a spolehlivou úroveň. Kurz zdůrazňuje význam dat, modelu a kódu pro úspěšné nasazení ML. Demonstruje využití nástrojů, automatizace, procesů a týmové spolupráce při řešení výzev spojených s předáváním mezi datovými inženýry, datovými vědci, vývojáři softwaru a provozem. Kurz se rovněž zabývá využitím nástrojů a procesů pro monitorování a přijímání opatření v případě, kdy se predikce modelu v produkčním prostředí odchyluje od dohodnutých klíčových ukazatelů výkonnosti.

  • Úroveň kurzu: Středně pokročilá
  • Délka trvání: 3 dny


Aktivity

Tento kurz zahrnuje prezentace, praktická cvičení, demonstrace, ověřování znalostí a aktivity v pracovním sešitě.


Cíle kurzu

V tomto kurzu se naučíte:

  • Vysvětlit přínosy MLOps
  • Porovnat a rozlišit DevOps a MLOps
  • Vyhodnotit požadavky na bezpečnost a správu pro případ použití ML a popsat možná řešení a strategie zmírnění rizik
  • Nastavit experimentální prostředí pro MLOps s Amazon SageMaker
  • Vysvětlit osvědčené postupy pro správu verzí a zachování integrity aktiv ML modelu (data, model a kód)
  • Popsat tři možnosti vytvoření kompletního CI/CD pipeline v kontextu ML
  • Uvést osvědčené postupy pro implementaci automatizovaného balíčkování, testování a nasazování (data/model/kód)
  • Demonstrovat způsob monitorování řešení založených na ML
  • Demonstrovat způsob automatizace ML řešení, které testuje, balíčkuje a nasazuje model automatizovaným způsobem; detekuje degradaci výkonnosti; a přetrénuje model na základě nově získaných dat


Cílová skupina

Tento kurz je určen pro:

  • MLOps inženýry, kteří chtějí uvést ML modely do produkce a monitorovat je v cloudu AWS
  • DevOps inženýry, kteří budou zodpovědní za úspěšné nasazení a údržbu ML modelů v produkčním prostředí


Předpoklady

Doporučujeme, aby účastníci tohoto kurzu měli:

  • AWS Technical Essentials (prezenční nebo digitální forma)
  • DevOps Engineering on AWS nebo odpovídající praxi
  • Practical Data Science with Amazon SageMaker nebo odpovídající praxi


Osnova kurzu

Den 1

Modul 1: Úvod do MLOps

  • Procesy
  • Lidé
  • Technologie
  • Bezpečnost a správa
  • Model vyspělosti MLOps

Modul 2: Počáteční MLOps: Experimentální prostředí v SageMaker Studio

  • Zavedení MLOps do experimentování
  • Nastavení experimentálního prostředí ML
  • Demonstrace: Vytvoření a aktualizace konfigurace životního cyklu pro SageMaker Studio
  • Praktické cvičení: Zřízení prostředí SageMaker Studio pomocí AWS Service Catalog
  • Pracovní sešit: Počáteční MLOps

Modul 3: Opakovatelné MLOps: Repozitáře

  • Správa dat pro MLOps
  • Správa verzí ML modelů
  • Repozitáře kódu v ML

Modul 4: Opakovatelné MLOps: Orchestrace

  • ML pipeline
  • Demonstrace: Použití SageMaker Pipelines pro orchestraci pipeline sestavování modelů


Den 2

Modul 4: Opakovatelné MLOps: Orchestrace (pokračování)

  • Komplexní orchestrace pomocí AWS Step Functions
  • Praktické cvičení: Automatizace pracovního postupu pomocí Step Functions
  • Komplexní orchestrace pomocí SageMaker Projects
  • Demonstrace: Standardizace komplexního ML pipeline pomocí SageMaker Projects
  • Použití nástrojů třetích stran pro opakovatelnost
  • Demonstrace: Zkoumání zapojení člověka do smyčky během inference
  • Správa a bezpečnost
  • Demonstrace: Zkoumání osvědčených bezpečnostních postupů pro SageMaker
  • Pracovní sešit: Opakovatelné MLOps

Modul 5: Spolehlivé MLOps: Škálování a testování

  • Strategie škálování a více účtů
  • Testování a přesměrování provozu
  • Demonstrace: Použití SageMaker Inference Recommender
  • Praktické cvičení: Testování variant modelu


Den 3

Modul 5: Spolehlivé MLOps: Škálování a testování (pokračování)

  • Praktické cvičení: Přesměrování provozu
  • Pracovní sešit: Strategie více účtů

Modul 6: Spolehlivé MLOps: Monitorování

  • Význam monitorování v ML
  • Praktické cvičení: Monitorování modelu z hlediska datového driftu
  • Provozní aspekty monitorování modelu
  • Náprava problémů identifikovaných monitorováním ML řešení
  • Pracovní sešit: Spolehlivé MLOps
  • Praktické cvičení: Sestavení a odstraňování problémů ML pipeline