Проектирование и реализация систем машинного обучения

Когда модель машинного обучения можно запустить в Jupyter Notebook - это хорошо. Однако чтобы она начала решать какую-то задачу из реального мира, необходимо научиться разворачивать эту модель на полноценных вычислительных кластерах. В этой неделе мы познакомимся с классическими архитектурными подходами при построении таких систем и узнаем про популярные инструменты в этой области.

На этой неделе мы попробуем себя в роли продуктового аналитика и разберем, как с помощью метрик контролировать и улучшать свой сервис.

Этот модуль посвящен вопросам введения моделей в эксплуатацию с минимальными рисками отказа и недоступности сервиса и практикам MLOps. Рассматриваются требования к процессу ввода в эксплуатацию, основные определения, этапы, необходимый инструментарий. Практические работы посвещены процессу ввода моделей в эксплуатацию с помощью MLflow и отработке сценариев введения в эксплуатацию и работы с отказами сервиса.

Сегодня обучают просто огромные нейросети для решения задач, но чтобы это внедрить в промышленную эксплуатацию, приходится придумывать трюки для ускорения этих монстров. Задача стоит еще более остро, когда сеть должна выполняться на мобильном устройстве. Этим проблемам будет посвящена эта неделя.