ML Engineering

Вводная карта ML Engineering: метрики, данные, обучение, сервинг (serving), платформенная ответственность и эксплуатация моделей в рабочей среде.

Практическое руководство от Babushkin и Kravchenko: анализ проблемы, метрики, работа с данными, типичные ошибки и подготовка к ML интервью.

Простое объяснение точности, полноты, выбора порога, ROC AUC и PR AUC на примере истории про Васю и волка.

Практическая карта жизненного цикла ML-системы: контракты на данные, обучение, проверка качества, реестр моделей, выпуск, мониторинг и переобучение.

Как безопасно выпускать ML-модели: калибровка, настройка порогов, теневой режим, канареечный запуск, A/B-эксперименты и откат.

Как проектировать рабочий контур вывода для ML- и LLM-систем: онлайновый, пакетный и потоковый режимы, автомасштабирование, маршрутизация CPU/GPU, деградация и компромиссы между задержкой и стоимостью.

Операционный контур ML-систем: сбор обратной связи, процессы разметки, качество данных, разбор ошибок, расследование дрейфа и сигналы к переобучению.

Кейс про MLOps-контур: данные, признаки, обучение, реестр моделей, поэтапный запуск, рабочий вывод и мониторинг дрейфа как единая инженерная система.

Кейс про хранилище признаков и сервинг моделей: как сохранить один смысл признаков между обучением и рабочим контуром, выдержать корректность по моменту наблюдения и контролировать расхождение между офлайном и онлайном.

Как Google прошла путь от TPU v1 для вывода до Ironwood: архитектурные компромиссы, экономика вычислений и отличие TPU-подхода от GPU.

Как NVIDIA прошла путь от программируемых GPU и CUDA до Tensor Cores, DGX, H100, Blackwell и rack-scale AI-инфраструктуры: архитектурные развилки, экосистема и экономика вычислений.

Разбор интервью о развитии ML-платформы в Т-Банке: как перейти от ручного SSH-подхода к платформенной инженерии, общим потокам данных и зрелой эксплуатации моделей.

Практический ML-кейс: путь скоринга в реальном времени, ручная проверка, запаздывающие метки, настройка порогов, дрейф и следующий цикл калибровки.

Как проектировать контур рекомендаций: генерацию кандидатов, ранжирование, слой правил, свежесть данных, обратную связь и следующий цикл обучения.