Курс предлагает всестороннее погружение в разработку, отладку и эксперименты с нейросетевыми моделями на PyTorch. Вы начнёте с основ: установка, тензоры и базовые операции, и закончите созданием собственного фреймворка для организации экспериментов и тестирования гиперпараметров. Курс включает большое количество визуализаций, интерактивных заданий и практических примеров кода.
В курс входят 41 урок, 94 теста и 22 интерактивные задачи.
Для кого этот курс:
- Люди, интересующиеся нейросетями и желающие перейти от теории к практике
- Начинающие и продолжающие разработчики, желающие глубоко понять внутренности PyTorch
- ML-инженеры, стремящиеся систематизировать знания и освоить продвинутые методы отладки
- Исследователи, которым нужен собственный фреймворк для гибких экспериментов с архитектурами
Начальные требования:
- Уверенное знание Python
- Базовое понимание работы нейросетей и глубинного обучение на уровне курса Нейронные сети: Основы глубокого обучения с нуля.
- Опыт работы с Jupyter или иной средой разработки на Python (pyCharm, VS etc.)
Чему вы научитесь:
- Установка и настройка PyTorch, включая поддержку CUDA
- Основы тензоров: оси, ранги, форма и операции (reshape, squeeze, flatten и др.)
- Элементарные, редукционные и индексные операции с тензорами
- Использование Broadcasting и визуализация форм тензоров в CNN
- Работа с датасетами (Fashion MNIST), загрузка, предобработка и нормализация данных
- Принципы построения нейросетей в PyTorch (модули, последовательности, веса, forward)
- Тренировочные циклы, вычисление функции потерь, метрик и построение confusion matrix
- Отладку кода с помощью встроенных средств PyTorch
- Интеграцию с TensorBoard для отслеживания метрик
- Разработку кастомного фреймворка для гиперпараметрических и архитектурных экспериментов
- Продвинутые темы: num_workers, оптимизация загрузки данных, работа с GPU и Sequential моделью
Авторы курса:
- Валерий Никаноров
- Работаю senior ML-инженером в МТС-банке.
- Увлекаюсь машинным обучением и нейронными сетями!
- В качестве хобби делаю курсы.
- Преподаю машинное обучение, глубинное обучение, статистику и не только уже больше 7 лет.
- Николай Сергеев
- 7 лет в Data Science
- Инженер машинного обучения в Желтом Банке
- Сеньор
Программа курса
Введение
- Пререквизиты
- Что такое PyTorch?
- Установка PyTorch
- Использование GPU
Тензоры и операции с ними
- Тензоры
- Форма входного тензора в CNN и карты признаков
- Тензоры PyTorch
- Операции с тензорами — 1
- Операции с тензорами — 2
- Практика
Работа с данными
- Fashion-MNIST
- Извлечение, преобразование и загрузка (ETL)
- Datasets и DataLoaders
Создание нейронных сетей в PyTorch
- Создание нейронных сетей
- Слои
- Весовые коэффициенты
- Линейные слои
- Прямой проход
- Реализация прямого прохода в CNN
- Объяснение прямого распространения
- Обработка пакетов
- Выход CNN
- Практика
Обучение нейронных сетей в PyTorch
- Процесс обучения CNN
- Цикл обучения CNN
- Матрица ошибок
- Конкатенация и Стекинг
- TensorBoard
- Гиперпараметры
- Практика
Экспериментация
- Run Builder
- Оптимизация цикла обучения CNN
- Тестирование DataLoader
- Запуск на GPU
- Нормализация данных
- PyTorch Sequential
- Нормализация батча
- Сброс весов сети
- Обучение нескольких сетей одновременно
- Макс-пулинг
Практика
