Практический Deep Learning

Практический Deep Learning

ФорматОнлайн

Длительность4-5 часов в неделю

Объём16 занятий

О курсе

Подробнее

Цель курса: познакомить слушателей с основами области Deep Learning и дать им теоретическую и практическую базу для дальнейшнего изучения нейронных сетей. Курс состоит из нескольких уроков, в каждом из которых рассказывается необходимая теория, подкрепленная примерами из практики. Также в большинстве уроков есть домашнее задание для закрепления пройденного материала. В конце курса вас ждет модуль, в котором мы подготовим вас к ответам на вопросы с собеседований на позицию Data Scientist по темам курса. Партнёр курса - Yandex Cloud Yandex Cloud — облачная платформа, где каждый может создавать и совершенствовать свои цифровые сервисы, используя инфраструктуру и уникальные технологии Яндекса. Студенты курса получат возможность бесплатно использовать мощности платформы Yandex Cloud для обучения.

Требования

Что нужно для старта

Для успешного прохождения курса требуется знание машинного обучения, а также умение писать код на языке Python (в частности, необходимо знание концепции ООП).

Результат

Что вы получите

Вы поймете зачем нужны нейронные сети
Как устроены и обучаются полносвязные, сверточные и рекуррентные нейронные сети
Узнаете о различных фреймворках для работы с нейронными сетями и научитесь использовать PyTorch для создания и обучения сетей
Узнаете как работают трансформеры и причем здесь механизм внимания
Подготовитесь отвечать на вопросы с собеседований на позицию Data Scientist по пройденным темам

Аудитория

Для кого этот курс

Курс будет интересен слушателям, знакомым с областью машинного обучения и желающим начать фундаментально изучать глубинное обучение.
Курс содержит необходимые знания для освоения следующих курсов, посвященных различным приложениям глубинного обучения ("Продвинутые методы глубинного обучения", "Генеративные модели" и другие).

Содержание

Программа курса

16 занятий

№ТемаЧто внутри

01Организация курса

- Программа курса
- Тест по машинному обучению

02Полносвязные нейронные сети

- Мотивация использования нейронных сетей, полносвязные сети
- Примеры использования нейронных сетей
- Полносвязные сети. Функции активации
- Домашнее задание - 1

03Обучение нейронных сетей

- Обучение нейронных сетей
- Градиентный спуск для функции одной переменной
- Градиентный спуск в общем случае
- Стохастический градиентный спуск
- Модификации градиентного спуска
- Метод обратного распространения ошибки
- Домашнее задание - 2

04Введение в PyTorch

- Знакомство с PyTorch
- Нейронные сети в PyTorch
- Домашнее задание - 3

05Ускорение обучения и снижение переобучения

- Препроцессинг данных и инициализация весов
- Ограничения на веса
- DropOut
- Batch and Layer Normalisation
- Домашнее задание - 4

06Основы компьютерного зрения

- Введение в компьютерное зрение
- Классические архитектуры компьютерного зрения
- Паддинг и аугментации
- Домашнее задание - 5

07Современное компьютерное зрение

- Современные задачи компьютерного зрения
- Задача сегментации
- Pose estimation и генерация изображений

08Основы обработки естественного языка

- Word2vec
- Детали word2vec и вариации алгоритма
- Домашнее задание - 6

09Рекуррентные нейронные сети

- Рекуррентные нейронные сети
- Модификации RNN
- Практика RNN

10Attention

- Механизм внимания (attention) и self-attention
- Attention на практике
- Тест по attention

11Трансформеры: теория

- Архитектура трансформеров
- Batch and Layer Normalisation
- Тест по трансформерам

12Трансформеры: практика

- Трансформеры в Python
- Домашнее задание - 7

13Вопросы с собеседований

- Базовый уровень
- Средний уровень
- Продвинутый уровень

14Классические генеративные модели в Computer Vision

- Задача генерации изображений: описание и подходы
- Автокодировщики
- Вариационные автокодировщики
- Домашнее задание - 8

15Современные генеративные модели Computer Vision

- Генеративно-состязательные сети
- Диффузионные модели
- Что есть еще?
- Домашнее задание - 9

16Методы оптимизации нейронных сетей

- Зачем что-то оптимизировать?
- Дистилляция и квантизация
- Практика и обзор продвинутых методов оптимизации
- Домашнее задание - 10

01Организация курса

- Программа курса
- Тест по машинному обучению

02Полносвязные нейронные сети

03Обучение нейронных сетей

04Введение в PyTorch

- Знакомство с PyTorch
- Нейронные сети в PyTorch
- Домашнее задание - 3

05Ускорение обучения и снижение переобучения

06Основы компьютерного зрения

07Современное компьютерное зрение

- Современные задачи компьютерного зрения
- Задача сегментации
- Pose estimation и генерация изображений

08Основы обработки естественного языка

- Word2vec
- Детали word2vec и вариации алгоритма
- Домашнее задание - 6

09Рекуррентные нейронные сети

- Рекуррентные нейронные сети
- Модификации RNN
- Практика RNN

10Attention

- Механизм внимания (attention) и self-attention
- Attention на практике
- Тест по attention

11Трансформеры: теория

- Архитектура трансформеров
- Batch and Layer Normalisation
- Тест по трансформерам

12Трансформеры: практика

- Трансформеры в Python
- Домашнее задание - 7

13Вопросы с собеседований

- Базовый уровень
- Средний уровень
- Продвинутый уровень

14Классические генеративные модели в Computer Vision

15Современные генеративные модели Computer Vision

- Генеративно-состязательные сети
- Диффузионные модели
- Что есть еще?
- Домашнее задание - 9

16Методы оптимизации нейронных сетей

Организатор

Автор курса

Stepik

4.6Нет отзывов

Stepik — образовательная платформа и конструктор онлайн-курсов. Мы разрабатываем алгоритмы адаптивного обучения, сотрудничаем с авторами MOOC, помогаем в проведении олимпиад и программ переподготовки. Наша цель — сделать образование открытым и удобным. Stepik — широко известная российская образовательная платформа, основанная в 2013 году. На Stepik зарегистрировано более миллиона пользователей из России и стран СНГ. В настоящее время на Stepik представлены несколько тысяч учебных курсов на самые разные темы.

Подробнее об авторе

Мнения учеников