Stepik Deep Learning (семестр 2, осень 2025) [АРХИВ]
О курсе
Подробнее
Этот продвинутый курс рассчитан на участников, имеющих базовое представление о нейронных сетях и желающих углубить знания в области обработки естественного языка (NLP). Вы познакомитесь с фундаментальными концепциями, такими как рекуррентные нейронные сети, механизмы внимания и трансформеры, а также с современными подходами, включая RAG, интерпретируемость моделей и детекцию сгенерированных текстов.
Ссылки:
Форма регистрации на курс. Необходимо заполнить для получения диплома.
Наш сайт
Подробная программа курса
FAQ
Наша группа ВК
Наш TG канал
Чат семестра в TG
*Deep Learning School – учебная организация на базе Физтех-школы прикладной математики и информатики Московского физико-технического института.
Требования
Что нужно для старта
- владение языком Python
- знание вузовской программы высшей математики (основы матричного исчисления, базовые понятия математического анализа и теории вероятностей)
- базовые знания работы нейронных сетей, владение языком PyTorch
- Если у Вас возникают трудности с перечисленными требованиями, рекомендуем сначала пройти курс DLS 1 семестра.
Результат
Что вы получите
- — Применять классические и нейросетевые алгоритмы для основных задач обработки текста: классификации текстов, языкового моделирования, машинного перевода, построения вопросно-ответных систем
- — Применять готовые модели обработки естественного языка для дообучения на конкретных задачах
- — Понимать, как устроены современные LLM: ChatGPT, LLama. Уметь использовать LLM для различных задач.
Аудитория
Для кого этот курс
- Курс предназначен для студентов и специалистов, прошедших первую часть курса Deep Learning School или обладающих эквивалентными знаниями:
- - Уверенное владение Python и основами ООП.
- - Знание основ высшей математики (линейная алгебра, теория вероятностей).
- - Понимание основ машинного обучения и нейронных сетей.
Содержание
21 занятиеПрограмма курса
№ТемаЧто внутри
01Организационная информация
- Организационная информация
02Введение в NLP. Эмбеддинги слов.
- Лекция. Эмбеддинги слов.
- Семинар. Обработка и классификация текстов
03Домашнее задание. Ранжирование текстов на основе эмбеддингов
- Ранжирование текстов на основе эмбеддингов
04Рекуррентные нейронные сети (RNN)
- Лекция. Рекуррентные нейронные сети. Татьяна Гайнцева
- Семинар. Классификация текста с помощью RNN. Антон Земеров
05Домашнее задание. Классификация текста с помощью RNN
- Домашнее задание. Классификация текста с помощью RNN
06Языковое моделирование
- Лекция. Языковое моделирование. Антон Земеров
- Семинар. Языковое моделирование. Антон Земеров
07Домашнее задание. Языковое моделирование
- Домашнее задание. Языковое моделирование
08Машинный перевод и механизм Attention
- Лекция. Машинный перевод и механизм Attention
- Семинар. Машинный перевод
- Дополнительные материалы
09Архитектура Transformer
- Лекция. Attention и трансформер. Татьяна Гайнцева
- Семинар. Attention и трансформеры. Игорь Щукин
- Дополнительные материалы
10Предобучение и дообучение языковых моделей
- Лекция. Предобучение и файнтьюнинг LM. Антон Земеров
- Семинар. Файнтьюнинг BART для суммаризации. Антон Земеров
11Домашнее задание. Предобучение и дообучение языковых моделей
- Домашнее задание. Трансформеры
12От GPT до GPT-3. Zero-shot Learning.
- Лекция. GPT-модели
13GPT-2, GPT-3, RAG
- Лекция. GPT2 и далее
- Семинар. RAG
14Домашнее задание. RAG
- Домашнее задание. RAG
15Интерпретируемость трансформеров
- Лекция. Интерпретируемость трансформеров.
- Семинар. Интерпретируемость трансформеров.
16Детекция сгенерированных текстов
- Лекция. Детекция сгенерированных текстов.
- Семинар. Детекция сгенерированных текстов.
17Домашнее задание. Детекция сгенерированных текстов.
- Домашнее задание. Детекция сгенерированных текстов.
18Дополнительный модуль. Работа с Yandex Cloud
- Введение. Что такое Yandex Datasphere
- Домашнее задание. Ранжирование на основе Yandex Embeddings
- Домашнее задание. Машинный перевод в Yandex Translate
- Лонгрид. Особенности эксплуатации GPT-моделей в облаке.
- Лонгрид. До-обучение Yandex GPT и LLaMA
- Домашнее задание. Извлечение именованных сущностей с помощью LLM
- Лонгрид. RAG на основе YandexGPT
19Дополнительный модуль. LLM-Агенты
- Открытая лекция. LLM-агенты
20Итоговый проект
- Итоговый проект. Описание и форма сдачи
21Модуль для дополнительных баллов
- Урок для дополнительных баллов
01Организационная информация
- Организационная информация
02Введение в NLP. Эмбеддинги слов.
- Лекция. Эмбеддинги слов.
- Семинар. Обработка и классификация текстов
03Домашнее задание. Ранжирование текстов на основе эмбеддингов
- Ранжирование текстов на основе эмбеддингов
04Рекуррентные нейронные сети (RNN)
- Лекция. Рекуррентные нейронные сети. Татьяна Гайнцева
- Семинар. Классификация текста с помощью RNN. Антон Земеров
05Домашнее задание. Классификация текста с помощью RNN
- Домашнее задание. Классификация текста с помощью RNN
06Языковое моделирование
- Лекция. Языковое моделирование. Антон Земеров
- Семинар. Языковое моделирование. Антон Земеров
07Домашнее задание. Языковое моделирование
- Домашнее задание. Языковое моделирование
08Машинный перевод и механизм Attention
- Лекция. Машинный перевод и механизм Attention
- Семинар. Машинный перевод
- Дополнительные материалы
09Архитектура Transformer
- Лекция. Attention и трансформер. Татьяна Гайнцева
- Семинар. Attention и трансформеры. Игорь Щукин
- Дополнительные материалы
10Предобучение и дообучение языковых моделей
- Лекция. Предобучение и файнтьюнинг LM. Антон Земеров
- Семинар. Файнтьюнинг BART для суммаризации. Антон Земеров
11Домашнее задание. Предобучение и дообучение языковых моделей
- Домашнее задание. Трансформеры
12От GPT до GPT-3. Zero-shot Learning.
- Лекция. GPT-модели
13GPT-2, GPT-3, RAG
- Лекция. GPT2 и далее
- Семинар. RAG
14Домашнее задание. RAG
- Домашнее задание. RAG
15Интерпретируемость трансформеров
- Лекция. Интерпретируемость трансформеров.
- Семинар. Интерпретируемость трансформеров.
16Детекция сгенерированных текстов
- Лекция. Детекция сгенерированных текстов.
- Семинар. Детекция сгенерированных текстов.
17Домашнее задание. Детекция сгенерированных текстов.
- Домашнее задание. Детекция сгенерированных текстов.
18Дополнительный модуль. Работа с Yandex Cloud
- Введение. Что такое Yandex Datasphere
- Домашнее задание. Ранжирование на основе Yandex Embeddings
- Домашнее задание. Машинный перевод в Yandex Translate
- Лонгрид. Особенности эксплуатации GPT-моделей в облаке.
- Лонгрид. До-обучение Yandex GPT и LLaMA
- Домашнее задание. Извлечение именованных сущностей с помощью LLM
- Лонгрид. RAG на основе YandexGPT
19Дополнительный модуль. LLM-Агенты
- Открытая лекция. LLM-агенты
20Итоговый проект
- Итоговый проект. Описание и форма сдачи
21Модуль для дополнительных баллов
- Урок для дополнительных баллов
Организатор
Автор курса
Мнения учеников
Отзывы о курсе
Оставьте отзыв
Расскажите о качестве обучения, поддержке и результате. Это поможет другим выбрать организацию осознанно.
Оставьте заявку
Консультант ответит на вопросы о курсе «Deep Learning (семестр 2, осень 2025) [АРХИВ]» и поможет разобраться в деталях обучения.
Нажимая кнопку, вы даете согласие на обработку персональных данных
Информация обновлена 14 сентября 2026 г.
Продолжить выбор
Похожие курсы
Начать без затрат
![Deep Learning (семестр 1, осень 2025) [АРХИВ]](https://cdn.stepik.net/media/cache/images/courses/250969/cover_3ghM7i5/aab82cc6ba6ad93120824913eeaab261.jpg)
