Stepik О курсе
Подробнее
Курс стартует 25 февраля 2024 года.
Важно! Основные материалы курса будут даваться преподавателями на вебинарах в декабре. На этих онлайн-занятиях вы сможете взаимодействовать с преподавателями и задавать им в режиме реального времени любые вопросы. Также на протяжении курса вы будете общаться с коллегами и командой курса в закрытом телеграм-чате.
Важно! Записи занятий, тесты, практические задания и весь дополнительный материал выкладываются на Stepik. Смотреть вебинары и сдавать практику можно в любое время!
В курсе подробно разобрана схема работы механизма внимания и различные архитектуры трансформеров. Кроме теории в курсе много практических заданий, требующих использования библиотеки PyTorch. На протяжении курса слушатели будут работать над проектом - обучат трансформер для решения NLP-задачи и представят решение в виде готового веб-приложения.
Также в курсе разобраны различные задачи из области NLP, для успешного решения которых необходимы трансформерные архитектуры.
Требования
Что нужно для старта
- Для успешного прохождения курса от участников ожидается знание классических алгоритмов машинного обучения и базовых DL-архитектур, а также умение обучать ML- и DL-модели в Python.
- Рекомендуются к прохождению первые два курс из линейки: "Основы нейронных сетей и NLP" и "Рекуррентные сети в NLP и приложениях".
Результат
Что вы получите
- Разберетесь в теоретическом устройстве механизма внимания
- Узнаете как работают трансформеры
- Научитесь обучать трансформеры на PyTorch самостоятельно
- Познакомитесь с библиотекой huggingface
- Создадите приложение при помощи streamlit
Аудитория
Для кого этот курс
- Курс подойдет слушателям, увлеченным областью NLP и Deep Learning в целом. Мы ожидаем, что слушатели знакомы с классическими ML- и DL-моделями, а также имеют хороший опыт обучения моделей в Python.
Содержание
8 занятийПрограмма курса
№ТемаЧто внутри
01О курсе
- О чем курс
- Входное тестирование по Python
- Тест по основам Deep Learning
02NLP: recap
- NLP: recap
- Соревнование
03Введение в PyTorch
- Знакомство с PyTorch
- Нейронные сети в PyTorch
- Домашнее задание - 3
04Attention
- Механизм внимания (attention) и self-attention
- Attention на практике
- Тест по attention
05Трансформеры: теория
- Архитектура трансформеров
- Batch and Layer Normalisation
- Тест
06Трансформеры: практика
- Трансформеры в Python
- Домашнее задание
07Решение различных задач NLP
- Поиск и исправление опечаток
- Решение задачи NER
- Домашнее задание
08Проект по курсу
- Итоговый проект курса
01О курсе
- О чем курс
- Входное тестирование по Python
- Тест по основам Deep Learning
02NLP: recap
- NLP: recap
- Соревнование
03Введение в PyTorch
- Знакомство с PyTorch
- Нейронные сети в PyTorch
- Домашнее задание - 3
04Attention
- Механизм внимания (attention) и self-attention
- Attention на практике
- Тест по attention
05Трансформеры: теория
- Архитектура трансформеров
- Batch and Layer Normalisation
- Тест
06Трансформеры: практика
- Трансформеры в Python
- Домашнее задание
07Решение различных задач NLP
- Поиск и исправление опечаток
- Решение задачи NER
- Домашнее задание
08Проект по курсу
- Итоговый проект курса
Организатор
Автор курса
Мнения учеников
Отзывы о курсе
Оставьте отзыв
Расскажите о качестве обучения, поддержке и результате. Это поможет другим выбрать организацию осознанно.
Оставьте заявку
Консультант ответит на вопросы о курсе «Трансформеры в NLP и приложениях» и поможет разобраться в деталях обучения.
Нажимая кнопку, вы даете согласие на обработку персональных данных
Направления:Нейросети и ИИ
Информация обновлена 12 августа 2026 г.
Продолжить выбор
Похожие курсы
Начать без затрат
![Deep Learning (семестр 2, осень 2025) [АРХИВ]](https://cdn.stepik.net/media/cache/images/courses/251729/cover_uYd5Nmu/57394f3a8960d94e010ee67b55750d62.jpg)
