Мы используем cookie для стабильной работы сервиса. Подробнее

Spark на Python (PySpark)

ФорматОнлайн
Объём6 занятий
О курсе

Подробнее

Это курс для тех, кто желает узнать, каково это быть дата-инженером и обрабатывать большие данные с помощью Apache Spark на Python. Сразу отмечу, что данный курс - это по сути курс Spark на Scala, только адаптированный под язык Python. Здесь можно обойтись без языка Scala, от вас потребуется иметь хотя бы базовое знание только языка Python.Также желательно, но не обязательно иметь хотя бы общее представление об SQL. Многие задания будут такие же, как и на курсе Spark на Scala, но будут и такие задания, которых на курсе Spark на Scala нет, в каких-то заданиях будут использованы совсем другие наборы данных, для выполнения финального задания определенно будут даны новые данные. Практические задания можно выполнять в Google Colab, поэтому не требуется обязательной установки на компьютер подходящей для PySpark среды разработки и редактора кода для языка Python.
Результат

Что вы получите

  • Эффективно обрабатывать и трансформировать данные с помощью Apache Spark на Python
  • Грамотно структурировать написанный вами код
Аудитория

Для кого этот курс

  • Курс для будущих дата инженеров, которым для работы требуется знание PySpark.
Содержание

Программа курса

6 занятий
ТемаЧто внутри
01Начало

- Начало

02DataFrame

- Основы
- Чтение/Запись Данных
- Работа с колонками
- Пользовательские функции UDFs
- Джойны
- Практика

03RDD

- Основы
- Работа с RDD
- Практика

04 Оптимизации

- План выполнения
- Spark UI
- Разделение данных
- Объединение данных
- Практика

05Библиотека typedspark

- Основы
- Работа с typedspark
- Практика

06Финальный проект

- Оформление кода
- Задание

01Начало

- Начало

02DataFrame

- Основы
- Чтение/Запись Данных
- Работа с колонками
- Пользовательские функции UDFs
- Джойны
- Практика

03RDD

- Основы
- Работа с RDD
- Практика

04 Оптимизации

- План выполнения
- Spark UI
- Разделение данных
- Объединение данных
- Практика

05Библиотека typedspark

- Основы
- Работа с typedspark
- Практика

06Финальный проект

- Оформление кода
- Задание

Организатор

Автор курса

StepikStepik
Stepik — образовательная платформа и конструктор онлайн-курсов. Мы разрабатываем алгоритмы адаптивного обучения, сотрудничаем с авторами MOOC, помогаем в проведении олимпиад и программ переподготовки. Наша цель — сделать образование открытым и удобным. Stepik — широко известная российская образовательная платформа, основанная в 2013 году. На Stepik зарегистрировано более миллиона пользователей из России и стран СНГ. В настоящее время на Stepik представлены несколько тысяч учебных курсов на самые разные темы.
Подробнее об авторе
Мнения учеников

Отзывы о курсе

Оставьте отзыв

Расскажите о качестве обучения, поддержке и результате. Это поможет другим выбрать организацию осознанно.

Напишите ваш коментарий, не менее 30 символов

Нажимая кнопку, вы даете согласие на обработку персональных данных

Оставьте заявку

Консультант ответит на вопросы о курсе «Spark на Python (PySpark)» и поможет разобраться в деталях обучения.

Комментарий ...

Нажимая кнопку, вы даете согласие на обработку персональных данных

Информация обновлена 14 сентября 2026 г.

Продолжить выбор

Похожие курсы

Основы языка Python
22 ак.ч.
Основы языка Python

На курсе вы получите базовые навыки программирования на языке Python. Рассматриваются темы от типов данных до объектно-ориентированного программирования. Python – чрезвычайно мощн…

Онлайн10 занятийНачальный
27 500 ₽
Начать без затрат

Бесплатные курсы

Python для решения практических задач
Бесплатно
Python для решения практических задач

Научились решать простые задачи на питоне, но не можете понять, как сделать что-то полезное? Наш курс научит вас правильно гуглить! На примерах задач сбора данных (Data Scraping)…

Онлайн5 занятий
Бесплатно
Python для геймеров: базовый курс на игровых примерах
Бесплатно4 часа в неделю
Python для геймеров: базовый курс на игровых примерах

Здесь не будет сложных задач «про шахматы»! Здесь не будет абстрактных задач и сложных математических вычислений. Зато есть: теория простым и понятным языком игровые механики логи…

Онлайн12 занятий
Бесплатно
"Поколение Python": курс для начинающих
Бесплатно
"Поколение Python": курс для начинающих

"Поколение Python: курс для начинающих" знакомит с основными типами данных, конструкциями и принципами структурного программирования языка Python. Целевая аудитория – школьники, с…

Онлайн17 занятий
Бесплатно
Мегаинтенсив по анализу данных
Бесплатно
Мегаинтенсив по анализу данных

В программе интенсива 3 трека, разделенные по уровням сложности: для начинающих, для продолжающих и многогранный Data Science. Для начинающих За 4 занятия вы сможете пройти путь о…

Онлайн5 занятий
Бесплатно
IT-сеанс: погружение в мир данных
Бесплатно
IT-сеанс: погружение в мир данных

Презентации спикеров и записи выступлений с Зимней школы по аналитике и Data Science 2025. Приглашаем к просмотру докладов всех, кто хочет разобраться: Зачем переходить в IT? Как…

Онлайн5 занятий
Бесплатно