Мы используем cookie для стабильной работы сервиса. Подробнее

Spark на Scala

ФорматОнлайн
Длительность4-5 часов в неделю
Объём8 занятий
О курсе

Подробнее

Это курс для тех, кто желает узнать, каково это быть дата-инженером и обрабатывать большие данные с помощью Apache Spark на Scala. Для успешного прохождения курса вам потребуется: знание Scala (для тех, кто желает использовать только Python и изучить PySpark есть альтернативный курс Spark на Python) базовое знание SQL компьютер под рукой Ожидается, что вы уже знакомы со Scala. Без этого - никак. Если вы прошли курс Основы Scala, проблем у вас быть не должно. Все необходимое там было дано. Для выполнения практических заданий придется установить на компьютер Docker и IntelliJ IDEA. Инструкции по установке также будут предоставлены. 
Результат

Что вы получите

  • Обрабатывать большие данные с помощью Apache Spark на Scala, а также грамотно структурировать написанный вами код.
Аудитория

Для кого этот курс

  • Курс для будущих дата инженеров.
Содержание

Программа курса

8 занятий
№ТемаЧто внутри
01Введение

- Приветствие
- Повтор Scala
- Подготовка к работе

02DataFrames (DFs)

- DFs Основы
- Чтение/Запись Данных
- Работа с колонками
- DFs Джойны
- DFs Практика

03DataSets

- DS Основы
- Работа с Null
- Трансформации DS
- Практика

04RDDs

- RDD Основы
- Работа с RDD
- Практика

05Кластер Spark

- Настройка окружения
- Запуск программ
- Практика

06Оптимизации

- План выполнения
- Spark UI
- Разделение данных
- Объединение данных
- Практика

07Оформление Кода

- Функциональный подход
- ООП подход

08Финальный Проект

- Задание

01Введение

- Приветствие
- Повтор Scala
- Подготовка к работе

02DataFrames (DFs)

- DFs Основы
- Чтение/Запись Данных
- Работа с колонками
- DFs Джойны
- DFs Практика

03DataSets

- DS Основы
- Работа с Null
- Трансформации DS
- Практика

04RDDs

- RDD Основы
- Работа с RDD
- Практика

05Кластер Spark

- Настройка окружения
- Запуск программ
- Практика

06Оптимизации

- План выполнения
- Spark UI
- Разделение данных
- Объединение данных
- Практика

07Оформление Кода

- Функциональный подход
- ООП подход

08Финальный Проект

- Задание

Организатор

Автор курса

StepikStepik
Stepik — образовательная платформа и конструктор онлайн-курсов. Мы разрабатываем алгоритмы адаптивного обучения, сотрудничаем с авторами MOOC, помогаем в проведении олимпиад и программ переподготовки. Наша цель — сделать образование открытым и удобным. Stepik — широко известная российская образовательная платформа, основанная в 2013 году. На Stepik зарегистрировано более миллиона пользователей из России и стран СНГ. В настоящее время на Stepik представлены несколько тысяч учебных курсов на самые разные темы.
Подробнее об авторе
Мнения учеников

Отзывы о курсе

Оставьте отзыв

Расскажите о качестве обучения, поддержке и результате. Это поможет другим выбрать организацию осознанно.

Напишите ваш коментарий, не менее 30 символов

Нажимая кнопку, вы даете согласие на обработку персональных данных

Оставьте заявку

Консультант ответит на вопросы о курсе «Spark на Scala» и поможет разобраться в деталях обучения.

Комментарий ...

Нажимая кнопку, вы даете согласие на обработку персональных данных

Направления:ScalaData Engineering

Информация обновлена 21 сентября 2026 г.

Продолжить выбор

Похожие курсы

Современные подходы к управлению данными
−10%17 декабря
Современные подходы к управлению данными

Обзор современных методов управления данными от реляционных СУБД до NoSQL. Узнайте, как выбрать правильную систему для ваших задач и оптимизировать ее использование. Курс охватыва…

Онлайн10 занятийНачальный
33 900 ₽−10%
30 510 ₽
Инженер данных - курс переподготовки
−17%400 часов
Инженер данных - курс переподготовки

Инженер данных разрабатывает и обслуживает инфраструктуру получения, хранения и первоначальной обработки данных. Data engineer - специальность технического характера, необходимая…

Онлайн13 занятий
Текстовые уроки
39 910 ₽−17%
32 980 ₽Скидка до 26 октября
Spark на Scala: Потоковая обработка
Spark на Scala: Потоковая обработка

Этот курс является продолжением курса по Spark. В этот раз мы займемся изучением потоковой обработки данных в Spark. Пройдя этот курс, вы поймете, чем пакетная обработка отличаетс…

Онлайн5 занятий
4 679 ₽
Инженер данных
6,5 месяца
Инженер данных

Data Engineering: Python для обработки данных, SQL для работы с базами. Apache Airflow для оркестрации ETL процессов, облачные технологии для больших данных. Моделирование хранили…

ОнлайнНачальный
100 000 ₽от 5 555 ₽/мес на 18 мес.
Arenadata Catalog: специалист
3 ак.часа
Arenadata Catalog: специалист

Курс поможет получить актуальные знания по основам управления данными, а также навыки работы в роли специалиста по данным, которые планируют использовать мощные инструменты Arenad…

Онлайн5 занятий
20 130 ₽
Начать без затрат

Бесплатные курсы

Основы Apache Hadoop
Бесплатно
Основы Apache Hadoop

Курс «Основы Apache Hadoop»: онлайн и очное офлайн обучение в Москве в Бауманском учебном центре «Специалист». Стоимость обучения. Программа курса. Отзывы. Расписание групп обучен…

Онлайн
Бесплатно
Scala 3: Классы и объектно - ориентированное программирование
Бесплатно
Scala 3: Классы и объектно - ориентированное программирование

Курс «Scala 3: Классы и объектно-ориентированное программирование»: онлайн и очное офлайн обучение в Москве в Бауманском учебном центре «Специалист». Стоимость обучения. Программа…

Онлайн
Бесплатно