Stepik Доверенный искусственный интеллект: экспертный уровень
О курсе
Подробнее
Структура и содержание курса позволят студентам сформировать:
- профессиональные компетенции, необходимые для разработки методов анализа и выявления угроз, создаваемых конкретными технологиями и системами ИИ;
- навыки работы с нормативно-правовой базой РФ в области информационных технологий и информационной безопасности, а также анализа возможностей применения ИИ для различных предметных областей.
Содержание курса включает изучение проблем обеспечения доверия к искусственному интеллекту (ИИ) и подходов к их решению, а также свойств, качеств доверенного искусственного интеллекта и понятий, непосредственно связанных с доверием к ИИ, таких как робастность и объяснимость ИИ.
Курс содержит теоретический («Доверенный искусственный интеллект») и практический («Доверенный искусственный интеллект: экспертный уровень») блоки.
Рекомендуем также пройти обучение на нашем бесплатном курсе «Доверенный искусственный интеллект».
Требования
Что нужно для старта
- Материалы курса ориентированы на обучающихся, обладающих базовыми знаниями в области машинного обучения и программирования на Python.
Результат
Что вы получите
- Курс направлен на формирование компетенций в области информационной безопасности с использованием искусственного интеллекта, что соответствует паспорту сквозной технологии «Технологии доверенного взаимодействия» по направлениям:
- Технологии на базе искусственного интеллекта для решения задач доверенного взаимодействия;
- Технологии защиты систем искусственного интеллекта от злонамеренных или случайных воздействий, влияющих на достоверность результатов их работы.
Аудитория
Для кого этот курс
- Курс будет полезен студентам IT-направлений, программистам, разработчикам систем искусственного интеллекта, а также слушателям, интересующимся темой разработки и использования систем искусственного интеллекта в различных сферах.
Содержание
9 занятийПрограмма курса
№ТемаЧто внутри
01Вводный модуль
- О курсе и от том, как на нём учиться
- Глоссарий
02Проблемы доверия искусственному интеллекту
- Понятие доверенного искусственного интеллекта
- Принципы доверенного искусственного интеллекта
03Объяснимость моделей ИИ и машинного обучения
- Понятие объяснимости и прозрачности искусственного интеллекта
- Объяснимость данных. Методы отбора признаков
- Объяснимость на разных этапах жизненного цикла
- Практикум: использование метода LIME для объяснения модели ИИ
- Практикум: использование метода SHAP для объяснения модели ИИ
- Практикум: использование SHAP для объяснения Sequential модели
- Практикум: использование метода «Анализ важности переменных»
04Робастность искусственного интеллекта
- Понятие робастности
- Методы оценки робастности
- Метрики робастности
- Типичный алгоритм для оценки робастности
- Практикум: проверка робастности модели
- Практикум: включение шума и возмущений для повышения робастности
- Практикум: Исследование робастности модели при изменении размера
- Практикум: Робастная регрессия для машинного обучения на Python
05Компьютерные атаки на искусственный интеллект
- Атаки на искусственный интеллект. Обзор реализованных атак
- Классификация атак
- Методы противодействия атакам
- Практикум: Атака с использованием метода FGSM
- Практикум: FGSM-атака на нейронную сеть
- Практикум: Анализ уязвимости нейронной сети перед атаками
- Практикум: Генерация состязательных примеров для CIFAR-10
06Защита данных
- Дифференциальная конфиденциальность. Федеративное обучение
- Гомоморфное шифрование. Синтетические данные. НПБК
07Обнаружение аномалий
- Понятие аномалии
- Виды аномалий. Дрейф данных
- Дрейф концепций
- Защита данных от заражения. Методы распознавания аномалий
- Практикум:Обнаружение аномалий временных рядов с помощью PyCaret
- Практикум:Обнаружение аномалий в данных временных рядов с Keras
- Практикум: Обнаружение аномалий в машинном обучении
- Практикум: Поиск аномалий с Python
- Практикум: Выявление потенциальных мошеннических операций
08Заключительный модуль
- Итоговый тест
- Заключение
- Список литературы
09Опрос слушателей курса
- Опрос слушателей курса
01Вводный модуль
- О курсе и от том, как на нём учиться
- Глоссарий
02Проблемы доверия искусственному интеллекту
- Понятие доверенного искусственного интеллекта
- Принципы доверенного искусственного интеллекта
03Объяснимость моделей ИИ и машинного обучения
- Понятие объяснимости и прозрачности искусственного интеллекта
- Объяснимость данных. Методы отбора признаков
- Объяснимость на разных этапах жизненного цикла
- Практикум: использование метода LIME для объяснения модели ИИ
- Практикум: использование метода SHAP для объяснения модели ИИ
- Практикум: использование SHAP для объяснения Sequential модели
- Практикум: использование метода «Анализ важности переменных»
04Робастность искусственного интеллекта
- Понятие робастности
- Методы оценки робастности
- Метрики робастности
- Типичный алгоритм для оценки робастности
- Практикум: проверка робастности модели
- Практикум: включение шума и возмущений для повышения робастности
- Практикум: Исследование робастности модели при изменении размера
- Практикум: Робастная регрессия для машинного обучения на Python
05Компьютерные атаки на искусственный интеллект
- Атаки на искусственный интеллект. Обзор реализованных атак
- Классификация атак
- Методы противодействия атакам
- Практикум: Атака с использованием метода FGSM
- Практикум: FGSM-атака на нейронную сеть
- Практикум: Анализ уязвимости нейронной сети перед атаками
- Практикум: Генерация состязательных примеров для CIFAR-10
06Защита данных
- Дифференциальная конфиденциальность. Федеративное обучение
- Гомоморфное шифрование. Синтетические данные. НПБК
07Обнаружение аномалий
- Понятие аномалии
- Виды аномалий. Дрейф данных
- Дрейф концепций
- Защита данных от заражения. Методы распознавания аномалий
- Практикум:Обнаружение аномалий временных рядов с помощью PyCaret
- Практикум:Обнаружение аномалий в данных временных рядов с Keras
- Практикум: Обнаружение аномалий в машинном обучении
- Практикум: Поиск аномалий с Python
- Практикум: Выявление потенциальных мошеннических операций
08Заключительный модуль
- Итоговый тест
- Заключение
- Список литературы
09Опрос слушателей курса
- Опрос слушателей курса
Документ после выпуска
Stepik
Организатор
Автор курса
Мнения учеников
Отзывы о курсе
Оставьте отзыв
Расскажите о качестве обучения, поддержке и результате. Это поможет другим выбрать организацию осознанно.
Оставьте заявку
Консультант ответит на вопросы о курсе «Доверенный искусственный интеллект: экспертный уровень» и поможет разобраться в деталях обучения.
Нажимая кнопку, вы даете согласие на обработку персональных данных
Направления:Нейросети и ИИ
Информация обновлена 3 сентября 2026 г.
Продолжить выбор
Похожие курсы
Начать без затрат
