Stepik Доверенный искусственный интеллект
О курсе
Подробнее
Учитывая, что это первая учебно-методическая разработка по данной тематике в России, авторы считают необходимым выразить методологический оптимизм, заключающийся в том, что структура и содержание курса позволят студентам сформировать:
- профессиональные компетенции, необходимые для разработки методов анализа и выявления угроз, оценки рисков, создаваемых конкретными технологиями и системами ИИ;
- навыки работы с нормативно-правовой базой РФ в области информационных технологий и информационной безопасности, а также анализа возможностей применения ИИ для различных предметных областей.
Содержание курса включает в себя изучение проблем обеспечения доверия к искусственному интеллекту (ИИ) и подходов к их решению, а также свойств, качеств доверенного искусственного интеллекта и понятий, непосредственно связанных с доверием к ИИ, таких как управление рисками ИИ, робастность ИИ, объяснимость ИИ, функциональная безопасность ИИ.
Расширенная версия данного курса с практическими заданиями на python доступна по ссылке: https://stepik.org/course/242731/.
Результат
Что вы получите
- Курс формирует компетенции в области информационной безопасности с использованием ИИ, что соответствует паспорту сквозной технологии «Технологии доверенного взаимодействия» по направлениям:
- - Технологии на базе искусственного интеллекта для решения задач доверенного взаимодействия;
- - Технологии защиты систем искусственного интеллекта от злонамеренных или случайных воздействий, влияющих на достоверность результатов их работы.
Аудитория
Для кого этот курс
- Курс будет полезен студентам IT-направлений, программистам, разработчикам систем искусственного интеллекта, руководителям компаний, а также слушателям, интересующимся темой разработки и использования систем искусственного интеллекта в различных сферах.
Содержание
9 занятийПрограмма курса
№ТемаЧто внутри
01Проблемы доверия искусственному интеллекту
- Понятие доверенного искусственного интеллекта
- Принципы доверенного искусственного интеллекта
02Управление рисками искусственного интеллекта
- Риски использования искусственного интеллекта
- Оценка рисков. Анализ рисков. Мониторинг рисков
03Объяснимость моделей ИИ и машинного обучения
- Понятие объяснимости и прозрачности искусственного интеллекта
- Объяснимость данных. Методы отбора признаков
- Объяснимость на разных этапах жизненного цикла
04Робастность искусственного интеллекта
- Понятие робастности
- Методы оценки робастности
- Метрики робастности
- Типичный алгоритм для оценки робастности
05Функциональная безопасность искусственного интеллекта
- Понятие функциональной безопасности
- Особенности технологии ИИ и связанные с ними факторы риска
- Свойства систем ИИ и связанные с ними риски ФБ
- Техники верификации и валидации
- Меры контроля и смягчения последствий
06Компьютерные атаки на искусственный интеллект
- Атаки на искусственный интеллект. Обзор реализованных атак
- Классификация атак
- Методы противодействия атакам
07Защита данных
- Федеративное обучение
- Гомоморфное шифрование
08Обнаружение аномалий
- Понятие аномалии
- Виды аномалий
- Дрейф концепций
- Защита данных от заражения. Методы распознавания аномалий
- Список литературы
09Опрос слушателей курса
- Оценка курса
01Проблемы доверия искусственному интеллекту
- Понятие доверенного искусственного интеллекта
- Принципы доверенного искусственного интеллекта
02Управление рисками искусственного интеллекта
- Риски использования искусственного интеллекта
- Оценка рисков. Анализ рисков. Мониторинг рисков
03Объяснимость моделей ИИ и машинного обучения
- Понятие объяснимости и прозрачности искусственного интеллекта
- Объяснимость данных. Методы отбора признаков
- Объяснимость на разных этапах жизненного цикла
04Робастность искусственного интеллекта
- Понятие робастности
- Методы оценки робастности
- Метрики робастности
- Типичный алгоритм для оценки робастности
05Функциональная безопасность искусственного интеллекта
- Понятие функциональной безопасности
- Особенности технологии ИИ и связанные с ними факторы риска
- Свойства систем ИИ и связанные с ними риски ФБ
- Техники верификации и валидации
- Меры контроля и смягчения последствий
06Компьютерные атаки на искусственный интеллект
- Атаки на искусственный интеллект. Обзор реализованных атак
- Классификация атак
- Методы противодействия атакам
07Защита данных
- Федеративное обучение
- Гомоморфное шифрование
08Обнаружение аномалий
- Понятие аномалии
- Виды аномалий
- Дрейф концепций
- Защита данных от заражения. Методы распознавания аномалий
- Список литературы
09Опрос слушателей курса
- Оценка курса
Документ после выпуска
Stepik
Организатор
Автор курса
Мнения учеников
Отзывы о курсе
Оставьте отзыв
Расскажите о качестве обучения, поддержке и результате. Это поможет другим выбрать организацию осознанно.
Оставьте заявку
Консультант ответит на вопросы о курсе «Доверенный искусственный интеллект» и поможет разобраться в деталях обучения.
Нажимая кнопку, вы даете согласие на обработку персональных данных
Направления:Нейросети и ИИ
Информация обновлена 3 сентября 2026 г.
Продолжить выбор
Похожие курсы
Начать без затрат
