Кибербезопасность искусственного интеллекта
- Курс для пентестеров, аналитиков SOC, архитекторов ИБ, DevSecOps‑инженеров и руководителей, которые хотят выйти за рамки классической ИТ‑безопасности и стать экспертами в защите ИИ‑технологий. Пошаговая программа охватывает весь жизненный цикл безопасности ИИ‑систем: от понимания модели и границ доверия до построения архитектуры защиты, проведения red‑team‑операций и маппинга на стандарты. Блок 1 — Введение в ИИ‑безопасность Что такое ИИ и почему он стал критической частью бизнес‑процессов Обзор новых поверхностей атаки: LLM, RAG, ИИ‑агенты, ML‑конвейеры, внешние API Жизненный цикл ИИ‑систем и точки контроля доверия Блок 2 — Ландшафт угроз ИИ Prompt injection, отравление RAG, модельная инверсия, злоупотребление инструментами, атаки на цепочку поставок ML Практические примеры из 2024‑2025 гг.: PromptLock, автономные LLM‑вымогатели Матрица угроз MITRE ATLAS и OWASP LLM Top 10 Блок 3 — Фреймворки безопасности ИИ Google SAIF, Yandex AI‑SAFE, сравнение с NIST AI RMF Как применять ISO/IEC 42001, ГОСТ Р 42001‑2024, ГОСТ Р 57580 и ФЗ‑152 в проектах ИИ GAP‑анализ и построение модели угроз Блок 4 — Защита и архитектура ИИ‑систем IAM, Zero Trust, управление секретами (KMS/Lockbox) Сетевая изоляция, контейнерная безопасность, сканирование уязвимостей Защита ML‑конвейеров (DataSphere, AI Studio), облачная защита (CNAPP, DSPM) Блок 5 — Red Team для ИИ Методология тестирования, разработка многошаговых сценариев (jailbreak, цепочки атак) Практика в песочнице Prompt Injection, отравление RAG, разработка собственных атак с MITRE ATT&CK Navigator Рекомендации по защите и маппинг на AI‑SAFE / OWASP LLM Top 10 Блок 6 — Реагирование на инциденты и SOC с ИИ SIEM, SOAR, мульти‑агентный SOC, автоматизация задач с ИИ‑агентами Создание runbook’ов для сценариев: prompt injection, утечка данных, компрометация модели Практика анализа логов, построение Security Data Lake Блок 7 — Комплаенс и регуляторика ISO 42001, ISO 27001 + 42001 + 27701, GDPR, ФЗ‑152, PCI DSS Национальные ГОСТ Р 42001‑2024, 71476‑2024, 57580 серии, 56939‑2024 Как подготовить аудит и сертификацию ИИ‑продукта Блок 8 — Практикум и итоговый проект (Capstone) Лабораторные работы (19 шт.) – от симуляции взлома паролей до red‑team‑атак на LLM, от сканирования контейнеров до аудита ISO 42001. Трек A – Архитектура защиты : диаграмма, модель угроз, матрица контролей, runbook, маппинг на стандарты. Трек B – Offensive Red Team : разведка, 5+ сценариев атак, журнал тестирования, рекомендации. Трек C – Анализ агента с инструментами : карта инструментов, модель угроз, тесты злоупотребления, защитная архитектура. Итоговый отчёт — 3‑5 стр., модель угроз, оценка рисков, маппинг на AI‑SAFE/SAIF/OWASP LLM Top 10/MITRE ATLAS. Что получат участники Глубокое понимание уязвимостей ИИ‑систем и методов их эксплуатации. Навыки построения безопасных архитектур с учётом IAM, Zero Trust и управления секретами. Практический опыт red‑team‑тестирования ИИ и разработки runbook’ов. Способность проводить комплаенс‑аудит по ISO 42001, ГОСТ Р и российскому законодательству. Портфолио из 19 лабораторных работ и итогового проекта, подтверждающего готовность к реальным задачам.
Константин Скобельцын
• Очный формат
• Дистанционный формат
• Смешанный формат
Да, мы предлагаем специальные условия для:
• Групп от 15+ человек
• Корпоративных клиентов с долгосрочными программами обучения
• Пакетного заказа нескольких курсов
Точные условия обсуждаются индивидуально.
По итогам обучения выдаются удостоверения о повышении квалификации установленного образца или сертификаты о прохождении курса — в зависимости от количества академических часов и уровня образования обучающихся.
• Презентации, методички, чек-листы и практические задания
• Дополнительные материалы (статьи, шаблоны, гайды)
Количество участников определяется индивидуально — мы формируем группы с учетом:
• Ваших целей обучения
• Специфики программы
• Оптимального соотношения эффективности и вовлеченности
Да, мы предлагаем:
• Практические кейсы на основе реальных задач компании
• Воркшопы и разборы проектов с преподавателем
• Рекомендации по интеграции новых навыков в рабочие процессы
Да, 70% времени — решение кейсов из вашей отрасли и работа с оборудованием в аудиториях.
Да, мы разрабатываем индивидуальные программы под разные уровни подготовки.
Мы адаптируем сроки под ваши потребности.
• Площадки ИТ-парка
• Внешние площадки по запросу заказчика
• На онлайн-платформах