0Корзина Закладки0

Stepik / Иван Александров - AI Security — практикум по безопасности ИИ приложений

Иван Александров

Stepik / Иван Александров - AI Security — практикум по безопасности ИИ приложений
✅ Лучшее качество
О версии курса

Материал без водяных знаков.

490,00 ₽

Пришлите ссылку — проверим предложение и ответим на почту.

Артикул: 25784
Подробности о материале
Артикул: 25784 В наличии Автор курса: Иван Александров Категория: Программирование
Курс - СTF-чемпионат - по защите ИИ-приложений. Короткая теория -> Атака -> Разбор -> Защита Чтобы понять как и от чего защищать, надо сначала попытаться сломать ИИ приложение, чему и будет посвящена основная часть курса. Независимо от того где и как вы создаёте свое приложение: без кода - с n8n, вайбкодингом или пишите весь код руками - курс подойдёт для любой аудитории.

Что внутри?

Курс охватывает таксономию из 90+ техник атак на LLM, сгруппированных в модули:

  • Prompt Injection - instruction override, system prompt extraction, delimiter attacks, output manipulation.
  • Jailbreaks - role-play, hypothetical framing, encoding, payload splitting, multi-turn атаки (Crescendo).
  • Indirect Prompt Injection — скрытые инструкции в документах, веб-страницах, email. Атака не на модель напрямую, а через контент, который она обрабатывает.
  • Атаки на агентов и RAG - tool abuse, knowledge base poisoning, memory attacks, multi-agent injection.
  • Автоматизированные атаки - PAIR, TAP, GCG - как автоматизация меняет ландшафт угроз. Без кода, но с пониманием attack loop.
  • Защита - есть defense-блок: от hardening промптов до проектирования guardrails.
Сквозной нарратив

Весь курс - это серия контрактов с AI-компаниями. Ты - red team специалист, которого нанимают для проверки безопасности. Каждый модуль - новый клиент, новые продукты, нарастающая сложность.

Для кого этот курс

Курс подойдёт тем, кто хочет разбираться в безопасности AI-систем на практике, а не по слайдам. Не нужно быть программистом - достаточно уметь думать как атакующий, а интуицию и насмотренность будем прокачивать в течение курса. — Специалисты по информационной безопасности, которые хотят понять новый класс угроз, связанных с LLM. — Продакт-менеджеры и разработчики AI-продуктов, которые хотят делать свои системы устойчивее к атакам. — QA и тестировщики, которые хотят добавить adversarial testing в свой арсенал. — Все, кто активно пользуется ChatGPT, Claude и другими LLM и хочет понимать, как они ломаются. — Студенты и исследователи в области AI safety и alignment, которые хотят быстро погрузиться в новую область.

Начальные требования

Базовое понимание, что такое LLM (большая языковая модель) - на уровне «знаю, что это нейросеть, которая генерирует текст».
Опыт использования любой LLM (ChatGPT, Claude, Gemini и т.п.) - нужно понимать, что такое промпт и как устроен диалог с моделью
Код писать не нужно. Вообще. Все задания решаются через чат, формы и загрузку файлов.
Знание английского на уровне чтения технических терминов или использования онлайн-переводчика - часть атак и техник используют англоязычные промпты.

Как проходит обучение

Курс состоит из модулей, каждый посвящён отдельному классу атак. Внутри модуля - теория, квизы и CTF-задания.
Теория — короткие блоки с объяснением техники и реальными примерами. Без воды и академизма, только то, что нужно для следующего задания.
CTF-задания - интерактивные упражнения с автоматической проверкой. Тебе дают бота с защитой - ломай его. Сложность от 1 до 10: от простого «ignore previous instructions» до композитных атак из 5+ техник. Есть система подсказок, они открываются после нескольких неудачных попыток.
Квизы - проверка понимания теории. Разбор типичных ошибок и edge cases.
Defense-блоки — в некоторых модулях ты переключаешься на сторону защитника. Проектируешь системные промпты и guardrails, а потом проверяешь, выдержат ли они атаку.
Кода нет. Терминала нет. Все задания решаются прямо в браузере.

Программа курса

1. ВВедение - Зачем ломать ИИ

Всё что нужно для старта!
Из чего состоит ИИ-приложение
CTF-0: Первый взлом — Hello, Injection!
2. Prompt Injection.

Твоя цель - соглашаться со всем что скажет клиент
CTF-1: Бодрый Флибустьер
Четыре класса Prompt Injection
CTF-marathon
Защита от Prompt Injection
3. Jailbreak

Что такое Jailbreak — зачем и как ломают модели
Социальные jailbreak-и
CTF: социальные jailbreak-и
Технические jailbreak-и
CTF: технические jailbreak-и
4. Агенты и непрямые PI

Инъекция вышла из чата
Payload везде: векторы косвенной инъекции
CTF: Косвенная инъекция — IN_AGENT
Агенты: LLM, который начал действовать
CTF: первые взломы InAgent Support
5. Мультиагенты и финиш.

CTF: Операция «Сорок восьмой»
А если агентов много?
Что вы получаете
  • Практические навыки red teaming LLM-приложений - востребованная специализация в AI Security.
  • Понимание таксономии атак на LLM - prompt injection, jailbreaks, indirect injection, agent attacks.
  • Опыт проектирования защиты: hardening промптов, guardrails, input/output фильтрация.
  • Умение оценивать безопасность AI-продуктов - как своих, так и сторонних.
  • Насмотренность и интуиция в области безопасности ИИ-приложений.

В курс входят
  • 20 уроков
  • 105 тестов
Формат курса: HTML

Перед покупкой на Sklads

Проверьте выбранную версию «Stepik / Иван Александров - AI Security — практикум по безопасности ИИ приложений» и состав материала. Автор: Иван Александров. Описание и скриншоты помогут понять, подходит ли курс для вашей задачи.

Вопросы о содержимом можно уточнить у поддержки. Покупки и доступные заявки на обновление находятся в личном кабинете.

Сравнение вариантов материала «Stepik / Иван Александров - AI Security — практикум по безопасности ИИ приложений»

В каталоге SKLADS.NET этот материал находится в рубрике «Программирование». При выборе ориентируйтесь на состав программы и конкретный тариф, а не только на название. В карточке указан автор: Иван Александров.

Вариант отмечен как материал без водяных знаков и относится к «Лучшему качеству». Эта характеристика не заменяет проверку названия тарифа и состава файлов.

Стоимость выбранной версии на Sklads смотрите в блоке покупки.

Есть вопрос о курсе?

Поможем разобраться с версией и составом материала

Написать в поддержку
Помощь и отзывы

💬 Помощь перед покупкой

Хотите проверить материал?
Отправим дополнительные скриншоты, пример видео или запись содержимого курса.

💰 Нашли дешевле?
Пришлите ссылку на предложение — постараемся сделать цену ещё выгоднее.

⭐ Отзывы покупателей
Читать отзывы на сайте
Читать отзывы в Telegram

💬 Связаться с поддержкой
Написать в Telegram
admin@sklads.net

ПОКУПКА И ДОСТУП

Вопросы и ответы

Как выбрать материал и получить доступ после оплаты

Как купить курс на Sklads?

Добавьте материал в корзину или нажмите «Купить». Укажите действующий e-mail и выберите доступный способ оплаты. После подтверждения платежа на эту почту придёт информация о заказе и доступе.

В одном заказе можно купить несколько материалов.

Что входит в курс и есть ли обратная связь?

Состав, версия и формат доступа указаны в карточке. Обычно это запись курса и сопутствующие файлы для самостоятельного обучения. Обратная связь автора не входит, если в описании не указано иное.

Если хотите уточнить содержимое до покупки, напишите в поддержку.

Где смотреть материалы и можно ли их скачать?

Ссылка или инструкция придёт после оплаты. Возможность просмотра онлайн и скачивания зависит от хранилища и формата файлов. Рекомендуем сохранить доступные материалы себе.

Оплата прошла, а письмо не пришло. Что делать?

Проверьте папки «Спам» и «Промоакции», а также адрес, указанный при покупке. Для авторизованного аккаунта проверьте раздел «Мои заказы».

Если доступа нет, отправьте в поддержку номер заказа, e-mail и подтверждение платежа — поможем найти покупку.

Как использовать бонусы?

Бонусы доступны в аккаунте. Размер начисления за этот курс указан рядом с покупкой. При оформлении заказа можно применить доступный бонусный баланс: 1 бонус соответствует 1 рублю.

Итоговую сумму и списание проверьте в корзине перед оплатой.

Как получить цену ниже?

Нажмите «Нашли дешевле?» рядом с ценой курса, пришлите ссылку, цену и e-mail. Мы сравним предложения и сообщим решение на почту. Если заявку одобрят, в письме будет персональная цена и срок её действия.

При покупке по персональной цене используйте почту из заявки.

Что делать, если ссылка на материал перестала работать?

Откройте покупку в разделе «Мои заказы». Если для неё доступен запрос обновления, отправьте его. Либо свяжитесь с поддержкой, указав номер заказа и название курса.

Где посмотреть условия возврата?

Условия описаны на странице «Условия возврата». Если возникла проблема с оплаченной покупкой, напишите в поддержку с номером заказа и описанием ситуации.

Главная » Программирование » Stepik / Иван Александров - AI Security — практикум по безопасности ИИ приложений