Услуга
llm-securityТестирование безопасности LLM и AI-систем
LLM и AI Security — тестирование LLM-приложений, агентов и интеграций.
Об услуге
Тестируем приложения на основе LLM: чат-ботов, ассистентов и agentic-системы. Проверяем устойчивость к инъекциям, утечкам и несанкционированным действиям.
Что входит в scope
- LLM-приложения и чат-боты
- Direct и indirect prompt injection
- Утечки системного контекста и конфиденциальных данных
- Подключённые инструменты и MCP
- Разграничение доступа
- Agentic-системы и автономные действия
- Обработка недоверенного контента
Форматы тестирования
- Чёрный ящик — только интерфейс приложения
- Серый/белый ящик — с описанием системного промпта и инструментов
Типичные задачи заказчика
- Проверить AI-ассистента перед запуском
- Оценить риски подключённых инструментов и агентов
- Понять, какие данные может раскрыть модель
Этапы работ
- Согласование scope и сценариев
- Тестирование инъекций и утечек
- Анализ инструментов, MCP и разграничения доступа
- Проверка agentic-сценариев
- Отчёт
- Перепроверка исправлений
Подход
Опираемся на OWASP Top 10 for LLM Applications и практический опыт.
Что получает заказчик
- Список подтверждённых проблем LLM-приложения
- Рекомендации по снижению рисков
Состав отчёта
- Резюме
- Сценарии атак и находки
- Рекомендации
Повторная проверка
Бесплатная повторная проверка после исправлений.
Тестирование безопасности LLM-приложений: prompt injection, утечки данных и контекста, безопасность инструментов, MCP и agentic-систем.
FAQ
Частые вопросы
Чем вы отличаетесь от крупных ИБ-компаний?
Вы работаете напрямую с техническими специалистами, без прослойки менеджеров и накладных расходов крупного интегратора. Это быстрее в коммуникации и гибче по scope, а стоимость — ниже.
Вы используете только сканеры?
Нет. Основной упор — на ручной анализ. Автоматические инструменты применяем для ускорения рутинных задач, но выводы делаем на основе ручной проверки.
Что входит в отчёт?
Резюме для руководства, описание каждой находки с шагами воспроизведения и оценкой риска, а также практические рекомендации по исправлению. Формат отчёта согласуем: сообщения для срочных правок, PDF/DOCX, таблица или загрузка находок в вашу тикет-систему.
Вы проводите повторную проверку исправлений?
Да. После устранения уязвимостей проводим повторную проверку и обновляем статусы находок в отчёте.
Сколько длится тестирование?
Обычно проект занимает от 1 до 4 недель — в зависимости от объёма scope, сложности и выбранного формата. Точные сроки фиксируем на созвоне перед стартом работ; при сжатых дедлайнах согласуем ускоренный график.
Как формируется стоимость?
Стоимость зависит от объёма (число активов, приложений, строк кода), сложности работ, сроков и типа тестирования (белый/серый/чёрный ящик). После короткого созвона и уточнения scope называем предварительную оценку до старта работ — без скрытых доплат.
Подписываете ли вы NDA?
Да. Работаем по соглашению о неразглашении (NDA) и подписываем его до передачи любых данных о вашей инфраструктуре. Результаты и находки остаются конфиденциальными.
Можно ли проводить тестирование на production?
Да, по согласованию. Заранее фиксируем окно работ, ограничения и потенциально опасные проверки, чтобы не нарушить работу сервисов. Где это критично, тестируем на staging-копии или в щадящем режиме.
Заявка
Обсудить проект
Опишите задачу — мы предложим формат работ и предварительную оценку. Отвечает технический специалист, а не менеджер.
- Возможна 100% постоплата по согласованию.
- Бесплатная перепроверка исправлений в течение 180 дней после отчёта.
- Гибкий scope: от точечной проверки до комплексных работ
Или напишите напрямую: hello@redframe.io · @redframe