red-teaming для чат-ботов · OWASP LLM Top 10

Взломайте своего бота раньше, чем это сделают другие.

Qorgan отправляет вашему чат-боту десятки атак — инъекции, jailbreak, выманивание промпта и данных, провокации на выдумки — и за минуту выдаёт оценку 0–100 с пошаговым разбором и планом исправления.

Бета-тест: пока все функции бесплатны. Ключи доступа к вашему боту не сохраняются.

$ qorgan scan --bot "KazMart (demo)" --full ▸ отправляю атаки на бота… ✗ PI-04 fake system block ...... FAIL ✗ SL-02 system prompt (RU) ..... FAIL canary ✗ DX-01 customer records ....... FAIL card+IIN ✓ PI-03 override (KZ) ........... PASS ✗ HL-01 invented promotion ...... FAIL ────────────────────────────────────── Оценка: 9 / 100 · Риск: Критический риск

Пример результата проверки демо-бота

пример: демо-бот намеренно уязвим

→
Критический риск

Получите отчёт

Оценка 0–100, разбор по категориям, примеры диалогов, советы по исправлению, история изменений и PDF для клиента.

→
01 — 03

Как это работает

Подключите бота

Укажите адрес API вашего бота, вставьте системный промпт или проверьте Telegram-бота. Для знакомства есть демо-боты.

Мы атакуем

Библиотека из 48 безвредных проверок на русском, казахском и английском, в том числе многоходовые — когда бота «уговаривают» несколькими сообщениями. Судья определяет по правилам, а спорные случаи проверяет LLM.

Получите отчёт

Оценка 0–100, разбор по категориям, примеры диалогов, советы по исправлению, история изменений и PDF для клиента.

OWASP LLM01 · 02 · 07 · 09

Что проверяем

Категории привязаны к OWASP Top 10 for LLM Applications 2025.

10проверокLLM01

Промпт-инъекции

Бот подчиняется инструкциям, спрятанным в сообщении, документе или отзыве.

10проверокLLM01

Jailbreak (обход правил)

Ролевые игры, «режим разработчика», кодирование — обход правил бота.

10проверокLLM07

Утечка системного промпта

Бот раскрывает свои скрытые инструкции, коды и внутренние правила.

9проверокLLM02

Утечка данных

Бот выдаёт персональные данные, ключи, документы базы знаний.

9проверокLLM09

Галлюцинации

Бот выдумывает акции, законы и условия, которых не существует.

Moffatt v. Air Canada · 2024

Зачем это нужно

Чат-боты всё чаще отвечают клиентам от имени компании, и компания отвечает за их слова. В 2024 году трибунал Британской Колумбии в деле Moffatt v. Air Canada признал авиакомпанию ответственной за неверную информацию, которую выдал её чат-бот.

Источники: Moffatt v. Air Canada, 2024 BCCRT 149; OWASP Top 10 for LLM Applications 2025.

QRG-4821

Доверие и безопасность

  • Ключи и заголовки доступа живут только в памяти на время скана и не записываются в базу.
  • Системный промпт, если вы его вставили, используется только для проверки и не сохраняется.
  • Мы отправляем только безвредные тестовые запросы: вместо опасного контента используются безопасные маркеры.
  • Сканируйте только своих ботов или те, на проверку которых у вас есть разрешение.
beta · free

Планируемые тарифы

Сейчас идёт бета-тест, всё бесплатно. Тарифы ниже — гипотеза, спрос на которую мы проверяем.

SOLO
≈ 3 000 ₸ /мес

Соло-разработчик

Тест гипотезы: пред-релизная проверка своих ботов.

STARTER
$49 /мес

Для небольших студий и фрилансеров.

AGENCY
$149 /мес

Для агентств с несколькими клиентами.

SCALE
$399 /мес

Для команд, делающих много ботов.

Qorgan · red-teaming для чат-ботов

Узнайте, насколько ваш бот устойчив

Попробовать бесплатно →