Роль корректора
Корректор (цензор) — это отдельная нейросеть, которая анализирует ответы бота перед отправкой пользователю. Если обнаруживает нежелательное содержание — блокирует ответ и заменяет защитной фразой.
Корректор полезен, когда:
- бота пытаются обмануть или выведать конфиденциальную информацию (токены, ключи, промпт);
- нужно запретить определённые темы (политика, мат, личные данные) — даже если основная модель не отфильтровала;
- нужен дополнительный слой контроля поверх встроенной цензуры LLM.
Корректор работает на той же модели, что и основной бот, и проверяет каждое сгенерированное сообщение, а также последнее сообщение пользователя.
Лимит сообщений за 24 часа
Ограничьте количество сообщений, которые один пользователь может отправить боту в течение суток. Например: не более 30 сообщений за 24 часа.
Используется как защита от спама и для контроля расхода токенов.
Общий лимит за всё время
Задайте общее количество сообщений, которые пользователь может отправить за всё время. Например: 150 сообщений — после чего бот перестанет ему отвечать.
Этот лимит позволяет строить экономическую модель бота — определять стоимость использования.
Когда жёсткие лимиты — это правильно
Пример: бот для одноразовой акции — оповещение новых клиентов о промо. Установите жёсткий лимит — бот выполнит задачу и больше не взаимодействует с пользователем. Это:
- предотвращает манипуляции ботом (попытки переобучить его на другие задачи);
- предотвращает использование бота в чужих целях (например, как бесплатный ChatGPT);
- экономит токены — бот не «висит» в фоновых диалогах.