ИИ-модератор чата: JSON-решение и эскалация к человеку
Классификатор сообщений по правилам твоего сообщества: отвечает на вопросы из FAQ, подозрительное отправляет на проверку, конфликты — людям
Какую задачу решает
Настроить агента-модератора, который классифицирует сообщения и эскалирует спорное
Что будет на выходе
JSON-классификация сообщения и действие: ответить, скрыть, эскалировать, оставить
- Кому подойдёт
Владелец чата или сообщества, которого заваливают спамом и одинаковыми вопросами
- Тема
- Агенты и Claude Code
- Инструменты
- любой ИИ-чатTelegram
В чате сообщества на пятьсот человек одновременно происходит три вещи: кто-то в пятый раз за день спрашивает, где запись эфира, бот с аватаркой девушки предлагает «заработок от 50 тысяч», а два участника уже полчаса спорят на повышенных тонах. Модератор один, и он спит.
ИИ-модератор берёт на себя первое и помогает со вторым: отвечает на повторяющиеся вопросы по правилам чата и отправляет подозрительные сообщения людям на проверку. По конфликтам и жалобам он сразу зовёт человека. Ниже промпты, которые делают из правил твоего чата классификатор с ответом в JSON, и способ проверить, как часто он ошибается, до того как дать ему права в чате.
На вход — одно сообщение из чата и правила сообщества. На выход — JSON: категория, уверенность, действие (ответить, на проверку, эскалировать, оставить) и текст ответа, если он нужен. Удалять и банить агент не решает сам: это делает человек по его подсказке.
Что получишь
- Категории под твой чат: спам, реклама без согласования, конфликт, вопрос из FAQ, жалоба, обычное общение. С примерами из твоих сообщений.
- Системный промпт классификатора, который возвращает строгий JSON. Его подключают к боту или автоматизации.
- Набор для проверки: 30 размеченных сообщений и таблица, где видно, сколько раз агент ошибся и в какую сторону.
Четыре действия и что за ними стоит:
| Действие | Когда | Что происходит |
|---|---|---|
| ответить | вопрос, ответ на который есть в правилах или FAQ | бот отвечает в чате реплаем |
| на проверку | похоже на спам или рекламу, но не наверняка | сообщение и ссылка на него уходят в чат модераторов, в общем чате остаётся до решения человека |
| эскалировать | конфликт, оскорбление, жалоба, угроза, вопрос про деньги | модератору приходит уведомление с выжимкой, бот в чате молчит |
| оставить | обычное общение | ничего |
Если бот должен не только сортировать, но и отвечать на типовые вопросы развёрнуто, тексты ответов удобно собрать заранее по протоколу ответа на комментарии.
Как использовать
- 1Собери правила и примеры
Правила чата текстом, FAQ и 30–50 сообщений из истории, включая спам, споры и повторяющиеся вопросы. Ники замени на «Участник 1», «Участник 2».
- 2Получи категории
Шаг 1 предложит категории и границы между ними. Поправь их: где кончается «спор» и начинается «конфликт», решаешь ты.
- 3Собери классификатор
Шаг 2 даёт системный промпт с JSON-ответом. Его подключаешь к боту, когда он прошёл проверку.
- 4Измерь ошибки
Шаг 3 гоняет агента по размеченным сообщениям. Главное число — сколько нормальных сообщений он зря отправил на проверку.
Чтобы читать чат и отвечать, боту не нужно право удалять сообщения и блокировать участников. Пока агент не прошёл проверку на ошибках, эти права остаются только у живых модераторов.
Рядом по теме: Нейроагент заявок: из грязного сообщения в карточку CRM, ИИ-агент первого ответа: уточняет и зовёт менеджера, ТЗ на ИИ-ассистента проекта: assistant-spec.md, статья «Как сделать Telegram-бота с ИИ» и 12 модов Claude Code для вайбкодера (490 ₽).
Дальше — для участников
Регистрация бесплатная и занимает минуту. Часть закрытых материалов откроется сразу, без карты.
Что дальше
- Модерация комментариев с ИИ — тот же подход для комментариев под постами: кто отвечает и что нельзя обещать.
- Стресс-тест ассистента — как поймать бота на выдумках до того, как это сделают участники.
- Агент, которого не уговорят слить данные — защита от сообщений, которые пытаются командовать ботом.
