ИИ-модератор в Telegram: настройка бота для очистки чата от спама

Андрей Отинов -

Менеджер небольшого онлайн‑сообщества каждый день получает сообщения‑спам, а проверять их вручную уже не хватает времени.
Вчера один из коллег объявил, что в их тестовом чате уже работает «ИИ‑модератор» — бот, который сам определяет спам и токсичные реплики, и «ИИ‑ассистент» — бот, отвечающий на вопросы по материалам автора через команду /ask.
Для вас это значит: часть рутины может уйти в автоматику, а жалобы от участников сразу становятся обучающим материалом для бота.
Прежде чем подключать такой бот к своему каналу, проверьте, какие инструменты нужны, какие ограничения есть и какие шаги можно выполнить уже на этой неделе.

Источник: Telegram Bot API

Что меняет официальная документация для ежедневной работы

  • Telegram Bot API — это набор правил, по которым любой разработчик может создать бота, получать сообщения из чата и отправлять ответы. В практике это значит, что вы получаете «конвейер» — сообщения приходят к вашему коду, а ваш код решает, что с ними делать.
  • OpenAI Moderation API — это готовый сервис, который проверяет текст на наличие спама, оскорблений и прочих нежелательных элементов. Вместо собственного словаря вы отправляете фрагмент сообщения в облако, а сервис возвращает оценку «чистый/незащищённый».
  • Вместе эти два публичных инструмента позволяют собрать простейший «модерационный слой» без написания сложных моделей. Вы лишь пишете небольшую программу‑обёртку, которая получает сообщение, проверяет его через OpenAI, а затем решает, удалить его из чата или показать пользователю.

Какие данные вы передаёте боту‑модератору

  1. Текст сообщения — полный текст, включая вложения (если они поддерживаются).
  2. Идентификатор пользователя — чтобы в случае повторных нарушений можно вести «чёрный список».
  3. Контекст команды — если пользователь пишет /ask, бот получает запрос и ищет ответ в заранее подготовленных материалах (например, в PDF‑курсах автора).

В тестовом чате автор просил участников писать жалобы прямо в чат. Бот‑модератор принимает эту жалобу, отправляет её в OpenAI Moderation API, получает оценку и сохраняет в базу данных для последующего обучения. Таким образом, каждый «недовольный» пользователь автоматически становится источником улучшения модели.

Какой результат должен выдавать ИИ‑ассистент

  • Ответ на запрос — бот ищет в заданном наборе документов (например, в текстах курсов) фразу, наиболее релевантную вопросу, и отправляет её в чат.
  • Отчёт о модерации — если сообщение признано спамом, бот может отправить в приватный канал администратору короткую справку: кто, что, когда, и почему сообщение было удалено.
  • Обучающий сигнал — каждая полученная жалоба сохраняется в лог‑файл. Позже её можно использовать для дообучения собственного классификатора или для корректировки правил в OpenAI Moderation API (если вы используете кастомные модели).

Как проверить работу бота без программирования

Шаг Что делаем Как проверяем Кто получает выгоду
1. Создаём бота в BotFather Получаем токен Токен открывается в Telegram — бот появляется в списке Менеджер
2. Подключаем OpenAI Moderation API Регистрация на platform.openai.com, получение ключа Отправляем тестовый запрос через curl и получаем «OK/Flag» Тех. специалист
3. Запускаем готовый пример‑скрипт (Python) Скрипт получает сообщения, проверяет их, отвечает В чате видим, что спам‑сообщения исчезают, а /ask отвечает Весь коллектив
4. Отправляем жалобу «@bot плохой ответ» Бот сохраняет жалобу в лог Проверяем файл complaints.log — появилась новая строка Аналитик
5. Сравниваем количество удалённых сообщений за день Считаем в логах Если количество спама ↓ > 30 % — бот работает Руководитель

Эти пять минутные проверки позволяют убедиться, что базовый конвейер работает, даже если у вас нет собственного разработчика.

Что остаётся решением человека

  • Стоимость доступа — OpenAI Moderation API платный; оцените, сколько запросов в месяц будет и сравните с внутренними затратами на ручную модерацию.
  • Юридический риск — передача пользовательских сообщений в облако может подпадать под требования о персональных данных. Убедитесь, что у вас есть согласие участников.
  • Масштабирование отбора участников — в тесте автор отбирал заявки вручную. При росте аудитории понадобится автоматический механизм приглашения новых участников (например, через форму на Google Forms).
  • Качество ответов ассистента — если бот отвечает «странно», это сигнал к доработке базы знаний (добавьте новые документы, уточните запросы).

Чек‑лист для первой недели

  1. Зарегистрировать бота в BotFather и сохранить токен.
  2. Получить ключ OpenAI Moderation API и протестировать один запрос.
  3. Запустить готовый пример‑скрипт (можно взять из GitHub, ссылка ниже).
  4. Провести 5‑минутный тест: отправить спам‑сообщение, проверить его удаление; задать вопрос через /ask, убедиться в ответе.
  5. Зафиксировать в таблице количество удалённых сообщений и количество жалоб за день.
  6. Оценить, покрывает ли текущий объём запросов ваш бюджет и соответствует ли политикам конфиденциальности.

Если после недели результаты удовлетворяют, можно планировать более глубокую интеграцию (добавление кастомных правил, расширение базы знаний, автоматизацию приглашения новых участников).

Источники

  • Telegram Bot API – официальная документация по созданию ботов‑модераторов и ассистентов.
  • OpenAI Moderation API – сервис автоматической модерации контента, пригодный для использования в Telegram‑ботах.

Темы журнала

Что почитать дальше