simpleflow
Обсудить задачу
СообществаБесплатно

ИИ-антиспам для Telegram-сообществ

Проверяет смысл каждого сообщения, а не стоп-слова. Бесплатно, подключается в любой канал

Задача

Комментарии под постами заливает спам: криптосхемы, «работа на дому», реклама чужих каналов. Фильтры по стоп-словам обходятся за минуту — достаточно заменить букву или разбить слово пробелами. Модерировать руками круглосуточно невозможно.

Ограничения

То, что нельзя было изменить или обойти. Обычно решение определяется именно этим списком, а не пожеланиями.

  • Спамеры обходят списки слов быстрее, чем эти списки обновляются
  • Ложное срабатывание на живом участнике хуже пропущенного спама
  • Владелец канала не должен ничего настраивать перед запуском

Решение

  • Каждое сообщение оценивается по смыслу, а не по совпадению со списком слов — подмена букв и пробелы внутри слова не помогают
  • Модель дообучается: решения модератора становятся примерами и уточняют оценку
  • Белый список: постоянные участники и сотрудники в проверку не попадают
  • Спорные случаи не удаляются молча, а уходят модератору на решение
  • Подключение в один шаг: добавить бота в канал администратором

Что получилось

  • Спам не проходит, даже когда написан с обходом фильтров — оценивается смысл
  • Система становится точнее по мере использования, а не устаревает как список слов
  • Постоянные участники не попадают под раздачу
  • Владельцу канала не нужно ничего настраивать и нечего оплачивать

Попробуйте

Сценарий по мотивам проекта, без клиентских данных. Нажимайте кнопки — оплата ненастоящая.

ИИ-антиспам

Почему списки стоп-слов не работают, а проверка смысла — да

ИИ-антиспамбот
Показать весь сценарий текстом

Бот: 🛡 Я модерирую комментарии. Проверяю смысл каждого сообщения, а не совпадение со списком слов.

Попробуйте отправить что-нибудь от лица спамера — покажу, как разбираю.

Кнопки: Заработок от 5000р в день, пишите в лс · З-а-р-а-б-о-т-о-к 5ООО₽/день, пиши в лс · Спасибо, полезный пост!

Клиент: Заработок от 5000р в день, пишите в лс

Бот: 🚫 Удалено.

Признаки: обещание дохода без описания работы, увод в личные сообщения, аккаунт без истории в сообществе.

Автор ограничен, модератору отправлено уведомление.

Кнопки: А если обойти фильтр? · ↩️ Ещё раз

Клиент: З-а-р-а-б-о-т-о-к 5ООО₽/день, пиши в лс

Бот: 🚫 Удалено.

Дефисы внутри слов и латинские «О» вместо нулей не мешают: я оцениваю смысл сообщения, а не ищу совпадения по строке.

Именно на этом ломаются фильтры по стоп-словам.

Кнопки: А живого участника не заденет? · ↩️ Ещё раз

Клиент: Спасибо, полезный пост!

Бот: ✅ Пропущено.

Обычный комментарий участника — вмешиваться не нужно.

Постоянные участники и сотрудники добавляются в белый список и не проверяются вовсе. Спорные случаи не удаляются молча, а уходят модератору на решение.

Что ещё можно подключить

Полный список возможностей этого типа решения. Отмеченное галочкой было в проекте, остальное добавляется — обычно быстрее, чем кажется.

Сделано в проекте

  • Оценка сообщения по смыслу
  • Дообучение на решениях модератора
  • Белые списки участников
  • Спорные случаи — модератору
  • Подключение в один шаг

Можно добавить

  • Проверка новых участников на входе
  • Ограничения для новичков первые сутки
  • Фильтрация изображений и стикеров
  • Статистика по заблокированному
  • Свои правила модерации под тематику канала

Нужного пункта нет в списке? Почти всё, у чего есть API, подключается —спросите.