Gooofy: защита чатов от грязи

Вы открываете чат и видите там чужой шок-контент. Один спамер, одна картинка, и обсуждение превращается в проблему для всех: от репутации сообщества до жалоб в поддержку Telegram. Gooofy создан, чтобы такое не доходило до участников. 🛡️

В профиле бота цель сформулирована коротко: защищать группы и каналы от порнографических и насильственных медиа.

Зачем чату фильтр медиа

Текстовый спам видно сразу, а вот картинки и видео проверить сложнее. Модератору нужно открыть файл, увидеть нежелательное и только потом удалить. К этому моменту участники уже всё видели.

Автоматическая проверка работает быстрее человека. Бот смотрит на присланные файлы и реагирует раньше, чем их успеют посмотреть другие.

Что заявлено в профиле

• Защита групп. Бот подключается к чатам и следит за присылаемыми медиа.
• Защита каналов. Тот же фильтр можно использовать там, где публикуют материалы.
• Два типа нежелательного. Порнографический контент и сцены насилия.

Контакт разработчика указан в профиле бота. Если нужна подробность, вопросы лучше адресовать туда.

Как подключить фильтр

1. Откройте настройки группы или канала и добавьте Gooofy.
2. Назначьте бота администратором.
3. Включите право удалять сообщения. Другие права обычно не нужны.
4. Отправьте в чат тестовое безобидное изображение и убедитесь, что бот не мешает обычным сообщениям.
5. Предупредите участников о правилах: что именно запрещено в чате и как обжаловать удаление.

Права проверяйте после каждого обновления настроек. Если бот лишился права удалять сообщения, он перестанет работать.

Чего ждать от автоматической проверки

Любой автоматический фильтр ошибается. Он может пропустить плохое изображение или принять безобидное за нарушение. Поэтому полезно оставить модераторов, которые смотрят жалобы и исправляют ошибки.

• Ложные срабатывания. Фото с пляжа, медицинские снимки или искусство иногда принимаются за запрещённое.
• Пропуски. Нарушитель может изменить файл, чтобы обойти проверку.
• Конфиденциальность. Проверяя медиа, сервис получает доступ к файлам из чата. Сообщите участникам об этом.

Дополнительные меры

Один бот не заменяет модерацию. Поставьте капчу для новичков, ограничьте право отправлять медиа первые сутки и закрепите правила.

Включите в Telegram запрет пересылки и защиту контента там, где это нужно. Так вы снижаете риск утечки закрытых материалов.

Как рассказать участникам о фильтре

Прозрачность снижает конфликты. Закрепите сообщение с правилами: какие медиа запрещены, что происходит при нарушении и куда писать, если файл удалили по ошибке.

Для повторных нарушителей заранее решите порядок действий: предупреждение, ограничение на отправку медиа, блокировка. Когда правила понятны и одинаковы для всех, участники реже спорят с модераторами.

Раз в неделю просматривайте журнал действий группы. Он покажет, как часто срабатывает защита и не пора ли изменить настройки.

Кому подойдёт

Администраторам открытых сообществ, школьных и родительских чатов, больших городских групп, где вход свободный. Для маленького закрытого чата такой фильтр, скорее всего, избыточен.

Проект небольшой, и его возможности лучше проверить на тестовой группе, прежде чем подключать к основной.