Gooofy: тестируем защиту чатов от 18+ контента

Первое впечатление от интерфейса Gooofy

Открываю бота и сразу вижу минималистичное меню с тремя кнопками:

Start Protection - основной функционал
Settings - настройки фильтрации
Help - краткая инструкция

Интерфейс полностью на английском, что может стать небольшим барьером для русскоязычных пользователей. При этом навигация интуитивно понятна - уже через минуту я разобрался, куда нажимать.

Что сразу бросается в глаза:

• Нет перегруженности опциями
• Чёткое разделение функций
• Отсутствие рекламы или навязчивых предложений

Как работает защита от нежелательного контента

После активации бот начинает сканировать все медиафайлы в чате. Алгоритм определяет два типа запрещённого контента:

• Порнографические изображения и видео
• Сцены насилия и жестокости
• Откровенные эротические материалы
• Шокирующий контент 18+

В тестовой группе я специально отправил несколько спорных изображений. Бот корректно распознал и удалил откровенные кадры из фильмов, оставив при этом нейтральные постеры. Интересно, что он не реагирует на текст - только на визуальный контент.

Скорость работы впечатляет: от момента отправки до удаления проходит 2-3 секунды. При этом в логе админа появляется уведомление о блокировке с миниатюрой изображения.

Сценарии использования в разных типах чатов

За неделю тестирования я попробовал Gooofy в трёх разных условиях:

1. Публичный канал с 5К+ подписчиков
Фильтр срабатывал 10-15 раз в день, в основном на рекламные посты с провокационными картинками. Это значительно сократило работу модераторов.

2. Частная группа подростков
Здесь бот блокировал мемы с откровенным подтекстом и скриншоты из игр с кровью. Родители участников остались довольны.

3. Рабочий чат компании
Неожиданно полезным оказался запрет на фривольные гифки и шутливые картинки, которые иногда мешают рабочим обсуждениям.

• Для публичных сообществ - защита от спамеров
• Для образовательных чатов - создание безопасной среды
• Для корпоративных групп - поддержание делового тона

Что можно улучшить в будущих версиях

После активного использования я выделил несколько моментов для доработки:

Ложные срабатывания - иногда бот принимает за запрещённый контент художественные фотографии или кадры из исторических фильмов. Хотелось бы иметь возможность добавлять исключения.

• Добавление русского интерфейса
• Гибкие настройки чувствительности фильтра
• Возможность создавать белые списки URL
• Статистика по заблокированному контенту

Особенно не хватает функции обучения бота на конкретных примерах. Если бы можно было 'показать' ему, что допустимо в конкретном сообществе, точность работы значительно выросла.