Соцсетям предложили бороться с травлей как со спамом
Социальные сети могли бы бороться с онлайн-абузом по аналогии со спамом — к такому выводу пришли авторы совместного отчета PEN America и Consumer Reports. Вместо реактивных мер вроде блокировки и жалоб предлагается система автоматического обнаружения токсичного контента с последующим его помещением в карантин. Пользователь сам решает, просматривать такие сообщения или нет.
Почти половина американцев сталкивается с онлайн-абузом. Особенно уязвимы представители маргинализированных групп и публичные профессии: журналисты, писатели, преподаватели. Нынешние методы платформ требуют сначала подвергнуться травле, чтобы потом попытаться ее остановить. Это психологически разрушительно и неэффективно.
Решение
Предлагаемый механизм работает в три этапа:
- Автоматическое выявление потенциально опасного контента
- Помещение в персональный карантин (аналог папки ‘Спам’)
- Возможность делегировать проверку доверенному лицу
Технологии для этого уже существуют — компании используют их для внутреннего мониторинга. Осталось перенаправить ресурсы на защиту пользователей.
Преимущества
Новый подход дает:
- Снижение психологической нагрузки
- Прозрачность модерации
- Гибкие настройки фильтрации
- Сохранение свободы слова — контент не удаляется глобально
Как отмечает бывший сотрудник Twitter, проблема в приоритетах платформ: травля для пользователей — это травля, а для соцсетей всего лишь ‘вовлеченность’, которая приносит доход.
Инициатива не панацея, но важный шаг к созданию более безопасного цифрового пространства. PEN America и Consumer Reports призывают технологические компании пересмотреть свои подходы.
