Twitter пересматривает подход к созданию ленты пользователей. С помощью модераторов, алгоритмов и машинного обучения компания будет сравнивать количество жалоб, банов и отключений уведомлений о контенте пользователя с количеством комментариев и добавлениями в избранное
Аккаунты, в которых количество негативных реакций будет больше положительных, будут автоматически скрыты из лент пользователей. Так компания хочет предотвратить троллинг и негатив в соцсети.
Из всех аккаунтов, на которые жалуются, менее 1% действтельно нарушают правила сервиса. Однако есть множество ситуаций, когда фактически аккаунт не переходит черту, но его материалы неприятны другим пользователям.
Чтобы бороться с такими аккаунтами была создана алгоритмическая лента, которая не будет показывать контент определённых пользователей.
Twitter также обращает внимание на факт подтверждения адреса электронной почты, количество учётных записей у одного и того же человека, как часто аккаунт ретвитит и упоминает одного и того же человека, который не является его фолловером, напоминает ли поведение группы аккаунтов скоординированную атаку.
Также рассматриваются социальные связи с аккаунтами, которые находятся в зоне внимания Twitter.
Новой система помогла снизить жалобы на оскорбительный контент в поиске на 4%, а на контент в диалогах — на 8%.