Дискорд и экстремизм: Анализ цифровой инфраструктуры радикализации

Discord — это бесплатная платформа для обмена сообщениями, созданная для того, чтобы геймеры могли общаться друг с другом во время игры. С момента запуска в 2015 году пользовательская база Discord значительно выросла. В настоящее время у платформы350 миллионов зарегистрированных пользователей и 140 миллионов активных пользователей в месяц по всему миру, а также в общей сложности 6,7 миллиона активных серверов. Несмотря на то, что Discord в первую очередь ориентирован на геймеров, за годы существования платформы на ней неоднократно проявлялась экстремистская активность.  

Глоссарий Разногласий  

Сервер: Серверы в Discord — это пространства, созданные частными сообществами или отдельными пользователями. Серверы могут быть общедоступными или закрытыми, и участники получают доступ только по приглашениям.  

Канал: Серверы разделены на текстовые и голосовые каналы. Каждый канал обычно посвящен определенной теме. В зависимости от того, текстовый это канал или голосовой, у пользователей будут разные возможности. В текстовых каналах пользователи могут публиковать сообщения и делиться файлами или изображениями, чтобы их увидели другие. В голосовых каналах пользователи могут общаться с помощью голосовых или видеозвонков в режиме реального времени, а также демонстрировать экран (Go Live).  

Перейти в режим реального времени: в голосовых каналах пользователи могут перейти в режим реального времени, чтобы поделиться экраном и личными сообщениями с теми, кто находится на том же сервере.  

API: API (интерфейс прикладного программирования) — это программный посредник, который позволяет двум приложениям взаимодействовать друг с другом. У API огромное количество применений, но в контексте этого отчета они позволяют исследователям получать доступ к определенным данным на некоторых онлайн-платформах с помощью запросов. Являясь посредником, API также обеспечивают дополнительный уровень безопасности, не позволяя напрямую получать доступ к данным, а также регистрируя, управляя и контролируя объем и частоту запросов. 

Ключевые функциональные возможности 

Discord позволяет пользователям общаться друг с другом в режиме реального времени с помощью сообщений, голосовых или видеозвонков. Чаты, известные как серверы, могут быть созданы любым пользователем и использоваться не только для игр, но и для общения, организации мероприятий, соревнований, тематических дискуссий или даже «рейдов» (организованных кампаний по спаму или троллингу других серверов или пользователей на других платформах), а также для сбора и распространения контента, который интересен участникам сервера. 

Хотя многие серверы являются приватными, пользователи также могут присоединяться к общедоступным серверам (хотя для этого все равно требуется имя пользователя). На самых крупных общедоступных серверах могут быть сотни тысяч участников. Многие общедоступные серверы посвящены играм или аниме, но есть и те, которые посвящены социальным или политическим дискуссиям (на некоторых из них открыто обсуждаются те же темы и используется та же эстетика, что и в сообществах на других платформах, например на 4chan). 

Громкие случаи экстремистской активности в Discord 

Хотя Discord в первую очередь ориентирован на геймеров и не преследует политических целей, исследователи зафиксировали, что платформой неоднократно пользовались различные экстремистские группировки. Например, организаторы митинга сторонников превосходства белой расы в Шарлоттсвилле, штат Вирджиния, в 2017 году использовали Discord для планирования и координации протеста, а также для распространения идеологических пропагандистских материалов. Во время митинга ультраправый активист убил контрпротестующего, намеренно въехав на машине в толпу. 

После сообщений об использовании Discord крайне правыми и, в частности, о событиях в Шарлотсвилле, Discord начал применять более строгий подход к присутствию этих движений на своей платформе. В 2021 году Discord заявил, что удалил более 2000 экстремистских серверов. Тем не менее исследование ISD, проведённое позднее в том же году, показало, что Discord по-прежнему служит площадкой для общения и формирования сообществ крайне правых. И это несмотря на то, что нет убедительных доказательств того, что сами по себе игры способствовали радикализации и вербовке пользователей на платформе. Кроме того, исследование ISD выявило проявления поддержки Atomwaffen Division и Sonnenkrieg Division (обе организации признаны террористическими в Великобритании, Канаде и Австралии) на ультраправых серверах Discord. Новое исследование ISD (2023) также выявило небольшое, но значительное количество контента, разжигающего ненависть, антидемократического и пропагандирующего насилие, на серверах католических экстремистов и исламистских экстремистов в Discord. 

Хотя Discord пользуется особой популярностью среди ультраправых, платформой также пользуются представители более молодого сообщества исламистских экстремистов поколения Z, которые смешивают салафитские идеи с альт-правыми мемами и игровыми субкультурами. Роль Discord в распространении различных онлайн-субкультур, связанных с экстремизмом и насилием, стала еще более очевидной после стрельбы в Баффало в 2022 году и стрельбы на параде в Хайленд-Парке. В обоих случаях цифровой след злоумышленников включал сообщения, оставленные в Discord, в том числе контент, документирующий планирование и подготовку к атаке. В апреле 2023 года мы также столкнулись с делом военнослужащего Национальной гвардии США Джека Тейшейры, который был арестован после предположительно, утечки секретных документов американской разведки (так называемых «документов Пентагона») в чат Discord, где он ранее публиковал расистские и агрессивные комментарии. 

Задачи для исследователей 

Discord предлагает исследователям ряд задач.  

1. Публичный API Discord не позволяет исследователям искать ключевые слова на разных серверах, ограничивая их анализом серверов, которые они уже определили как релевантные. Проблема не в том, что информация скрыта: ее было бы легко найти, если бы исследователь знал, где искать.
2. Чтобы получить доступ к контенту, исследователям нужно присоединиться к серверам, для чего может потребоваться ответить на вопросы анкеты. Поскольку в этих анкетах часто встречаются политически спорные вопросы, существует этический барьер, из-за которого многие исследователи не согласятся отвечать на провокационные вопросы. Эти этические вопросы становятся еще более актуальными в случае с небольшими серверами, поскольку неясно, где проходит граница разумных ожиданий в отношении конфиденциальности.   
3. Согласно Условиям предоставления услуг Discord, сбор пользовательских данных через API запрещен. Сбор данных с серверов, по всей видимости, нарушает условия договора и может повлечь за собой судебное разбирательство со стороны платформы, даже если сбор таких данных не вызывает этических возражений.
4. Поисковые функции Discord, а также сторонние инструменты, такие как Disboard, выдают очень разные результаты, причем Disboard, как правило, предоставляет гораздо более обширную информацию. Однако даже в результатах Disboard часто встречаются необъяснимые расхождения между количеством предположительно обнаруженных и отображаемых серверов. Поэтому неясно, как определяются результаты работы этих инструментов, насколько они полны и какие результаты отсутствуют. 

Автор: Якоб Гуль, Директор по вопросам политики и исследований в сфере борьбы с экстремизмом, Европа