Сеть Интернет в противодействии террористическим угрозам

К противоправному контенту, то есть к тем материалам, которые мы будем выявлять в первую очередь, относятся:

– материалы, находящиеся в Федеральном списке экстремистских материалов Министерства юстиции Российской Федерации;
– оправдание/призывы к террористической и экстремистской деятельности;
– проявление вражды и ненависти по расовым, национальным и религиозным признакам;
– демонстрация запрещенной символики;
– пропаганда или распространение наркотических средств;
– материалы суицидального характера;
– материалы, относящиеся к скулшутингу.

Поиск осуществляется через поисковые системы, социальные сети, видеохостинги.

Логика формирования поискового запроса строится на основе 1) ключевых слов — формируются из сленга националистов, сленга религиозных экстремистов и т. д. — и 2) материалов, внесенных в список Минюста.

В поисковых системах существует функционал уточнения языка запросов. Рассмотрим подробней наиболее популярные операторы, которые для этого используются и которые будут нам полезны при выявлении противоправного контента.
*операторы могут относиться как ко всем основным поисковым системам (yandex.ru, google.com), так и только к одной из них.

Использование оператора « site: » позволяет осуществлять поиск только на указанном сайте.
Пример: запрос site:vk.com

Использование оператора « domain: » аналогично ищет информацию по конкретно заданному домену.
Пример: запрос domain:ru

Использование оператора « lang: » позволяет осуществлять поиск по страницам на заданном языке;

Использование оператора « date: » — поиск по страницам с ограничением по дате их последнего изменения.

Оператор « cache: » обеспечивает поиск кэшированной версии сайта или страницы. Кэш-версия страницы — это, условно говоря, ее состояние на момент, когда к ней был ограничен доступ (то есть произошла блокировка). Рассмотрим пример. Необходимо скопировать ссылку на искомый ресурс, затем в поисковой строке ввести оператор и ссылку. Первый результат поисковой выдачи и есть наша цель. Отметим, что восстановить кэш можно не всегда. Для социальных сетей период хранения кэша после блокировки ресурса составляет примерно несколько месяцев.

Поиск в социальной сети «ВКонтакте» осуществляется через функцию встроенного поиска и делится на: 
– общий поиск информации;
– поиск по личности/стене личности;
– поиск по хештегам;
– поиск видео и аудио;
– поиск по сообществам;
– поиск по документам. 

Также во «ВКонтакте» есть расширенный поиск новостей и сообществ. При работе по выявлению противоправных материалов рекомендуем убирать галочку «безопасный поиск». С помощью параметров поиска можно конкретизировать поиск по ряду характеристик.

Поиск данных в соцсети «Одноклассники» аналогично осуществляется через функцию встроенного поиска. Как и в социальной сети «ВКонтакте», поиск здесь интуитивно понятный и простой. Поскольку целевая аудитория данной площадки не молодежная, здесь концентрация противоправного контента не такая высокая, по сравнению с тем же сайтом «ВКонтакте». В качестве справочных материалов рекомендуем использовать:

1. Федеральный список экстремистских материалов (сайт Минюста).
2. Перечень некоммерческих организаций, в отношении которых судом принято вступившее в законную силу решение о ликвидации или запрете деятельности по основаниям, предусмотренным федеральным законом «О противодействии экстремистской деятельности» (сайт Минюста).
3. Единый федеральный список организаций, в том числе иностранных и международных организаций, признанных судами Российской Федерации террористическими (сайт НАК).

Рассмотрим процесс выявления на конкретных примерах по разным видам противоправного контента. Начнем с религиозного экстремизма. Ключевыми словами для поиска выступают термины ислама, используемые в неконвенциональном значении.

Ниже представлен пример поиска по ключевым вводным в виде псевдонима одного из идеологов северокавказского вооружённого подполья (Саида Бурятского) в социальной сети «ВКонтакте» по музыкальным композициям.

Следующий пример — поиск по выдержке из Федерального списка экстремистских материалов Минюста. Выделенная цитата из таблицы была внесена в строку поиска социальной сети, и мы видим его результаты.

Здесь размещен материал, уже признанный судом запрещенным. Также мы видим ряд других записей, несущих радикальный посыл — они могут быть переданы на экспертизу. Чтобы расширить результаты поиска, эффективно просматривать подписчиков сообществ, в которых распространяется подобный контент. На их странице может не быть публикаций, но, если проверить список интересующих их сообществ, можно выявить другие деструктивные группы. Зачастую они связаны между собой и наслаиваются аналогично снежному кому.

Важно отметить, что ключевые слова меняются, как по смыслу, так и по форме. В своей практике не обязательно учить все множество ключевых слов, важно уметь анализировать потоки информации, те же заголовки материалов из списка Минюста, самообучаться и искать новые варианты.

Рассмотрим процесс выявления материалов националистического характера.

Идеологи националистического экстремизма в основном используют кодовые шифровки и всевозможные сокращения. Так, «1488» — кодовый лозунг у белых националистов, часто употребляющийся в качестве приветствия или подписи. Число 14 может означать один из двух лозунгов длиной в 14 слов, придуманные Дэвидом Лэйном, членом организации белых сепаратистов The Order.

Число 88 означает фразу из книги Адольфа Гитлера «Моя борьба», длиной в 88 слов. Также является закодированным приветствием Heil Hitler! («Хайль Гитлер!»).

Кодировка 23/16 связана с деятельностью молодёжной ультраправой субкультуры White power. У американских расистов означает 23-ю букву алфавита W, с которой начинается слово white (белый), и 16-ю букву алфавита P, с которой начинается слово power (власть).

311 и последующая в строке символика является обозначением Ку-клукс-клана, еще одного экстремистского течения, пришедшего из-за рубежа.

RaHoWa (Racial Holy War) — сокращение от фразы в переводе «Священная расовая война», которая обосновывает необходимость выживания белой расы в борьбе с другими расами, а также евреями, левыми силами и в целом с современным типом либерально-демократического общества. Фраза взята на вооружение многими ультраправыми группировками.

Выявление суицидального контента

Когда тема «групп смерти» только получила распространение (2016 год), в сообществах такого характера наблюдалась тенденция коммуницировать при помощи специфических слов и хештегов (синий кит, красная сова, #f57 и т. д.). Тогда для выявления ключевых слов было эффективно регулярно отслеживать информационные потоки и использовать найденное. В приведенной таблице представлены ключевые слова по направлениям.

Но поскольку медиапространство соцсетей динамично меняется, осуществляется блокировка подобного контента, сегодня эти вводные уже не актуальны. Зачастую группы, распространяющие контент явно суицидальной направленности, не используют никаких хештегов и никаких определенных обозначений и слов.

Сегодня для поиска подобных сообществ продуктивно использовать слова или фразы, несущие депрессивный безысходный посыл.

Например, контент-анализ наиболее популярных пабликов выявляет следующие сочетания: не чувствую себя живым, хочется плакать, саморазрушение, одиночество, тишина и аналогичные.

Также в названиях групп популярны англоязычные термины, связанные с темой смерти: funeral (похороны), death (смерть), blood (кровь), cemetery (кладбище) и т. д.

Основное содержание контента: цитаты, связанные со смертью, внутренней пустотой и безысходностью, пространные грустные фразы. Очень важно критически оценивать каждый материал и смотреть на найденное в комплексе (посты с песнями группы «Сплин» суицидальным контентом не является).

Эффективным при выявлении личностей с намерениями покончить собой является мониторинг комментариев в группах суицидальной направленности.

По опыту анализа профилей подростков, совершивших завершенный суицид, мы выделили следующие факторы, которые вкупе с другими признаками могут служить основанием для повышенного внимания к личности:

- непрерывные и систематические посты и репосты депрессивного или меланхоличного характера на протяжении долгого периода времени;

- записи прощального или ностальгирующего характера (видеоряд фотографий, перечисление лучших друзей);

- ведение обратного отсчета, появление на странице цифр с неизвестным посылом (особое внимание обращать на статус);

- наличие друзей-сверстников, совершивших суицид или его попытку;

- проблемные внутрисемейные отношения.

Существенный вклад в профилактику суицидов могут сделать лишь специалисты, имеющие прямой и постоянный контакт с учащимися: штатные психологи; классные руководители; ответственные за мониторинг социальных сетей в образовательной организации.

Пример: контент суицидального характера:

Выявление материалов, связанных с распространением наркотиков в интернете

Для выявления материалов, относящихся к пропаганде наркотиков, мы предлагаем ранжирование ключевых слов по:
- названию веществ;
- форме веществ;
- состояниям наркотического опьянения и психотропного воздействия

Выявление материалов, связанных со скулшутингом

Для выявления скулшутинга важно обращать внимание на визуальный конструкт (фотографии или анимированные изображения стрелков).

Иногда продуктивно экспериментировать с поиском по ключевому «как сделать сву, купить оружие», осуществлять анализ подписчиков сообществ и комментариев.

Ключевые слова: скулшутинг

▪ колумбайн, columbine
▪ стрелок
▪ Эрик Харрис, #Харрис,#эрикхаррис, #harris, #EricHarris
▪ Дилан Клиболд, #Клиболд, #ДиланКлиболд, #klebold, #DylanKlebold #эрикИдилан, #ХаррисКлиболд, #эид
▪ wrath
▪ naturalselection
▪ schoolshooters
▪ Лев Биджаков
▪ #Школа127, #ивантеевскийстрелок, #ивантеевка
▪ Владислав Росляков

Примеры контента: скулшутинг

Отдельное внимание необходимо уделять оформлению результатов в специальную таблицу, заполнение которой позволяет передавать выявленные ссылки правоохранительным органам в удобном структурированном формате.