Новости

10 Июня, 2020 19:15

Томские ученые разработали алгоритм для определения пользователей VK, подписанных на опасные сообщества

Источник: Томский обзор
Ученые Томского госуниверситета разработали алгоритм для выявления студентов и школьников, которые подписаны «ВКонтакте» на сообщества с потенциально опасным контентом: ненависть, насилие, экстремизм и другим. Они составили список из 3050 групп с подобным содержанием, а также проанализировали подписки российских школьников и студентов.
Источник: пресс-служба ТГУ
Источник: пресс-служба ТГУ
3 / 4
Источник: пресс-служба ТГУ
Источник: пресс-служба ТГУ

Как уточняют в пресс-службе вуза, оказалось, что у 37% пользователей в возрасте 14-17 лет встречаются подписки на группы с потенциально опасным для психики содержанием, а в возрасте 18-23 года – у 42%.

Проект реализует команда психологов, социологов, историков и программистов ТГУ, руководитель – доцент факультета психологии Валерия Мацута. Исследование поддержано грантом РНФ (№ 19-78-10122 «Разработка алгоритма идентификации факторов риска безопасности пользователей социальных сетей на основе анализа контента и психологических характеристик его потребителей») до 2022 года, на его реализацию выделено 5 миллионов рублей.

"Доступ к обнаруженному запрещенному и преступному контенту оперативно блокируется, в отличие от вредного. Последнее – материалы ограниченного доступа, не являющиеся прямым нарушением норм права, но способные причинить вред пользователям. Контроль за распространением и потреблением «вредного» контента подростками является актуальной задачей для специалистов по профилактике правонарушений и психологической безопасности в образовательных организациях", – рассказал участник проекта, зав. лабораторией компьютерных средств обучения Института дополнительного образования ТГУ Артем Фещенко.

Первичный поиск сообществ с «вредным» контентом осуществлялся при помощи системы мониторинга социальных медиа «Крибрум» с использованием лингвистических маркеров, например, «колумбайн», «наркотики», «депрессия», «одиночество», «боль», «ненависть» и других. Таким образом, учёные выявили 436 сообществ, затем при помощи метода «снежный ком» (найденные в сообществах администраторы и активисты, ведущие к другим потенциальным опасным группам) их число было расширено до 3050.

"Текстовых данных в сообществах содержится мало, а в качестве популярного контента можно отметить фотографии с изображением крови на теле или кровавых луж (прокусанные губы, кровь из носа и прочее), фотографии с оружием, фотографии с синяками, таблетки и сигареты", – отметил Артем Фещенко.

В результате анализа групп учёные сформулировали 12 тематических направлений, среди них «жесть» (кровь, избиение, окровавленные органы, эстетика безобразного в культуре), «национализм» (превосходство своей нации над другими, шовинизм, ксенофобия, фашизм), «оружие» (покупка и продажа оружия, описание характеристик, изображение пистолетов, револьверов, винтовок) и другие.

"Наиболее анонимными оказались администраторы сообщества категории «Скулшутинг». Из 45 сообществ только в одном удалось получить контактные данные организатора. В остальных сообщества либо заблокированы администрацией «ВКонтакте», либо закрыты для входа без приглашения. Тем не менее, даже по этой табуированной теме, относящейся по нормам российского законодательства к категориям «преступного» контента, удаётся найти большое количество потребителей и, возможно, распространителей контента среде активистов", – добавил Артем Фещенко.

Разработанный классификатор «вредного» контента можно использовать для обнаружения пользователей, которые предположительно нуждаются в психологической помощи. Для этого достаточно сравнить список подписок из профиля конкретного человека с со списком выявленных в ТГУ. Прототип диагностического инструмента для этого разработан участниками Университетского консорциума исследователей больших данных.

"Разработанный веб-сервис превосходит по широте и точности аналоги, например российскую систему мониторинга, которая в режиме реального времени проводит анализ опасных групп из специальной базы. Так, она у одного пользователя нашла по 1 сообществу в 6 разных тематических категориях. Наш веб-сервис нашел у этого же пользователя 146 маркерных сообществ из 12 категорий и показал экстремально высокую долю вредного контента в общих подписках (17,4%, при норме – ниже 2%)", – подчеркнул Артем Фещенко.

В целом при помощи разработанного алгоритма учёные проанализировали около 60 000 пользователей «ВКонтакте» – это школьники 14-17 лет и группа в возрасте 18-23 года. Для возможности сравнения степени проявления интереса была рассчитана доля «вредного» контента. Индикатором интереса является подписка на 1 сообщество из любой категории, если же число подписок превышает 10% от общего числа, то человеку может понадобиться психологическая помощь. Эти значения можно использовать для выявления школьников и студентов из группы риска с неблагополучным психоэмоциональном состоянием.

"Сравнение данных показывает, что потребления потенциально «вредного» контента пользователями в возрасте 14-23 года является достаточно распространенным явлением, так как у 37% наблюдаемых людей в возрасте 14-17 лет встречаются подписки на сообщества с токсичным для психики содержанием. При этом девушки чаще интересуются «вредным» контентом, чем юноши, – рассказал Артем Фещенко. – В возрастной группе 18-23 года 42% пользователей подписаны на опасные сообщества, и уровень интереса у девушек снижается, а у юношей, наоборот, возрастает".

По словам учёных, кроме расчета общего уровня интереса ко всем темам «вредного» контента далее целесообразно проводить мониторинг пользователей по отдельным категориям.

Полученные результаты будут представлены на международной конференции «International Conference on Education and New Learning Technologies» в июле 2020 года.

30 Сентября, 2020
Психологи МГУ выяснили, как опыт негативного взаимодействия влияет на способность дошкольников понимать эмоции
Сотрудники кафедры психологии образования и педагогики факультета психологии МГУ совместно с коллего...
24 Сентября, 2020
Археологи нашли на Алтае зубы неандертальцев
Российские археологи впервые за долгое время нашли новые свидетельства присутствия неандертальцев на...