Хейтспич в сети: распознать, противостоять и предотвратить

Введение

Существующая цифровая инфраструктура представляет угрозу гендерному равенству, демократии, миру и положительному влиянию – в средствах массовой информации и обществах по всему миру – достигнутому за последние 30 лет. Такие проблемы, как гендерная дезинформация в интернете и дискриминационные высказывания, разжигающие ненависть, растут с угрожающей скоростью.

Гендерная дезинформация в интернете и сексистские высказывания, разжигающие ненависть, являются отдельными частями онлайн-насилия по признаку пола и могут принимать различные формы. Ассоциация прогрессивных коммуникаций определяет [1] гендерное насилие в интернете как: «акты гендерного насилия, которые совершаются, подстрекаются или усугубляются, частично или полностью, с использованием информационных и коммуникационных технологий (ИКТ), таких как телефон, интернет, социальные сети и электронная почта».

ООН считает [2] ненавистнической риторикой любого рода коммуникацию в устной, письменной или поведенческой форме, которая носит враждебный характер или использует уничижительные или дискриминационные формулировки в отношении какого-либо лица или группы лиц по признаку того, кто они есть, или, иными словами, по признаку их религии, этнического происхождения, национальности, расы, цвета кожи, социального происхождения, пола и других факторов идентичности.

Киберненависть, онлайн-разновидность языка ненависти, и киберзапугивание — это не одно и то же, поскольку первое нацелено на определенные группы на основе общих характеристик, а второе нацелено на отдельных лиц, как правило, в условиях определенного сообщества.

Сексистские высказывания, разжигающие ненависть, относятся к выражениям, которые распространяют, подстрекают, поощряют или оправдывают ненависть, основанную конкретно на гендерной принадлежности человека. Использование сексистских, гомофобных или трансфобных оскорблений ни в коем случае не случайно. Из практики мы знаем, что риски насилия, с которыми сталкиваются мужчины и женщины, во многом не одинаковы и требуют разных мер. Исследование от 2021 года «Злонамеренное творчество: как гендер, секс и ложь становятся оружием против женщин в интернете» [3] показало, что:

Общее гендерное насилие в интернете было гораздо более распространенным, чем дезинформация. Термины, указывающие на гендерное насилие, составили 50,4% от общего объема собранных данных, при этом «сука», «ведьма» и «урод [или уродина]» вошли в тройку самых популярных ключевых слов.
Оригинал: Generalized gendered abuse online was far more widespread than disinformation. Terms indicating gender-based abuse accounted for 50.4% of the total data collected, with “bitch”, “witch”, and “ugly” as the top three keywords recorded. Additionally, while 12 of the 13 subjects received gendered abuse online, the research team identified active disinformation narratives employed against 9 subjects.

Лица, занимающиеся гендерной дезинформацией и сексистскими высказываниями, разжигающими ненависть, часто следуют одному и тому же сценарию: запугивают, стыдят и дискредитируют своих жертв. Это стратегическое оружие для достижения политических, социальных и экономических целей, а также широко известная форма пропаганды. Гендерные оскорбления используются потому, что они эффективны: они активизируют и усугубляют наши укоренившиеся убеждения и страхи по поводу того, кто достоин, а кто нет доверия, власти и внимания.

Международное право и категории языка вражды

Проблема хейтспич является предметом серьезных споров среди ученых, политиков и в общественных дебатах современности; однако в международном праве мы можем найти инструменты и положения, которые разрешают или даже требуют запрета на определенные виды высказываний в целях защиты общественного порядка или в целях борьбы с дискриминацией, поскольку свобода от дискриминации является фундаментальной идеей прав человека. Важно отметить, что международное право не дает определения «хейтспичу» напрямую ни в одном договоре, но оно было определено Организацией Объединенных Наций в Стратегии и Плане действий по борьбе с языком ненависти.

При этом различают три категории языка вражды в зависимости от тяжести речевого акта. Акты, разжигающие ненависть на высшем уровне, уже запрещены международным правом. В эту категорию входят подстрекательство к геноциду и «расовая и религиозная ненависть, представляющая собой подстрекательство к дискриминации, вражде или насилию, как это определено в статье 20 Международного пакта о гражданских и политических правах».

Второй уровень, промежуточный, включает определенные формы языка ненависти. это может быть запрещено международным правом только в том случае, если ограничения, предусмотренные законом, преследуют законную цель, необходимы и соразмерны.

На нижнем уровне руководство помещает распространение законных выражений, которые, например, являются оскорбительными, шокирующими или тревожащими. Они не должны [4] подвергаться юридическим ограничениям, если только они не представляют собой подстрекательство к дискриминации, чтобы избежать закрытия законных дебатов.

Некоторые утверждают, что сексистские и другие проявления ненависти оправданы правом на свободу выражения мнений. Свобода мнений и их выражения действительно являются краеугольными камнями прав человека и столпами свободного и демократического общества. С другой стороны, разжигание ненависти не является частью международной системы прав человека, а «подстрекательство к дискриминации, враждебности и насилию» запрещено уголовным законодательством многих стран. Связь между ними рассматривается в Рабатском плане действий ООН, предполагающем высокий порог ограничений свободы выражения мнений, основанный на социальном и политическом контексте, статусе говорящего, намерении настроить аудиторию против целевой группы, содержании и форма выступления, степень его распространения и вероятность причинения вреда.

Комитет министров Совета Европы определяет [5] язык вражды как все формы самовыражения, которые включают распространение, провоцирование, стимулирование или оправдание расовой ненависти, ксенофобии, антисемитизма или других форм ненависти на основе нетерпимости, включая нетерпимость в виде агрессивного национализма или этноцентризма, дискриминации или враждебности в отношении меньшинства, мигрантов и лиц с эмигрантскими корнями.

Законодательство Казахстана и анализ ситуации

Расплывчатость юридического статуса языка вражды создает риски для обеспечения свободы выражения мнения. В то же время наблюдается слабая реакция или же игнорирование некоторых случаев проявления языка вражды, что может усугубить насилие и дискриминацию в отношении отдельных групп и слоев населения.

В Казахстане, в статье 174 Уголовного кодекса РК ставит акцент на «умышленных действиях, направленных на разжигание социальной, национальной, родовой, расовой, сословной или религиозной розни», а также на «пропаганде исключительности, превосходства либо неполноценности граждан». Самая главная проблема статьи 174 УК РК – это проблема обеспечения баланса между свободой выражения мнения и противодействием языку ненависти. Как показывает практика, зачастую этот баланс нарушается не в пользу свободы выражения мнения. Верховному суду РК рекомендуется принять Постановление Пленума Верховного Суда РК, которое давало бы разъяснение и официальное толкование диспозиции стать 174 УК РК. В судебной практике адвокатам и судьям рекомендуется ссылаться на международные принципы и стандарты реагирования на язык ненависти и популяризировать их

По словам юриста по уголовным делам Джохара Утебекова, он не слышал [6] об уголовных делах, которые касаются дискриминации по гендеру или сексуальной ориентации. По мнению Утебекова, причина этого то, что зачастую полиция и органы национальной безопасности сами дискриминируют эти группы. Поэтому уголовные дела по этим фактам практически не возбуждаются.

30-31 мая 2019 года в Алматы прошел региональный интернет-форум «InternetCA-2019 Развитие интернет-индустрии в Центральной Азии», в рамках этого форума Молдияр Ергебеков делит хейтспич в новых медиа на несколько категорий:

• Сексизм и хейтспич. Пример слова священника Ризабека Батталулы о женщинах:

«Если они не слушаются мужчин, их надо бить».

• Гомофобия и хейтспич. Одной из актуальных проблем является ненависть, направленная к ЛГБТ. Один из пользователей Facebook заявил:

«Необходимо начать операцию по возвращению лесбиянок». Он говорит об изнасилованиях, говоря «вернуть» он призывает к насилию. Это хейтспич. Подобные слова стали обычным явлением в казахстанских СМИ. Люди высмеивают представителей ЛГБТ, — сообщает Молдияр Ергебеков.

Онлайн хейтспич может проявляться [7] в хорошо известных форматах, таких как статьи, твиты или видео, в то время как другие принимают более тонкие формы, такие как мемы, комментарии и вирусные шутки, которые могут расшифровать только люди из определенных сообществ или когда алгоритмы не обнаруживают (например, написание «суки» как «b1tch»). Авторы таких выражений используют новые и творческие методы, чтобы донести свое сообщение, избегая при этом быть пойманными алгоритмами и модераторами.

Вероятность онлайн хейтспича увеличивается за счет ряда пересекающихся факторов. Одним из них является гендерная идентичность: женщины, девочки и ЛГБТК+ люди подвергаются более высокому риску нападений на гендерной почве. Другим фактором является уровень участия общественности; чем более активны женщины, тем больше риск. По этой причине журналисты, политики и активисты часто оказываются на передовой линии злоупотреблений. Намерения комментаторов в данном кейсе — это травля. Для травли женщин в политической и социальной сфере используется набор враждебных высказываний, которые можно отнести к следующим группам: слатшейминг (оскорбление, унижение и наказание кого-либо), взывание к гендерным ролям, шейминг (пристыжение), обесценивание проблемы и призывы к насилию. Подробнее о киберпреступлениях против женщин и их категориях можно ознакомиться в одноименном материале.

Киберпреступления против женщин и их категории

Жертвами кибернасилия могут стать как женщины, так и мужчины, однако данные показывают, что женщины становятся чаще жертвами киберпреступлений

Ландшафт цифровых прав и свободАйгерим Кусайынкызы

Такие оскорбления и призывы могут нанести большой вред психологическому и физическому здоровью аудитории и привести к последующему устранению активисток из социальной и политической жизни общества.

Другими факторами, которые вступают в игру, являются религия, этническая принадлежность, сексуальная ориентация, способности, возраст, класс, язык и другие. Для медиа, пабликов, журналистов, авторов мнений, каналов и тех, кто выражает свое мнение в СМИ, также имеет значение, какие темы они освещают: гендер и права женщин, сексуальное насилие, аборты, права ЛГБТК+, политика и экстремизм являются примерами областей, вызывающих повышенную тревогу.

Критика Google и Meta за недостаточную модерацию

В адрес Google и Meta, как цифровых монополистов, все чаще слышится критика, что они не предпринимают достаточно усилий для предотвращения использования их платформ для атак на других людей с ненавистническими высказываниями, в особенности на основании расы и пола.

Одним из чувствительных моментов являются механизмы модерации языка вражды в социальных медиа, не нарушающие свободу слова и выражения мнения.

Выводы

Международный центр журналистики MediaNet и Фонд Конрада Аденауэра презентовали исследование языка вражды на основе анализа публикаций так называемых лидеров мнений – пользователей Facebook в 2017 году.

По данным Minority Rights Group, ведущей международной правозащитной организации, в период с 2011 по 2021 год количество случаев разжигания ненависти в интернете вырос в 400 раз. Мониторинг подобных высказываний в виртуальном пространстве власти получают ценную информацию, позволяющую вовремя рассмотреть угрозы и принять меры по предотвращению возможных преступлений.

По мнению Тендаи Ачиуме, экспертки ООН по правам человека и Специального докладчика по вопросу о современных формах расизма, расовой дискриминации, ксенофобии и связанной с ними нетерпимости, больше внимания следует уделять бизнес-моделям социальных сетей.

«Часто люди хотят поговорить о модерации контента, о том, что следует разрешить на этих платформах, или сосредоточиться на политической экономии этих социальных сетей. Хейтспич выгоден для бизнеса».

Она считает, что необходимо создавать пространства, где могут взаимодействовать люди разных мнений. В то же время, по ее словам, необходимо провести более широкую дискуссию о том, как люди представлены в средствах массовой информации и в интернете.