«Они чувствуют себя совершенно безнаказанными»

Каждый день миллиарды пользователей публикуют в социальных сетях фотографии, тексты и видео. В своей ленте юзер может встретить почти все — от смешных роликов с домашними животными и веселых шуток до оскорблений и жестоких видеозаписей. Так, недавно в сети распространилась запись, где мужчина в прямом эфире совершил самоубийство. Алгоритмы социальных сетей, которые буквально молниеносно блокируют пользователя за неудачно употребленное слово или намек на эротику на фото, не сумели остановить распространение жестокого ролика. Как работает модерация в современных соцсетях и почему зарубежные платформы почти никогда не реагируют ни на просьбы рядовых пользователей из России, ни на требования властей — в материале «Ленты.ру».

Шокирующие кадры, где пользователь совершил суицид, появились впервые несколько недель назад в Facebook Live — сервисе для трансляции контента в прямом эфире. Позднее ролик распространился в Twitter и Instagram, а также в приложении TikTok. Представители Facebook утверждали, что сделали все возможное, чтобы остановить распространение материала: «Мы удалили исходное видео в день его потоковой передачи и с того времени использовали технологию автоматизации для удаления копий и загрузок», — заявили в администрации. Однако этих усилий оказалось недостаточно: ролик уже завирусился в сети. Сотрудники TikTok долгое время пытались удалить перепосты видео из аккаунтов пользователей, а также заблокировать тех, кто загружал ролик многократно, но это оказалось совсем непросто.

Запись быстро распространилась в TikTok, собрав множество просмотров. Многие позднее рассказывали, что она попадалась им в подборке рекомендуемых видео. Родители подростков пожаловались журналистам, что никогда не видели своих детей в состоянии, в котором они находились после просмотра ролика: те рыдали, дрожали и не могли сказать ни слова. Некоторым понадобилась психологическая помощь. Для многих такой контент оказался неожиданным: страшная запись попала в подборки с шутками и музыкальными записями. «Я слышала о троллинге и всяких гадких вещах, но это просто хуже всего. Я позвонила в полицию, но они напомнили мне, что это не их работа — следить за интернетом. Дочь была в шоке, она все еще в состоянии шока, и это состояние может сохраниться в течение нескольких месяцев», — поделилась жительница Великобритании с «Би-би-си». Она отметила, что после увиденного ее ребенок стал бояться темноты и отказывался выходить из дома.

Когда сервис Facebook Live только появился, несколько пользователей использовали его для трансляции самоубийств. Тогда многие критиковали IT-гиганта за распространение опасного контента. Еще больше внимания к этой проблеме привлекла смерть 14-летней британки Молли Рассел: ее родители уверены, что немалая вина за самоубийство ранее жизнерадостной девочки лежит на Instagram и Pinterest, — там она находила контент, связанный с нанесением себе увечий и суицидом. Действительно, статистика говорит о том, что за последние годы в Великобритании число самоубийств среди подростков выросло почти в полтора раза, а число девушек, которые лечились от последствий селфхарма, — почти вдвое. Местные власти уверены, что немалая ответственность за произошедшее лежит на интернет-платформах.

Недавно британское правительство разработало пакет мер, призванных оградить пользователей от опасного контента, в числе которых — введение ответственности для платформы или сервиса в случае бездействия. Власти всерьез озаботились проблемами, возникающими в сети, и вознамерились сделать страну «самой безопасной в мире» для интернет-пользователей: по их задумке, платформы должны не только защищать юзеров и отчитываться об успехах в этом вопросе, но и нести наказания, если не сумели вовремя оградить людей, — оплачивать штрафы или даже подвергаться блокировкам. Потенциальные угрозы описаны в документе Online Harms White Paper — легкий доступ к опасному контенту, поощрение суицида и насилия, запугивание, распространение фейков и другие известные проблемы в сети. Также компаниям предлагается создать структуру Safety by Design — она позволит ввести автоматизированные функции онлайн-безопасности на платформы и сервисы. При этом активно распространяется программа цифровой грамотности, чтобы пользователи сами могли вовремя распознать опасности.

В России подобными вопросами занимаются профильные ведомства, — к примеру, Роскомнадзор. Сотрудники службы и подведомственных организаций находят в соцсетях деструктивный контент и высылают IT-гигантам запросы на его блокировку. Однако чаще всего такие просьбы остаются без ответа. Согласно статистике полугодовой давности, по требованию российского исполнительного органа с YouTube не удалено 10482 страницы с запрещенной информацией, из Twitter — 1462, в Instagram — 1435, в Facebook — 362 публикации. Недавно Роскомнадзор совместно с Общественной палатой выявили в Google еще более 3 тысяч материалов с контентом, признанным запрещенным к распространению на территории России, в том числе ролики на YouTube с призывами к экстремистской и террористической деятельности.

По словам члена Общественной палаты и исполнительного директора Национального центра помощи пропавшим и пострадавшим детям Екатерины Мизулиной, российское законодательство в этом вопросе сильно устарело и требует модернизации. Она уверена, что увеличение числа противоправных и опасных публикаций связано в первую очередь со скоростью развития технологий, с появлением новых ресурсов и с резким ростом числа пользователей. «Увеличивается просто объем. Соцсети растут, и эту проблему фиксируют во всем мире. Они чувствуют себя совершенно безнаказанными и по сути становятся самостоятельными государствами, со своими только им понятными правилами и принципами работы, и поэтому они позволяют себе не реагировать на запросы государств и осуществлять те действия, которые они считают нужными», — заключает Мизулина. Она уверена, что в России должен появиться закон, который обязал бы соцсети добросовестно модерировать контент и реагировать на жалобы, поступающие от пользователей, общественных организаций и правоохранительных органов.

В таком случае, если IT-гиганты не будут выполнять свои обязанности, они будут привлекаться к административной ответственности и платить крупные штрафы. Подобная система уже действует в ряде стран. Так, к примеру, в Германии три года назад был принят так называемый закон о мерах в отношении социальных сетей, известный под аббревиатурой NetzDG. Согласно этому документу, крупные платформы (Twitter, YouTube, Facebook, Instagram и другие) обязаны оперативно удалять незаконный контент, — тот, который признается таковым в уголовном кодексе ФРГ, — всего 22 раздела, включая призывы к насилию, экстремизм, оскорбление представителей власти и многое другое. Неисполнение закона грозит администрации соцсетей штрафами до 50 миллионов евро. Правительство считает исполнение закона успешным: компании стали чаще идти на контакт.

В России опыт Германии считают позитивным, однако оговаривают, что такие изменения в законодательстве не будут работать, если не обязать компании открыть юридические лица или представительства на территории страны (или назначить юридически ответственных лиц). «Проблема состоит в том, что они получают какие-то предписания, судебные решения, но их не выполняют и штрафы не выплачивают. Нужно это закрепить законодательно. По такому пути пошла и Турция, где вступил в силу закон, который мы считаем разумным и цивилизованным, — когда в отношении IT-платформ вводится обязанность по созданию юридических лиц на территории государства. Если они этого не делают, то существует ступенчатая система мер: штраф, в случае неуплаты — более крупный штраф, потом еще более крупный штраф, а в дальнейшем регулятор вправе применять какие-то технические меры, вплоть до снижения скорости предоставления услуг, снижения трафика платформы — от 25 процентов и далее до более существенного снижения. Мы считаем этот подход очень разумным, в отличие от какой-то единовременной блокировки, которая не приводит ни к каким положительным последствиям», — говорит Екатерина Мизулина. Аналогичные подходы используются при защите персональных данных россиян и в антимонопольном законодательстве. Другим вариантом решения проблемы могут стать обращения государства с исками в международные суды: такой опыт применялся уже, к примеру, в области энергетики.

Блокировка конкретной публикации в соцсети, как правило, невозможна, поскольку доступ к Facebook, Twitter, Instagram, TikTok и другим сервисам доступен не по открытому протоколу http, а по шифрованному — https. То есть любая система контроля и блокировки различает лишь адрес сайта. Президент компании «Крибрум» Игорь Ашманов уточнил, что при применении механизма блокировки в таком случае нужно угрожать банить платформу целиком, а решиться на такое действие не так просто. «Западные гиганты в каком-то смысле этим пользуются. Они считают себя не в нашей юрисдикции, некоторые из них не имеют здесь представительств, хотя бизнес ведут. И они плевали на запросы Роскомнадзора. Случаи, когда они отказываются удалять контент, исчисляются сотнями и тысячами», — говорит Ашманов.

Провайдерам и владельцам сайтов также придется следить за контентом и оперативно удалять детскую порнографию и информацию об изготовлении и употреблении наркотиков или ограничивать к ней доступ — в противном случае также придется платить крупные штрафы. Многие эксперты считают это решение верным, а некоторые — например, член Общественной палаты Никита Данюк, — даже «запоздалым».

Есть и общественные деятели, которые выражаются еще более категорично. Первый заместитель председателя комиссии по развитию информационного общества, СМИ и массовых коммуникаций Общественной палаты России Александр Малькевич уверен, что выстроить эффективное взаимодействие с IT-гигантами поможет только комплекс законодательных и силовых действий, так как сейчас эти платформы не хотят диалога, ведь их устраивает нынешнее положение дел. «Все западные площадки, работающие в России, должны иметь здесь свое представительство, это абсолютно очевидно. Во главе представительства — гражданин России, выполняем законы России, платим здесь налоги, ведем себя уважительно по отношению к российским пользователям. Если не выполняем законы и не платим штрафы, включается комплекс мер, связанных как минимум с ограничением скорости трафика и с запретом на финансовые операции российских структур с этими компаниями. То есть сейчас самая нелепая, бессмысленная и идиотская ситуация, при которой они нас унижают, а мы все это терпим, и еще отдаем им свои деньги. Так продолжаться не может и так быть не должно!» — возмущен Малькевич. В разговоре с «Лентой.ру» он отметил, что законопроект, принятый в первом чтении, очень похож на тот, который действует в Германии и Франции, а также недавно принят в Турции.

При этом внутренние правила социальных сетей не всегда прозрачны. Многие пользователи неоднократно жаловались, что администрации крупных площадок временно деактивируют аккаунты за публикацию безобидных фотографий, мемов и шуток. Под такие ограничения подпадали даже страницы публичных людей с многотысячной аудиторией. Оспорить такие решения практически невозможно. Помимо этого, широко известны случаи, когда крупные IT-платформы блокируют контент или профили, которые, по их мнению, связаны с политическими вмешательствами, — однако не предоставляя никаких доказательств. На обвинения в цензуре сервисы, как правило, никак не реагируют.

В сентябре видеохостинг YouTube ограничил доступ к документальному фильму «Беслан», объяснив такое решение тем, что в ленте демонстрируются сцены, изображающие жестокость и насилие. При открытии записи появлялось предупреждение, что «пользователи YouTube отметили ролик как недопустимый». Это расследование транслировалось на российском телевидении в День памяти жертв Беслана, а также было беспрепятственно опубликовано в сети на других ресурсах. В российском надзорном ведомстве действия сотрудников корпорации Google (владелец YouTube) назвали неприемлемыми. Прокурор Москвы подал в суд на корпорацию, потребовав отключить предупреждение и отменить обязательную авторизацию пользователей для просмотра фильма — в противном случае нарушаются права граждан.

По мнению Мизулиной, пользователей от подобной модерации необходимо защищать. «Получается система двойных стандартов со стороны соцсетей. Они нам показывают вполне успешный пример модерации, когда они проводят какую-то цензуру отдельных публикаций или отдельных пользователей по своим каким-то внутренним причинам, но при этом не занимаются борьбой с деструктивным контентом. Мы полагаем, что в закон также надо внести возможность для пользователя обжаловать такого рода решения, если он считает его неадекватным», — замечает член ОП РФ. Действительно, об этом говорят и владельцы аккаунтов в социальных сетях: пользуясь сервисом (за деньги или же бесплатно, но с просмотром большого количества рекламы), пользователь передает персональные данные, а также постоянно следует определенным принятым на площадке правилам, — однако не получая при этом никаких гарантий.

При взаимодействии с крупными IT-платформами — как иностранными, так и отечественными, судя по всему, власти откажутся от системы блокировок в пользу экономического воздействия. Игорь Ашманов считает, что это, вероятно, улучшит сложившуюся ситуацию:

Пока финансовые взыскания — единственный способ воздействия, который российское правительство рассматривает в диалоге с IT-гигантами. Другие страны пытаются применить более жесткие меры: так, в начале 2020 года немецкий Бундестаг одобрил законопроект, согласно которому онлайн-платформы, в том числе приложения знакомств, чаты и сервисы электронной почты, а также облачные хранилища обязаны выдавать представителям власти пароли пользователей, — предполагается, что это поможет в борьбе с проявлениями экстремизма. Документ подвергся критике правозащитных организаций, как он будет реализован на практике и будет ли — пока неясно.

В свою очередь в Турции вступил в силу закон, согласно которому за неисполнение требований правительства IT-компании будут сначала штрафовать, а позднее и искусственно замедлять скорость доступа к сервисам. Такая «мягкая» блокировка делает контент менее удобным для пользователей. Эксперты рынка считают, что подобные инструменты могут быть очень эффективными. «Если у вас есть два конкурирующих поисковика, и один из них начинает давать задержку от полсекунды до секунды при ответе на запрос, пользователи начинают перебегать десятками миллионов. Секунда всего лишь! Условно говоря, за месяц от замедлившегося поисковика может сбежать 10 миллионов», — поясняет президент компании «Крибрум». Скорее всего, этот механизм в турецком сценарии сработает и с соцсетями.

Софья Кадочникова