Родина знает

Точно знать, что думают, что читают и о чем разговаривают на кухнях граждане, — заветная мечта каждого тоталитарного правителя. Технологии слежки постоянно шлифовались: в дело шли прослушка телефонных разговоров, перлюстрация писем и поощрение доносов — но полный контроль установить так никому и не удавалось. И вот теперь Китай, кажется, намерен исполнить тоталитарную мечту: граждане страны уже несколько лет находятся под прицелом сотен миллионов камер, объединенных единой системой контроля и анализа изображений и распознавания лиц. На основании собранной информации искусственный интеллект каждому гражданину выставляет оценку, которая потом во многом определят всю его жизнь. «Лента.ру» разбиралась, как коммунистическая партия стремится взять каждого гражданина Китая под свой неусыпный контроль.

«Весь мир стал гигантской съемочной площадкой, и в этой студии миллионы камер смотрят на тебя отовсюду», — китайский режиссер Сюй Бин показывает свое творение: фильм, смонтированный из 10 тысяч часов видеозаписей с камер наблюдения. Нет ни актеров, ни операторов, но все персонажи связаны друг с другом, а сюжет рассказывает историю любви на фоне повседневной жизни тысяч обычных китайцев.

Новые формы киноискусства лишь отражают современную китайскую реальность. Власти КНР вкладываются в разработку все более совершенной системы распознавания лиц, которая позволит с высочайшей точностью идентифицировать человека по расстоянию между бровями, овалу щек, длине носа и форме подбородка.

Разработчики китайских компаний SenseTime Group, Face++ и DeepGlint шагнули дальше Apple с ее инновационной технологией FaceID на флагманских смартфонах iPhone X. Как уверяют китайцы, их система станет незаменимой в повседневной жизни: с ее помощью, например, можно будет запросто оплатить обед, примерить новую прическу или макияж, проследить, дошел ли ребенок до школы — не свернул ли по пути в нелегальное интернет-кафе (вход в легальные детям закрыт). Работодатель всегда будет в курсе, кто из подчиненных зарабатывает ему деньги, а кто бездельничает на рабочем месте.

Доходит до смешного: так, например, в некоторых общественных туалетах Пекина бумага выдается после сканирования лица и лишь один раз: следующей порции придется ждать 9 минут. В ресторанах сети KFC предлагают скидки тем клиентам, чье лицо система сочтет наиболее миловидным. То есть, если у вас нос не самый изящный или уши лопоухие, платить придется сполна, а вот те, чью внешность китайский искусственный интеллект сочтет достаточно привлекательной, получат скидку.

Разработчики систем распознавания лиц рассказывают о своем изобретении с оптимистичной улыбкой. «Рынок систем распознавания лиц огромен, — восхищается своим творением Чжан Шилян, ассистент профессора, специалист по машинному обучению и обработке изображений. — Безопасность для Китая чрезвычайно важна, к тому же у нашей страны такое большое население!»

«Удобство системы — вот что привлекает китайских пользователей. Управляющие компании некоторых жилых комплексов применяют распознавание лиц в качестве пропуска на территорию, а рестораны и магазины стремятся внедрить технологию, чтобы повысить качество обслуживания. Дело не только в том, что клиент может расплатиться с помощью системы, но и в том, что система предупреждает сотрудников о прибытии клиента, и они уже с порога приветствуют меня: "Здравствуйте, мистер Тан!"» — говорит консультант компании Face++.

Между тем все это можно назвать побочными эффектами. Глобальная система слежки нужна прежде всего китайскому государству. По словам представителей правящей партии, основная цель внедрения научного новшества — контроль уровня преступности и коррупции. В городе Шэньчжэнь, например, стражи порядка используют эту систему для выявления нарушителей правил дорожного движения — количество задержанных по этому поводу, правда, не приводится.

Будущее вовсе не наступило так внезапно, как может показаться. Новая технология лишь дополняет и развивает уже действующую масштабную систему по маркировке и ранжированию граждан. Еще в 2005 году правительство Китая запустило в Пекине специальную систему, которая позволяет государству контролировать поведение граждан (читай: следить за их личной жизнью) с помощью камер, установленных буквально по несколько штук на каждом углу. Творение айтишников и инженеров Поднебесной не получило громкого названия и буднично именуется «система видеонаблюдения» (CCTV, 视频监控), однако западные медиа окрестили ее SkyNet, сравнив с могущественным искусственным интеллектом из вселенной «Терминатора». К 2008 году в Пекине насчитывалось более 300 тысяч камер. Сегодня по всей стране установлено около 170 миллионов камер, а к 2020 году SkyNet обзаведется еще 450 миллионами следящих устройств.

В 2013 году с шанхайской активисткой движения за права человека, адвокатом Ли Тяньтянь произошла любопытная история. «Однажды утром я направлялась в суд на слушание и вызвала такси заранее. Полиция использовала мой телефон, чтобы отследить движение машины к моему дому. Стражи порядка уже ждали рядом, чтобы задержать меня. Те, кто разбирается в информационных технологиях, говорят, что полиция может по вашему личному телефону следить за вами и даже прослушивать разговоры», — говорит она. По ее словам, во время дружеских посиделок они с друзьями всегда уносят телефоны в другую комнату. Учитывая, как развивается система всекитайской слежки, эту осмотрительность Ли трудно назвать паранойей.

Специалисты, правда, отмечают, что у системы есть и серьезные недоработки. Например, недостаточная точность. Как только фотография, пол и возраст человека внесены в базу, система должна найти совпадения в течение 80 секунд с уровнем точности более 88 процентов. Но, по словам экспертов, средняя точность не превышает 60 процентов, максимум — 70. Таким образом, пока эту систему все же можно считать «бумажным тигром».

Один из исследователей факультета информатики Пекинского политехнического университета считает, что среди 1,5-миллиардного населения есть граждане, чьи лица почти идентичны друг другу, — таких порой не могут различить даже родители. Сейчас доступ к базам данных системы ограничен, пользоваться ими могут лишь некоторые компании, тесно связанные с министерством общественной безопасности, но более широкий доступ для «выставления оценок» неизменно приведет к утечке личной информации. Исследователь считает, что это приводит к необходимости выбора между безопасностью и правом на неприкосновенность частной жизни.

Либерально настроенные граждане Китая подвергают технологию еще более жестокой критике: «Мы практически полностью охвачены системой Sky Net, которая просто огромна и направлена на то, чтобы контролировать людей на улицах», — сообщил некоммерческой компании Radio Free Asia Ху Цзя, китайский диссидент, проживающий в Пекине.

Во время дискуссии о будущем Китая в тайваньском исследовательском институте Academia Sinica вообще прозвучали слова об «оцифрованном тоталитаризме». Профессор политологии университета Сунь Ятсена выразил озабоченность тем, что данная технология способна рубить на корню любые формы политического несогласия еще до того, как они возникнут, и назвал это «современной формой политической инженерии». Китайские интернет-пользователи тоже задаются вопросом целесообразности введения системы. «Почему же совершается так много правонарушений в отношении детей, если система рабочая?» — удивляется пользователь xianzaihe_89. «У нас вообще не остается личного пространства, все под надзором правительства!» — возмущается Neidacongmin.

Системы распознавания лиц — часть так называемой системы социального доверия или кредитования граждан, которая уже действует в ряде китайских городов. Ее концепция, представленная китайскими властями в 2014 году, заключается в том, что каждый шаг обладателя смартфона (а в Китае это около 633 миллионов человек) фиксируется и вносится в базу данных системы.

Та накапливает информацию о человеке, отслеживает его кредитную историю, лайки и шеры в социальных сетях, историю покупок на онлайн-платформах, геометки и прочее. И вовсе не для контекстной рекламы. Данные Sky Net используются для присвоения рейтинга каждому гражданину. Чем выше рейтинг, тем больше социальных бонусов: легче совершить покупку, оформить кредит, отдать ребенка в детский сад или получить медицинскую помощь. Если по какой-то причине рейтинг слишком низкий (неправильный с точки зрения партии лайк или неоплаченный штраф за мелкое нарушение), то возникает риск стать не просто социально-опасным элементом, а своего рода неприкасаемым.

Друзья, знакомые и даже семья будут опасаться контактов с таким человеком, поскольку это, в свою очередь, может понизить и их рейтинг. Публичной дискуссии о том, что правильно, а что нет, не ведется — все уже давно решено и регламентировано в высоких партийных кабинетах. Весьма ироничным выглядит то, что в стране с такой жесткой и развитой цензурой, как Китай, личная жизнь простых людей может стать доступной любому по одному клику мышки — трансляции со многих камер уже доступны в интернете.

Как же изменится жизнь в Поднебесной и что сами китайцы думают об этом? Большинство граждан КНР не слишком озабочены последствиями повсеместного введения системы распознавания лиц и слежения. Это можно объяснить старой китайской традицией: жить на виду у всех, с распахнутыми шторами и без замка на дверях китайцам приходилось долгие годы до начала экономических преобразований 1980-х.

Старшее поколение буквально делило кровать со своими родителями и братьями, дом — с соседями и сослуживцами. Понятие личного пространства стерлось из менталитета китайцев окончательно еще в Культурную революцию, бушевавшую к Китае в 60-70-е годы прошлого века и унесшую жизни сотен тысяч инакомыслящих.

С развитием экономики в период реформ рос и уровень жизни, благосостояния граждан, поэтому китайцы, родившиеся в 80-е и 90-е годы, ценят свое личное пространство: у них уже была собственная кровать или даже комната в родительском доме. Граждане КНР в возрасте до 30 лет имеют опыт учебы и работы за границей, на Западе — это тоже оставило либеральный след в их сознании. На родину они возвращаются другими людьми, с новыми идеями, далекими от официальной партийной пропаганды. Эти молодые люди не готовы обменять личную жизнь на новые блага цивилизации. Они мыслят критически и видят недостатки существующего режима.

К сожалению, пока у тех, кто не согласен с формированием общества глобального наблюдения, есть лишь два пути — встроиться вопреки своим идеалам в систему или эмигрировать в страны, где о правах человека известно чуть больше, и постить свои претензии к компартии в Twitter, которые вряд ли когда-нибудь увидят их адресаты.

Софья Мельничук