В Москве строят систему цифрового контроля над гражданами: тысячи камер, система распознавания лиц, онлайн-доступ для «товарища майора»
В прошлом году Департамент информационных технологий Москвы разработал программу «Умный город — 2030».
Через 10 лет, по планам мэрии, москвичи будут жить в цифровом мегаполисе будущего, напоминающем нечто среднее между Силиконовой долиной и Синьцзян-Уйгурским автономным районом Китая, где развернута система тотальной слежки за гражданами.
«Новая газета» попыталась разобраться, почему московские власти так увлеклись новыми технологиями и стоит ли горожанам готовиться к наступлению «цифровой диктатуры» по китайскому образцу.
Цифровой город-сад
В контекстеМосковский мэр подавляет состязательность, но меняет облик столицы Большая часть либеральной московской интеллигенции, которая часто и резко критикует Собянина, признает, что он проделал большую работу на уровне города. Люди признают, что раньше было хуже, а теперь лучше.
Москва при Сергее Собянине не только заметно «похорошела», но и стала более технологичной. Например, российская столица заняла первое место в рейтинге ООН по развитию электронного правительства за 2018 год. Мэрия шла к этому результату несколько лет, последовательно наращивая инвестиции в цифровизацию.
Чтобы сохранить этот результат, в 2020 году мэрия планирует увеличить финансирование Департамента информационных технологий города Москвы (ДИТ) на 20 %. Всего на цифровизацию в 2019–2021 годах планируется потратить практически 240 млрд рублей. По объемам финансирования программа «Умный город» приближается к расходам на развитие городской среды и коммунально-инженерной инфраструктуры.
До недавнего времени ДИТ курировала Анастасия Ракова — заместитель мэра и один из самых влиятельных чиновников в московском правительстве. По словам собеседников «Новой», в первое время Ракова участвовала во всех ключевых проектах по цифровизации и подробно вникала в каждую деталь.
— Личный вклад Собянина и Раковой в цифровизацию очень большой, — подтверждает начальник управления стандартизации и автоматизации в ГБУ «Информационный город» Иван Фост, работавший в ДИТ с 2012 по 2018 год. — Сейчас этим занимается [вице-мэр Наталья] Сергунина, у нее другой стиль управления. Но прежняя бешеная динамика уже и не нужна, ИТ-революция сменилась эволюционным развитием.
Эксперименты мэрии с внедрением цифровых технологий начались с приходом Собянина в 2010 году. Как объясняют сами чиновники, это было связано с запросом москвичей на более удобные государственные сервисы, с одной стороны, и с желанием повысить эффективность госуправления — с другой.
На этом пути правительство Москвы прошло несколько этапов.
Первый и самый простой — первичная автоматизация: отказ от бумажной работы и переход на электронный документооборот (2010–2012 годы). Второй этап — информатизация, когда необходимо синхронизировать друг с другом несколько автоматизированных процессов (2012–2016 годы).
Пару лет назад начался третий и пока последний этап — цифровизация, которая предполагает активную работу с большими массивами данных.
«Можно представить себе эти этапы на примере вызова такси, — рассказывает Фост. — Когда вы поднимаете руку — это самый примитивный подход. Звонок в диспетчерскую — это первичная автоматизация. Информатизация — это когда в диспетчерской есть облачная бухгалтерия, записана история клиента и все эти процессы связаны друг с другом.
И третий этап — это Uber, когда весь процесс заказа такси завязан на работу с данными».
На первом этапе был «тихий ужас», вспоминает Фост: приходилось продираться через бюрократические жернова регламентов, а цифровая культура среди чиновников отсутствовала напрочь.
«Первые 2–3 года 90% департаментов были настроены к нам враждебно. Сначала их заставили, но потом им понравилось. Со временем многие переучились и стали сами генерировать идеи», — говорит он. Появился ряд сквозных проектов — например, приложения «Наш город» и «Активный гражданин» для обратной связи с москвичами, — в которые невольно стали втянуты все чиновники, в том числе территориальные управы и префектуры.
Помимо желания сделать городские сервисы лучше, мэрией двигали и гораздо более прагматичные побуждения. Как отмечает социолог Петр Иванов,
цифровизация — это самый простой способ попасть в международный рейтинг, по которому начальство оценивает работу госорганов.
— Работать с ИТ для международного рейтинга намного легче, чем с экологией, градостроительной политикой или социальной поддержкой, — говорит эксперт. — Это все сложные и комплексные задачи. А система «умного города» гораздо проще в воплощении из-за того, что правительство Москвы здесь действует в чистом поле. Все можно сделать с нуля, не вступая в большое количество конфликтов и общественных дискуссий.
Распознают всех
Впрочем, по отдельным резонансным проектам общественные дискуссии все же возникают.
Так, московские власти очень много внимания уделяют городской безопасности, в частности, введению «передовой инфраструктуры видеонаблюдения, видеоаналитики и системы распознавания лиц».
Слухи о подключении московских камер видеонаблюдения к системе распознавания лиц появились в 2016 году. Тогда стало известно, что правительство Москвы ведет переговоры с NtechLab — стартапом, разработавшим технологию FindFace.
Этот сервис позволял найти профиль человека в соцсети «ВКонтакте» по фотографии, но летом 2018 года закрылся. С того момента NtechLab стал «дочкой» «Ростеха» и начал плотно сотрудничать с госструктурами.
Пилотный проект введения «умных» камер стартовал в Москве в 2017 году. По данным мэрии, в сентябре того года к системе распознавания подключили более 3 тысяч CCTV.
Славу системе принес чемпионат мира по футболу — 2018.
Во время мундиаля в нескольких городах проведения матчей полиция смогла задержать более 180 человек, включенных в базы правонарушителей и федеральный розыск. Для этого потребовалось всего 500 камер.
Всерьез за внедрение «умных» камер власти взялись в 2019 году. В мае мэр Москвы Сергей Собянин анонсировал конкурс на создание масштабной системы распознавания лиц, которая должна охватить более 200 тысяч CCTV. По заявлениям мэрии, уже к осени для запуска системы было обновлено 40 % из установленных на данный момент 162 тысяч камер. Над проектом работает «дочка» АФК «Системы» «Ситроникс».
К концу этого года компания должна подготовить техническое решение для использования алгоритма и юридическое заключение касательно его законности.
В городских реалиях технология распознавания работает следующим образом. Камеры CCTV транслируют в систему видеопоток, алгоритм разбивает его по кадрам и фиксирует на каждом из них человеческие лица. Затем специально обученная нейросеть строит вектор признаков, который позволяет идентифицировать человека.
Если алгоритм настроен достаточно хорошо, то ни угол обзора, ни освещенность, ни всевозможные прикрытия в виде очков или бороды не помешают распознаванию.
После этого полученную информацию сопоставляют с загруженной в систему базой данных. Если совпадение найдено, программа посылает соответствующее уведомление. Весь процесс занимает не больше пары секунд.
— Камеры в автоматическом режиме проверяют проходящих мимо людей и сравнивают их со списком [розыска]. Если совпадения нет, то фотография удаляется и ничего не происходит. Если есть, то она отправляется сотруднику полиции, чтобы он принял решение,
— рассказывал «Новой» основатель NtechLab Артем Кухаренко. По словам Кухаренко, этических рисков эта технология не несет, потому что конечный выбор «все равно всегда остается за человеком».
Нейросети умеют идентифицировать человека не только по лицу, но и по силуэту. Это нужно в ситуациях плохого обзора — например, когда человек прошел мимо камеры спиной. При этом скрыться от камер практически нельзя — CCTV могут распознавать личность человека, даже если его лицо скрыто под маской.
Криминалисты Следственного комитета РФ недавно заявляли, что для идентификации человека достаточно точек его черепа. Из-за того, что такие параметры, как форма черепа, разрез глаз и конечные кромки губ не меняются в течение всей жизни, а маска их обычно не скрывает, предполагаемого преступника можно вычислить с точностью в 60–70%.
Китайский старший брат
В контекстеКрест и полумесяц в тени звезды Отчаявшись ассимилировать уйгуров мирными методами, к середине 2010-х Пекин, судя по всему, взялся за «окончательное решение уйгурского вопроса». Синьцзян фактически превращен в «концлагерь под открытым небом»: в районе предпринимаются беспрецедентные меры контроля.
В развитии городской системы видеонаблюдения Россия тесно сотрудничает с Китаем. Летом замруководителя Департамента внешнеэкономических и международных связей города Москвы Илья Кузьмин сообщил, что правительство города отправляет делегации в Пекин, чтобы изучить системы видеонаблюдения и аналитические системы, которые обрабатывают данные после их сбора.
«Технооптимизм» в Китае напоминает эпизод антиутопического сериала «Черное зеркало». С 2014 года в Китае тестируется система социального рейтинга, по которой гражданам начисляют баллы за «достойное» поведение. Самые распространенные наказания за проступки (от неуплаты налогов до покупки слишком большого количества видеоигр) — запрет на авиаперелеты и поездки на поезде.
Санкции ввели в мае 2018-го, а к концу года Национальный общественный информационный кредитный центр КНР отчитался, что
из-за рейтинга билеты на самолет не смогли купить 17,5 миллиона раз, на поезд — 5,5 миллиона. 128 гражданам запретили выезд за границу.
Систему идентификации лиц в Китае начали вводить еще в 2016 году. Сейчас с помощью лица здесь можно оплатить чек в KFC, снять наличные в банкомате и получить туалетную бумагу в общественном туалете. Кроме того, в Китае невозможно потеряться. Благодаря 20 млн CCTV, подключенных к системе распознавания лиц, китайские полицейские способны найти человека даже в толпе в шестьдесят тысяч человек.
Большая часть «умных камер» приходится на Синьцзян (регион, граничащий с Россией, Монголией, несколькими странами Центральной Азии, Индией и Пакистаном).
Усиление цифрового контроля началось здесь в 2014 году, после волны террористических актов со стороны уйгурских боевиков, вызванных убийствами рабочих в Южном Китае в конце нулевых (в 2009-м после массовых протестов в округе на год отключили интернет).
В прошлом году Human Rights Watch опубликовал доклад о преследовании уйгуров (мусульманское меньшинство) в Китае. По данным организации, сейчас за народом организована тотальная слежка, в округе распространены массовые задержания, а за излишнюю религиозность жители могут попасть в воспитательные лагеря.
Кроме того, за передвижениями граждан следят с помощью специального приложения, которое передает в полицию идентификатор устройства, его модель и номер владельца.
Поддержку мощной инфраструктуры видеоконтроля обеспечивает CEIEC — госкомпания, которая работает не только в границах Китая, но и на экспорт. Филиалы компании открыты в Венесуэле, Бразилии, Алжире, Египте и других странах Южной Америки и Африки.
В Европе отделение CEIEC работает пока только в Москве.
В плане цифровизции Москва скорее равняется не на весь Китай, а только на Гонконг, считает социолог Петр Иванов. Например, в Москве по примеру гонконгских коллег в конце 2018 года начали заниматься «умными» фонарями. Проект ведет АО «Объединенная энергетическая компания».
В этом году она планируют установить 17 тысяч устройств, которые собирают информацию о погоде, а также могут производить учет имущества на складах. Некоторые из них также могут быть оснащены «умными» камерами.
Для введения повсеместной слежки нужно серьезное целеполагание на уровне страны.
В России пока нет для этого экономических и социальных предпосылок, считают эксперты.
В Китае есть серьезная база под цифровизацию и цифровую сегрегацию, которая обеспечивается за счет камер и карточек горожан, — резюмирует Иванов. — Они решают так проблемы, для которых в Европе есть демократические процессы. В этом плане Россия пока что больше европейская страна. У нас распознавание лиц скорее превратится в опасную игрушку силовиков, чем в инструмент массовой социальной инженерии.
В России все еще низкий уровень цифровизации, а у властей недостаточно мотивации для организации массовой слежки, согласен политолог Малек Дудаков. Однако даже без превращения в «цифровой концлагерь» эта технология может нести серьезные риски для москвичей.
Слежка без границ
В контекстеПобеда, обернувшаяся поражением Если какие-то фильтры, например, в виде сбора подписей, уберут, то придумают новые, похлеще прежних. Точно так же против некоторых участников протестов уголовные и административные дела, может быть, и прекратят, но только для того, чтобы завести новые дела против других участников.
Сейчас в России отсутствует законодательство, которое регулировало бы распознавание лиц. По закону «О персональных данных» биометрию разрешено использовать только с согласия человека, и это ограничение может быть снято в исключительных случаях — для противодействия терроризму, защиты общественного порядка и обороны.
По культуре использования биометрических данных граждан Россия сейчас находится где-то между Сан-Франциско и Пекином, говорит юрист «Роскомсвободы» Саркис Дарбинян.
Стартом кампании против введения системы идентификации в Москве стал иск активистки Алены Поповой, которую Тверской районный суд оштрафовал на 20 тысяч рублей после проведения одиночного пикета у здания Госдумы. В основе обвинения лежала запись с камеры видеонаблюдения, на которой лицо заявительницы было выявлено при увеличении изображения в 32 раза.
Попова уверена, что это признак незаконного использования биометрических данных и нарушение права на частную жизнь, которое гарантирует Конституция.
Формулировки закона «О персональных данных» очень размытые, они оставляют огромный шлюз для злоупотребления системой и нетаргетированной слежки, говорит Дарбинян.
— Власть мотивирует введение системы тем, что она необходима для обеспечения общественного порядка, но в законодательстве нет никаких положений, которые бы предусматривали порядок доступа к системе, надзор за несанкционированным доступом и утечками данных, — объясняет Дарбинян. — Общая проблема российского законодательства заключается в том, что ни офлайн-, ни онлайн-слежение сейчас не имеет четких критериев: когда это допустимо и в отношении какого круга лиц.
Получается, что действия силовых структур никак не регламентированы, а ведь в системе могут быть ложные срабатывания.
Классический пример — финал Лиги чемпионов — 2017 в Великобритании, когда в системе распознавания лиц почти 92 % из 2470 совпадений оказались ложноположительными .
А летом 2018 года участники Американского союза гражданских свобод прогнали через сервис Amazon Rekognition фотографии всех американских конгрессменов и сравнили их с базой данных преступников, лежащей в открытом доступе (25 тысяч снимков). В итоге программа приняла за правонарушителей 28 членов конгресса.
Особенно опасным это может стать в будущем, когда основной заботой силовиков станет не ликвидация последствий преступлений, а их «прогнозирование и предотвращение» на основании «больших данных».
— Представим, что московская система распознавания лиц сообщает, что идет террорист, — моделирует ситуацию Титов. — В каком законе прописано, что делать дальше? Этот вопрос очень важный, потому что системы распознавания лиц не бывают абсолютными, точность этой системы зависит от тысячи факторов.
Если идет террорист, то, наверное, следует вызывать спецназ. А если это окажется просто пенсионер?
Исчезновение анонимности — риск не только правовой, но и экзистенциальный. Технологии фактически не оставляют места для приватности и личного пространства.
— Раньше большой город позволял людям быть разными. Сегодня ты профессор в университете, завтра — рок-музыкант, послезавтра — гонщик «Формулы-1». Это были абсолютно не связанные вещи. Теперь граница между частной и публичной сферой пропадает. Кроме того, маркетологи будут знать не только наши запросы в интернете, но и то, в чем, куда и когда мы ходим, — предупреждает социолог Петр Иванов.
Еще один риск введения системы идентификации — масштабные утечки. В России и так проблемы с безопасностью данных (чего стоят только утечки из Сбербанка), а слив централизованной базы с биометрической информацией москвичей может привести к катастрофическим последствиям.
Неуловимая технология
В контекстеСобянин становится «ужасом» в глазах граждан Противники проекта считают его «непрозрачным» и крайне удобным для манипуляций, тем более что в списке домов под снос находятся не только ветхие панельные дома, но и кирпичные в хорошем состоянии.
Главный вопрос — можно ли использовать технологию распознавания, пока все эти проблемы не будут решены. В октябре юристы «Роскомсвободы» опубликовали заявление с требованием ввести мораторий на использование систем идентификации, который включал бы в себя признание незаконными действия правительства Москвы и столичного ГУВД по применению технологии распознавания лиц.
— Россия все еще не стала страной с адекватной защитой данных, у нас нет независимого регулятора, который занимался бы вопросами приватности. Сейчас для этого есть только Роскомнадзор, который не соответствует критерию независимости, — рассказывает Дарбинян. — Нужно ввести ряд новых нормативных положений, уточнить случаи и основания, когда технологии распознавания лиц могут быть использованы. До тех пор, пока эта работа не проделана, в России должен быть введен мораторий на использование властями этой технологии.
В требовании ввести мораторий юристы «Рокомсвободы» не первопроходцы. Подобный запрет в этом году ввели сначала в Сомервилле (штат Массачусетс), а потом в Калифорнии.
Первое судебное решение об использовании полицией технологии распознавания лиц было вынесено Высоким судом Лондона в сентябре. Активист Эд Бриджесс заявил, что полиция дважды неправомерно сканировала его лицо, в том числе во время акции протеста в Кардифе. По его словам, автоматическое распознавание лиц равносильно взятию проб ДНК или отпечатков пальцев без согласия человека. Впрочем, этот иск участники кампании проиграли. Но попытки ограничить использование технологии на этом явно не закончатся.
— Недавно в Швейцарии регулятор привлек к административной ответственности школу за то, что она использовала биометрии учеников, — рассказывает Дарбинян. — Администрация школы заявляла, что у нее есть согласие на использование данных, но регулятор посчитал, что из-за зависимого положения школьники не могли его не дать.
С введением моратория, правда, есть свои сложности. Во-первых, до конца неясно, на какие сервисы его следует распространить. Во-вторых, выявить тех, кто использует сервисы идентификации незаконно, технически крайне сложно. Запрет системы на законодательном уровне даже на несколько лет фактически является утопией, считает Титов.
— Подумайте, например, о наркотиках: их можно достать даже там, где они запрещены. И это еще физические объекты, а распознавание лиц — это технология, которую уловить очень сложно, — резюмирует эксперт.
Кроме того, большинство россиян не слишком щепетильно относятся к своим персональным данным, а тем более к биометрии.
— В отличие от США, у нас нет движения за сохранение конфиденциальности данных. Раз нет общественного давления, то нет и желания вводить мораторий, — комментирует политолог Малек Дудаков.
Нежелательные лица
В контекстеА давайте Telegram пропустим через рамки? В терактах виноваты не компания «Телеграм», не компания «Рено», не Бертольд Шварц, изобретатель пороха... Виновниками терактов являются ровно две инстанции. Это сами террористы, которые хотят совершить теракт, и это спецслужбы, которые его проморгали.
Во всяком случае, российское руководство приостанавливать цифровизацию точно не собирается. Акцент на новые технологии играет важную роль в обеспечении транзита власти в 2024 году, который должны обслуживать прогрессивные «технократы», говорит руководитель программы «Российская внутренняя политика и политические институты» Московского центра Карнеги Андрей Колесников.
— Цифровизация создает для власти прогрессивный имидж, тем более что весь мир сейчас этим занимается, — считает эксперт.
Модернизация необходима для выживания текущей политической системы, считают эксперты, а повсеместное введение технологий должно создать более удобное «новое чиновничество», которое обеспечит прозрачность и управляемость различных сфер общества. В таких условиях идеальным бюрократом будет получеловек-полуробот, отмечает Колесников.
С ним солидарен политолог Аббас Галлямов.
— Увлечение технологической стороной модернизации вообще характерно для авторитарных режимов. В остальных сферах авторитарная власть вынуждена выступать в качестве консервативной, а нередко и откровенно ретроградной, — объясняет Галлямов. — Поэтому авторитарные правительства и пытаются компенсировать эту архаику технической модернизацией.
Но даже больше, чем «молодыми технократам», плоды технологической модернизации выгодны силовым структурам. Из инновационного метода борьбы с преступностью система распознавания лиц в один миг превращается в репрессивную машину. Под прицел «умных» камер уже сейчас часто попадают люди, неугодные власти, как в случае с Аленой Поповой. Существуют специальные сайты, «разоблачающие» участников оппозиционных митингов с помощью систем распознавания лиц (например jesuismaidan.com).
— Допустим, МВД и ФСБ знают, что некто — политический активист или правозащитник,
— моделирует ситуацию Иванов.
— Если этот человек идет по направлению к зданию с чем-то похожим на плакат, его заранее можно задерживать, даже если ничего незаконного не планировалось. Вдруг у него на уме антиправительственная акция? То есть от презумпции невиновности ничего не остается.
Такая цифровизация поможет властям усовершенствовать методы борьбы с протестной активностью. Недавно ученые из Центра компетенций НТИ «Центр технологий распределенных реестров СПбГУ» разработали программное обеспечение для выявления нежелательного контента (определенных жестов, действий и предметов в руках). Прямое предназначение алгоритма — применение ПО в качестве фильтра для видеохостингов. Однако, как заявляют разработчики, программу можно использовать и в общественных местах.
Задержания, аресты и уголовные дела, как показали московские события прошедшего лета, привлекают к себе очень много внимания и не всегда приводят к нужным для силовиков последствиям. Гораздо эффективнее воздействовать на финансовые стимулы горожан.
— Они попробовали [бороться с демонстрациями] силовыми сценариями, но оказалось, что работает это плохо, а выглядит еще хуже,
— говорит источник «Новой» в окружении администрации президента.
— С помощью системы распознавания лиц, если подключить ее к профилям людей в соцсетях и на госуслугах, можно рассылать людям штрафы, как сегодня их рассылают автомобилистам.
При таком раскладе на бульварах не будет никакой Росгвардии, и перед гражданами встанет вопрос не «стоит ли идти на митинг», а «сколько этот митинг будет мне стоить».
Выбирай по-умному
Кроме того, в этом году Россия впервые испытала опыт цифровизации электоральных процессов. 8 сентября на выборах в Московскую городскую думу избиратели трех округов могли проголосовать удаленно, через сайт мэрии Москвы mos.ru.
Для одного округа итог интернет-голосования стал решающим: вместо независимого самовыдвиженца Романа Юнемана мандат получила кандидатка от «Единой России», несмотря на то что на обычных участках Юнеман лидировал.
Споры вокруг электронного голосования начались еще до выборов. В августе ДИТ решил устроить публичную проверку системы и предложил всем желающим ее взломать. Глава Общественного штаба по наблюдению за выборами Алексей Венедиктов даже предложил щедрую награду для успешного «хакера» в полтора миллиона рублей.
Таким счастливчиком мог бы оказаться французский криптограф Пьеррик Годри, который за 20 минут вычислил секретный ключ шифрования и с его помощью узнал, кто и как проголосовал. Специалист справился с взломом с помощью обычного персонального компьютера и бесплатного программного обеспечения.
Несмотря на то что позже с теми же результатами опыт повторила Meduza, ДИТ от электронного голосования не отказался, а сам взлом отрицал. Как потом заявил Венедиктов, криптограф лишь смог обнаружить «уязвимости» системы, которые оперативно «заштопали».
На выборах электронное голосование все равно дважды слетало, и перед избирателями на экране вместо бюллетеня возникала надпись «ошибка 404». Как отмечал в разговоре с «Новой» сопредседатель «Голоса» Григорий Мельконьянц, это привело к ситуации, не предусмотренной российской нормативной базой.
Кроме технических неполадок, которые со временем реально устранить, чрезмерное увлечение цифровизацией в политике чревато имитацией демократических процессов. Как отмечал профессор «Шанинки» Григорий Юдин, на практике такие голосования очень часто используют именно автократические режимы, подменяя ими публичные дискуссии и гражданские движения.
— Электронное голосование — это отличный способ свести любой демократический процесс к чисто административной задаче, к нажатию одной кнопки из дома,
— говорит эксперт.
С помощью электронных ресурсов провести следующие выборы с нужной явкой и регулируемым результатам проще простого.
Можно обойтись даже без грубых фальсификаций, которые являются неотъемлемыми спутниками очных голосований, используя более тонкие механизмы управления человеческим поведением.
При этом масштабного использования IT-сервисов мэрии на ближайших выборах все же ожидать не стоит, считает политолог Михаил Виноградов.
— Такие подозрения во время выборов–2019 вызвали существенный резонанс, — говорит эксперт. — С учетом настороженности общества внимание к теме наверняка будет повышенным, чтобы не допускать заметных злоупотреблений. В целом цифровизация — это мировой тренд. Вопрос в том, как и в чьих интересах он используется.
В российском обществе есть устойчивое ощущение, что государство — это враг, даже когда оно делает что-то полезное, считает бывший сотрудник ДИТ Иван Фост.
— Конечно, во власти находятся прагматичные люди, которые думают о своих рейтингах. Но создавать видимость цифровизации, чтобы самим плитку по 30 раз перекладывать, — нет, такого плана не было. По крайней мере, мы, как рядовые чиновники, были уверены, что делаем хорошее дело.
* * *
Дарья Козлова, Арнольд Хачатуров
«Новая газета»