Технологии распознавания лиц в уголовном судопроизводстве: проблема оснований правового регулирования использования искусственного интеллекта | Вестн. Том. гос. ун-та. 2019. № 449. DOI: 10.17223/15617793/449/25

Технологии распознавания лиц в уголовном судопроизводстве: проблема оснований правового регулирования использования искусственного интеллекта

Обобщены современные практики внедрения в общественную жизнь и практическую деятельность технологий видеонаблюдения и распознавания лиц. Проведен анализ нормативно-правового регулирования данной деятельности в различных государствах. Показан фундаментальный характер возникающих этико-правовых проблем. Определено, каким требованиям должно отвечать нормативное регулирование применения технологий, основанных на деятельности искусственного интеллекта вообще и систем распознавания лиц в частности.

Facial Recognition Technologies in Criminal Proceedings: Problems of Grounds for the Legal Regulation of Using Artificia.pdf Современное общество находится на этапе глобального перехода к новому технологическому укладу, связанному с «цифровой революцией», значение которой определяется не только изменениями в технологиях, но и, в неменьшей (если не в большей) степени, коренной перестройкой состояния общественных институтов, включая формы и модели организации общества, механизмы государственного управления, а также общественные системы ценностей и идеологии. Все формы взаимодействия субъектов социума прямо определяются материально выраженными технологиями взаимодействия, так что фундаментальная проблема не только правоведения, но и гуманитарного знания в целом заключается в теоретической экспликации роли техники в социальных процессах, выявлении совокупности этико-аксиологических проблем, создаваемых научно-техническим прогрессом, отыскании форм опережающего или по крайней мере не запаздывающего правового реагирования. Цифровые технологии создают «третью природу», новую форму действительности, существенно отличающуюся не только от искусственной природы «века прогресса», но и от техносреды «атомного века». В имеющемся на настоящий момент разнообразии экономических, социологических и исторических способов обоснования научно-технического прогресса, определения его влияния на социальные процессы следует руководствоваться, на наш взгляд, концепциями, в которых техника - в виде однажды изобретенных и далее объективно существующих инструментов (технологий) достижения целей человека - понимается как основа всякой материальной культуры [1]. Общая логика развертывания научно-технического прогресса связана с преобразованием окружающей человека среды, изначально - естественной природы. Пока технические возможности человечества ограничивались созданием артефактов в области физического мира, гуманитарная деятельность и право могли опираться на этические кодексы традиционных религий и устоявшиеся, складывавшиеся столетиями мировоззренческие принципы тех или иных национальных культур. Однако с развитием кибернетики функции технических объектов не исчерпываются исполнением целей человека в физическом мире, но все более и более затрагивают нефизические сферы: мышления, эмоций, принятия решений и т.п. В первой трети XXI в. возникают технологии, радикально меняющие доступ человека к физической и социальной реальности, к самому себе. Это технологии «искусственного интеллекта» в самом общем смысле этого термина, подразумевающие наличие в человеческом окружении таких технических объектов, которые обладают сопоставимым с человеком или превосходящим его доступом к объективной реальности, причем этот «доступ» может осуществляться как рецептивно, так и проективно: технический объект превращается в технический субъект, функционирующий не только в режиме (пассивного) познания, но и режиме (активного) воздействия на действительность. В результате возникает ряд этических и правовых проблем как фундаментального, так и сугубо прикладного характера. В первом случае следует говорить об этике искусственного интеллекта, понимая под проблемой ряд задач осмысления фундаментальной трансформации трихотомии свой / другой / чужой, оценки социально-гуманитарных последствий масштабного внедрения «интеллектуальных» технологий, обеспечения национальной безопасности в новых технологических условиях. Во втором случае следует анализировать возможные и необходимые формы реакции правовых систем на технологические вызовы, накапливать и обобщать опыт правового регулирования возникающих явлений, изучать и фиксировать приемлемые формы трансформации права в новых условиях [2]. Один из наиболее ярких примеров этико-правовых проблем прикладного характера - активное использование интеллектуальных систем видеонаблюдения, имеющих функцию распознавания лиц, а также анализа поведения наблюдаемого лица. Интеллектуальные системы видеонаблюдения активно внедряются не только в деятельность органов внутренних дел и государственного управления, но и в деятельность коммерческих организаций (транспортных организаций, банков, супермаркетов, кафе), поскольку результаты обработки визуальной информации с применением нейронных сетей могут не только использоваться для предотвращения, раскрытия и расследования преступлений, но и обеспечивать безопасность, облегчать доступ к финансовым продуктам и повышать продажи. На данный момент лидером по массовости и эффективности использования камер видеонаблюдения и поиска людей с их помощью, а также в области распознавания лиц с помощью специального оборудования можно назвать Китай. По официальным данным, в 2017 г. в стране были установлены 176 млн камер, еще около 450 млн планируется установить до 2020 г. (для сравнения, в США их около 50 млн). Неизвестно, сколько китайских камер оборудованы системой распознавания лиц, но, по задумке властей, к 2020 г. искусственный интеллект сможет за три секунды узнать в лицо каждого из почти 1,4 млрд жителей страны. Система распознает идущего по улице человека и может отправить необходимый сигнал правоохранителям: человек имеет неоплаченные штрафы / уклоняется от уплаты алиментов / находится в розыске [3]. С помощью этой технологии китайское правительство сможет собирать гигантский объем информации о своих гражданах. Объединив эти данные с базами полиции, банков и онлайн-сервисов, власти планируют с 2020 г. ввести по всей стране так называемый рейтинг общественной надежности. Каждому жителю будет присваиваться определенное количество баллов, исходя из его поведения. На основе этих баллов ему будут открывать (или закрывать) доступ к таким привилегиям, как туристические визы, социальные пособия или выгодные ставки по кредитам. Распознавание лиц нередко используется в социально значимых целях. Так, компания Marinus Analytics использует искусственный интеллект в сервисе Amazon Rekognition для разработки инструментов, таких как Traffic Jam, которые позволяют правозащитным агентствам выявлять жертв работорговли и определять их местоположение. Эксперты экономят ценное время за счет анализа изображений при автоматическом поиске среди миллионов записей в течение нескольких секунд. Ранее этот процесс требовал индивидуального анализа с привлечением специалистов [4]. Другой пример - финансовая компания Aella Credit, расположенная в Западной Африке и предлагающая банковские услуги через мобильное приложение лицам, не имеющим доступа к основным финансовым услугам на новых рынках. Благодаря функциям обнаружения и сравнения лиц компания Aella Credit осуществляет проверку личности без вмешательства человека. Такой простой сценарий использования технологии распознавания лиц позволяет получить доступ к финансовым услугам лицам, которые иначе не смогли бы его получить. «Умные» системы видеонаблюдения используются в правоохранительной деятельности. Так, еще по состоянию на 2013 г. в Великобритании число установленных видеокамер приближалось к четырем миллионам, Часть из них способны отслеживать, нет ли на теле проходящего человека каких-либо подозрительных предметов, а также распознавать лица людей, находящихся в розыске [5]. В нашей стране сегодня также применяются системы распознавания лиц. Эта практика находится в стадии становления, и первопроходцем здесь является столица. Так, в Московском метрополитене в 2019 г. начали тестировать систему биометрической идентификации. На данный момент камеры видеонаблюдения с новой функциональностью установлены на всех турникетах двух станций метро, а именно на станциях «Октябрьское Поле» и «Сухаревская». Сейчас распознавание лиц осуществляется для обеспечения безопасности, а в будущем оно может быть использовано и для оплаты проезда. Система на основе искусственных нейросетей, которую внедряет авиакомпания S7, позволяет идентифицировать пассажира, просканиро-вав его лицо. Сейчас она работает в московском аэропорту Домодедово в тестовом режиме. «Умные» камеры позволяют попасть, не доставая документов, в бизнес-зал в зоне вылета рейсов по России [6]. Подобные практики внедряются и в банках, предлагающих гражданам оставить свои биометрические данные, для удобства обслуживания и повышения безопасности банковских вкладов. Аппаратно-программные комплексы технических средств «Безопасный город» функционируют в городах в целях мониторинга и предупреждения различных угроз общественной безопасности, правопорядку и безопасной среде обитания. Одним из направлений реализации данного комплекса является предупреждение и выявление правонарушений посредством системы наружного видеонаблюдения, из которой видеоинформация поступает в дежурные части органов внутренних дел [7]. Первые 1 500 камер с технологией распознавания лиц протестировали в Москве в 2017 г., а в 2018 г. в столице к системе подключили уже более 7 000 камер. До конца 2019 г. власти Москвы планируют объявить конкурс на создание новой системы распознавания лиц, которая должна охватить более 200 тысяч камер города [8]. Изначально сотрудники московской полиции скептически относились к технологии, однако успешные результаты эксперимента их переубедили. Согласно отчетам МВД за два года (2018-2019) - 1 000 умных камер, расположенных у подъездов жилых домов, помогли задержать 90 разыскиваемых людей. Также система распознавания лиц, внедренная на станциях метрополитена, позволила проводить по 5-10 задержаний ежемесячно [9] . Камеры самостоятельно сопоставляют лица из видеопотока с базой данных людей, находящихся в розыске, и в случае совпадений сообщают находящемуся рядом сотруднику полиции. Отмечается тенденция внедрения данной системы и в других городах России. Так, на улицах Екатеринбурга в ближайшее время начнут устанавливать камеры, оснащенные системой распознавания лиц. Такое заявление сделал в эфире радиостанции «Серебряный дождь» директор «НПО Автоматики» Андрей Мисю-ра. По его словам, первые камеры появятся в микрорайоне «Академический». Искусственный интеллект должен будет анализировать поведение жителей района. «Сотрудничество подразумевает организацию интеллектуального пространства, включающего в себя системы управления потоками личного, служебного и общественного транспорта, интеллектуальное парковочное пространство и системы планирования маршрутной дорожной сети» [10]. В тестовом режиме работает и система цифрового распознавания лиц на железнодорожном вокзале Самары, о чем сообщает правительство Самарской области. Но, кроме этого, систему распознавания лиц планируют внедрить на станциях метрополитена, на центральном автовокзале и на набережной реки Волги. Впервые систему по распознаванию лиц использовали на чемпионате мира по футболу - 2018. Благодаря системе во время чемпионата удалось выявить 27 человек, в том числе пять иностранцев, ранее совершавших противоправные действия, а в 2019 г. распознать и задержать двух правонарушителей [11]. Более того, нейросети, осуществляющие распознавание лиц, способны и более «активно» участвовать в обнаружении и раскрытии преступлений, реагируя на выявляемое ими «подозрительное» поведение или обнаруживая «подозрительное» видеоизображение. Так, в Китае мужчина задушил свою подругу, после чего взял ее смартфон и запустил банковское приложение Money Station, чтобы снять с ее счета 4 200 долларов, из-за которых и произошла ссора. Данное приложение использовало для доступа к финансовым операциям функцию распознавания лиц, поэтому мужчина продемонстрировал на камеру лицо убитой девушки. Однако искусственный интеллект, обрабатывающий биометрическую информацию, распознав неподвижное лицо женщины, не только не предоставил злоумышленнику доступ к банковскому счету жертвы, но и «забил тревогу», дав персоналу банка сигнал, чтобы они самостоятельно посмотрели на ее лицо. Сотрудники банка заметили, что на ней есть синяки и странный след на шее, похожий на тот, что остается от удушья, нашли место нахождения женщины по геолокации и вызвали полицию. В результате полиция задержала убийцу в тот момент, когда он пытался сжечь тело жертвы [12]. Использование технологии распознавания лиц может существенно облегчить человеческую деятельность. Эта функция используется во многих смартфонах в качестве средства идентификации владельца. Ряд крупных компаний используют системы распознавания лиц вместо обычных пропусков в своих системах безопасности. Так, в компании СИБУР технология распознавания лиц используется для идентификации работников и посетителей в системе управления доступом в офис, а также для оплаты питания в корпоративной столовой. Использование технологии позволило упростить режим получения доступа на территорию гостями - они могут воспользоваться для пропуска на территорию киоском самостоятельной регистрации [13]. Предполагается, что используемая в аэропорту Домодедово система, включающая модуль распознавания лиц, может сделать существенно более удобным пребывание пассажиров на территории аэропорта, например, вместо объявлений с фамилиями опаздывающих пассажиров будут приходить индивидуальные напоминания по SMS о том, что пассажиру пора пройти контроль безопасности или пройти на посадку [6]. Зачастую технологии распознавания лиц начинают применяться в бизнесе для увеличения продаж, сокращения расходов, создания более персонализированного сервиса, и не всегда это происходит с согласия субъектов, изображения которых анализируются нейронными сетями. Например, в ряде магазинов, торговых центров и даже в кафе и ресторанах технология распознавания лиц используется для того, чтобы обнаружить людей, ранее внесенных в «черный список» (например, за попытку что-то украсть), проанализировать поведение покупателя / клиента (например, его покупки, привычки, маршрут перемещения по территории торгового комплекса), его эмоции и удовлетворенность посещением магазина / кафе (система анализирует - есть ли на его лице улыбка и сигнализирует, обнаружив недовольного клиента), с тем чтобы увеличить продажи и повысить лояльность к сети [13, 14]. Заодно некоторые системы осуществляют среди посетителей поиск по базам правоохранительных органов [13]. Другие направления применения данной технологии еще более явно вторгаются в частную жизнь граждан. Например, в одной из школ китайского города Ханьчжоу появилась система, которая каждые несколько минут анализирует выражение лиц учащихся, отслеживает, чем занимаются дети и что они едят в школьной столовой [15]. Это вызывает страх того, что с развитием технологий видеонаблюдения и распознавания лиц право граждан на неприкосновенность частной жизни может быть фактически утрачено. По мере того как алгоритмы компьютерного зрения становятся все эффективнее, у людей почти не остается шансов вырваться из-под негласного наблюдения. Причем, как уже было показано, собранные данные могут использоваться не только для правительственного контроля, но и в коммерческих целях. Другая проблема применяемых технологий распознавания лиц - их несовершенство, ведущее к возможности ошибочного распознавания. Конечно, его точность сильно возросла за последние несколько лет. Согласно оценкам самих компаний, разрабатывающих соответствующие алгоритмы, на сегодняшний день точность распознавания колеблется от практически 100% в ситуации, когда решается проблема верификации, т.е. проверки тождества личности (например, при работе в системах охраны), до примерно 80% точности, когда речь идет об огромных выборках (более полумиллиарда фотографий). Более того, производители, например, утверждают, что современные технологии позволяют узнать человека, даже если 40% его лица закрыта, в дальнейшем этот критерий планируется довести до 50%. Не являются для них помехой и очки, борода, усы, прическа, парик, макияж. Более того, утверждается, что если нужно идентифицировать человека, а его исходная фотография двадцати- или тридцатилетней давности, для системы никакой разницы нет: она убирает все возрастные изменения лица и практически мгновенно выдает результат [16]. Оценки, сформированные в ходе практики применения интеллектуальных систем видеонаблюдения, более чем существенно отличаются от декларируемых. Так, в 2018 г. сообщалось, что в Лондоне, где тестируется технология распознавания лиц (AFR) на публичных мероприятиях, концертах, фестивалях и футбольных матчах, AFR распознает правильно только 2% лиц, остальные случаи являются ложными, поскольку система неправильно идентифицирует людей. Из двух правильных совпадений полиция не смогла никого арестовать - один из людей оказался из старой базы данных, второй - психически нездоровым человеком [17]. Существуют и опасения, связанные с «предвзятостью» искусственного интеллекта в системах распознавания лиц. Так, в 2017 г. разработчик системы распознавания лиц Gfycat удивился, когда его система не распознала некоторых азиатских сотрудников. Исследование аналогичных систем Microsoft и IBM показало, что они были на 95% точнее при распознавании женщин со светлой кожей. Есть признаки того, что система Amazon Rekognition чаще ошибается при сравнении чернокожих лиц, особенно женщин. Причина в том, что нейросеть учится распознавать лица самостоятельно, основываясь на предоставленных ей фотографиях и видео. Поэтому качество обучения нейросети зависит напрямую от качества предоставленных данных. Если в выборке, по которой обучается нейросеть, например, азиатов или темнокожих в десять раз меньше, чем европейцев, то нейросеть будет хуже распознавать представителей этих рас [18, 19]. Таким образом, ошибки распознавания все-таки возможны, они могут быть выше для отдельных категорий населения, особенно для немногочисленных и редко встречающихся этнических групп. Эти ошибки распознавания могут привести, например, к ошибочным задержаниям. Опасения утраты конфиденциальности, приватности, страх неоправданного вторжения в право на частную жизнь приводят к тому, что начинает развиваться общественное противодействие широкому применению интеллектуальных систем видеонаблюдения, технологий распознавания лиц. Оно, во-первых, выражается в исследовании того, как можно «обмануть» искусственный интеллект, противодействовать реализации используемых им алгоритмов. Например, специалисты в области искусственного интеллекта из компании Facebook разработали систему для «деидентификации» пользователей в режиме реального времени. По результатам раннего тестирования, искусственный интеллект (ИИ) способен обойти современные системы распознавания лиц [20]. Создаются украшения, препятствующие тому, чтобы программы могли распознавать лица пользователей на фотографиях, исследуются варианты «обхода» используемых алгоритмов работы нейросетей [21, 22]. Обсуждаются перспективы применения масок-анонимайзеров и других средств, маскирующих лица и затрудняющих распознавание [23]. Во-вторых, появились первые попытки защиты права на неприкосновенность частной жизни с применением правовых инструментов: обращения к судебной защите и лоббированию принятия нормативных актов, направленных на ограничение и строгую регламентацию применения интеллектуальных систем видеонаблюдения. Так, Британская правозащитная организация Liberty назвала технологию распознавания лиц угрозой для демократии. По словам активистов, ее применение в Великобритании, где плотность камер видеонаблюдения выше, чем в какой-либо другой западной стране, означает полную утрату частной жизни. Российская общественная организация «Рос-комсвобода» запустила кампанию с требованием ввести мораторий на использование этой технологии. Роскомсвобода выступает за принятие законодательных либо судебных мер для введения моратория на использование систем распознавания лиц, которые являются технологиями двойного назначения и должны быть запрещены до тех пор, пока не будет обеспечена полная прозрачность и безопасность их использования для граждан [24]. Начиная с июня 2018 г. Liberty представляет в суде интересы жителя Кардиффа Эда Бриджеса, который обвинил полицию Южного Уэльса в незаконном применении технологии автоматического распознавания лиц [25]. 7 октября 2019 г. в России политическая активистка Алена Попова подала в Савеловский суд Москвы иск с требованием признать незаконным применение столичным правительством технологии распознавания лиц в городской системе видеонаблюдения [26]. Оба иска были проиграны в первой судебной инстанции, оба истца планируют продолжать отстаивать свою позицию в вышестоящих судебных инстанциях. Однако следует отметить, что основания, по которым суды признали отсутствие нарушения закона в отношении истцов, сильно различались. Британский суд исследовал конкретные правила применения технологии и принял во внимание непродолжительный срок хранения фотографий лиц на сервере правоохранительных органов. Российский же - согласился с ответчиками, которые отрицали, что при использовании технологии распознавания лиц ведется работа с данными, которые позволяют идентифицировать лицо, и поэтому не нарушается законодательство об обработке персональных данных. В качестве примера противоположного подхода к проблеме можно привести недавнее решение властей г. Сан-Франциско о запрете на передачу органам правопорядка в режиме реального времени информации, зафиксированной камерами видеонаблюдения. Исключение сделано только для объектов транспортной инфраструктуры (аэропорты, вокзалы), безопасность на которых обеспечивают не местные, а федеральные органы правопорядка. Принятое решение было обосновано опасениями бесконтрольного и безосновательного вторжения государства в сферу личных прав человека и в первую очередь его права на приватность, а также возможностью ошибок в распознавании, в особенности в отношении афроамериканок или представительниц других этнических групп, где вероятность ошибки выше. В качестве компромисса местные жители планируют пересмотреть вопрос использования данной технологии, когда та будет усовершенствована, поскольку, по их словам, технология распознавания лиц может сыграть важную роль в поиске пропавших без вести или жертв торговли людьми, а также в вычислении потенциальных террористов. Однако правозащитники считают, что, даже если распознавание лиц было бы на 100% точным, полиция все равно могла бы злоупотреблять этой технологией в отношении протестующих или представителей некоторых общин, например в отношении мусульман, посещающих мечети. Предложения о введении аналогичного запрета рассматриваются в Окленде, штат Калифорния, и Сомервилле, штат Массачусетс. Так, власти калифорнийского Окленда обосновали свое решение тем, что «умные камеры» приведут к вторжению в частную жизнь (нарушение права на неприкосновенность частной жизни) и нарушениям прав меньшинств. Как ожидается, в ближайшее время аналогичные запреты будут введены и в других городах США. В перспективе - федеральный запрет на распознавание лиц по всей стране. Теперь в Окленде запрещено покупать и использовать технологии распознавания лиц. Запрет распространяется и на полицию. Как ожидается, к трем американским городам, запретившим распознавание лиц, присоединятся и другие. Например, подобные меры обсуждают в калифорнийском Беркли. Аналогичные проекты внесены в законодательные собрания штатов Массачусетс и Мичиган [27, 28]. В Сенат США внесен законопроект под названием «Акт о приватности при коммерческом распознавании лиц, 2019» (Commercial Facial Recognition Privacy Act of 2019). Авторы этого законопроекта являются членами сенатского Комитета по торговле, науке и транспорту и представляют разные партии. Предлагаемый для рассмотрения Сенатом закон запретит коммерческим заказчикам систем распознавания лиц собирать и передавать куда-либо получаемые данные по идентификации и отслеживанию людей без их информированного согласия. Законопроект также требует проводить независимое тестирование системы до ее внедрения. Цель - подтвердить, что система работает точно и не подвержена систематической ошибке, ставящей людей в неравное положение, например по расовым признакам, а также избежать причинения вреда тем, чьи лица распознаются. Кроме того, законопроект задает условия для составления четких требований к тем, кто разрабатывает и внедряет системы распознавания лиц, а также хранит данные [29]. Из изложенного видно, что при переходе к новому технологическому укладу, связанному с «цифровой революцией» (в частности, в связи с развитием технологий искусственного интеллекта, использованием их для видеонаблюдения, распознавания лиц и их поведения), возникает ряд этико-правовых проблем, практически не имеющих национальной и региональной специфики, носящих фундаментальный характер. Конечно, в наиболее общем виде границы применения рассматриваемых технологий уже закреплены в нормативно-правовых актах высшей юридической силы: национальных конституциях и в международных договорах. Например, для России это будут наиболее общие нормы, содержащиеся в положениях Конституции РФ и ратифицированных РФ международных договоров, в разделах, закрепляющих право человека на неприкосновенность личной жизни / права на частную жизнь, а также допустимых оснований, порядка и пределов его ограничения (ст. 23, 46 и 56 Конституции РФ, ст. 8 и 6 Конвенции о защите прав человека и основных свобод). Однако эти права и возможности их ограничения в данных актах сформулированы настолько широко, что требуют непременной конкретизации в других правовых актах и / или сформированной судебной практике, поскольку иначе сохраняется ситуация неопределенности. Так, на сегодняшний день нет единого мнения по вопросу о том, «вторгается» ли видеофиксация происходящего в общественных местах, сопряженная с возможностью распознавания лиц, в право человека на частную жизнь, в каких ситуациях она допустима, как можно выстраивать в новых технологических условиях баланс между различными частными интересами (интересом лица на неприкосновенность его частной жизни и интересом организации на контроль происходящего на ее территории) и интересами общества / государства (на раскрытие преступлений, обеспечение безопасности, на упрощение ряда процедур (проверка билетов на мероприятие, посадка в самолет, и пр.)). Для Европейского Союза основным нормативным актом в области защиты персональных данных является Регламент Европейского Парламента и Совета Европейского Союза 2016 /679 от 27 апреля 2016 г. о защите физических лиц при обработке персональных данных и о свободном обращении таких данных, а также об отмене Директивы 95/46/ЕС (Общий Регламент о защите персональных данных / General Data Protection Regulation / GDPR), который вступил в силу в мае 2018 г. Данный регламент применяется в отношении обработки персональных данных, производимой полностью либо частично при помощи автоматизированных средств. Его действие не распространяется на деятельность правоохранительных органов, осуществляемую в целях предупреждения, расследования, выявления уголовных преступлений, или привлечения к ответственности, или приведения в исполнение уголовных наказаний, включая защиту и предотвращение угроз общественной безопасности (статья 2 Регламента). Данный документ рассматривает право на защиту персональных данных в качестве нового самостоятельного права лица, которое должно быть уравнено с другими основными правами в соответствии с принципом пропорциональности. Согласно ему, фотографии человеческого лица считаются «биометрической информацией», которую разрешено обрабатывать только в случаях, прямо перечисленных в статье 9 этого Регламента. К числу исключений, делающих возможной обработку персональных данных, относятся, например, наличие прямого согласия субъекта на обработку его персональных данных, а также наличие особого общественного интереса, в случаях, предусмотренных законодательством. При этом ограничение права лица на защиту его персональных данных должно быть пропорционально преследуемой цели, соответствовать сущности права на защиту данных и предусматривать приемлемые и конкретные меры для защиты основных прав и интересов субъекта данных. Таким образом, законодательство государств - членов Европейского Союза должно предусматривать меры защиты лиц от обработки их биометрических данных без их прямого согласия. Как уже указывалось ранее в данной статье, такое законодательство на настоящий момент отсутствует. В действующем российском законодательстве пока нет единого кодифицированного акта, регулирующего деятельность по организации и осуществлению видеонаблюдения, использованию биометрических данных. Действующее правовое регулирование отдельных правовых аспектов видеонаблюдения крайне фрагментарно. Видеоизображение человека, полученное с помощью камер видеонаблюдения, относится к персональным данным этого человека. Однако жестких правил сбора, обработки и распространения таких сведений в настоящее время не существует. Есть лишь разрозненное рамочное упоминание этого явления в отдельных законах (см. например: ст. 152.1 ГК РФ, ст. 3 ФЗ РФ от 27.07.2006 г. № 152-ФЗ «О персональных данных»). Согласно ст. 11 ФЗ РФ «О персональных данных», сведения, которые характеризуют физиологические и биологические особенности человека, на основании которых можно установить его личность (биометрические персональные данные) и которые используются оператором для установления личности субъекта персональных данных, могут обрабатываться только при наличии согласия в письменной форме субъекта персональных данных, за исключением случаев, прямо предусмотренных законом. Возникает вопрос -можно ли считать биометрическими персональными данными видеоизображения лица, сделанные в публичных местах. До появления интеллектуальных систем распознавания ответ был отрицательным. Например, в силу п. 2 ч. 1 ст. 152.1. Гражданского Кодекса РФ не требуется согласие гражданина на использование его изображения, полученного в публичном месте, при условии, что такое изображение не является основным объектом использования. То есть информация из публичных мест не считалась информацией о частной жизни отдельного гражданина. Кроме того, сам факт нахождения гражданина в публичном месте ранее однозначно расценивался как действия за рамками частной жизни. Следует согласиться с тем, что данный принцип отграничения частной жизни от публичной был справедлив только до появления систем распознавания и отслеживания [30]. Согласно разъяснениям Роскомнадзора, данным в 2013 г., материалы видеосъемки в публичных местах и на охраняемой территории не являются биометрическим персональными данными до момента их передачи для установления личности запечатленного на них человека. Достаточно того, чтобы посетители указанных публичных мест заранее предупреждались их администрацией о возможной фото-, видеосъемке соответствующими текстовыми и / или графическими сообщениями. По мнению Роскомнадзора, при соблюдении указанных условий согласие субъектов на проведение указанных мероприятий не требуется [31]. С использованием систем распознавания информация, полученная в результате наблюдения за неопределенным кругом лиц, может быть трансформирована в информацию о каждом заснятом гражданине. При этом распространенность наблюдения приводит к возникновению большого объема данных, которые могут быть автоматически обработаны и привязаны к конкретному лицу. Следует согласиться с тем, что применение систем распознавания лиц в общественном наблюдении должно признаваться сбором информации о частной жизни гражданина, невзирая на то, что место является публичным и наблюдение ведется за неопределенным кругом лиц [30], а фото и видеоизображения лица, сделанные в ходе такого видеонаблюдения, должны обрабатываться по правилам работы с биометрической информацией. Это требует внесения в законодательство изменений, которые верно определяли бы статус таких материалов и предусматривали такие правила работы с ними, которые будут соответствовать новым технологическим реалиям и выстраивать справедливый баланс между правом человека на тайну личной жизни и на тайну персональных данных с интересами общества, государства, коммерческих субъектов на обработку такой информации при помощи интеллектуальных систем. Таким образом, мы видим, что реакция государства «не успевает» за бурным развитием технологий, за появлением все новых вызовов и потенциальных проблем, требующих своевременного разрешения на уровне создания правового регулирования, отличающегося достаточной точностью и четкостью формулировок. Законодатели всех государств вынуждены действовать практически «наобум», «латая дыры» в системе нормативно-правового регулирования применения современных IT-технологий. Попытаемся определить хотя бы в общей форме, каким же должно быть специфическое нормативно-правовое регулирование для применения технологий распознавания лиц, основанных на использовании искусственного интеллекта, на каких основаниях оно должно быть построено. 1. Для интеллектуального видеонаблюдения, распознавания лиц в настоящее время, как правило, используются системы, основанные на технологиях машинного обучения (искусственного интеллекта). Их функционирование вызывает ряд проблем, опасений, которые связаны как с особенностями искусственного интеллекта вообще, так и с применением его в рассматриваемых в статье целях. Это опасения того, что ИИ будет использован во зло, для манипуляции людьми и тотальной слежки; опасность ошибки, неверного распознавания лица; возможного дискриминационного характера решений, принятых на основе его деятельности. Так, 44% опрошенных россиян обеспокоены возможными этическими проблемами использования искусственного интеллекта. Еще 35% тревожатся из-за непрозрачности решений ИИ (против 31% в среднем по миру). В целом 49% россиян усомнились в способности ИИ формировать точные результаты и корректный анализ. 51% опрошенных не согласны с применением ИИ для определения виновности в уголовном процессе. 40% россиян не хотят, чтобы искусственный разум определял методы лечения [32]. С учетом этого первая группа оснований законодательства, регламентирующего возможность использования ИИ вообще и его применения в системах видеонаблюдения в частности, должна быть связана с определением правил «взаимодействия» между искусственным интеллектом и человеческим обществом. Представляется, что достаточные оптимальные правила для такого взаимодействия сформулированы в Хартии об этических принципах применения искусственного интеллекта в судебных системах, принятой Европейской комиссией по эффективности правосудия. Согласно этой Хартии, внедрение искусственного интеллекта должно производиться ответственным образом и не нарушать положений Европейской Конвенции и Конвенции о защите личных данных. В Хартии обозначено пять основных принципов: - принцип уважения фундаментальных прав - разработка и внедрение искусственного интеллекта не должны нарушать фундаментальные права человека; - принцип отказа от дискриминации - предотвращение появления или усиления дискриминации в отношении отдельных людей и групп; - принцип качества и безопасности - обработка судебных решений и данных должна проводиться в технически защищенной обстановке, на основании проверенных источников и с применением моделей, разработанных специалистами нескольких научных дисциплин; - принцип открытости, беспристрастности и честности - методы обработки данных должны быть доступными и понятными для возможности проверки третьей стороной; - принцип контроля со стороны пользователя -пользователи должны владеть правом выбора и необходимой информацией [33]. 2. Вторая группа оснований предопределяется необходимостью соблюдения баланса частных и публичных интересов и отражает пределы вмешательства государства в сферу частных интересов, обязанности государства по защите права граждан на частную жизнь от вторжения в сферу действия этого права других частных субъектов. Ранее мы уже формулировали общие подходы к определению такого баланса [34-36]. Поэтому только обозначим сейчас нашу позицию, согласно которой для определения оптимального соотношения необходимо проведение исследований практики, ожиданий и опасений общества. При его определении могут быть использованы сформулированные Европейским Судом по правам человека (ЕСПЧ) правила, на основе чего должны быть выработаны как позитивные обязанно

Ключевые слова

цифровизация в уголовном процессе, правовое регулирование использования искусственного интеллекта, этика искусственного интеллекта, технологии распознавания лиц, третья природа, права человека, digitalisation in criminal proceedings, legal regulation of using artificial intelligence, ethics of artificial intelligence, technologies of facial recognition, third nature

Авторы

ФИООрганизацияДополнительноE-mail
Андреева Ольга ИвановнаТомский государственный университетд-р юрид. наук, зав. кафедрой уголовного процесса, прокурорского надзора и правоохранительной деятельностиandreevaoi_70@mail.ru
Иванов Вячеслав ВасильевичСамарский национальный исследовательский университет им. академика С.П. Королеваканд. юрид. наук, доцент кафедры уголовного процесса и криминалистикиIvanov_sl@rambler.ru
Нестеров Александр ЮрьевичСамарский национальный исследовательский университет им. академика С.П. Королевад-р филос. наук, зав. кафедрой философииaynesterow@yandex.ru
Трубникова Татьяна ВладимировнаТомский государственный университетканд. юрид. наук, доцент кафедры уголовного процесса, прокурорского надзора и правоохранительной деятельностиtrubn@mail.ru
Всего: 4

Ссылки

Нестеров А.Ю. Семиотические основания техники и технического сознания. Самара: Изд-во Самарской гуманитарной академии, 2017. 155 с.
Иванов В.В., Нестеров А.Ю. Право в искусственной среде третьей природы: юридический статус цифрового двойника // Мир человека: Нормативное измерение - 6. Нормы мышления, восприятия, поведения: сходство, различие, взаимосвязь : сб. трудов междунар. конф. Саратов, 2019. С. 234-240.
В Китае создают тотальную систему распознавания лиц граждан. Она поможет ловить преступников и собирать данные на всех осталь ных. URL: https://meduza.io/feature/2018/02/11/v-kitae-sozdayut-totalnuyu-sistemu-raspoznavaniya-lits-grazhdan-ona-pomozhet-lovit-prestupni kov-i-sobirat-dannye-na-vseh-ostalnyh (дата обращения: 19.11.2019).
Факты о распознавании лиц с помощью искусственного интеллекта. URL: https://aws.amazon.com/ru/rekognition/the-facts-on-facialrecognition-with-artificial-intelligence/ (дата обращения: 19.11.2019).
Макаров В. Видеокамерам нужно улучшить «зрение». URL: http://static.mvd.ru/upload/site1/document_journal/M7o6MfghTi.pdf (дата обра щения: 19.11.2019).
В Домодедово заработала система распознавания лиц. URL: https://hightech.plus/2019/07/05/v-domodedovo-zarabotala-sistema-raspo znavaniya-lic (дата обращения: 19.11.2019).
Тищенко Е.В., Саядова А.С. Технологические инновации в области профилактики преступности: тенденции и риски // Российский следо ватель. 2019. № 5. С. 62-66.
Найдутся все: какие стартапы в сфере распознавания лиц есть в России. URL: https://vc.ru/future/70147-naydutsya-vse-kakie-startapy-vsfere-raspoznavaniya-lic-est-v-rossii (дата обращения: 19.11.2019).
Умные камеры в Москве помогли задержать более 100 человек. URL: https://hightech.plus/2019/06/27/umnie-kameri-v-moskve-pomoglizaderzhat-bolee-100-chelovek (дата обращения: 19.11.2019).
На улицах Екатеринбурга апробируют систему по распознаванию лиц. URL: https://tagilcity.ru/news/society/06-08-2019/na-ulitsah-ekaterinburga-aprobiruyut-sistemu-po-raspoznavaniyu-lits?utm_source=yxnews&utm_medium=desktop&utm_referrer=https%3A%2F%2Fyan dex.ru%2Fnews (дата обращения: 10.11.2019).
На ж/д вокзале Самары внедряется система цифрового распознавания лиц. URL: https://news.mail.ru/society/38732060/?frommail=1 (дата обращения: 10.11.2019).
Искусственный интеллект раскрыл убийство, взглянув на лицо жертвы. URL: https://hi-news.ru/technology/iskusstvennyj-intellekt-pomog-raskryt-ubijstvo-vzglyanuv-na-lico-zhertvy.html (дата обращения: 19.11.2019).
Кто и как использует технологии распознавания лиц в России. URL: https://rb.ru/longread/facial-recognition/ (дата обращения: 19.11.2019).
Распознавание лиц для бизнеса - обзор. URL: https://www.liveintellect.ru/tags/raspoznavanie_lic/ (дата обращения: 19.11.2019).
В китайской школе используют распознавание лиц для контроля за учениками. URL: https://rb.ru/story/chinese-schools/ (дата обращения: 19.11.2019).
Технология распознавания лиц: есть ли шанс обмануть искусственный интеллект? URL: https://futurerussia.gov.ru/nacionalnye-proekty/16564651646 (дата обращения: 19.11.2019).
Полиция Лондона «полностью довольна» системой распознавания лиц, которая ошибается в 98% случаях. URL: https://hightech.fm/2018/07/06/london (дата обращения: 19.11.2019).
Вежливая сеть: как научить искусственный интеллект относиться к людям непредвзято. URL: https://www.forbes.ru/tehnologii/360537-vezhlivaya-set-kak-nauchit-iskusstvennyy-intellekt-otnositsya-k-lyudyam (дата обращения: 19.11.2019).
Система распознавания лиц Amazon Rekognition приняла 28 конгрессменов США за преступников. URL: https://habr.com/ru/post/418509/ (дата обращения: 19.11.2019).
ИИ от Facebook позволяет обмануть системы распознавания лиц. URL: https://www.securitylab.ru/news/502092.php (дата обращения: 19.11.2019).
Польские дизайнеры создали украшение, которое не дает сработать технологии распознавания лиц. URL: https://birdinflight.com/ru/ novosti/20190731-noma-against-face-recognition.html (дата обращения: 19.11.2019).
Исследователи из Бельгии обманули систему компьютерного зрения листком бумаги. URL: https://tjournal.ru/tech/95255-issledovateli-iz-belgii-obmanuli-sistemu-kompyuternogo-zreniya-listkom-bumagi (дата обращения: 19.11.2019).
Юдников А. Скрываться от камер - не самое лучшее решение: все, что вам нужно знать о распознавании лиц. URL: https://rb.ru/ opinion/raspoznavanie-lic/ (дата обращения: 19.11.2019).
Кампания против распознавания лиц. URL: https://bancam.ru/ (дата обращения: 19.11.2019).
Апелляционный суд Англии изучит законность использования системы распознавания лиц. URL: http://rapsinews.ru/international_ news/20191121/305078513.html (дата обращения: 21.11.2019).
Суд не признал систему распознавания лиц незаконной. Комментарий РосКомСвободы. URL: https://roskomsvoboda.org/51831/ (дата обращения: 19.11.2019).
В Калифорнии подписан закон о запрете использования распознавания лиц госорганами. URL: https://roskomsvoboda.org/51048/ (дата обращения: 19.11.2019).
Законодатели рассмотрят мораторий на использование распознавания лиц. URL: http://www.secnews.ru/digest/24020.htm#axzz65boZgQYI (дата обращения: 19.11.2019).
Законопроект ограничивает использование распознавания лиц коммерческими компаниями. URL: http://www.secnews.ru/ foreign/ 24065.htm#axzz65boZgQYI (дата обращения: 19.11.2019).
Поздняков В. Законность распознавания лиц с камер в общественных местах. URL: http://www.it-lex.ru/faq/zakonnost-raspoznavaniya-lic/ (дата обращения: 19.11.2019).
Разъяснения по вопросам отнесения фото-, видеоизображений, дактилоскопических данных и иной информации к биометрическим персональным данным и особенностей их обработки. URL: https://pd.rkn.gov.ru/press-service/subject1/news2729/ (дата обращения: 19.11.2019).
Виноградова Е. Искусственный интеллект: опасно для жизни? URL: https://kp.vedomosti.ru/humans/article/2019/05/13/801190-gore-ot-uma (дата обращения: 19.11.2019).
Европейская этическая хартия об использовании искусственного интеллекта в судебных системах и окружающих их реалиях. URL: https://rm.coe.int/ru-ethical-charter-en-version-17-12-2018-mdl-06092019-2-/16809860f4 (дата обращения: 19.11.2019).
Андреева О.И., Трубникова Т.В. Принятие судом решения о наличии в деянии лица злоупотребления правом и его последствия // Вестник Томского государственного университета. 2019. № 438. С. 194-200.
Андреева О.И., Григорьев В.Н., Зайцев О.А., Трубникова Т.В. Злоупотребление правом, его предупреждение и пресечение в уголовном процессе России: некоторые итоги исследования // Всероссийский криминологический журнал. 2018. Т. 12, № 6. С. 914-924.
Трубникова Т.В. Обеспечение права на справедливое судебное разбирательство и права потерпевшего на безопасность и тайну личной жизни: поиск баланса // Уголовная юстиция. 2017. № 2 (10). С. 81-88.
Постановление ЕСПЧ по делу «Big Brother Watch и другие против Соединенного Королевства» от 13.09. 2018 г. (жалобы № 58170/13, 62322/14 и 24960/15). URL: https://hudoc.echr.coe.int/rus#{%22fulltext%22:[%2258170/13%22],%22documentcollectionid2% 22 :[%22GRANDCHAMBER%22,%22CHAMBER%22]} (дата обращения: 19.11.2019).
Harris, Charles E. et al. Engineering Ethics: Concepts and Cases. Belmont, CA : Wadsworth Publishing, 1995. P. 35.
Иванов В.В. Использование систем видеоконференцсвязи в современном уголовном процессе // Уголовное судопроизводство. 2011. № 3. С. 25-27.
Иванов В.В. Использование современных технологий в уголовном процессе: польза и риски // Уголовный процесс как средство обеспечения прав человека в правовом государстве : материалы Междунар. науч.-практ. конф. / ред. В.И. Самарин. 2017. С. 121-127.
Андреева О.И., Зайцев О.А. Проблемы использования в уголовном судопроизводстве электронных доказательств // Правовые проблемы укрепления российской государственности. Томск : Издательский Дом Том. гос. ун-та. 2018. Ч. 79. С. 4-16.
 Технологии распознавания лиц в уголовном судопроизводстве: проблема оснований правового регулирования использования искусственного интеллекта | Вестн. Том. гос. ун-та. 2019. № 449. DOI: 10.17223/15617793/449/25

Технологии распознавания лиц в уголовном судопроизводстве: проблема оснований правового регулирования использования искусственного интеллекта | Вестн. Том. гос. ун-та. 2019. № 449. DOI: 10.17223/15617793/449/25