Что сегодня мешает широкому внедрению лицевой биометрии в различные области человеческой деятельности
Правоохранительный надзор и маркетинг. Современный этап развития технологии распознавания лиц (ТРЛ) выделяет именно эти два направления, в которых лицевая биометрия получила достаточно широкое и успешное применение. Но такое положение дел, как оказывается, устраивает далеко не всех людей.
Основной причиной беспокойства среди граждан является отсутствие общепризнанных и понятных правил, регулирующих порядок использования ТРЛ. Многие выражают вполне обоснованные сомнения в точности и надежности технологии, некоторые опасаются предвзятости или даже дезинформации в тех данных, которые потом могут быть использованы для доказательных целей. К примеру, во многих исследованиях было доказано, что ТРЛ показывает очень посредственные результаты при идентификации людей с темным цветом кожи, в особенности женщин.
Использование технологий распознавания лиц неизбежно приводит к этическим и социальным проблемам, связанным с необходимостью защиты персональных данных.
Так неужели все эти технологические достижения, достойные научно-фантастических романов, действительно угрожают свободе личности? И как быть с нашей анонимностью?
Для 500 млн жителей Европы и Великобритании строгую основу для практики применения ТРЛ обеспечивает Общее положение о защите данных (GDPR - General Data Protection Regulation). О каких-либо расследованиях личной жизни граждан или их привычках не может быть и речи. Любое такое вторжение в личное пространство влечет за собой серьезные штрафы.
Проблемы сохранения конфиденциальности и соблюдения гражданских прав в США обострились на фоне того, что распознавание лиц стало приобретать все большую популярность в качестве инструмента правоприменения, и вот 6 мая 2019 года городской совет Сан-Франциско проголосовал за запрет использования систем распознавания лиц во всех городских учреждениях, включая полицейский департамент.
В связи с этим возникает ряд вопросов:
По всем этим вопросам в мире постоянно идут жаркие обсуждения и ожесточенные политические схватки. К примеру, Конгресс США требует простого запрета на использование технологий распознавания лиц, а Комиссия ЕС планирует принять только ограничительные меры в части ее повсеместного применения.
Новый президент Европейской комиссии Урсула фон дер Лейен хочет выработать скоординированный подход к оценке соблюдения человеческих и этических норм при внедрении средств искусственного интеллекта. Она обещала опубликовать соответствующий проект закона очень скоро.
Опять же, актуальными для дебатов остаются проблемы конфиденциальности, получения согласия и «ползучести» функций (когда данные, собранные для одной цели, используются для другой).
Несмотря на внушительный технический и юридический арсенал, привлеченный государственными органами для защиты конфиденциальных данных и анонимности граждан, критические голоса, подвергающие сомнению эффективность и надежность этих мер, продолжают громко будоражить общественное мнение.
Одни люди просто обеспокоены и встревожены новейшими разработками в области лицевой биометрии, другие - предпринимают вполне определенные шаги для дискредитации этих достижений.
Так можно ли обмануть технологию распознавания лиц?
Григорий Бакунов из России изобрел решение, позволяющее скрываться от видеокамер, наблюдающих за передвижениями людей, и запутывать устройства обнаружения и идентификации лиц. Его разработка представляет собой правила нанесения специального макияжа, способного обманывать программное обеспечение систем с ТРЛ. Однако, господин Бакунов решил не выводить свой продукт на рынок после того как понял, что его могут начать использовать в своих целях настоящие преступники.
Берлинский художник Адам Харви предложил аналогичное решение, известное под названием CV Dazzle. В настоящее время Харви работает над созданием одежды с таким принтом, который способен помешать обнаружению. Рисунок камуфляжа включает в себя изображения человеческих глаз и рта, что вводит систему распознавания лиц в заблуждение.
В конце 2017 года одна вьетнамская компания успешно использовала маску для взлома функции распознавания лиц Face ID iPhone Apple X. Однако применять маски для проведения крупномасштабных операций взлома слишком сложно и дорого.
Примерно в то же время исследователи из немецкой компании обнаружили хакерский прием, который позволяет обойти проверку подлинности лица пользователя операционной системой Windows 10 Hello путем демонстрации ей распечатки изображения этого лица, снятого в инфракрасном диапазоне.
В майском номере журнала Forbes за 2018 год появилась статья, сообщающая, что исследователи из Университета Торонто разработали алгоритм (фильтр конфиденциальности), позволяющий нарушать работоспособность программ распознавания лиц. Короче говоря, пользователь перед размещением фотографии в интернете может обработать ее специальным фильтром, который переставляет определенные пиксели в изображении лица. Эти изменения незаметны для человеческого глаза, но очень критичны для алгоритмов распознавания лиц.
Специалисты отрасли распознавания лиц серьезно работают над созданием механизмов противодействия фальсификациям (спуфингу), но надо признать, что пока эта борьба идет с переменным успехом.
Попробуем ответить на вопрос, существуют ли проблемы конфиденциальности при сборе изображений клиентов, особенно в эпоху принятия GDPR и других новых законодательных актов о защите подобной информации.
К примеру, разработчики специальных приложений распознавания лиц для предприятий розничной торговли утверждают, что изображения клиентов, попадающие в обработку, не сохраняются в памяти системы в явном виде. Там остаются только агрегированные данные о демографических особенностях людей, посещающих определенные зоны, анализ которых помогает ритейлерам понять желания и предпочтения посетителей.
Но вот будут ли предприятия этого сектора экспериментировать с программным обеспечением для распознавания лиц? Это, вероятно, зависит как от возможностей самого приложения, так и от уровня риска, который влекут за собой подобные эксперименты. А риск велик: для владельцев физических розничных магазинов, стремящихся получить весомые преимущества над своими цифровыми конкурентами, эти приложения могут открыть мир данных и идей, который раньше был недоступен.
Существует и совсем другая технология машинного зрения, которая ищет совпадения изображений людей по обширной базе данных известных фотографий. Такая технология уже применялась для борьбы с торговлей детьми и обнаружения преступников на многолюдных массовых мероприятиях. Вероятные совпадения здесь обнаруживаются средствами искусственного интеллекта, а окончательное решение о том, было ли найдено искомое лицо, принимает человек. Преимущество использования математических алгоритмов в этом типе приложений, будь то идентификация пропавших детей или идентификация подозреваемого террориста на футбольном матче в реальном времени, заключается в том, что алгоритм может анализировать и сопоставлять данные в считанные секунды. Но наличие человека в системе принятия окончательного решения, очевидно, является важной защитой от возможных ошибок инновационного программного продукта.
Технологии искусственного интеллекта и распознавания лиц развиваются стремительными темпами и при правильном использовании могут быть мощными и полезными инструментами. Но вместе с развитием этих технологий растут и проблемы, связанные с защитой конфиденциальности и безопасности личности. Законодатели во всех странах должны будут сбалансировать эти процессы и определить, когда и как должны использоваться средства лицевой биометрии, чтобы не допускать злоупотреблений в области защиты прав личности.
И компании-разработчики ТРЛ также должны учитывать основные проблемы легитимности своих продуктов при реализации новых алгоритмов и приложений. Эти технологии все еще новы, и поэтому, очевидно, с ними следует обращаться очень осторожно. Также, как и в случае со многими другими новыми разработками, в распознавании лиц пока наблюдается отсутствие полного пакета необходимых нормативных актов, регулирующих его распространение и использование. Пока. Но эти правила, скорее всего, появятся уже в самые ближайшие годы.
