Европейский союз признал, что бесполезно избегать технологий распознавания лиц, но стремится обеспечить, чтобы любое развертывание технологий, включающее игроков из США и Китая, соответствовало европейским ценностям, таким как строгая личная конфиденциальность.
Распознавание лиц стало горячей проблемой, так как ЕС готовится изложить свои планы по регулированию искусственного интеллекта в следующем месяце. Защитники конфиденциальности призывают законодателей предотвращать злоупотребления, а правоохранительные органы предостерегают от запрещения инструмента, который может сделать общество более безопасным.
Эта технология используется во многих случаях - от разблокировки смартфонов до пограничного контроля в аэропортах и поиска пропавших детей. Это потенциально мощный инструмент, который может позволить правоохранительным органам быстро обнаружить большое количество преступников. Но, помимо воздействия на частную жизнь, эти технологии часто оказываются неточными, особенно для женщин и людей с темной кожей.
«Это риск для конфиденциальности в совершенно новом масштабе», - сказал Стефан Хойманн, со-директор аналитического центра Stiftung Neue Verantwortung в Берлине. «Анонимность в общественных местах перестанет существовать».
Пока что в отрасли доминируют США и Китай. Согласно отчету Deutsche Bank AG, Zhejiang Hikvision Digital Technology Co. и Zhejiang Dahua Technology Co. контролируют треть мирового рынка видеонаблюдения.
В январском проекте предстоящего документа об искусственном интеллекте исполнительный орган ЕС заявил, что любые новые нормативные акты будут нацелены на приложения с высокой степенью риска, такие как системы прогнозирования и биометрической идентификации. Все действующие лица, как в ЕС, так и за рубежом, должны будут соблюдать правила, если они действуют в Европе.
От компаний и организаций может потребоваться передача документации с наборами данных системы, программным кодом и анализом точности для проверки перед развертыванием. Если они не могут гарантировать, что технология распознавания лиц была разработана в соответствии с европейскими ценностями, такими как уважение конфиденциальности, компаниям придется переучивать свои системы в Европе с помощью европейских наборов данных, говорится в документе.
ЕС должен представить окончательный вариант документа в середине февраля. В более раннем тексте предлагалось запретить распознавание лиц в общественных местах на несколько лет, но это положение не входило в число трех вариантов политик, рекомендованных комиссией. Чиновники ЕС говорят, что вариант вряд ли войдет в окончательную версию.
«Отправной точкой является то, что вам придется проявлять осторожность при использовании», - сказала Маргрет Вестер, цифровой офицер ЕС, о подходе ЕС к распознаванию лиц на слушании с европейскими законодателями в понедельник. «В противном случае фундаментальные ценности будет очень трудно поддерживать».
Между тем, органы по защите данных ЕС на прошлой неделе забили тревогу по поводу беспрепятственного использования технологий распознавания лиц, призывая компании и агентства рассмотреть «менее навязчивые» инструменты.
Проблема, связанная с распознаванием лиц, лежит в основе длительных дебатов - сторонники конфиденциальности сталкиваются с правоохранительными органами по поводу доступа властей к личной информации. Это усложняется высокими показателями неточностей, которые были внесены системами, и качеством соответствующих фотографий.
Женщины и люди с более темным оттенком кожи особенно подвержены ложным срабатываниям. Исследование MIT, проведенное в 2018 году, показало, что коммерчески доступные программы анализа лица были неточными в 35% случаев для женщин с более темной кожей.
Правительство Франции подверглось критике за свои планы по тестированию и осуществлению надзора за распознаванием лиц на вокзалах и в других общественных местах. Великобритания, вышедшая из ЕС в пятницу на прошлой неделе, устанавливает камеры в Лондоне, шаг, который правозащитные организации назвали «опасным и зловещим».
«В обществе и в работе полиции мы постоянно сталкиваемся с ошибками, но внезапно с распознаванием лиц возникает нулевая терпимость», - заявил Вим Лиекенс, главный информационный сотрудник бельгийской полиции, на конференции «Компьютеры, конфиденциальность и защита данных» в Брюсселе на прошлой неделе.
Лиекенс призвал к контролю за использованием технологий распознавания лиц, но призвал не запрещать их полностью, добавив, что «на самом деле это также преступление», чтобы скрывать новые, инновационные инструменты от полиции.
Индустрия технологий, руководители которой использовали Всемирный экономический форум в Давосе, чтобы предупредить об опасности неконтролируемого ИИ, выступила в поддержку некоторых мер контроля. Вице-президент Microsoft Corp. по делам правительства ЕС Джон Франк сказал, что поставщики технологий должны быть обязаны сделать свои системы проверяемыми, чтобы третьи лица могли их проверять на точность.
«Я не думаю, что вы можете засунуть этого джина обратно в бутылку», - сказал Фрэнк на конференции в Брюсселе. «Вы можете регулировать это, вероятно».
Подготовлено порталом Allinsurance.kz