Приложение для распознавания лиц ICE дало сбой при идентификации задержанной

  ·   чтения   ·     ·  
Мобильное приложение для распознавания лиц ICE Mobile Fortify выдало два разных неверных имени при сканировании одной задержанной, что ставит под сомнение точность системы, используемой для определения иммиграционного статуса.
Приложение для распознавания лиц ICE дало сбой при идентификации задержанной

В штате Орегон произошел показательный случай, демонстрирующий ненадежность системы распознавания лиц, которую использует Иммиграционная и таможенная полиция США (ICE).

Во время задержания 45-летней женщины сотрудники ICE попытались установить ее личность с помощью приложения Mobile Fortify. При первом сканировании система определила ее как некую 'Марию'. Когда задержанная никак не отреагировала на это имя, сотрудники сделали повторное сканирование - и приложение выдало уже совершенно другое имя. Как позже выяснилось, оба результата оказались неверными.

Этот инцидент вызывает серьезные вопросы, поскольку ранее ICE заявляла конгрессменам, что Mobile Fortify дает 'окончательное' определение иммиграционного статуса человека, которому следует доверять даже больше, чем свидетельству о рождении.

По словам экспертов по безопасности, технически невозможно создать систему, которая бы со 100% точностью определяла иммиграционный статус всего населения США. Особенно тревожит тот факт, что это ненадежное приложение используется для принятия решений о депортации людей.

Задержанная женщина, обозначенная в судебных документах как MJMA, въехала в США по туристической визе B-2 и в настоящее время просит убежища. После инцидента она подала иск против ICE.

Специалисты отмечают, что системы распознавания лиц часто допускают ошибки, особенно при идентификации представителей этнических меньшинств. Использование такой несовершенной технологии для определения иммиграционного статуса может привести к серьезным нарушениям прав человека.

В настоящее время группа демократов в Конгрессе предложила законопроект, который существенно ограничит использование Mobile Fortify, разрешив его применение только в пунктах въезда в США. Также предлагается обязать удалять фотографии граждан США через 12 часов после сканирования.

Смотрите также

Логотип Telegram

Будьте в курсе новых нейросетей — подпишитесь на наш Telegram-канал!

Ежедневные обзоры свежих AI-инструментов, лайфхаки и инструкции прямо в вашем мессенджере.

AILibri – главная страница
Ctrl / ⌘+K