Приложение для распознавания лиц ICE дало сбой при идентификации задержанной
Мобильное приложение для распознавания лиц ICE Mobile Fortify выдало два разных неверных имени при сканировании одной задержанной, что ставит под сомнение точность системы, используемой для определения иммиграционного статуса.
В штате Орегон произошел показательный случай, демонстрирующий ненадежность системы распознавания лиц, которую использует Иммиграционная и таможенная полиция США (ICE).
Во время задержания 45-летней женщины сотрудники ICE попытались установить ее личность с помощью приложения Mobile Fortify. При первом сканировании система определила ее как некую 'Марию'. Когда задержанная никак не отреагировала на это имя, сотрудники сделали повторное сканирование - и приложение выдало уже совершенно другое имя. Как позже выяснилось, оба результата оказались неверными.
Этот инцидент вызывает серьезные вопросы, поскольку ранее ICE заявляла конгрессменам, что Mobile Fortify дает 'окончательное' определение иммиграционного статуса человека, которому следует доверять даже больше, чем свидетельству о рождении.

По словам экспертов по безопасности, технически невозможно создать систему, которая бы со 100% точностью определяла иммиграционный статус всего населения США. Особенно тревожит тот факт, что это ненадежное приложение используется для принятия решений о депортации людей.
Задержанная женщина, обозначенная в судебных документах как MJMA, въехала в США по туристической визе B-2 и в настоящее время просит убежища. После инцидента она подала иск против ICE.

Специалисты отмечают, что системы распознавания лиц часто допускают ошибки, особенно при идентификации представителей этнических меньшинств. Использование такой несовершенной технологии для определения иммиграционного статуса может привести к серьезным нарушениям прав человека.
В настоящее время группа демократов в Конгрессе предложила законопроект, который существенно ограничит использование Mobile Fortify, разрешив его применение только в пунктах въезда в США. Также предлагается обязать удалять фотографии граждан США через 12 часов после сканирования.
Смотрите также
-
Игры·Meta тихо запустила приложение для создания мини-игр с помощью ИИ
-
Редактирование изображений·Apple добавляет три новых ИИ-инструмента в приложение Фото
-
Ассистенты·WWDC26: новый Siri, родительский контроль и быстрее на 80%
-
ИИ-агент·Apple думает пустить ИИ-агентов в App Store
-
Ассистенты·Vocci Ring - ИИ-кольцо, которое не бесит
-
Ассистенты·Comet AI - новый браузер под iOS
-
Мобильные·Tinder запустил ИИ, который хочет покопаться в вашей галерее ради лучших совпадений
-
Мобильные·OpenAI готовится встроить Sora прямо в ChatGPT
-
ИИ-агент·Google добавил в Android ИИ-помощника для заказа такси и защиту от телефонных мошенников