СИСТЕМА РАСПОЗНАВАНИЯ ЛИЦ МОЖЕТ ОШИБАТЬСЯ

В Луизиане (США) система распознавания лиц отправила мужчину в тюрьму на неделю, а полиция даже не стала слушать его объяснения.

Арестованный за кражу, якобы совершенную им в Луизиане, мужчина заявил, что вообще никогда не был в этом американском штате.

Хотя использование системы распознавания лиц органами государственной власти подвергается широкой критике, правоохранительные системы некоторых стран постепенно получают к ней все больший доступ. Например, правоохранительные органы Луизианы, которые, сами того не желая, дали пищу критикам такого использования искусственного интеллекта.

Легко проверяемая ошибка
Действующий ордер на арест за кражу роскошных женских сумок, выданный в Луизиане, побудил полицию штата Джорджия арестовать 28-летнего Рэндала Рида. Опознанный программным обеспечением для распознавания лиц на изображениях камеры наблюдения магазина в Новом Орлеане, он был быстро отправлен в тюрьму, так как детективы сочли, что у них достаточно улик.

Тем не менее, адвокату Рида не пришлось прилагать особых усилий для защиты своего клиента. Действительно, между Ридом и запечатленным человеком было достаточно различий, чтобы указать на ошибку программного обеспечения. Среди них адвокат указал на родинку на лице Рида, а также разницу в весе примерно в 20 кг, у настоящего виновника также «дряблые руки».

В конце концов, правоохранительные органы быстро осознали свою ошибку и через неделю отпустили Рида. Их расследование в основном основывалось на идентификации лица нападавшего, вплоть до того, что, по словам его адвоката, даже обыск в доме его клиента не проводился. Эта ошибка объясняется, в частности, тем, что преступник и Рид – оба афроамериканцы.

Группы, более подверженные ошибкам при распознавании лиц
Программное обеспечение, используемое властями в Луизиане, неизвестно. Однако раньше в штате использовались системы Clearview AI и MorphoTrak. Clearview для идентификации людей использует фотографии из многих источников, включая социальные сети. Описание можно прочесть на сайте поставщика системы: «Наша платформа, основанная на технологии распознавания лиц, включает в себя крупнейшую известную базу данных, содержащую более 30 миллиардов изображений лиц из общедоступных веб-источников, включая новостные СМИ, веб-сайты с фотоидентификацией, общедоступные социальные сети и другие открытые источники».

Некоммерческая правозащитная организация «Фонд электронных ограничений» проводит кампанию за ограничение или даже запрет использования систем распознавания лиц американским правительством. Помимо проблем с конфиденциальностью, такие события, как случай с участием Рэндала Рида, выдвигают на первый план совершенно другую проблему, которую организация объясняет следующим образом: «Программное обеспечение для распознавания лиц особенно плохо, когда дело доходит до распознавания афроамериканцев и других этнических меньшинств, женщин и молодежи. Системы часто неправильно их идентифицируют или не идентифицируют вовсе, что оказывает несоизмеримое влияние на определенные группы». Этого достаточно, чтобы подозревать отсутствие беспристрастности, на словах осуждаемое властями по всему миру в отношении меньшинств.

Перевод
Александра ПАРХОМЕНКО

13.01.2023

Максанс ГЛИНЕР Ars Technica