Добавить новость
smi24.net
News in English
Июль
2024

Detroit Alters Facial Recognition Use Rules In Response To Multiple Bogus Arrests

0

All facial recognition tech is flawed. Some offerings may be less flawed than others, but the underlying problems (mainly, the inability to be as accurate when identifying minorities and women) remain.

In Detroit, the problems became problematic fairly quickly and dramatically. Hundreds of US law enforcement agencies utilize facial recognition tech, but the Detroit PD was especially bad at it.

The main problem here wasn’t necessarily the software, which was provided by DataWorks Plus. It was the officers using it. Rather than follow internal rules and guidance supplied by DataWorks that made it clear potential matches weren’t supposed to be considered probable cause for an arrest, officers decided to go after whatever person the algorithm suggested might be a match.

By the middle of 2020, the Detroit PD and its tech had already been linked to two wrongful arrests. A third followed a couple years later. These are probably not the only false arrests linked to the tech, but these are the three that have generated lawsuits.

One of those lawsuits has resulted in a settlement that alters how the Detroit PD uses the tech, in hopes of reducing this Detroit PD-centric problem, as Kashmir Hill reports for the New York Times.

In January 2020, Robert Williams spent 30 hours in a Detroit jail because facial recognition technology suggested he was a criminal. The match was wrong, and Mr. Williams sued.

On Friday, as part of a legal settlement over his wrongful arrest, Mr. Williams got a commitment from the Detroit Police Department to do better. The city adopted new rules for police use of facial recognition technology that the American Civil Liberties Union, which represented Mr. Williams, says should be the new national standard.

“We hope that it moves the needle in the right direction,” Mr. Williams said.

Multiple limitations of the tech were exposed in a very short period by Detroit PD officers’ reckless use of search results. The first false arrest involved someone who clearly couldn’t have been the suspect if officers had bothered to look further than his face. The recording of the suspected arsonist used by investigators showed a suspect with bare arms. The arrestee’s arms were covered with tattoos.

Another arrest involved a pregnant woman who was selected as a match by the PD’s software, despite clearly being unable (at eight months into her pregnancy) to be capable of carrying out a carjacking. (Or, even if she could, that would have been the most notable thing pointed out by the victim of the crime.)

The third case is the one that has netted this crucial settlement. Robert Williams sued the PD and the arresting officers after he was arrested for a jewelry store robbery he didn’t commit. The investigators (I’m using that term lightly) had been involved in other bogus arrests stemming from over-reliance on facial recognition search results. In this case, they used a low-res screengrab from the store’s CCTV to run a search, even though the photo was incapable of generating anything but garbage results.

Because not doing anything will allow this sort of thing to continue, the city of Detroit has agreed to a settlement [PDF] that changes the way its cops are allowed to use facial recognition search results. The most important change is that officers will no longer be able to show images of people surfaced via facial recognition tech to eyewitnesses unless the investigators have some other evidence linking that person to the crime.

There are more stipulations and limitations as well.

The department is also changing how it conducts photo lineups. It is adopting what is called a double-blind sequential, which is considered a fairer way to identify someone. Rather than presenting a “six-pack” to a witness, an officer — one who doesn’t know who the primary suspect is — presents the photos one at a time. And the lineup includes a different photo of the person from the one the facial recognition system surfaced.

The police will also need to disclose that a face search happened, as well as the quality of the image of the face being searched — How grainy was the surveillance camera? How visible is the suspect’s face? — because a poor quality image is less likely to produce reliable results. They will also have to reveal the age of the photo surfaced by the automated system, and whether there were other photos of the person in the database that did not show up as a match.

That should help limit this sort of damage going forward. But maybe the city should take a look at the tech itself, which seems to be more flawed than most. Even the police chief seemed unimpressed back in 2020 when these stories first started surfacing, telling city officials the software misidentified people “96 percent of the time.”

Ensuring it’s not the only thing being used to obtain arrest warrants will help eliminate some of the margin of error. On the other hand, it might be time to find a different vendor with a more accurate product. Or, better yet, just stop using it at all because, for all the tech involved, it often seems to be no more reliable than your average eyewitness.








Летние кинотеатры в Москве

Овик Аванесов: Пожары в Арцахе устроены специально, это часть спланированного культурного геноцида

Вывод песни для продвижения в Импульсе Яндекс Музыка.

В Москве прошла седьмая премия в области здоровья и красоты THE MEDICAL STARS & BEAUTY AWARDS


Jovic set for new opportunity after leaving Milan as free agent

Not even a 0% mortgage rate would make buying a house affordable in these 6 U.S. cities

£39m United star shouldn't be starting vs Arsenal, was gifting possession to Everton

The 5 biggest global business rivalries to watch, and how their outcomes will shape the future


Защищённый планшет промышленного класса Saotron RT-W11

Пикирующий бомбардировщик.

В Петербурге пассажиры метро пожаловались на случаи отказа в пропуске, если у них при себе была разряженная техника

Россияне готовы покупать акции своего работодателя. Какие риски это несет


Android-игроки раскритиковали сурвайвл-хоррор Jericho: Survival

Girl Rescue 1.0.3.3

Раскрой потенциал Мистера Террифика из DC Worlds Collide с этим гайдом

Обзор на мобильную версию A Game About Digging A Hole



Велоспорт для всех: начни вместе с ENERGY

Gayazov$ Brother$ в Зеленом театре ВДНХ! Like FM дарит билеты

Попади на концерт FEDUK с Like FM

В России появилась универсальная методология нагрузочного тестирования ERP-систем


Попади на концерт FEDUK с Like FM

В России появилась универсальная методология нагрузочного тестирования ERP-систем

Велоспорт для всех: начни вместе с ENERGY

Автозайм: Займы под залог авто – быстро и удобно


Gayazov$ Brother$ в Зеленом театре ВДНХ! Like FM дарит билеты

Самым продаваемым жилым кварталом премиум-класса Москвы вновь стал «Прайм Парк»

Энергоэффективность в цифрах: в среднем новые ЖК могут экономить более 20% всех ресурсов, но есть нюанс по платежкам

В России появилась универсальная методология нагрузочного тестирования ERP-систем


Теннисист Рублев вышел в четвертьфинал турнира ATP в Торонто

Хачанов обогнал Медведева, Рублев приятно удивил, а Таусон остановила Свентек

Осака достигла полуфинала на теннисном турнире в Монреале

Теннисист Бублик заявил о желании жить в Петербурге


Gayazov$ Brother$ в Зеленом театре ВДНХ! Like FM дарит билеты

Карточка Артиста. Карточка артиста яндекс. Карточка артиста яндекс музыка.

Как в «Жанетт» снизили брак обуви из ЭВА и вышли на новый уровень качества

Самым продаваемым жилым кварталом премиум-класса Москвы вновь стал «Прайм Парк»


Музыкальные новости

Певица Джейн Морган из США скончалась

Музыкант Алексей Фомин рассказал о его друзьях

Страну не любит, но дом не продает: Макаревич скрывает недвижимость в России

Бутман выразил свою позицию по поводу отмены концерта Гергиева в Италии


В России появилась универсальная методология нагрузочного тестирования ERP-систем

Энергоэффективность в цифрах: в среднем новые ЖК могут экономить более 20% всех ресурсов, но есть нюанс по платежкам

Gayazov$ Brother$ в Зеленом театре ВДНХ! Like FM дарит билеты

Велоспорт для всех: начни вместе с ENERGY


Два футбольных клуба подали обращения в ЭСК РФС после завершения третьего тура РПЛ

Заворотнюк снялась в обтягивающем комбинезоне через четыре месяца после родов

Вывод песни для продвижения в Импульсе Яндекс Музыка.

Пэн Пай: как встреча с Путиным в 2000 году изменила мою судьбу


Дептранс Москвы рекомендовал использовать метро из-за ограничения движения

В Москве на видео сняли затопленные до крыши автомобили

Клиенты компании «Байкал Сервис» экономят на перевозке сезонных товаров

Два автобуса столкнулись на северо-востоке Москвы, движение перекрыто


Посол Израиля оценила отношения с РФ на фоне личного контакта Путина и Нетаньяху

Во Франции высказались о визите Уиткоффа в Москву

Интриги Эрдогана и Зеленского. «Джокер» Путина. Активность над секретным полигоном: Главное к утру



В Москве задержаны четверо мужчин по делу о пожертвованиях организации «ФБК»

В Москве задержали четверых сторонников ФБК за пожертвования организации


К доктору – без страха: сеть клиник «Будь Здоров» представила VR-решения для детского здоровья

Алексей Тамаров – искусство пластической хирургии

Клинический психолог Юлия Тарибо: что такое односторонняя дружба и стоит ли ее продолжать

В Москве прошла седьмая премия в области здоровья и красоты THE MEDICAL STARS & BEAUTY AWARDS



В депо «Вязьма» отметили профессиональный праздник соревнованиями по лазертагу

Велоспорт для всех: начни вместе с ENERGY

«Ты будешь моей…»: Николай Ерусланкин из Нижнего Новгорода удивил всех участников шоу «Погоня» на ТНТ

Профессиональные бои состоятся в Нижнем Новгороде 9 августа



Сергей Собянин: В Москве запущен 220-й электробусный маршрут

Собянин открыл первый флагманский МФЦ для регистрации самоходной техники

Собянин сообщил о сокращении срока регистрации самоходной техники вдвое

Собянин открыл новый МФЦ для самоходной техники


Энергоэффективность в цифрах: в среднем новые ЖК могут экономить более 20% всех ресурсов, но есть нюанс по платежкам

Частые осадки летом 2025-го являются последствием изменения климата

Мессенджер Max будут обязательно устанавливать на новые смартфоны с сентября

Эксперт обсудил будущие возможности возобновляемых источников энергии в России


Попади на концерт FEDUK с Like FM

Самым продаваемым жилым кварталом премиум-класса Москвы вновь стал «Прайм Парк»

Автозайм: Займы под залог авто – быстро и удобно

Карточка Артиста. Карточка артиста яндекс. Карточка артиста яндекс музыка.


Амурская область оказалась в числе аутсайдеров по качеству дорог

Защищённый планшет промышленного класса Saotron RT-W11

Аномальная жара: До +41 °С в Чечне и Ингушетии, +30 °С в Карелии и Архангельске

Коми, Камчатку, Архангельскую, Иркутскую, Калужскую, Костромскую, Курскую, Свердловскую и Оренбургскую области эксперты отнесли к регионам, где на осенних выборах "протестный потенциал выше среднего", говорится в докладе...


До 100 метеоров в час: когда наблюдать пик звездопада Персеиды над Крымом

Компания «Гранд Сервис Экспресс» информирует об изменениях в курсировании некоторых поездов «Таврия» с осени 2025 года

Прогноз погоды в Крыму на 6 августа

Провокация Британии против РФ и рекорд цен на бензин – главное за день


В России появилась универсальная методология нагрузочного тестирования ERP-систем

От Москвы до Сибири: Лилию Невскую отправили по этапу до апелляции

Автозайм: Займы под залог авто – быстро и удобно

Самым продаваемым жилым кварталом премиум-класса Москвы вновь стал «Прайм Парк»














СМИ24.net — правдивые новости, непрерывно 24/7 на русском языке с ежеминутным обновлением *