Не работает. Систему распознавания лиц от Amazon проверили на конгрессменах США

Американский союз гражданских свобод ACLU проверял систему распознавания лиц от Amazon и столкнулся с не очень хорошими результатами.

Система Rekognition выдала 28 ложных срабатываний, посчитав 28 конгрессменов правонарушителями, пишет The Verge

Ни один из 535 членов Конгресса не был в списках правонарушителей, но система Amazon показала серьезный процент ошибок. Организация ACLU уже высказала серьезную озабоченность по поводу использования полицией этой системы распознавания лиц.

«Идентификация — будь то точная или нет — может стоить людям их свободы или даже их жизни. Конгресс должен серьезно относиться к этим угрозам и ввести мораторий на использование правоохранительными органами распознавания лица», — говорится в сопроводительном заявлении группы.

В то же время, представитель Amazon объяснил результаты плохой калибровкой. Тесты ACLU были выполнены с использованием порога доверия по умолчанию 80 процентов, но Amazon заявляет, что рекомендует по крайней мере 95-процентный порог для приложений правоохранительных органов, где ложное срабатывание может иметь более значительные последствия.

«Хотя показатель 80% является приемлемым порогом для распознавания фотографий хот-догов, стульев, животных или других случаев использования в социальных сетях, было бы нецелесообразно идентифицировать людей с таким порогом доверия», — подчеркнул представитель Amazon. При этом он не объяснил, что мешает правоохранительным органам использовать настройку по умолчанию.

Подразделение Amazon Web Services представила Rekognition в 2016 году. Система использует искусственный интеллект для быстрой идентификации людей на фото и видео, а также распознавания текстов.