Россия Онлайн - новости России

Amazon настроен отстоять свою программу распознавания лиц

Amazon настроен отстоять свою программу распознавания лиц
22.05.2019

Акционеры Amazon будут дважды голосовать по вопросу продажи своей технологии распознавания лиц полицейским службам США на ежегодном общем собрании в среду. Будут подняты два острых вопроса для голосования.

Во-первых, нужно ли компании прекратить предлагать свою систему Rekognition государственным органам.

И, во-вторых, стоит ли заказывать независимое исследование, которое выяснит, угрожает ли технология гражданским правам людей.

Голосование не являются обязательными, то есть руководителям не нужно предпринимать какие-либо конкретные действия независимо от результата.

Amazon пытался заблокировать голоса, но Комиссия по ценным бумагам и биржам сообщила, что он не имеет на это права.

«Мы надеемся, что получим сильную поддержку со стороны других инвесторов, и это даст компании сигнал о том, что им не следует продвигать продажи правительствам до тех пор, пока они не смогут смягчить риски», — Мэри Бет Галлахер, исполнительный директор Трехгосударственной коалиции ответственных инвестиций.

«Мы не хотим, чтобы оно использовалось правоохранительными органами из-за воздействия, которое будет иметь на общество — это может ограничить желание людей ходить в общественные места, где они думают, что их могут отследить».

Amazon программа распознавания лиц

Amazon призвал своих акционеров проголосовать против предложений, заявив, что не получил ни одного сообщения о том, что система используется вредоносным образом.

«Rekognition» является мощным инструментом для правоохранительных органов и правительственных учреждений по выявлению преступников, предупреждению преступности и поиску пропавших людей», — отмечается в сообщении AGM.

«Новые технологии не должны быть запрещены или осуждены из-за возможного злоупотребления ими».

Что такое Rekognition?

Rekognition — это онлайн-инструмент, который работает как с видео, так и с неподвижными изображениями и позволяет пользователям сопоставлять лица с предварительно отсканированными объектами в базе данных, содержащей до 20 миллионов человек.

При этом он дает достоверную оценку того, является ли идентификатор точным.

Кроме того, он может:

  • обнаруживать «небезопасный контент», такой как обнаженная натура 
  • предложить, является ли предмет мужчиной или женщиной
  • вывести настроение человека
  • выделите текст на изображениях и расшифровать его для анализа

Amazon рекомендует правоохранительным органам использовать средство только в том случае, если рейтинг совпадения составляет 99% или более, и заявляет, что их действия должны быть прозрачными в отношении его использования.

Смещенные алгоритмы?

Частью привлекательности Rekognition является то, что его дешевле использовать, чем другие конкурирующих технологий распознавания лиц.

Но исследование, опубликованное в январе исследователями из Массачусетского технологического института и Университета Торонто, показало, что алгоритмы Amazon страдают от гендерных и расовых предрассудков, по сравнению с четырьмя конкурирующими продуктами.

В нем говорится, что Rekognition имел 0% ошибку при классификации светлокожих мужчин в рамках теста, но 31,4% ошибок, при классификации темнокожих женщин.

Amazon программа распознавания лиц

Amazon оспаривает выводы, заявляя, что исследователи использовали «устаревшую версию» своего инструмента и что его собственные проверки не обнаружили «никакой разницы» в гендерной классификации по этническим группам.

Несмотря на это, несогласие с использованием Rekognition также была озвучена группами гражданских свобод и сотнями работников Amazon.

Г-жа Галлахер заявила, что акционеры обеспокоены тем, что продолжающиеся продажи Rekognition в полицию могут нанести ущерб статусу Amazon как «одного из самых надежных учреждений в Соединенных Штатах».