Amazon настроен отстоять свою программу распознавания лиц
Акционеры Amazon будут дважды голосовать по вопросу продажи своей технологии распознавания лиц полицейским службам США на ежегодном общем собрании в среду. Будут подняты два острых вопроса для голосования.
Во-первых, нужно ли компании прекратить предлагать свою систему Rekognition государственным органам.
И, во-вторых, стоит ли заказывать независимое исследование, которое выяснит, угрожает ли технология гражданским правам людей.
Голосование не являются обязательными, то есть руководителям не нужно предпринимать какие-либо конкретные действия независимо от результата.
Amazon пытался заблокировать голоса, но Комиссия по ценным бумагам и биржам сообщила, что он не имеет на это права.
«Мы надеемся, что получим сильную поддержку со стороны других инвесторов, и это даст компании сигнал о том, что им не следует продвигать продажи правительствам до тех пор, пока они не смогут смягчить риски», — Мэри Бет Галлахер, исполнительный директор Трехгосударственной коалиции ответственных инвестиций.
«Мы не хотим, чтобы оно использовалось правоохранительными органами из-за воздействия, которое будет иметь на общество — это может ограничить желание людей ходить в общественные места, где они думают, что их могут отследить».
Amazon призвал своих акционеров проголосовать против предложений, заявив, что не получил ни одного сообщения о том, что система используется вредоносным образом.
«Rekognition» является мощным инструментом для правоохранительных органов и правительственных учреждений по выявлению преступников, предупреждению преступности и поиску пропавших людей», — отмечается в сообщении AGM.
«Новые технологии не должны быть запрещены или осуждены из-за возможного злоупотребления ими».
Что такое Rekognition?
Rekognition — это онлайн-инструмент, который работает как с видео, так и с неподвижными изображениями и позволяет пользователям сопоставлять лица с предварительно отсканированными объектами в базе данных, содержащей до 20 миллионов человек.
При этом он дает достоверную оценку того, является ли идентификатор точным.
Кроме того, он может:
- обнаруживать «небезопасный контент», такой как обнаженная натура
- предложить, является ли предмет мужчиной или женщиной
- вывести настроение человека
- выделите текст на изображениях и расшифровать его для анализа
Amazon рекомендует правоохранительным органам использовать средство только в том случае, если рейтинг совпадения составляет 99% или более, и заявляет, что их действия должны быть прозрачными в отношении его использования.
Смещенные алгоритмы?
Частью привлекательности Rekognition является то, что его дешевле использовать, чем другие конкурирующих технологий распознавания лиц.
Но исследование, опубликованное в январе исследователями из Массачусетского технологического института и Университета Торонто, показало, что алгоритмы Amazon страдают от гендерных и расовых предрассудков, по сравнению с четырьмя конкурирующими продуктами.
В нем говорится, что Rekognition имел 0% ошибку при классификации светлокожих мужчин в рамках теста, но 31,4% ошибок, при классификации темнокожих женщин.
Amazon оспаривает выводы, заявляя, что исследователи использовали «устаревшую версию» своего инструмента и что его собственные проверки не обнаружили «никакой разницы» в гендерной классификации по этническим группам.
Несмотря на это, несогласие с использованием Rekognition также была озвучена группами гражданских свобод и сотнями работников Amazon.
Г-жа Галлахер заявила, что акционеры обеспокоены тем, что продолжающиеся продажи Rekognition в полицию могут нанести ущерб статусу Amazon как «одного из самых надежных учреждений в Соединенных Штатах».
Related Images:
Главный редактор “Россия-онлайн”
Ссылки на автора:
