Распознавание лиц в камерах видеонаблюдения: горькие последствия
Есть много стран, граждане которых привыкли видеть камеры видеонаблюдения повсюду, куда бы они ни шли. Москва поднимает это на новый уровень, устанавливая более ста тысяч этих устройств по всему городу, включая входы в некоторые многоквартирные дома. Креативные сотрудники NTechLab сотрудничали с местными властями в декабре 2016 года, чтобы внедрить систему распознавания лиц прямо в эту инфраструктуру. С тех пор было произведено 6 арестов преступников, которых ранее было трудно поймать, согласно сообщениям от 28 сентября 2017 года. Но что это говорит о обществе, которое постоянно находится под наблюдением с помощью технологии, способной автоматически распознавать каждого гражданина?
Что может пойти не так?
Существует аргумент в пользу обеспечения того, чтобы в городе было достаточно камер наблюдения для отслеживания передвижений и привычек разыскиваемых преступников. Аресты, произведенные в Москве, доказывают, что система работает так, как задумано, и некоторые из этих преступников избегали задержания в течение многих лет. Однако мы не можем игнорировать жуткую идею о том, что в одном городе так много камер видеонаблюдения, что местные власти могут практически отслеживать каждое движение каждого гражданина и туриста, который входит в город. Система, охватывающая весь город, представляет собой огромную возможность для злоупотреблений.
Хотя мы можем в целом согласиться с тем, что убийцы должны быть пойманы и привлечены к ответственности, тревожно представлять себе общество, где понятие «правонарушитель» определяется тем же учреждением, которое осуществляет такое обширное наблюдение. Что, если, например, общество, которое ограничивает свободу выражения, запрещая определенные предметы одежды, внедрит эту модель наблюдения? Аресты будут производиться в отношении людей, которые выбрали неправильную одежду в определенный день.
Скандал с FaceFind
Перед экспериментом с камерами видеонаблюдения NTechLab сделала свою технологию общедоступной через платформу под названием FindFace. С помощью нее люди могли находить профиль человека в ВКонтакте (VK, российская версия Facebook), загружая его случайное фото. Группа недобросовестных людей решила использовать это программное обеспечение, чтобы находить профили взрослых актрис и связываться с их семьей и друзьями в надежде вызвать негативную реакцию и усложнить жизнь цели. Первоначальное намерение FindFace было далеко от того, для чего оно использовалось. Оно было создано как платформа для людей, чтобы находить новых друзей, но вместо этого стало благом для сталкеров по всему миру.
Когда добрые намерения не достигают своих целей
Как платформа распознавания лиц CCTV, так и FindFace были созданы с лучшими намерениями. Одна была создана для поимки преступников, а другая — для сближения людей. Но человеческая природа и природа государственных учреждений рисуют другую картину того, как будет использоваться это программное обеспечение. Мы склонны использовать технологии таким образом, чтобы иметь контроль не только над своей жизнью, но и над другими (например, родитель, устанавливающий программное обеспечение для отслеживания на телефон ребенка). Используемая правильно, она может помочь нам обеспечить безопасность людей. Однако в неправильных руках такие технологии, как FindFace и основанная на CCTV система распознавания лиц в Москве, могут потенциально сделать жизнь невиновных людей несчастной.
Считаете ли вы, что нам следует внедрять больше или меньше технологий для помощи правительственному наблюдению? Давайте обсудим это в комментариях!
