Полицейские в нескольких странах используют программное обеспечение для распознавания лиц и говорят, что технология полезна в борьбе с преступниками. Но многие считают, что технология может быть использована не по назначению, и полиции следует запретить ее использование. Один из ведущих исследователей Google объясняет, почему технология опасна, тема интересна в контексте требовательной полицейской реформы в Соединенных Штатах.
Тимнит Гебру, руководитель группы Google по этическому использованию искусственного интеллекта, сообщает New York Times, что технология слишком опасна, чтобы оставлять ее в руках правоохранительных органов.
Гебру объясняет, прежде всего, что есть большие ошибки в идентификации лиц цветных людей, и это означает более низкий уровень обнаружения для людей с более темной кожей и, косвенно, арест невинных людей.
И когда идентификация сделана правильно, технология может быть использована не по назначению, как это произошло на акции протеста в Балтиморе, где полиция использовала собранные изображения для идентификации участников, сравнивая изображения с изображениями в социальных сетях.
Затем существует концепция «предвзятости автоматизации», которая относится к тому факту, что, хотя сотрудник полиции, видя изображение, полученное системой, считает, что он не похож на подозреваемого, он арестует этого подозреваемого только потому, что системы распознавания говорят, что в 99% это разыскиваемый человек. Часто обнаруженные системой цветовые обнаружения гораздо более неточны, чем те, которые сделаны людьми, которые смотрят на фотографии и сравнивают их.
Гебру говорит, что вместе взятые три вещи опасны, когда речь заходит о распознавании лиц: чрезмерное доверие к технологиям, тенденция использовать их ненадлежащим образом и отсутствие прозрачности.
Исследователь Google говорит, что люди не должны спешить с «технологическими решениями».
Как работает эта технология? В основном, технология распознавания лиц использует биометрию, чтобы составить «карту» лица каждого человека, и наиболее важным аспектом является геометрия лица, потому что это точно измеренные расстояния (например, между глазами или между лбом и подбородком).
Из измерений создается «лицевая подпись», в основном математическая формула, которая сравнивается с базой данных имеющихся лиц.
