Введение обязанности носить маску произошло практически сразу после вспышки пандемии COVID-19, которая вызвала возражения среди многих людей во всем мире. Вскоре после этого появились дополнительные инструкции, дающие государственным службам возможность штрафовать людей, не выполняющих рекомендации, а магазинам и служебные помещениям – отказываться обслуживать неосторожных клиентов. Однако в большинстве случаев людям, которые не соблюдают обязанность носить маску в общественных местах, обычно удается избежать ответственности.
Когда Акаш Такьяр услышал эти истории, он был шокирован тем, как с ними поступили, и задался вопросом, может ли его компьютерная компания LeewayHertz предложить более мирный способ решения проблемы. Поэтому он решил создать компьютерную программу, которая определяет, носят ли люди маски. Его компания из Сан-Франциско создала новые инструменты машинного обучения, которые можно использовать как в частных, так и в общественных местах.
В этом есть смысл, но у каждой палки два конца. «Данные лица так же ценны, как и отпечатки пальцев», – говорит Дебора Раджи, научный сотрудник отдела искусственного интеллекта Нью-Йоркского университета, и те, кто сомневался в этичности алгоритмов распознавания лиц, задаются вопросом, может ли программное обеспечение для обнаружения масок – даже то, что это из добросовестных побуждений – может ли иметь место в современном обществе?
Как сканировать лицо на наличие маски?
Сегодняшнее программное обеспечение для распознавания лиц изучает особенности глаз, носа, рта и ушей, чтобы идентифицировать человека. Ношение маски затрудняет распознавание, и это проблема, с которой уже сталкивались многие системы, но некоторые нашли решение. Например, Apple FaceID, которая использует распознавание лиц для разблокировки iPhone, недавно выпустила обновление системы, которое может определять, что человек носит маску. Обновление быстро распознает закрытые рот и нос и предлагает пользователю ввести пароль вместо того, чтобы снимать защитную маску.
Компании, разработавшие программное обеспечение для распознавания масок, заявляют, что их цель – широкое использование технологии, которая поможет людям разработать новые политики защиты от инфекций или усилить общественные кампании.
Разработчики говорят, что программное обеспечение для распознавания масок теоретически позволяет избежать проблем с конфиденциальностью, поскольку на самом деле программы не идентифицируют людей. Такое программное обеспечение обучается на двух наборах изображений: один обучает алгоритму распознавания лиц («обнаружение лица»), а другой – обнаруживает наличие маски («распознавание маски»). Алгоритм машинного обучения не идентифицирует лицо каким-либо образом, который мог бы связать его с конкретным человеком, поскольку он не использует набор изображений лиц, связанных с конкретной личностью.
Алгоритм LeewayHertz можно использовать в реальном времени и интегрировать с камерами видеонаблюдения. Он выделяет изображения из заданного кадра видеоизображения и делит их на две категории – людей, которые носят маски, и тех, кто их не носит. На данный момент он используется несколькими компаниями в США и Европе, в основном для контроля безопасности среди своих сотрудников.
Хотя Тайкар видит вескую причину для использования своего программного обеспечения для распознавания масок в личных пространствах, его публичное использование может быть более рискованным. Потому что как обеспечить соблюдение штрафных санкций – размещая на рекламных щитах фотографии неосторожных прохожих? Конечно нет.
Пробелы с благими намерениями
Конечно, новые алгоритмы могут быть очень полезны в сдерживании роста пандемии, но было много голосов, обеспокоенных отсутствием правил, регулирующих использование собранных данных.
В настоящее время в Соединенных Штатах нет федерального закона, регулирующего конфиденциальность данных. Вместо этого страна полагается на лоскутное одеяло правил, которые касаются конкретных секторов, таких как здравоохранение, финансовые операции и маркетинг. Кроме того, корпорации и организации, собирающие частные данные, не обязаны сообщать своим владельцам, что с ними происходит.
Критики нового решения также считают, что технология может быть подвержена тем же подводным камням, что и алгоритмы распознавания лиц, например, неточности. На самом деле никто не знает, что алгоритм использует для принятия решений. Например, когда мы хотим обучить алгоритм распознавания коровы, существует риск того, что искусственный интеллект может также рассмотреть поля травы на заднем плане, чтобы создать виртуальную метку для этого животного.
Таким образом, при применении этого принципа к распознаванию лиц или масок существует риск того, что модели машинного обучения могут использовать другие «фоновые» характеристики, такие как раса и пол. «Существуют и другие артефакты, которые влияют на решение алгоритма», – говорит Дебора Раджи, – «и исследователи машинного обучения только начинают привыкать к этому ограничению технологии». По мнению эксперта, самая большая проблема для разработчиков технологии – распознавания наличие масок – это справиться с проблемой, но не в ущерб конфиденциальности среди граждан. В конце концов, речь должна идти не о контроле и запугивании, а только о безопасности людей.
