Sony начнёт проверять продукты с искусственным интеллектом на этическую приемлемость.

Sony начнёт проверять продукты с искусственным интеллектом на этическую приемлемость.

Sony начнет проверку своих продуктов, в которых используется ИИ на предмет этических рисков уже весной 2021 года. Обеспокоенность непредвиденными рисками побуждает японского гиганта ужесточить контроль качества. Если продукт будет сочтен этически неприемлемым, компания либо улучшит продукт, либо остановит его разработку.

Несмотря на то, что ИИ предлагает потребителям больше удобств, он может непреднамеренно вызвать неловкие проблемы, такие как выявление социальных предрассудков и дискриминацию по полу из-за недостаточного понимания тонкостей, доступных человеческому мышлению.

По мере того как ИИ находит свое применение во все большем количестве устройств, ответственность разработчиков возрастает, а компании ужесточают руководящие принципы, регулирующие его этику. Sony планирует отразить свои принципы этики ИИ в существующих процедурах контроля качества. Насколько известно, японские компании редко учитывают этот факт при оценке безопасности продукции.

На всех этапах, от разработки продукта до его запуска, компания Sony будет проверять устройства с ИИ в соответствии с руководящими принципами, включая меры защиты конфиденциальности. Любые продукты, не соответствующие критериям этической работы ИИ, будут изменены или отменены.

Генеральный директор Sony вместе со своим председателем уже назначил членов комитета по этике ИИ из числа имеющихся сотрудников. В настоящее время комитет проверяет степень соответствия, как это определено руководящими принципами. Из списка будут исключены даже те продукты, которые находятся на стадии разработки. Если они уже были проданы, то могут быть отозваны при обнаружении проблем.

Во всем мире нарастает обеспокоенность по поводу рисков дискриминации и других злоупотреблений со стороны ИИ. В 2019 году регулирующий орган США расследовал инструмент Goldman Sachs на предмет возможной дискриминации по признаку пола при установлении лимитов по кредитным картам. Выяснилось, что ИИ отказывал или выставлял женскому полу меньшие кредитные лимиты, чем мужскому.

Исхаков Максим

Руководитель информационного портала "Безопасник". Директор компании по продаже и установке систем безопасности.

Оцените автора
Портал о системах видеонаблюдения и безопасности
Добавить комментарий