Какие последствия может вызвать сбой в программе искусственного интеллекта и как этого избежать?

Какие последствия может вызвать сбой в программе искусственного интеллекта и как этого избежать?

Фантастический мир будущего из рассказов футурологов оказался реальным уже сегодня. Человечество в полной мере пользуется услугами искусственного интеллекта и планирует развиваться в этой сфере. Вред или польза влияния ИИ ждет мир в ближайшем будущем – главный вопрос программных разработчиков.

ИИ в повседневном быту

Джон Маккарти
Джон Маккарти

Понятие «искусственного интеллекта» ввел Джон Маккарти 65 лет назад. Однако некоторые обыватели отрицают существование ИИ. Все дело в том, что человечество ждет от искусственного разума умений сверхмашины, способной поработить окружающий мир, тогда как привычный калькулятор тоже считается ИИ.
Поэтому разработчики ввели понятие слабого ИИ и универсального ИИ, который в будущем достигнет уровня человеческого разума и сможет решать сложные интеллектуальные вопросы.
Современная жизнь обычного человека сопровождается использованием ИИ. Голосовой помощник в мобильном телефоне выполняет команды, робот-пылесос поддерживает чистоту в доме, а банкомат выдает деньги. Польза для общества, которую несет ИИ, неоспорима. Однако главы ведущих компаний – Илон Маск и Билл Гейтс, высказывают опасения, связанные с резким развитием в области ИИ для человека.

Возможные сценарии событий

Внедрение машин со сверхразумом связано с опасностью для жизни окружающих. Если предположить, что запрограммированный ИИ при выполнении задачи пренебрежет безопасностью человека для достижения цели, тогда стоит говорить о пассивном риске.
Случайный риск связан с неопытностью ИИ. Недостаток данных приведет к возникновению сложностей. Эту ошибку устранит дальнейшая подготовка машины. Такое развитие событий сравнимо с обучением новичка новому делу.
Выполнение сверхзадач повлечет риск использования ИИ террористическими организациями для нанесения вреда в больших масштабах. Нельзя допустить, чтобы разумные технологии оказались не в тех руках.
ИИ, перегнавший человека в интеллектуальном развитии, грозит вступить в противостояние с живыми существами. Самообучаемость машины грозит возможностью перепрограммирования. В таком случае разработчик не сможет внести изменений в поведение ИИ. Контроль над ситуацией будет утрачен. Подобные случаи уже имели место в работе нейросетей. В ходе эксперимента нейросеть разработала собственное шифрование. При этом ключ от шифра разработчики не знали. Другой эксперимент с диалогом трех сетей показал, что общение чат-ботов привело к образованию своего языка, который был непонятен наблюдателям. Описанные ситуации признаны ошибками с последующим отключением ИИ.

Борьба с надвигающейся угрозой

Развитие интеллектуального мышления искусственного разума пугает. Ведущие умы говорят о скачке в эволюции машин в ближайшие десятилетия. Чтобы бороться с угрозой, Илон Маск предпочитает участвовать в разработке. Лучше наглядно представлять то, с чем имеешь дело, чем осваивать технологии в погоне за конкурентами.
Контролировать ИИ – единственно правильное решение. Нельзя забывать о предназначении программ и роботов. Их цель – упростить жизнь человека. ИИ призван выполнять рутинную работу, тогда как на специалистов узкого профиля возлагается ответственность за выбор того или иного действия машины.
Изобретение ИИ уже поменяло жизни человечества. Появились невостребованные профессии, обязанности специалистов которых взяли на себя автоматизированные системы. Учебным учреждениям и кадровым агентствам следует пересмотреть подготовку работников отдельных сфер, подверженных внедрению ИИ. Человек должен научиться сотрудничать с разумными машинами и контролировать процесс их труда.

Исхаков Максим

Руководитель информационного портала "Безопасник". Директор компании по продаже и установке систем безопасности.

Оцените автора
Портал о системах видеонаблюдения и безопасности
Добавить комментарий