На федеральных выборах в Бельгии в 2003 году граждане голосовали электронным способом – с использованием магнитных карт, которые получил каждый избиратель. В городке Схарбек Мария Виндевогель победила не очень популярного кандидата. В этом не было бы ничего экстраординарного, если бы не тот факт, что она набрала намного больше голосов, чем количество людей, имеющих право голоса в ее избирательном округе. Все использованные магнитные карты были собраны, и голоса были пересчитаны. Поддержка кандидатов не изменилась – за исключением Виндевогель, которая на этот раз оказалась ровно на 4096 голосов меньше. Дальнейшее расследование позволило установить причину ошибки, которая в официальных документах гласила «самопроизвольная установка тринадцатого бита в памяти компьютера».
НОЛЬ И ЕДИНИЦЫ
Наша повседневная работа – это десятичная система, в которой мы записываем числа как последовательные степени десяти. Итак, 123 означает сотню (1 * 102), две десятки (2 * 101) и три единицы (3 * 100). Компьютеры используют другую систему записи – двоичную. Цифры всего две – ноль и единица, и каждая последующая запись – это так называемый бит, который является другой степенью двойки. Десятичное число 123 в этой записи выглядит так: 1111011 (1 * 26 + 1 * 25 + 1 * 24 + 1 * 23 + 0 * 22 + 1 * 21 + 1 * 20 = 64 + 32 + 16 + 8 + 0 + 2 + 1 = 123).
Разница между количеством голосов за г-жу Виндевогель составила 4096. Это число в точности равно двум в двенадцатой степени. Это было ключом для ученых, пытающихся объяснить странный результат выборов. Дальнейшие выводы сделать просто: в памяти компьютера для подсчета голосов произошла аномалия, в результате которой один из битов был установлен в 1 вместо нуля.
Если кандидат фактически получил шесть голосов, ее результат в 16 битах будет 0000000000000110 (1 * 22 + 1 * 21 + 0 * 20 = 4 + 2 = 6). Однако, если один бит был изменен в тринадцатой позиции (считая справа), число было бы 0001000000000110 и было бы 4102, что ровно на 4096 больше, чем исходный результат. Вопрос в том, кто или что может это изменить?
ПОСТОЯННАЯ БОМБАРДА
Расследование в Бельгии исключило компьютерный взлом или вирус, изменяющий данные в памяти. Причиной ошибки были космические лучи, достигающие Земли в основном от Солнца, а также от далеких объектов, таких как нейтронные звезды, сверхновые и черные дыры. Он состоит из элементарных частиц высоких энергий. Большинство из них останавливают магнитное поле Земли, но некоторые перемещаются дальше. В атмосфере они сталкиваются с атомами воздуха, в результате чего образуются так называемые вторичные космические лучи – в основном протоны высоких энергий, альфа-частицы и электроны.
– «Все находится под воздействием этого излучения. Когда мы стоим, через наше тело каждую секунду проходят в среднем две молекулы высокой энергии. «Обычному компьютеру приходится иметь дело с молекулой несколько раз в течение часа, что может изменить состояние его электроники», – объясняет доктор. Марцин Столярски, космический инженер из RocketLab.
Данные сохраняются в памяти компьютера за счет разницы в электрическом напряжении. Бит со значением ноль – это отсутствие напряжения, единица – наличие напряжения. Когда частица излучения попадает в элемент хранения данных, она может превратиться из нуля в единицу или наоборот. При этом протекающая реакция обычно настолько слабая, что не разрушает саму электронику, хотя из этого правила бывают исключения.
«Есть изменения, которые могут вызвать взрыв интегральных схем, потому что излучение вызывает в них короткое замыкание. Но это скорее происходит в кино или около ядерных реакторов», – говорит д-р Столярски.
В целом, чем ближе объект к поверхности Земли, тем слабее излучение. С другой стороны, повышается риск возникновения помех, например, на борту самолетов.
ТАИНСТВЕННЫЕ ПРОБЛЕМЫ
«Большинство из этих отклонений не имеют для нас значения. Может быть изменение цвета на один пиксель на экране или небольшое изменение в неиспользуемой в данный момент области памяти. В худшем случае компьютер перезагрузится. – Здесь ситуация похожа на нашу ДНК. В нем постоянно происходят случайные изменения, но у нас также есть механизмы, которые защищают нас от этого – они исправляют ошибки, отключают копирование поврежденной ДНК и т. Д. Только когда эти механизмы выходят из строя, мы имеем дело с мутацией, которая может быть опасной для нас» – объясняет д-р Столярски.
Особенно это касается электроники, которая играет ключевую роль в управлении важными устройствами. Эксперты подозревают, что причиной многих необъяснимых аварий с самолетами, автомобилями или космическими кораблями могут быть, среди прочего, неконтролируемые изменения долота. Кроме того, поскольку интегральные схемы миниатюризированы, их рабочее напряжение снижается (чтобы избежать перегрева во время работы), а это означает, что для преобразования бита требуется меньше энергии. Поэтому увеличивается риск серьезных нарушений.
В 2009 году автомобиль Lexus, которым управлял калифорнийский полицейский Марк Сэйлор, въехал в канаву и загорелся. Водитель и все пассажиры – жена, дочь и зять – погибли на месте. Незадолго до аварии пассажир позвонил в службу экстренной помощи и сказал, что машина разгоняется сама по себе и торможение невозможно. Кроме того, с 2002 года увеличилось количество уведомлений, связанных с так называемыми внезапными непреднамеренными ускорениями в автомобилях Toyota.
Расследование показало, что производители автомобилей пренебрегли обнаружением и устранением феномена непреднамеренного преобразования битов. В случае замены программа пропускала одну из команд, что делало возможным непреднамеренное ускорение автомобиля. Следствие по делу длилось до 2014 года и привело к штрафу в 1,2 миллиарда долларов на Toyota.
В 2016 году Комиссия по безопасности потребительских товаров США распорядилась изъять с рынка одно из флагманских устройств Samsung – смартфон Galaxy Note 7. Причины включают перегрев и – в нескольких десятках случаев – взрывы устройства. Официальным объяснением послужила неисправная конструкция батареи, но в ходе исследования специалисты также учли возможность того, что биты, измененные космическими лучами, были ответственны за неправильную зарядку.
Как исправить ошибки
Это не новая проблема для дизайнеров и разработчиков. Компьютеры совершают ошибки с 1940-х годов, когда их основными компонентами были электронные лампы. Этих ламп были тысячи, и время от времени одна из них перегорала, что приводило к сбою компьютера и стиранию вычислений.
В то время был даже такой параметр, как среднее время до следующего отказа компьютера, которое могло составлять, например, шесть часов. Согласно анекдоту, аспирант разработал алгоритм, который требовал, чтобы вычисления выполнялись дольше, чем время до следующего сбоя. «Он смог получить докторскую степень только тогда, когда компьютерные технологии пошли дальше, и в результате появились машины, которые долго работали без сбоев», – говорит д-р Столярски.
Когда появились компьютеры на базе транзисторов, инженеры попытались создать машину, которая бы считала абсолютно безупречно. Однако это оказалось очень дорогостоящим – компьютеры становились все более сложными, как и их программное обеспечение. Поэтому дизайнерам пришлось смириться с тем, что ошибки появляются, и надо как-то с этим смириться. – «В некоторые программные компоненты введена дополнительная проверка данных. Например, если у нас есть какие-то важные расчеты, стоит провести их дважды и сравнить результаты», – говорит д-р Столярски. Также существуют способы защиты важного оборудования, такого как веб-серверы. Они используют особый тип оперативной памяти – так называемые ECC, который позволяет обнаруживать и исправлять ошибки, вызванные, например, космическими лучами.
«Видимо, компания Sun когда-то создала сервер, в котором помехи были настолько серьезными, что он не подходил для нормальной работы, потому что содержимое памяти постоянно менялось. Только после использования памяти ECC все заработало», – говорит д-р Столярски.
Компьютеры, используемые в самолетах, в армии и в космосе, должны быть чрезвычайно безошибочными. У них, среди прочего, дополнительная защита от космического излучения. К тому же они намного дороже тех, что есть у нас дома. – Затраты в основном связаны с тем, что это оборудование производится в небольших количествах – тысячами штук, а не миллиардами для массового рынка, – добавляет д-р Столярски.
КВАНТОВОЕ БУДУЩЕЕ
Развитие технологий защищает электронику от ошибок и их последствий, но также ставит новые задачи перед разработчиками. Особенно это касается сверхбыстрых квантовых компьютеров. Они делают свои вычисления не с битами, которые могут быть 0 или 1, а с кубитами. Они могут иметь разные значения одновременно и очень чувствительны к помехам.
Любые изменения, такие как изменения температуры или электромагнитные помехи, создаваемые другими частями компьютера, оказывают разрушительное воздействие на квантовый процессор. Любое такое нарушение может привести к стиранию вычислений или появлению ошибок. «Решение проблемы исправления этих ошибок имеет решающее значение, если мы хотим создать квантовый компьютер с практическими приложениями», – говорит доктор Остин Фаулер, один из специалистов по квантовой инженерии в Google.
Здесь используются аналогичные приемы, как и в случае с классическими компьютерами. Вы можете заказать «голосование» – выполнить квантовые вычисления много раз и выбрать наиболее часто выпадающий результат. Другой способ – сделать резервную копию – две группы кубитов хранят одну и ту же информацию, и когда мы сравниваем их содержимое, мы можем обнаружить ошибки, вызванные помехами.
Однако у этих решений есть побочные эффекты – квантовые компьютеры работают медленнее, чем могли бы. Им также требуется обширное охлаждающее оборудование и изоляция для защиты от помех.
Поэтому они по-прежнему больше похожи на химический аппарат, чем на компьютер, и пройдет еще много времени, прежде чем они найдут применение в нашей повседневной жизни.
