Неуязвимость. Отчего системы дают сбой и как с этим бороться - Андраш Тилчик

А в 1984 году университеты были очевидными примерами слабо связанной системы. Сегодня все уже не так однозначно. Причем это касается не только университетов. С тех пор как Перроу выдвинул свою изначальную концепцию, многие системы, которые он классифицировал как линейные или нежестко связанные, стали сложными и «зазор» в них исчез. Самые разные системы все больше смещаются в опасную зону.

Возьмите плотины, которые Перроу считал жестко связанными, но не сложными системами. Если что-то в эксплуатации плотины пойдет не так, она может затопить и разрушить обширную территорию. Но все же плотины, как утверждал Перроу, представляют собой простые линейные системы с небольшим числом неожиданных взаимодействий, что располагает их вне опасной зоны.

Если вы посещали плотину в 80-х годах, то, скорее всего, вам ее показывал смотритель – человек, который жил поблизости и отвечал за безопасность сооружения. Сегодня рядом с плотиной можно никого и не встретить. Ее операторы сидят далеко, в аппаратных комнатах, очень похожих на помещения щита управления на АЭС, и принимают решения, не видя саму плотину.

Федеральный инспектор гидротехнических сооружений Патрик Реган^{47} недавно пересмотрел выводы Перроу и обнаружил, что с 90-х годов новые технологии и правила полностью изменили порядок управления плотинами. Когда всем заправлял смотритель, этот порядок был прост. Если необходимо было понизить уровень воды, чтобы она не переливалась через плотину, человек шел к соответствующим шлюзам и нажимал на переключатель, открывая их. Смотрители собственными глазами видели, сработали в действительности нужные водосбросные шлюзы или нет.

Но сегодня удаленный оператор всего лишь кликает стрелкой на мониторе компьютера и «получает сигнал от сенсора, что шлюзы занимают правильное положение, – писал Реган. – Если сенсор дает ошибочную информацию, у оператора нет представления о том, открывается ли шлюз и насколько»^{48}.

Последствия предугадать легко. Например, когда от шлюзов плотины Nimbus Dam в Калифорнии оторвался переключатель шлюзов, операторы оказались в неведении относительно реального положения их ворот^{49}. Техники не знали, какой объем воды был выпущен из водохранилища, а внизу по течению люди оказались в опасности. И хотя трагедии удалось избежать, ситуация была начальной стадией классического сбоя системы. Для того чтобы система начала выходить из-под контроля, оказалось достаточно небольшого механического повреждения и ложных показаний индикатора.

Реган утверждает, что сегодня плотины перебрались в ту же самую опасную зону, что и атомные электростанции. Их операторы управляют сложной системой и полагаются на косвенные показания индикаторов. Последствия не могут не тревожить. Как пишет Реган, «по мере того как системы, управляющие плотинами, становятся все более сложными, вероятность возникновения в них сбоев увеличивается».