Неуязвимость. Отчего системы дают сбой и как с этим бороться - Андраш Тилчик

Дело не в том, что дела сегодня обстоят хуже, чем раньше; дело в том, что они обстоят по-другому. За последние полвека человечество раздвинуло границы доступных технологий. Мы укротили ядерную энергию, на многие километры углубились в земную твердь, чтобы добывать нефть, и создали глобальную финансовую систему. Однако эти же достижения сдвигают нас в опасную зону, а когда в них случаются сбои, они могут убить людей, навредить экологии^{405} и дестабилизировать экономику^{406}. Это не значит, что наша безопасность снижается; это означает, что мы становимся более уязвимыми перед лицом неожиданных срывов в системах.

Подумайте о больницах. Помните ту передозировку лекарства, которая чуть не убила Пабло Гарсиа? Она произошла из-за сбоев в компьютеризированной выписке рецептов, в работе робота-фармацевта и сканеров штрихкодов у постели больного. Эта система устранила мелкие ошибки, возникавшие в связи с плохими почерками и отвлекающими медсестер моментами. Но она же открыла двери для неприятных сюрпризов.

Или представьте себе беспилотные автомобили. Почти наверняка они будут безопаснее, чем те, которыми управляет человек. Они исключат дорожно-транспортные происшествия, происходящие из-за усталости или невнимательности водителя, а также из-за вождения в нетрезвом виде. И если такие автомобили будут правильно сконструированы, они не будут совершать глупых ошибок, как мы, например не будут перестраиваться из ряда в ряд, когда другой автомобиль в слепой зоне. Вместе с тем и они тоже подвержены сбоям, которые могут порождаться действиями хакеров или взаимодействиями в системе, которых конструкторы не ожидали.

Но, как мы увидели в этой книге, есть определенные методы решения подобных проблем. Мы можем разрабатывать более безопасные системы, принимать более обдуманные решения, вовремя обращать внимание на предупреждающие сигналы и учиться новому, прислушиваясь к разнородным и несогласным голосам. Некоторые из таких решений могут показаться очевидными: используйте уже готовые инструменты, если предстоит трудный выбор. Учитесь на маленьких неудачах, чтобы избежать больших. Собирайте разнородные команды и прислушивайтесь к скептикам. И создавайте простые системы с большим «допуском». Ничего сложного, не так ли?

Тем не менее многие из этих идей редко используются на практике – даже когда мы сталкиваемся с самыми большими проблемами. Мы излишне полагаемся на интуицию в неблагоприятной среде. Мы игнорируем голос тревоги и ничего не делаем, когда обстоятельства указывают на изменение климата, голод и угрозу террористических атак^{407}. Однородные, гомогенные команды управляют самыми важными финансовыми институтами, правительственными учреждениями и военными структурами^{408}. Цепочки снабжения продовольствием стали гораздо более сложными и менее понятными, чем раньше^{409}. А сложность и жесткая связанность правил хранения и содержания ядерного оружия значительно увеличивает вероятность сбоев даже в самых опасных системах^{410}.

Возвращаясь к теме, следует задать вопрос: полностью ли ваша команда или организация применяет идеи, изложенные в этой книге? Если да, то это прекрасно. Но мы подозреваем, что ответ будет «нет» или «не совсем». Тогда это просто утраченные возможности, потому что многие предлагаемые нами решения не требуют большого бюджета или модных технологий. Все мы можем осуществить анализ «пре-мортем», воспользоваться заранее заданными критериями или применить методику SPIES. Каждый может задействовать матрицу Перроу, чтобы посмотреть, какая часть нашей организации или проекта наиболее подвержена неприятным сюрпризам – и что мы способны с этим сделать. И все мы можем внимательнее слушать скептиков или откровенно высказывать свое мнение, когда нам что-то не нравится. Вам не нужно быть генеральным директором, чтобы применять все это на практике. Многие из этих подходов хорошо работают и в личной жизни, когда мы принимаем решения о том, где жить, какую работу выбрать и как поддерживать взаимопонимание в семье.

Если то, что нам следует прислушиваться к тревожным сигналам, поощрять несогласие и развивать разнородность в коллективе, вполне очевидно, то далеко не всегда ясно, как нам делать это наиболее эффективным образом. Применение этих решений на практике может вызывать трудности; обычно подобное противоречит нашим инстинктам. Мы склонны ценить человеческую интуицию и уверенность в себе; мы хотим слышать хорошие новости и чувствовать себя комфортно в окружении людей, которые выглядят и думают как мы. Однако управление сложными и жестко связанными системами требует как раз обратного: осторожности и сдержанности в принятии решений, открытого обнародования плохих новостей и упора на сомнения, несогласие и разнородность.

Одна из причин, по которой люди сопротивляются таким подходам, состоит в заблуждении, будто избежать неудачи можно, снизив существующие риски, что для предотвращения катастроф нужно принести в жертву инновации и эффективность. Разумеется, в жизни есть место компромиссам. Если в систему добавить больше «зазора» или переделать ее в угоду простоте, то могут потребоваться значительные расходы, а ее функциональные возможности снизятся, поэтому так важно обсуждать подобные компромиссы открыто, используя сложность и жесткость системы как базовые параметры при рассмотрении затрат, выгоды и рисков.