Хаос. Как беспорядок меняет нашу жизнь к лучшему - Тим Харфорд

РОБЕР: За скоростью следи! Ты набираешь высоту! Снижайся! Снижайся, снижайся, снижайся!

БОНЭН: Я снижаюсь!

ДЮБУА: Нет, ты взлетаешь!

БОНЭН: Взлетаю? Хорошо, мы снижаемся.

Никто не сказал: «Мы сваливаемся. Направь нос самолета вниз и набери скорость».

В 23 часа 13 минут 40 секунд, менее чем через 12 минут после того, как Дюбуа впервые вышел из кабины вздремнуть, и спустя 2 минуты после того, как выключился автопилот, Робер кричал на Бонэна: «Взлетай… взлетай… взлетай… взлетай…» — тогда как поступить нужно было наоборот. Бонэн отвечал, что он все время удерживал рычаг управления на себя, — эта информация могла помочь Дюбуа определить сваливание, только вот у капитана ее не было.

Наконец до Дюбуа, стоящего между пилотами, дошло, что происходит: «Нет, нет, нет… Не взлетай… нет, нет».

Робер понял намек. Он сообщил, что принял управление и направил нос самолета вниз. Самолет начал наконец-то разгоняться. Но он опоздал на минуту — высота составляла 3,35 километра. На тот момент между падающим самолетом и черными водами Атлантического океана не было достаточного пространства для восстановления поступательной скорости и вывода самолета из пике.

В любом случае Бонэн молча перехватил управление и попытался снова набрать высоту — просто потому, что был в панике. Робер и Дюбуа, возможно, осознали, что самолет заваливался, — но ничего об этом не сказали. Они могли вообще не осознавать, что их коллега управлял лайнером. Последний тоже до конца не понимал, что делал. Последними словами Бонэна были: «Да что же происходит?»

Спустя четыре секунды самолет рухнул в воды Атлантического океана на скорости 201 километр в час. Все находившиеся на борту 228 пассажиров и члены экипажа погибли мгновенно.

Эрл Винер, культовая фигура в области авиабезопасности, умерший в 2013 году, изобрел то, что сейчас известно как «Законы Винера» об авиации и человеческих ошибках. Один из них звучит так: «Цифровые устройства исправляют маленькие ошибки, создавая возможности для крупных»[243].

Мы можем перефразировать его следующим образом: «Автоматизация убирает привычный хаос, но время от времени создает хаос чрезвычайный». Это происходит не только в авиации.

Несколько лет назад полицейское управление в Сан-Леандро (Калифорния) сделало как минимум 112 фотографий двух автомобилей местного жителя Майкла Катц-Лакаба. Этот факт был выявлен не в скандальном судебном деле, где Катца-Лакаба обвиняли бы в терроризме или управлении криминальной сетью, а потому, что он подал запрос на доступ к публичным материалам, чтобы увидеть фотографии. И автомобили гражданина были сфотографированы не потому, что он подозревался в преступлении. Камеры снимали все машины, изображения сканировались, номерные знаки регистрировались, и все отправлялось в архив с датой и геометками. Дочери мистера Катц-Лакаба в возрасте пяти и восьми лет тоже попали в архив. Почему? Потому что они находились рядом с машиной, когда сработал виртуальный затвор[244].

Фотографии автомобилей — и детей — мистера Катц-Лакаба были отправлены с миллионами других в Региональный разведывательный центр Северной Калифорнии, который находится в ведении федерального правительства США. Сто миллионов фотографий номерных знаков в секунду доступны для просмотра благодаря программному обеспечению, разработанному компанией из Кремниевой долины Palantir Technologies. Потенциал по борьбе с преступностью с таким обширным и легко анализируемым набором данных очевиден. Но с таким же успехом этот массив можно использовать с менее благородными целями: как рассуждал Катц-Лакаб на встрече с Энди Гринбергом из журнала Forbes, правительство может пролистать базу данных, чтобы узнать, «припарковался ли кто у дома, непохожего на жилище супруга или супруги, навестил аптеку с лечебной марихуаной, центр планирования семьи или акцию протеста».

В отношении такой мощной технологии однозначно нужно организовать дебаты о ее преимуществах и возможностях использования в авторитарных целях, и подобных обсуждений за последние годы было предостаточно. Однако существует другая опасность, проблема, которой уделяют гораздо меньше внимания, но которую подчеркивает наблюдение Винера: что мы делаем в тех редких случаях, когда технология выходит из строя?

Рассмотрим историю Виктора Хэнкинса, обычного гражданина Великобритании, который получил нежелательный подарок на Рождество — штраф за парковку в неположенном месте. Вместо штрафного талона под дворниками неправильно припаркованной машины первым источником информации для Хэнкинса стало письмо из местного совета под его дверью. 20 декабря 2013 года в 20 часов 8 минут и 14 секунд его машина перекрыла автобусную остановку в Брадфорде (Йоркшир) и была сфотографирована камерой, установленной в фургоне парковочной службы, проезжавшей мимо. Компьютер определил номерной знак, нашел его в базе данных и выявил адрес Хэнкинса. Был автоматически создан «пакет доказательств», включающий видеозапись с места, временную отметку и месторасположение. Письмо из городского совета Брадфорда, требующее оплаты штрафа либо судебного разбирательства, было составлено, распечатано и отправлено по почте через такой же автоматический процесс. Была лишь одна проблема: мистер Хэнкинс вообще не парковал автомобиль[245]. Он просто стоял в пробке.

Теоретически тут вообще не должно быть случая парадокса автоматизации. Эта технология должна принимать на себя рутинные обязанности, чтобы человек занялся более важной работой — например, проверкой исключительных случаев вроде того, что произошел с мистером Хэнкинсом, где, в отличие от фотографирования номерных знаков или выдачи штрафных талонов, компьютерный интеллект не поможет.

Но в бюрократии, как и в авиации, тоже есть тенденция чрезмерно доверять машинам. Городской совет Брадфорда изначально отклонил жалобу мистера Хэнкинса и с извинениями признал ошибку лишь тогда, когда тот пригрозил им судебным разбирательством. Это напоминает старую шутку: «человеку свойственно ошибаться, но, чтобы по-настоящему облажаться, нужен компьютер».