Неуязвимость. Отчего системы дают сбой и как с этим бороться - Андраш Тилчик

За семь месяцев до этого облачным майским вечером 2015 года Цезарь Медина с друзьями проводили свободное время в тату-салоне, расправляясь с пиццей и запивая ее пивом. В этот момент двое вооруженных грабителей проникли в помещение через заднюю дверь. Один из них, весь покрытый татуировками, в кедах Air Jordans и легкой серой куртке с капюшоном, вошел в зал с пистолетом на изготовку. Он заставил Медину лечь на пол рядом со стойкой регистрации и уткнул ствол ему в затылок. Неожиданно он поднял пистолет и выстрелил. Воспользовавшись этим, Медина подскочил, встал на ноги и побежал. Человек с пистолетом выстрелил еще раз, попав в Цезаря.

Попытка ограбления сорвалась, грабители убежали. Друзья Медины кое-как дотащили его до машины, чтобы отвезти в госпиталь, но парень умер на месте.

Следователи сразу же приступили к работе. Камеры наблюдения зафиксировали происходившее, и полицейские ввели план «перехват», распространив фотографию стрелявшего. Офицер из Департамента исполнения наказаний увидел фотографию и узнал стрелка: это был человек по имени Джеремия Смит.

Офицер знал его, потому что Смита освободили из тюрьмы за две недели до случившегося – 14 мая, после того, как тот отсидел срок за грабеж и разбойное нападение. Внутренняя компьютеризированная система DOC показала, что 14 мая – последний день заключения Смита. Но система ошиблась. Когда Смит покидал тюрьму, ему оставалось еще больше трех месяцев заключения. Когда он стрелял в Цезаря, то должен был еще находиться за решеткой.

Досрочное освобождение Смита было вызвано ошибкой в коде компьютерной системы департамента^{325}. Дэн Пачолке узнал об этом только в конце 2015 года. Однако другие люди в департаменте были в курсе этой проблемы за несколько лет до события. В 2012 году Мэтью Миранте, отец жертвы нападения с ножом, связался с отделом департамента по работе с пострадавшими. Миранте, работавший в компании Boeing водителем грузовика, заподозрил, что в департаменте неправильно рассчитали дату окончания срока заключения преступника. С карандашом и бумагой он потратил всего пять минут на вычисления и подтверждение своих подозрений: заключенного выпустили раньше положенного срока. Сначала сотрудники Департамента исполнения наказаний подумали, что Миранте просто сделал математическую ошибку. Но затем они попросили юристов из офиса генерального прокурора штата проверить его результаты. Расчеты Миранте оказались правильными.

Открытие Миранте было только вершиной айсберга. Больше 10 лет ошибки в специально созданном для DOC программном обеспечении приводили к досрочному освобождению тысяч заключенных. Вся система управления исполнением наказаний оказалась, как выразился один специалист, «мешаниной из сложных взаимозависимостей»^{326}. Сложность системы вызывала одновременно и ошибки в расчете сроков заключения, и сокрытие их от работников департамента. Пока Миранте не пересчитал сроки вручную, никто не знал, что система DOC работает с ошибками. Вера в систему породила в ней жесткую связанность. Никто не занимался перепроверкой расчетов, все просто следовали тому, что предписывал компьютер. Он мог бы просто автоматически открывать решетки.

Как такое происходит? Как мог водитель грузовика указать целому Департаменту исполнения наказаний на проблему, которую программисты, юристы и официальные лица не замечали годами? Ответ лежит не в личности самого Миранте и не в его профессии. Многие в департаменте могли бы выполнить такие же несложные вычисления, но Миранте увидел проблему именно благодаря тому, что он там не работал. Он был чужаком, не связанным ни правилами организации, ни существующими в ней представлениями, ни ее политикой.

Как только менеджеры, управляющие системой, поняли, что Миранте прав, они направили программистам заявку на исправление недостатков в ПО. Однако эта работа, которая, как ожидалось, должна была занять три месяца, отодвигалась по срокам около десяти раз. Между тем никто не представлял себе страшных последствий открытия Миранте.

Спустя три года после сделанного Миранте запроса программисты в конце концов внесли в программное обеспечение необходимые изменения и стали тестировать его, чтобы посмотреть, как оно повлияет на текущие сроки заключения преступников. Когда раньше в департаменте нужно было скорректировать сроки заключения, то изменения касались нескольких необычных дел, по которым даты освобождения сдвигались на несколько дней. Однако исправление ситуации, которую обозначил Миранте, потребовало коррекции трех тысяч дат освобождения заключенных в среднем на два месяца. Это был, как выразился руководитель информационного подразделения DOC., «дерьмовый момент»^{327}.

Когда мы беседовали с Майком Падденом, который возглавляет сенатский комитет по законодательству, он был в ужасе от того, что чиновники Департамента исполнения наказаний так долго игнорировали эту проблему. Он говорил, что это сравнимо с побегом заключенного. Что бы в департаменте сделали тогда? «Они бы давили на все рычаги, чтобы вернуть его в тюрьму!»^{328} Но в данном случае они разрешали тысячам заключенных освободиться раньше срока.

Позвонив матери Медины, Пачолке высказал ей соболезнования и извинился за ошибку. Несколько недель спустя он ушел в отставку. Мать Цезаря Медины подала судебный иск на сумму 5 млн долларов против Департамента исполнения наказаний^{329}. В нем она настаивала, что Джеремия Смит хоть и нажимал на курок, стреляя в Цезаря Медину, ответственность за это несет DOC. Три года чиновники Департамента исполнения наказаний игнорировали ценное содействие чужака. И в результате ее сын был убит.