Безопасность — это одна из немногих областей, где хорошая работа выглядит как отсутствие работы. Если вы настроили резервные копии, добавили http заголовки безопасности, включили двухфакторную аутентификацию и обновили плагины — визуально ничего не изменится. Сайт будет выглядеть так же, как и раньше. Клиенты не заметят разницы. Вы сами через месяц забудете, что что-то делали.
Именно поэтому так легко отложить это «на потом». Ведь если ничего не видно, кажется, что и смысла нет.
Но смысл есть. Просто он проявляется не в том, что вы видите, а в том, чего не происходит. Не происходит взлома. Не происходит потери данных. Не происходит звонка клиента с вопросом «почему мой сайт перенаправляет на спам-страницу». Это невидимая работа, которая окупается именно тогда, когда всё идёт не так.
Потратить немного времени и денег на безопасность, когда «годами всё было хорошо» — это не паранойя. Это признание того, что «все и так работает» может быть просто везением, которое когда-нибудь закончится.
Что произошло с Challenger
История Challenger стала хрестоматийным примером именно потому, что опасность не возникла внезапно утром 28 января 1986 года. Проблемы с уплотнительными кольцами O-ring были известны раньше. После предыдущих полётов специалисты обнаруживали эрозию уплотнений и следы проникновения горячих газов. Это не соответствовало ожиданиям конструкторов, но шаттлы возвращались благополучно.
Каждый такой полёт создавал странный опыт. С одной стороны, обнаруживалось отклонение. С другой — система выдерживала. И постепенно факт успешного завершения миссий стал влиять на оценку самого отклонения.
После катастрофы комиссия Роджерса пришла к выводу: NASA и подрядчик Morton Thiokol знали о проблеме, но со временем стали относиться к ней как к приемлемому риску. Риск возрастал, а организации принимали его во многом потому, что прежде им сходило это с рук.
Здесь легко попасть в крайность и представить историю как конфликт дальновидных инженеров с безответственными менеджерами. Реальная история интереснее. Данные были неполными, механика повреждения оставалась не до конца понятной, предыдущие миссии завершались успешно. Люди внутри системы не считали себя участниками самоубийственного решения. Они работали с опытом, который накопила организация, и этот опыт постепенно научил их воспринимать аномалию спокойнее.
Именно это делает кейс важным. Если бы речь шла о нескольких некомпетентных руководителях, вывод был бы скучным: не назначайте некомпетентных руководителей. Но перед нами была одна из самых технологически сложных организаций мира, наполненная выдающимися инженерами. И всё же её представление о допустимом риске постепенно изменилось.
Как ненормальное становится нормальным
Нормализация отклонения интересна тем, что для неё не требуется безответственность. Никто не принимает решение «с сегодняшнего дня мы игнорируем безопасность». Гораздо чаще каждый следующий шаг выглядит разумным в конкретных обстоятельствах.
Нужно закончить проект к пятнице — один этап проверки пропустили. Клиент важный — согласование провели задним числом. Резервную копию не настроили, потому что сайт работает без сбоев.
Первое исключение ещё заметно. Пятое кажется привычным. На двадцатое уже никто не обращает внимания.
Организация накапливает историю успешных нарушений. Формальная инструкция говорит одно, опыт сотрудников — другое. И опыт почти неизбежно побеждает. Если процедура требует остановиться, а сотрудники помнят двадцать случаев, когда никто не остановился и всё закончилось благополучно, правило начинает восприниматься как чрезмерно осторожное.
Так возникает параллельная норма: официально делать нельзя, но на практике так делают все. Нарушитель понимает, что отступает от нормы. При нормализации сама граница нормы перемещается. Люди не чувствуют, что рискуют сильнее. Они привыкли считать новый уровень риска допустимым.
«Мы всегда так делаем» в безопасности сайта
В безопасности сайта это выглядит так же. Плагины не обновляют, потому что «после прошлого обновления всё сломалось, а так работает». Резервные копии не настраивают, потому что «сайт ни разу не падал». HTTP-заголовки не добавляют, потому что «и без них всё нормально». Двухфакторную аутентификацию не включают, потому что «это неудобно, да и кто нас будет взламывать».
Через несколько лет никто уже не помнит, что когда-то это была особая ситуация.
Гораздо меньше тревожит человек, который говорит: «Да, мы нарушаем правило и понимаем риск», чем тот, который отвечает: «Да какие риски? Мы всегда так делаем». В первом случае отклонение хотя бы считается отклонением. Во втором оно уже стало частью нормы.
Почему профессионализм не спасает
Мы вообще склонны оценивать решения по их последствиям. Человек рискнул и выиграл – значит, оказался смелым и дальновидным. Рискнул и проиграл – значит, был безрассуден. Между тем качество решения определяется не тем, что произошло потом, а тем, какие данные и вероятности были доступны в момент выбора.
Есть соблазн считать, что это характерно для слабых организаций. В сильной компании хорошие специалисты вовремя заметят опасность. Challenger показывает, насколько ненадёжно такое предположение.
Профессионализм помогает лучше понимать техническую сторону риска, но не выводит за пределы организационной среды. Эксперт тоже привыкает к отклонениям, учитывает прежний опыт, на него тоже давят сроки.
Более того, высокая компетентность иногда позволяет убедительнее объяснить, почему очередное исключение допустимо. Специалист знает десятки обстоятельств и способен построить аргументацию в пользу того, что риск контролируем.
Это не аргумент против экспертов. Скорее причина не превращать экспертность в магическую защиту от ошибок.
Когда всё хорошо — самое время задавать неприятные вопросы
После аварии любая организация начинает интересоваться безопасностью. Гораздо труднее сохранить внимание после пяти или десяти лет спокойной работы.
Но именно в спокойные периоды нужно искать признаки нормализации отклонения. Какие исключения стали практикой? Какие требования существуют только на бумаге? Какие риски мы считаем приемлемыми не потому, что пересчитали их, а потому, что несколько раз повезло?
И отдельно — фраза «мы так уже делали». Она может означать полезный опыт. Но сама по себе ничего не доказывает. Прошлый успех говорит только о прошлом результате, а не о качестве риска.
Что с этим делать
Нормализацию отклонения невозможно «вылечить» одной инструкцией. Но можно сделать отклонение видимым.
- Записывайте исключения. Если правило нарушено — фиксируйте: что, почему, чем оправдано. Через месяц увидите, стало ли это системой.
- Спрашивайте «достаточно ли оснований считать это безопасным?» вместо «докажите, что это опасно». Первый вопрос работает в пользу осторожности.
- Проверяйте «мы всегда так делаем». Это правило когда-то ввели не просто так? Что изменилось? Мы пересчитали риск или просто привыкли?
- Не ждите аварии. Лучшее время для проверки — когда всё хорошо.
Катастрофа Challenger произошла 28 января 1986 года, но как процесс она началась гораздо раньше — с тех случаев, когда отклонение появлялось, система выдерживала, а граница допустимого сдвигалась.
Нормализация отклонения редко выглядит как движение к катастрофе. Чаще — как накопление успешного опыта.
До тех пор, пока однажды этот опыт не заканчивается и случается катастрофа.