Автоматизировав это, я перестал это понимать

Автоматизация скучных, повторяющихся, подверженных ошибкам частей работы ощущалась как чистый, беспримесный прогресс. И по большей части так оно и было. Но к этому прилагалась цена, которую я не предвидел и не осознал в полной мере до куда более позднего момента: чем лучше становилась моя автоматизация, тем меньше я на самом деле понимал, что происходит под ней. Я автоматизировал не только труд, но, сам того не заметив, и немалую долю собственного понимания.

Об этом уроке неловко писать, потому что напрашивается ответ «тогда не автоматизируй» — а это как раз неверный вывод. Автоматизация — это хорошо. Проблема тоньше, и притворяться, будто речь идёт о простом размене, значит не заметить настоящую ловушку.

Очевидный и верный довод в пользу автоматизации

Сначала будем честны по отношению к автоматизации, потому что доводы за неё сильны и реальны. Делать одно и то же кропотливое дело вручную, снова и снова, — это медленно. А ещё это надёжный, неисчерпаемый источник человеческих ошибок: на сотый раз выполнения ручного процесса ты вероятнее оступишься, чем на первый. Автоматизация делает работу быстрее, куда последовательнее и высвобождает ограниченное внимание для того, что действительно требует мысли.

Всё это правда, и я бы снова сделал тот же выбор. Я здесь не для того, чтобы доказывать, будто автоматизация — ошибка. Я здесь, чтобы описать ту особую, тихую цену, о которой мне никто не сказал, — ту, что прячется внутри очевидной выгоды и обнаруживает себя лишь позже.

Автоматизация выводит тебя из контура

Вот в чём механизм. Когда делаешь что-то руками, ты вынужден это видеть. Каждый шаг проходит через твоё внимание, хочешь ты того или нет, и почти как побочный эффект у тебя складывается интуиция о предмете — чувственное ощущение того, как выглядит норма, какими примерно должны быть промежуточные значения, когда что-то едва уловимо попахивает не тем. Ты не пытаешься этому учиться; ты впитываешь это просто потому, что присутствуешь при каждом повторении.

Автоматизируй этот процесс — и весь поток попутного понимания беззвучно иссякает. Шаги по-прежнему происходят, но больше не проходят через тебя. Ты перестаёшь следить — и перестаёшь намеренно, ведь избавиться от необходимости следить и было всем смыслом. То самое, что делало автоматизацию ценной, — вывод человека из контура — есть и то самое, что выводит из контура понимание человека. Удобство и слепота — это одно и то же действие.

Тихий сбой — вот настоящая опасность

Последствие, которое я недооценил сильнее всего, — это то, как именно отказывают автоматизированные вещи. Ручной процесс склонен отказывать громко, потому что в момент поломки ты стоишь прямо рядом. Ты видишь неверное число, застрявший шаг, результат, который выглядит не так, — и реагируешь сразу.

Автоматизированный процесс отказывает тихо, почти по определению, ведь вся цель его создания была в том, чтобы убрать человека, который иначе бы заметил. Так что он может сломаться и преспокойно работать дальше — выдавая неверные результаты, уверенно и неутомимо, очень долго, прежде чем кто-нибудь случайно присмотрится. Автоматизация не поднимает руку и не говорит, что в замешательстве. Она просто тихо делает не то — в масштабе, с тем же спокойствием зелёного огонька, что и когда всё в порядке. К моменту, когда ты замечаешь, она нередко ошибалась куда дольше, чем хочется признавать.

Соблазн «оно отработало, значит сработало»

Поверх тихого сбоя лежит особый вид ложной уверенности, который порождает автоматизация: оно отработало, следовательно, сработало. Это звучит разумно и глубоко ошибочно. «Оно выполнилось, не выбросив ошибку» и «оно сделало то, что нужно» — совершенно разные утверждения, и именно в зазоре между ними обитают худшие проблемы.

Автоматизированный успех оказывается даже соблазнительнее ручного — как раз потому, что ты не наблюдал, как он происходил. При ручной работе ты хотя бы видел, как результат обретает форму, и имел какой-то шанс почувствовать неладное. При автоматизации ты видишь лишь финальный зелёный огонёк, а зелёный огонёк колоссально успокаивает. Ты идёшь дальше, доверяя, не подозревая, что утешительный сигнал, которому ты доверяешь, не говорит ровным счётом ничего о том, был ли результат верен.

Навык, который ты автоматизируешь, — это навык, который ты теряешь

Под всем этим лежит более медленная и более печальная цена. Автоматизируя задачу, ты постепенно теряешь в ней квалификацию. Та практическая беглость, что когда-то позволяла мельком взглянуть на что-то и почуять едва уловимую ошибку, — эта беглость рождается только из практики, а ты только что лишил себя собственной практики. Она атрофируется от бездействия, тихо, пока ты занят тем, что радуешься сэкономленному времени.

И это выстраивает по-настоящему жестокую ловушку. Момент, когда автоматизация наконец откажет — а при достаточном времени она откажет, — это ровно тот момент, когда ты меньше всего готов разобраться в причинах, потому что все эти месяцы ты не делал этого сам. Ты устроил всё так, что твоя компетентность ниже всего именно тогда, когда чрезвычайная ситуация требует, чтобы она была выше всего. Автоматизация была сильнее всего, пока ты нуждался в ней меньше всего, а твоё собственное понимание оказалось слабее всего ровно тогда, когда оно внезапно понадобилось больше всего.

Автоматизируй труд, а не понимание

Выход, для меня, был не в том, чтобы прекратить автоматизировать, — это было бы глупым самосаботажем. Он был в том, чтобы автоматизировать, не отрекаясь полностью. Строить автоматизацию так, чтобы она была наблюдаемой, а не непрозрачной, — чтобы она показывала, что делает, а не прятала это, и чтобы она была устроена отказывать громко, жаловаться, когда что-то не так, а не тихо плыть дальше. Автоматизация, которая не способна сказать, когда она в замешательстве, — это обуза, наряженная удобством.

И, что не менее важно, время от времени намеренно всё же делать дело руками, пусть и без надобности, — именно затем, чтобы поддерживать понимание живым, не дать интуиции заржаветь, оставаться в контакте с тем, как на самом деле выглядит норма. Труд — это и была та часть, которую стоило убрать. Понимание никогда не было рутиной, и это та часть, которую мне приходится активно работать, чтобы сохранить.

Более глубокий урок: оберегай понимание

Всё сводится к единственному различию, которое я хотел бы понять с самого начала. Можно безопасно автоматизировать работу. Нельзя безопасно автоматизировать понимание работы — потому что понимание есть единственное, что позволяет заметить, когда автоматизация тихо пошла не туда. Когда ты строишь автоматизацию, эти две вещи кажутся одним и тем же, а они вовсе не одно и то же.

Настоящий парадокс в том, что чем больше ты начинаешь доверять системе, тем больше тебе на самом деле нужна способность её проверять, — и всё же удобство искушает тебя, каждый божий день, поступать ровно наоборот: доверять больше и проверять меньше, пока ты уже не будешь по-настоящему способен проверить вовсе. Так что теперь я стараюсь относиться к собственному пониманию как к единственному, что я отказываюсь автоматизировать. Машине достанется труд. Понимание остаётся со мной, потому что это та часть, которая замечает, когда машина лжёт.

— Никаких сигналов, никакой доходности, не является инвестиционной рекомендацией.