Automatizar Me Fez Parar de Entender

Automatizar as partes tediosas, repetitivas e propensas a erro do meu trabalho parecia puro progresso, sem complicações. E, na maior parte, realmente era. Mas veio acompanhado de um custo que eu não previa, e que só entendi por completo bem mais tarde: quanto melhor ficava minha automação, menos eu de fato entendia o que estava acontecendo por baixo dela. Eu tinha automatizado não só o trabalho braçal, mas, sem perceber, boa parte da minha própria compreensão.

Esta é uma lição constrangedora de escrever, porque a resposta óbvia é “então não automatize”, e essa é exatamente a conclusão errada. Automação é boa. O problema é mais sutil do que isso, e fingir que se trata de um simples dilema é não enxergar a verdadeira armadilha.

O argumento óbvio e correto a favor de automatizar

Deixe-me primeiro ser justo com a automação, porque o argumento a favor dela é forte e real. Fazer a mesma tarefa minuciosa à mão, repetidas vezes, é lento. É também uma fonte confiável e inesgotável de erro humano — na centésima vez que você executa um processo manual, é mais provável que escorregue do que na primeira. Automatizá-lo torna o trabalho mais rápido, muito mais consistente, e libera sua atenção limitada para as coisas que de fato exigem raciocínio.

Tudo isso é verdade, e eu faria a mesma escolha de novo. Não estou aqui para argumentar que automatizar é um erro. Estou aqui para descrever o custo específico e silencioso que ninguém me mencionou, aquele que se esconde dentro do benefício óbvio e só se revela mais tarde.

A automação te tira do circuito

Eis o mecanismo. Quando você faz algo à mão, é forçado a vê-lo. Cada etapa passa pela sua atenção quer você queira ou não, e quase como efeito colateral você constrói uma intuição sobre a coisa — uma sensação do que é o normal, de quais deveriam ser aproximadamente os valores intermediários, de quando algo cheira sutilmente errado. Você não está tentando aprender isso; você absorve simplesmente por estar presente em cada repetição.

Automatize esse processo, e todo o fluxo de compreensão incidental seca em silêncio. As etapas ainda acontecem, mas já não passam por você. Você para de observar — e para de observar de propósito, porque não ter que observar era justamente o objetivo. A própria coisa que tornava a automação valiosa, tirar o humano do circuito, é também a coisa que tira a compreensão do humano do circuito. A conveniência e a cegueira são o mesmo ato.

A falha silenciosa é o verdadeiro perigo

A consequência que mais subestimei foi a maneira como as coisas automatizadas falham. Um processo manual tende a falhar de forma barulhenta, porque você está bem ali quando ele quebra. Você vê o número errado, a etapa travada, a saída que não parece certa, e reage no momento.

Um processo automatizado falha em silêncio, quase por definição, porque todo o propósito de construí-lo foi remover o humano que de outra forma teria notado. Então ele pode quebrar e seguir funcionando — produzindo resultados errados, com confiança e sem cansaço, por muito tempo antes que alguém por acaso olhe de perto. A automação não levanta a mão para dizer que está confusa. Ela apenas faz a coisa errada em silêncio, em escala, com a mesma calma de luz verde que mostra quando tudo está bem. Quando você percebe, muitas vezes ela já estava errada por muito mais tempo do que você gostaria de admitir.

A sedução do “rodou, então funcionou”

Sobreposta à falha silenciosa há um tipo específico de falsa confiança que a automação cultiva: rodou, portanto funcionou. Isso parece razoável e está profundamente errado. “Executou sem lançar um erro” e “fez a coisa certa” são afirmações inteiramente diferentes, e a distância entre elas é exatamente onde moram os piores problemas.

O sucesso automatizado acaba sendo ainda mais sedutor do que o sucesso manual, justamente porque você não estava observando enquanto acontecia. No trabalho manual, ao menos você viu o resultado tomar forma e teve alguma chance de se incomodar com ele. Com a automação, você vê apenas a luz verde final, e uma luz verde é enormemente tranquilizadora. Você segue em frente, confiante, sem nenhuma ideia de que o sinal reconfortante em que você confia não diz absolutamente nada sobre se a saída estava certa.

A habilidade que você automatiza é a habilidade que você perde

Há um custo mais lento e mais triste por baixo de tudo isso. Quando você automatiza uma tarefa, gradualmente se desqualifica nela. A fluência prática que antes te permitia dar uma olhada em algo e perceber que estava sutilmente errado — essa fluência vem apenas da prática, e você acabou de remover sua própria prática. Ela atrofia pelo desuso, silenciosamente, enquanto você está ocupado sendo grato pelo tempo que economizou.

E isso arma uma armadilha genuinamente cruel. O momento em que a automação finalmente falha — e, com tempo suficiente, ela vai falhar — é precisamente o momento em que você está menos preparado para diagnosticá-la, porque passou todos esses meses sem fazer a coisa você mesmo. Você arranjou as coisas de modo que sua competência esteja mais baixa exatamente quando a emergência exige que ela esteja mais alta. A automação estava mais forte enquanto você menos precisava dela, e sua própria compreensão estava mais fraca justo quando você de repente mais precisou dela.

Automatize o trabalho braçal, não a compreensão

A solução, para mim, não foi parar de automatizar, o que seria uma tola autossabotagem. Foi automatizar sem abdicar por completo. Construir a automação de modo que ela seja observável em vez de opaca — de modo que ela revele o que está fazendo em vez de esconder, e de modo que seja construída para falhar de forma barulhenta, para reclamar quando algo está errado, em vez de seguir navegando em silêncio. Uma automação que não consegue te dizer quando está confusa é um passivo disfarçado de conveniência.

E, igualmente importante, foi fazer deliberadamente a coisa à mão de vez em quando mesmo assim, ainda que eu não precise — especificamente para manter a compreensão viva, para impedir que a intuição enferruje, para permanecer em contato com o que o normal de fato parece. O trabalho braçal era a parte que valia a pena remover. A compreensão nunca foi a tarefa enfadonha, e é a parte que eu tenho que trabalhar ativamente para manter.

A lição mais profunda: proteja a compreensão

No fim, tudo se resume a uma única distinção que eu gostaria de ter entendido desde o início. Você pode automatizar com segurança o trabalho. Você não pode automatizar com segurança a compreensão do trabalho — porque a compreensão é a única coisa que te permite notar quando a automação silenciosamente deu errado. As duas parecem a mesma coisa quando você está construindo a automação, e não são de modo algum a mesma coisa.

O verdadeiro paradoxo é que, quanto mais você passa a confiar em um sistema, mais você na verdade precisa ser capaz de verificá-lo — e ainda assim a conveniência te tenta, todos os dias, a fazer exatamente o oposto, a confiar mais e verificar menos até que você não seja realmente capaz de verificar nada. Então agora eu tento tratar minha própria compreensão como a única coisa que me recuso a automatizar. A máquina pode ficar com o trabalho braçal. A compreensão fica comigo, porque é a parte que percebe quando a máquina está mentindo.

— Sem sinais, sem retornos, isto não é aconselhamento de investimento.