자동화하고 나니 이해하는 걸 멈추게 됐다

내 작업에서 지루하고 반복적이며 실수가 잦은 부분을 자동화하는 일은, 순수하고 단순한 진보처럼 느껴졌다. 그리고 대부분의 경우 실제로도 그랬다. 하지만 거기에는 내가 미처 예상하지 못한, 그리고 한참 뒤에야 온전히 이해하게 된 대가가 딸려 있었다. 자동화가 나아질수록, 정작 그 밑에서 무슨 일이 벌어지고 있는지를 나는 점점 덜 이해하게 됐다. 나는 노동만 자동화해 없앤 것이 아니라, 나도 모르는 사이에 내 이해의 상당 부분까지 함께 자동화해 없애버린 것이다.

이건 글로 쓰기 껄끄러운 교훈이다. 뻔한 반응은 “그러면 자동화하지 마”일 텐데, 그건 정확히 잘못된 결론이기 때문이다. 자동화는 좋은 것이다. 문제는 그보다 미묘하고, 단순한 트레이드오프인 척하는 순간 진짜 함정을 놓치게 된다.

자동화해야 한다는 뻔하고도 옳은 논거

먼저 자동화에 공정하게 굴자. 그 논거는 강력하고 실제적이니까. 똑같은 자잘한 작업을 손으로 거듭거듭 하는 건 느리다. 또한 그것은 인간의 실수가 끊임없이 흘러나오는 믿음직한 원천이기도 하다. 어떤 수작업을 백 번째로 수행할 때, 첫 번째보다 실수할 확률이 더 높다. 그것을 자동화하면 작업은 더 빨라지고, 훨씬 더 일관되며, 정작 사고가 필요한 일에 한정된 주의력을 쏟을 수 있게 된다.

이 모든 것이 사실이고, 나는 같은 선택을 다시 할 것이다. 자동화가 실수라고 주장하려는 게 아니다. 아무도 내게 일러주지 않았던, 그 뻔한 이점 안에 숨어 있다가 나중에야 정체를 드러내는 특정한 조용한 대가를 묘사하려는 것이다.

자동화는 당신을 루프에서 떼어낸다

작동 원리는 이렇다. 어떤 일을 손으로 할 때, 당신은 그것을 볼 수밖에 없다. 좋든 싫든 모든 단계가 당신의 주의를 통과하고, 거의 부수적인 효과로 당신은 그 일에 대한 직관을 쌓는다. 정상이 어떤 모습인지, 중간값이 대략 어느 정도여야 하는지, 무언가가 미묘하게 어긋났을 때의 그 낌새 같은 감각 말이다. 배우려고 애쓰는 게 아니다. 그저 매 반복마다 자리를 지키고 있었던 덕에 저절로 스며든 것이다.

그 과정을 자동화하면, 그 부수적 이해의 흐름 전체가 소리 없이 말라버린다. 단계들은 여전히 일어나지만 더 이상 당신을 통과하지 않는다. 당신은 지켜보기를 그만둔다. 그것도 의도적으로 그만둔다. 지켜볼 필요가 없게 만드는 것이 애초의 목적이었으니까. 자동화를 가치 있게 만든 바로 그것, 즉 루프에서 인간을 떼어내는 것이, 동시에 루프에서 인간의 이해를 떼어내는 것이기도 하다. 편리함과 눈멂은 같은 행위다.

진짜 위험은 조용한 실패다

내가 가장 과소평가했던 결과는, 자동화된 것들이 실패하는 방식이었다. 수작업은 시끄럽게 실패하는 경향이 있다. 그것이 망가질 때 당신이 바로 그 자리에 서 있기 때문이다. 잘못된 숫자, 멈춰버린 단계, 이상해 보이는 출력을 당신은 보고, 그 순간 반응한다.

자동화된 과정은 거의 정의상 조용히 실패한다. 그것을 만든 목적 자체가, 그게 아니었으면 알아챘을 인간을 떼어내는 것이었기 때문이다. 그래서 그것은 망가진 채로 멀쩡히 계속 돌아갈 수 있다. 누군가 자세히 들여다보기까지 아주 오랫동안, 자신만만하고 지칠 줄 모르게 잘못된 결과를 찍어내면서. 자동화는 손을 들고 자기가 헷갈린다고 말하지 않는다. 그저 조용히, 대규모로, 잘못된 일을 한다. 모든 게 정상일 때 보여주는 것과 똑같은 초록불의 평온함으로. 당신이 알아챌 무렵이면, 인정하고 싶은 것보다 훨씬 오래전부터 틀려 있었던 경우가 많다.

”돌아갔으니까 잘된 거야”의 유혹

조용한 실패 위에 한 겹 더 얹히는 것이, 자동화가 길러내는 특정한 종류의 거짓 확신이다. 돌아갔으니까 잘된 거야. 이건 합리적으로 느껴지지만 심각하게 틀렸다. “에러 없이 실행됐다”와 “올바른 일을 했다”는 완전히 다른 주장이며, 그 둘 사이의 간극이야말로 최악의 문제들이 사는 곳이다.

알고 보니 자동화된 성공은 수작업의 성공보다 더 유혹적이다. 바로 당신이 그 일이 벌어지는 걸 지켜보지 않았기 때문이다. 수작업에서는 적어도 결과가 모양을 갖춰가는 걸 보았고, 그것에 대해 불안해할 기회라도 있었다. 자동화에서 당신이 보는 건 마지막 초록불뿐이고, 초록불은 어마어마하게 안심이 된다. 당신은 믿고 넘어간다. 자기가 믿고 있는 그 안심되는 신호가, 정작 출력이 옳았는지에 대해서는 아무것도 말해주지 않는다는 걸 전혀 모른 채로.

자동화한 기술이 곧 당신이 잃는 기술이다

이 모든 것 밑에는 더 느리고 더 서글픈 대가가 있다. 어떤 작업을 자동화하면, 당신은 그 작업에 대한 자신의 숙련도를 서서히 잃어간다. 무언가를 슬쩍 보고도 그게 미묘하게 잘못됐음을 감지하게 해주던 그 손에 익은 유창함, 그 유창함은 오직 연습에서만 나오는데, 당신은 방금 자기 연습을 없애버린 것이다. 그것은 쓰지 않음으로 인해 조용히 위축된다. 당신이 아낀 시간에 감사하느라 바쁜 사이에.

그리고 이것은 진정으로 잔인한 함정을 만들어낸다. 자동화가 마침내 실패하는 순간은 — 충분한 시간이 주어지면 반드시 그렇게 된다 — 정확히 당신이 그것을 진단할 능력이 가장 떨어져 있는 순간이다. 그 모든 달 동안 그 일을 직접 하지 않았기 때문이다. 당신은 비상사태가 역량을 가장 높이 요구하는 바로 그때, 자신의 역량이 가장 낮도록 일을 배치해 둔 셈이다. 자동화는 당신이 그것을 가장 덜 필요로 할 때 가장 강했고, 당신 자신의 이해는 그것이 갑자기 가장 필요해진 바로 그때 가장 약했다.

노동을 자동화하라, 이해를 자동화하지 말고

내게 있어 해법은 자동화를 멈추는 것이 아니었다. 그건 어리석은 자기 파괴일 테니까. 해법은 완전히 손을 놓지는 않은 채로 자동화하는 것이었다. 불투명하기보다 관찰 가능하도록 자동화를 짓는 것. 무엇을 하고 있는지 숨기는 대신 드러내도록, 그리고 조용히 항해를 계속하기보다 무언가 어긋났을 때 시끄럽게 실패하고 불평하도록 짓는 것. 자기가 헷갈릴 때 그걸 당신에게 말해주지 못하는 자동화는, 편리함으로 분장한 부채다.

그리고 그에 못지않게 중요하게는, 굳이 그럴 필요가 없는데도 가끔은 일부러 그 일을 손으로 해보는 것이다. 바로 이해를 살아 있게 유지하기 위해, 직관이 녹슬지 않게 하기 위해, 정상이 실제로 어떤 모습인지와 계속 접촉하기 위해서. 노동은 없앨 만한 가치가 있는 부분이었다. 이해는 결코 잡일이었던 적이 없으며, 그것은 내가 능동적으로 애써 지켜내야 하는 부분이다.

더 깊은 교훈: 이해를 지켜라

결국 모든 것은 하나의 구분으로 귀결된다. 처음부터 이걸 이해했더라면 싶은 그 구분 말이다. 당신은 작업을 안전하게 자동화할 수 있다. 하지만 작업에 대한 이해는 안전하게 자동화할 수 없다. 이해야말로 자동화가 조용히 잘못되어 갈 때 그것을 알아챌 수 있게 해주는 유일한 것이기 때문이다. 자동화를 만들 때 이 둘은 같은 것처럼 느껴지지만, 전혀 같은 것이 아니다.

진짜 역설은, 어떤 시스템을 더 신뢰하게 될수록 실은 그것을 점검할 수 있는 능력이 더 필요해진다는 것이다. 그런데도 편리함은 매일같이 당신을 정확히 그 반대로 유혹한다. 더 신뢰하고 덜 점검하게, 결국 점검할 능력이 사실상 사라질 때까지. 그래서 이제 나는 내 자신의 이해를, 자동화로 없애버리기를 한사코 거부하는 단 하나로 다루려 한다. 기계는 노동을 가져도 된다. 이해는 나와 함께 남는다. 그것이야말로 기계가 거짓말하고 있을 때 그걸 알아채는 부분이기 때문이다.

— 시그널 없음, 수익 보장 없음, 투자 자문 아님.