Ön İşleme Sessizce Sinyali Çöpe Attı
Bu tür işlerde neredeyse herkesin sıkıcı bir temizlik işi gibi gördüğü bir adım vardır: ön işleme — verinizi gerçek öğrenmenin gerçekleştiği kısma ulaşmadan önce temizlemek, ölçeklemek ve yeniden biçimlendirmek. Ben de tam olarak öyle gördüm: gerçek iş başlamadan önce yolun üstünden kaldırılması gereken nötr bir angarya. Oysa nötr değil ve onu öyle görmek bana pahalıya mal oldu. İkinci kez düşünmeden uyguladığım sıradan bir dönüşüm, tam da en çok ihtiyaç duyduğum bilgiyi sessizce çöpe attı; sonra haftalarca, sistemin apaçık orada duran bir şeye kör görünmesine şaşıp kaldım.
Bütün o süre boyunca yanlış yere bakıyordum. Sorunun bir yerlerdeki zekâda yaşadığından emin bir şekilde, sürekli sofistike kısımları sorguya çektim. Oysa arıza çok daha önce, bir karar olarak görmeye bile zahmet etmediğim kısımda yaşanmıştı.
Ön işleme nötr hissettirir. Değildir.
Veriyi normalize ettiğinizde, ölçeklediğinizde, düzleştirdiğinizde ya da yeniden biçimlendirdiğinizde, bu gerçekten temizlik gibi hissettirir — yemek pişirmeye başlamadan önce tezgâhı silmek gibi. Nötr, hijyenik, apaçık doğru. İşte tuzak bu his, çünkü bu işlemlerin her biri aslında bir karardır: hangi bilginin tutulup hangi bilginin atılacağına dair bir karar.
“Standart” ön işleme burada özellikle baştan çıkarıcıdır, çünkü standart kelimesi onu bir seçimden çok, yerleşmiş ve nötr bir varsayılan gibi gösterir. Oysa standart bir dönüşüm, birilerinin, bir yerlerde, jenerik bir durum için seçtiği bir varsayılanlar kümesinden ibarettir. Her birinin içine neyin önemli olup neyin olmadığına dair bir varsayım gömülüdür — ve genel olarak gayet makul olan o varsayımlar, sizin özel probleminiz için düpedüz, felaketle sonuçlanacak biçimde yanlış olabilir. Varsayımı, size hiç gösterilmeden devralırsınız, çünkü o varsayım rutin kılığında gelir.
Anlamı silen dönüşüm
Benim durumumda — ve bunu bilerek genel tutacağım — tamamen sıradan bir normalizasyon adımı, benim özel problemim için tesadüfen anlamlı kısım olan bir tür bilgiyi düzleştirip yok etme etkisi yarattı. Dönüşümün kendisi doğruydu. Standarttı. Her eğitimin doğal olarak önerdiği türden bir şeydi. Ve benim problemim için, gürültüyü sadakatle korurken sinyali siliyordu.
Bunu keşfetmek gerçekten alçaltıcı bir deneyimdi, çünkü bu, modelin aslında hiçbir zaman öğrenmekte başarısız olmadığı anlamına geliyordu. O, veri daha eline ulaşmadan kör edilmişti. İlgili ayrımı, kendi ellerimle, temizlik sırasında kaldırmıştım; sonra sistemi, tertemiz ovulmuş sonucun karşısına oturtup, artık orada olmayan şeyi neden göremediğini merak etmiştim.
Göremediğiniz şeyi öğrenemezsiniz
Bariz olması gereken ama olmayan ilke şu: model yalnızca ön işlemeden sağ çıkan şeyle çalışabilir. Dönüşümleriniz veri gelmeden önce neyi kaldırırsa, alt akıştaki her şey açısından o şey kalıcı olarak yok olmuştur. Sonradan ne kadar sofistike olunursa olunsun, daha önce silinmiş bir bilgi geri getirilemez. Zaten silmiş olduğunuz bir ayrıma akıl yürüterek geri dönemezsiniz.
Yani bütün çabayı tersinden ele almıştım. Modeli daha akıllı yapmaya, ona daha fazla kapasite vermeye, deseni bulmasına yardım etmeye çalışıp durdum — oysa asıl sorun, deseni yukarı akışta çöpe atmış olmam ve şimdi de bizzat sildiğim bir şeyi modelden yeniden keşfetmesini istemekti. Bir sistemden, erişiminden zaten kaldırdığınız şeyi bulmasını talep etmek ve sonra bunu bulamadığı için onu yargılamak, tuhaf bir zalimlik türüdür.
Her dönüşüm kayıplıdır ve taraflıdır
Bunun altında yatan genel gerçek şu: nötr dönüşüm diye bir şey yoktur. Verinin her yeniden biçimlendirilişi bazı yönlerini öne çıkarır, bazılarını bastırır; veriyi dönüştürmek zaten budur. Ölçekleme, gerçekte mutlak büyüklüğün önemli olmadığını ilan eder. Düzleştirme, kısa vadeli ayrıntının önemli olmadığını ilan eder. Her biri probleminize dair bir görüştür — neyin sinyal, neyin gürültü olduğuna dair bir iddia — ve her biri, siz hemfikir olup olmadığınıza karar verme fırsatı bulamadan önce, bir varsayılan olarak sessizce öne sürülür.
İşte o sessizlik tehlikeli olan kısımdır. Varsayılanlar tam da seçim olarak deneyimlenmedikleri için tehlikelidir. Angarya gibi sunulan bir karar, bir kararın hak ettiği titiz incelemeyi görmez. “Bu kısım önemli değil”i probleminize dair gelişigüzel bir iddia olarak asla kabul etmezsiniz — oysa standart bir dönüşümü, neyi varsaydığını sormadan her uyguladığınızda, sorgulamadan kabul ettiğiniz tam olarak budur.
Veriye önce ve sonra bakın
Bundan çıkan disiplin neredeyse utandıracak kadar basit: ön işlemenin veriye ne yaptığına gerçekten bakın. Her adımdan önce ve sonra karşılaştırın. Neyin değiştiğini ve neyin kaybolduğunu somut olarak görün. Her dönüşüm için sorun: “Bu az önce neyi kaldırdı ve onu kaybetmeyi gerçekten göze alabilir miyim?”
Bu sıkıcı bir iştir ve ilginç problemin onuruna açıkça yakışmıyormuş gibi hissettirir. Ama bu donuk, gösterişsiz karşılaştırma, tüm hattaki en sonuç doğurucu kararlardan bazılarının sessizce verildiği yerdir — kimse aslında hiçbir şeye karar vermeden, varsayılanla, atalet yüzünden, bir eğitimin önerisiyle verilen kararlar. Bakmayı seçmek, o sessiz varsayılanları yeniden görünür, incelenebilir seçimlere dönüştürmeyi seçmektir.
Ucuz hissettiren kısımlar pahalı hataları gizler
Projenin bu noktasına geldiğimde, bu artık her yerde gördüğüm bir örüntüye dönüşmüştü. Ucuz ve sıkıcı hissettiren adımlar — ön işleme, yapılandırma, mütevazı varsayılanlar — tam da ucuzlukları onları incelemeden muaf tuttuğu için, pahalı ve görünmez hataların biriktiği yerdir. Gösterişli, zor kısımlar tüm dikkatli ilgiyi alır. Tesisata ise varsayımlar ve bir omuz silkme düşer.
Ve su asıl tesisattan akar. Sıkıcı bir adımdaki yanlış bir varsayılan, kendini önemli diye ilan etmez; her göz üstteki heyecan verici makineye dikilmişken, alt akıştaki her şeyi sessizce zehirleyip durur. Sorunların yaşadığı yer ile dikkatin gittiği yer arasındaki bu uyumsuzluk, artık eminim ki, bu bütün uğraşta boşa harcanan ayların en güvenilir kaynaklarından biridir.
Daha derin ders: “sadece” kelimesine güvenmeyin
Sonunda elime kalan şey, küçük bir kelimeye karşı derin bir kuşku oldu: sadece. Sadece normalizasyon işte. Sadece veriyi temizlemek. Sadece standart bir dönüşüm, sadece ön işleme, sadece rutin. İşte o “sadece” kelimesi, tehlikenin tam da saklandığı yerdir. Önceden düşünmemeye karar verdiğiniz bir adımın dilsel işaretidir — kendinize burada incelemeye değer hiçbir şey olmadığını söylemek için zemine diktiğiniz bir bayrak.
Çoğu zaman orada incelemeye değer bir şey vardır. Artık bir şey hiçbir anlam ifade etmeyecek şekilde başarısız olduğunda, en erken sorularımdan biri artık zeki kısımla ilgili değil. Şudur: ilginç kısım onu görmeden önce, o sıkıcı adımlarda bu veriye ben ne yaptım? Cevap birden fazla kez, tam da aradığım şeyi çöpe atmış olduğum ve bu eylemi “sadece temizlik” diye etiketlediğim oldu.
— Sinyal yok, getiri yok, yatırım tavsiyesi değildir.