Çapraz doğrulama, bir modelin yeni veriler üzerinde ne kadar iyi performans göstereceğini değerlendirmek için kullanılan kritik bir tekniktir. Birincil amaç, aşırı uyum (modelin eğitim verilerinden çok fazla şey öğrenmesi ve görünmeyen veriler üzerinde düşük performans göstermesi) ve yetersiz uyum (modelin veri kümesindeki kalıpları yakalayamayacak kadar basit olması) gibi sorunları en aza indirecek şekilde bir modelin performansını değerlendirmektir. veri).
Konsept, mevcut verilerin birden fazla alt kümeye bölünmesini, genellikle iki ana parçayı içerir: eğitim seti ve doğrulama seti (buna bazen test seti de denir).
Yaygın bir teknik k-katlı çapraz doğrulamadır:
-
Veri kümesi yaklaşık olarak eşit boyutta 'k' alt kümeye (veya kıvrımlara) bölünür.
-
Model, her seferinde doğrulama seti olarak farklı bir katlama ve eğitim seti olarak geri kalan katlamalar kullanılarak 'k' kez eğitilir.
-
Örneğin, 5 katlı çapraz doğrulamada veriler beş alt kümeye bölünür. Model, her seferinde doğrulama seti olarak beş alt kümeden farklı birini ve diğer dördünü eğitim seti olarak kullanarak beş kez eğitilir.
-
Nihai bir performans tahmini elde etmek için performans ölçümlerinin (doğruluk, hassasiyet, geri çağırma vb. gibi) bu 'k' yinelemelerinin ortalaması alınır.
Diğer yaygın teknikler şunları içerir:
Birini Dışarıda Bırakma Çapraz Doğrulaması (LOOCV)
-
Her veri noktası bir doğrulama seti görevi görür ve model, verilerin geri kalanına göre eğitilir.
-
Bu yöntem, büyük veri kümeleri için hesaplama açısından pahalıdır ancak eğitim için neredeyse tüm verileri kullandığından oldukça doğru olabilir.
Katmanlı Çapraz Doğrulama
- Her katlamanın tüm veri kümesini temsil etmesini sağlar. Dengesiz veri kümeleri için yararlı olan her kattaki sınıf dağılımını korur.
Çapraz doğrulama çok önemlidir çünkü tek bir tren-test bölünmesine kıyasla bir modelin görünmeyen veriler üzerindeki performansına ilişkin daha güvenilir bir tahmin sağlar. Modelin yeni verilere nasıl genelleştirileceğine ilişkin daha sağlam bir tahmin sağlayarak fazla uyum veya yetersiz uyum gibi sorunların belirlenmesine yardımcı olur.
Makine öğrenimi uygulayıcıları, çapraz doğrulamayı kullanarak model seçimi, hiper parametre ayarlama ve bir modelin görünmeyen veriler üzerindeki genelleme performansını değerlendirme konusunda daha iyi kararlar alabilir.
