Aşırı uyum, bir model yalnızca eğitim verilerindeki temel kalıpları değil, aynı zamanda söz konusu veri kümesindeki gürültüyü ve rastgeleliği de öğrendiğinde meydana gelir. Bu, eğitim verileri üzerinde çok iyi performans gösteren ancak yeni, görülmemiş verilere genelleme yapamayan bir modelle sonuçlanır.
Tanılama
-
Yüksek Eğitim Doğruluğu, Düşük Test Doğruluğu: Temel göstergelerden biri, modelin eğitim verilerinde olağanüstü iyi performans göstermesi, ancak test veya doğrulama verilerinde zayıf performans göstermesidir.
-
Model Karmaşıklığı: Aşırı uyum modelleri aşırı derecede karmaşık olma eğilimindedir ve altta yatan desenlerden ziyade gürültüyü yakalar.
-
Görselleştirmeler: Eğitim ve doğrulama kümelerindeki performansı gösteren öğrenme eğrileri gibi grafikler, doğrulama performansı sabitlenirken veya düşerken eğitim performansı iyileşmeye devam ederse aşırı uyumu ortaya çıkarabilir.
Aşırı Uyumu Azaltmaya Yönelik Önleme ve Teknikler
-
Çapraz Doğrulama: k-kat çapraz doğrulama gibi teknikler, modelin performansının farklı veri alt kümeleri üzerinde değerlendirilmesine yardımcı olarak modelin iyi bir şekilde genelleştirilmesini sağlayabilir.
-
Eğitim-Doğrulama-Test Bölünmesi: Verilerin eğitim, doğrulama ve test için farklı kümelere bölünmesi, modelin görünmeyen veriler üzerinden değerlendirilmesini sağlar.
-
Özellik Seçimi: Modeli eğitmek için yalnızca en alakalı özellikleri kullanın ve daha az bilgilendirici özelliklerden kaynaklanan gürültüyü önleyin.
-
Düzenlileştirme: L1 veya L2 düzenlileştirmesi gibi teknikler, modelin kayıp fonksiyonuna ceza terimleri ekleyerek aşırı karmaşık modellerin cesaretini kırar.
-
Erken Durdurma: Modelin doğrulama kümesindeki performansını izleyin ve performans düşmeye başladığında eğitimi durdurarak eğitim verilerini aşırı optimize etmesini önleyin.
-
Topluluk Yöntemleri: Torbalama, güçlendirme veya istifleme gibi tekniklerin kullanılması, birden fazla modelin tahminlerini birleştirerek aşırı uyumun azaltılmasına yardımcı olabilir.
-
Veri Arttırma: Belirli model türleri için, mevcut verilere dönüşümler veya tedirginlikler uygulayarak ek eğitim verileri oluşturmak, aşırı uyumun önlenmesine yardımcı olabilir.
Modelin karmaşıklığını, veri kümesi boyutunu ve düzenlileştirme tekniklerini dengelemek, aşırı uyumu önlemek ve modelin yeni, görünmeyen verilere iyi bir şekilde genelleştirilmesini sağlamak için çok önemlidir.
