Aşırı uyum ve yetersiz uyum, makine öğrenimi modellerinde yeni, görünmeyen verilere iyi bir şekilde genelleme yapma yeteneklerini etkileyen yaygın sorunlardır.
Aşırı uyum, bir model yalnızca eğitim verilerindeki temel kalıpları öğrenmekle kalmayıp aynı zamanda bu verilerde mevcut olan gürültüyü ve rastgele dalgalanmaları da öğrendiğinde meydana gelir. Sonuç olarak, model, eğitim verileri üzerinde son derece iyi bir performans sergiliyor ancak esas olarak eğitim setini ezberlemiş olduğundan yeni, görünmeyen verilere genelleme yapamıyor.
Diğer yandan,yetersiz uyum, bir modelin eğitim verilerindekitemeldeki kalıpları yakalayamayacak kadar basit** olması durumunda meydana gelir. Yalnızca eğitim verileri üzerinde değil aynı zamanda yeni veriler üzerinde de düşük performans gösterir çünkü verilerde mevcut olan ilişkileri ve karmaşıklıkları öğrenmede başarısız olur.
Aşırı ve yetersiz uyum nasıl önlenir
-
Çapraz doğrulama: Modelin farklı veri alt kümeleri üzerindeki performansını değerlendirmek için k-katlı çapraz doğrulama gibi teknikleri kullanın. Modelin yeni verilere ne kadar iyi genelleştirileceğini tahmin etmeye yardımcı olur.
-
Eğitim-test ayrımı: Verilerinizi ayrı eğitim ve test kümelerine bölün. Modeli eğitim seti üzerinde eğitin ve test setindeki performansını değerlendirin. Bu, modelin görünmeyen verilere ne kadar iyi genelleştirildiğinin değerlendirilmesine yardımcı olur.
-
Özellik seçimi/azaltma: Yalnızca en alakalı özellikleri seçerek veya verilerin boyutluluğunu azaltmak için temel bileşen analizi (PCA) gibi teknikleri kullanarak modelin karmaşıklığını azaltın.
-
Düzenlileştirme: L1 veya L2 düzenlileştirmesi gibi teknikler, modelin amaç fonksiyonuna karmaşıklık açısından cezalar ekleyerek verilerdeki gürültüyü çok yakından eşleştirmesini engeller.
-
Birleştirme yöntemleri: Aşırı ve yetersiz uyumu azaltmak için birden fazla modeli birleştirin. Torbalama, yükseltme veya istifleme gibi teknikler, genel performansı ve genellemeyi iyileştirmek için birden fazla model kullanır.
-
Hiperparametre ayarlama: Önyargıyı dengeleyen en uygun yapılandırmayı bulmak için grid arama veya rastgele arama gibi teknikleri kullanarak model hiperparametrelerini (öğrenme hızı, karar ağaçlarındaki ağaçların derinliği vb.) ayarlayın ve varyans.
-
Erken durdurma: Eğitim sırasında bir doğrulama kümesinde modelin performansını izleyin ve performans düşmeye başladığında eğitim sürecini durdurarak aşırı uyumu önleyin.
-
Daha fazla veri: Veri miktarının artırılması, temel dağılıma ilişkin daha çeşitli ve temsili bir örnek sağlayarak modelin daha iyi genelleştirilmesine yardımcı olabilir.
Model karmaşıklığı ile genelleme arasında doğru dengeyi bulmak, aşırı ve yetersiz uyumun önlenmesinde çok önemlidir ve bu teknikler bu dengenin sağlanmasına yardımcı olur.
