Per didelis ir nepakankamas pritaikymas yra dažnos mašininio mokymosi modelių problemos, kurios turi įtakos jų gebėjimui gerai apibendrinti naujus, nematomus duomenis.
Perdengimas įvyksta, kai modelis sužino ne tik pagrindinius mokymo duomenų šablonus, bet ir išmoksta triukšmą ir atsitiktinius tuose duomenų svyravimus. Dėl to modelis ypač gerai veikia su treniruočių duomenimis, bet nepavyksta apibendrinti į naujus, nematytus duomenis, nes iš esmės įsimojo mokymo rinkinį.
Kita vertus, nepakankamas pritaikymas atsitinka, kai modelis yra per paprastas, kad treniruočių duomenyse užfiksuotų pagrindinius modelius. Jis blogai veikia ne tik mokymo duomenis, bet ir naujus duomenis, nes nesugeba išmokti duomenų ryšių ir sudėtingumo.
Kaip apsisaugoti nuo per didelio ir nepakankamo prigludimo
-
Kryžminis patvirtinimas: naudokite tokius metodus kaip k-karto kryžminis patvirtinimas, kad įvertintumėte modelio našumą skirtinguose duomenų pogrupiuose. Tai padeda įvertinti, kaip gerai modelis apibendrins naujus duomenis.
-
Train-test split: padalinkite duomenis į atskirus mokymo ir testavimo rinkinius. Išmokykite modelį mokymo rinkinyje ir įvertinkite jo veikimą bandymo rinkinyje. Tai padeda įvertinti, kaip gerai modelis apibendrina nematomus duomenis.
-
Funkcijų pasirinkimas / sumažinimas: sumažinkite modelio sudėtingumą pasirinkdami tik svarbiausias funkcijas arba naudodami tokius metodus kaip pagrindinių komponentų analizė (PCA), kad sumažintumėte duomenų matmenis.
-
Reguliavimas: taikant tokius metodus kaip L1 arba L2 sureguliavimas padidina nuobaudas už modelio tikslinės funkcijos sudėtingumą, neleidžiant jai pernelyg tiksliai pritaikyti duomenų triukšmo.
-
Ansamblio metodai: sujunkite kelis modelius, kad sumažintumėte perteklinį ir nepakankamą pritaikymą. Taikant tokius metodus kaip sudėjimas į maišus, didinimas ar krovimas, naudojami keli modeliai, siekiant pagerinti bendrą našumą ir apibendrinimą.
-
Hiperparametrų derinimas: koreguokite modelio hiperparametrus (pvz., mokymosi greitį, sprendimų medžių medžių gylį ir kt.) naudodami tokius metodus kaip tinklelio paieška arba atsitiktinė paieška, kad rastumėte optimalią konfigūraciją, subalansuojančią šališkumą. ir dispersija.
-
Ankstyvas stabdymas: stebėkite modelio veikimą pagal patvirtinimo rinkinį treniruotės metu ir sustabdykite mokymo procesą, kai našumas pradeda blogėti, taip išvengiant per didelio pritaikymo.
– Daugiau duomenų: padidinus duomenų kiekį, modelis gali geriau apibendrinti, nes pateikiama įvairesnė ir reprezentatyvesnė pagrindinės paskirstymo pavyzdžiai.
Norint išvengti per didelio ir nepakankamo pritaikymo, labai svarbu rasti tinkamą pusiausvyrą tarp modelio sudėtingumo ir apibendrinimo, o šie metodai padeda pasiekti šią pusiausvyrą.
