Erregularizazioa eredu baten gehiegikeria saihesteko eta orokortzea hobetzeko erabiltzen den teknika multzoari dagokio. Gehiegizko egokitzapena eredu batek entrenamendu-datuak oso ondo ikasten dituenean gertatzen da, ikusten ez diren datu berriei aplikatzen ez zaizkien zarata eta xehetasun zehatzak jasotzen dituenean. Erregularizazioak hori kontrolatzen laguntzen du ereduaren funtzio objektiboari zigorren terminoa gehituz, eredu konplexuegiak gomendatuz.
Bi erregularizazio mota ohikoak L1 eta L2 erregularizazioa dira:
L1 erregularizazioa (lazo-erregresioa):
-
L1 erregularizazioak kostu-funtzioari zehapen-termino bat gehitzen dio ereduaren koefizienteen balio absolutuen balio absolutu berdina.
-
Ereduan esparsitasuna bultzatzen du koefiziente batzuk zehazki zerora murriztuz, funtzioen hautaketa modu eraginkorrean eginez.
-
Sortzen den eredua sinpleagoa eta interpretatzeko errazagoa da, funtzio garrantzitsuenak soilik hautatzen baititu, hain garrantzitsuak ez direnak baztertzen dituen bitartean.
L2 erregularizazioa (Ridge erregresioa):
-
L2 erregularizazioak kostu-funtzioari zigor-termino bat gehitzen dio ereduaren koefizienteen magnitude karratuen berdina.
-
Garrantzi txikiko ezaugarrien koefizienteak zero aldera txikitu ohi ditu, baina oso gutxitan ezartzen ditu zehazki zerora.
-
L2 erregularizazioa eraginkorra da gehiegizko egokitzea ekiditeko, pisu handiak zigortuz eta, beraz, ereduaren konplexutasuna murrizteko.
L1 eta L2 erregularizazio-teknikek gehiegizko egokitzapena murrizten eta ereduak ikusten ez diren datuetara orokortzeko gaitasuna hobetzen laguntzen dute. L1 eta L2 erregularizazioaren arteko aukeraketa askotan arazo zehatzaren, ezaugarrien izaera eta nahi den emaitzaren araberakoa da. Lazoa (L1) erregularizazioa, bere ezaugarriak aukeratzeko propietatearekin, hobesten da ezaugarri garrantzitsuenak identifikatu behar direnean. Ridge (L2) erregularizazioa egokia da ezaugarri guztiak potentzialki garrantzitsuak direnean eta haien eragina murriztea hobesten da guztiz kendu gabe. Gainera, bi tekniken konbinazioa, Elastic Net erregularizazioa izenez ezagutzen dena, L1 eta L2 erregularizazioa aldi berean aprobetxatzeko erabil daiteke.
