Regularisering verwys na 'n stel tegnieke wat gebruik word om oorpassing te voorkom en die veralgemening van 'n model te verbeter. Oorpas vind plaas wanneer 'n model die opleidingsdata te goed leer, geraas en spesifieke besonderhede vasvang wat nie van toepassing is op nuwe, onsigbare data nie. Regulering help om dit te beheer deur 'n strafterm by die model se objektiewe funksie te voeg, wat te komplekse modelle ontmoedig.
Twee algemene tipes regularisering is L1 en L2 regularisering:
L1-regularisering (lasso-regressie):
-
L1-regularisering voeg 'n strafterm by die kostefunksie gelyk aan die absolute waardes van die model se koëffisiënte.
-
Dit moedig ylheid in die model aan deur sommige koëffisiënte tot presies nul te krimp, en effektief kenmerkseleksie uit te voer.
-
Die resulterende model is eenvoudiger en makliker om te interpreteer, aangesien dit slegs die belangrikste kenmerke kies, terwyl dit minder relevantes weggooi.
L2-regularisering (Ridge-regressie):
-
V2-regularisering voeg 'n strafterm by die kostefunksie gelyk aan die kwadraatgroottes van die model se koëffisiënte.
-
Dit is geneig om die koëffisiënte van minder belangrike kenmerke na nul te laat krimp, maar dit stel hulle selde presies op nul.
-
L2-regulasie is effektief om oorpassing te voorkom deur groot gewigte te penaliseer en dus die model se kompleksiteit te verminder.
Beide L1- en L2-regulariseringstegnieke help om ooraanpassing te verminder en die model se vermoë om te veralgemeen na ongesiene data te verbeter. Die keuse tussen T1- en T2-regularisering hang dikwels af van die spesifieke probleem, die aard van die kenmerke en die gewenste uitkoms. Lasso (L1)-regularisering, met sy kenmerkseleksie-eienskap, word verkies wanneer daar 'n behoefte is om die mees relevante kenmerke te identifiseer. Ridge (L2) regularisering is geskik wanneer alle kenmerke potensieel belangrik is en die vermindering van hul impak sonder om dit heeltemal uit te skakel, word verkies. Daarbenewens kan 'n kombinasie van beide tegnieke, bekend as Elastic Net regularization, gebruik word om gelyktydig voordeel te trek uit beide L1 en L2 regularisering.
