Oorpas en onderpas is algemene kwessies in masjienleermodelle wat hul vermoë beïnvloed om goed na nuwe, onsigbare data te veralgemeen.
Oorpassing vind plaas wanneer 'n model nie net die onderliggende patrone in die opleidingsdata leer nie, maar ook die geraas en ewekansige fluktuasies wat in daardie data voorkom, leer. Gevolglik presteer die model buitengewoon goed op die opleidingsdata, maar versal nie na nuwe, onsigbare data omdat dit in wese die opleidingstel gememoriseer het.
Onderpassing, aan die ander kant, gebeur wanneer 'n model te eenvoudig is om die onderliggende patrone in die opleidingsdata vas te vang. Dit presteer swak, nie net op die opleidingsdata nie, maar ook op nuwe data omdat dit nie die verwantskappe en kompleksiteite wat in die data voorkom, leer nie.
Hoe om oorpas en onderpas te voorkom
-
Kruisvalidering: Gebruik tegnieke soos k-vou kruisvalidering om die model se prestasie op verskillende substelle van die data te assesseer. Dit help om te skat hoe goed die model na nuwe data sal veralgemeen.
-
Treintoetsverdeling: Verdeel jou data in aparte opleiding- en toetsstelle. Lei die model op die opleidingstel op en evalueer sy prestasie op die toetsstel. Dit help om te bepaal hoe goed die model veralgemeen na ongesiene data.
-
Kenmerkseleksie/vermindering: Verminder die kompleksiteit van die model deur slegs die mees relevante kenmerke te kies of tegnieke soos hoofkomponentanalise (PCA) te gebruik om die dimensionaliteit van die data te verminder.
-
Regularisering: Tegnieke soos L1- of L2-regularisering voeg boetes vir kompleksiteit by die model se objektiewe funksie, wat verhoed dat dit die geraas te nou in die data pas.
-
Ensemblemetodes: Kombineer veelvuldige modelle om oor- en onderaanpassing te verminder. Tegnieke soos sakke, versterking of stapeling gebruik verskeie modelle om algehele werkverrigting en veralgemening te verbeter.
-
Hyperparameter-instelling: Pas modelhiperparameters aan (soos leertempo, diepte van bome in besluitbome, ens.) deur tegnieke soos roostersoektog of lukraaksoektog te gebruik om die optimale konfigurasie te vind wat vooroordeel balanseer en variansie.
-
Vroeë stop: Monitor die model se werkverrigting op 'n validasiestel tydens opleiding en stop die opleidingsproses wanneer die prestasie begin verswak, om sodoende oorpassing te voorkom.
-
Meer data: Die verhoging van die hoeveelheid data kan die model help om beter te veralgemeen deur 'n meer diverse en verteenwoordigende steekproef van die onderliggende verspreiding te verskaf.
Om die regte balans tussen modelkompleksiteit en veralgemening te vind, is van kardinale belang om oor- en onderaanpassing te voorkom, en hierdie tegnieke help om daardie balans te bereik.
