La validació creuada és una tècnica crítica que s'utilitza per avaluar el rendiment d'un model amb dades noves. L'objectiu principal és avaluar el rendiment d'un model d'una manera que minimitzi problemes com l'excés d'ajust (on el model aprèn massa de les dades d'entrenament i té un mal rendiment amb dades no vistes) i l'ajustament insuficient (on el model és massa simplista per capturar els patrons en el model). dades).
El concepte implica dividir les dades disponibles en diversos subconjunts, normalment dues parts principals: el conjunt d'entrenament i el conjunt de validació (que de vegades també s'anomena conjunt de proves).
Una tècnica comuna és la validació creuada de k-fold:
-
El conjunt de dades es divideix en "k" subconjunts (o plecs) de mida aproximadament igual.
-
El model s'entrena 'k' vegades, cada vegada utilitzant un plec diferent com a conjunt de validació i els plecs restants com a conjunt d'entrenament.
-
Per exemple, en la validació creuada de cinc vegades, les dades es divideixen en cinc subconjunts. El model s'entrena cinc vegades, cada vegada utilitzant un diferent dels cinc subconjunts com a conjunt de validació i els altres quatre com a conjunt d'entrenament.
-
Les mètriques de rendiment (com ara la precisió, la precisió, la memòria, etc.) es fan una mitjana entre aquestes "k" iteracions per obtenir una estimació final del rendiment.
Altres tècniques comunes inclouen
Validació creuada amb exclusió única (LOOCV)
-
Cada punt de dades serveix com a conjunt de validació i el model s'entrena amb la resta de dades.
-
Aquest mètode és car computacionalment per a grans conjunts de dades, però pot ser bastant precís ja que utilitza gairebé totes les dades per a l'entrenament.
Validació creuada estratificada
- Assegura que cada plec sigui representatiu de tot el conjunt de dades. Manté la distribució de classes a cada plec, cosa que és útil per a conjunts de dades desequilibrats.
La validació creuada és crucial perquè proporciona una estimació més fiable del rendiment d'un model en dades no vistes en comparació amb una divisió de prova de tren única. Ajuda a identificar problemes com ara sobreajustament o subajustament, proporcionant una estimació més sòlida de com es generalitzarà el model a dades noves.
Mitjançant la validació creuada, els professionals de l'aprenentatge automàtic poden prendre millors decisions sobre la selecció de models, l'ajustament dels hiperparàmetres i l'avaluació del rendiment de generalització d'un model sobre dades no vistes.
