Validarea încrucișată este o tehnică critică folosită pentru a evalua cât de bine va funcționa un model pe date noi. Scopul principal este de a evalua performanța unui model într-un mod care să minimizeze probleme precum supraadaptarea (în cazul în care modelul învață prea mult din datele de antrenament și are performanțe slabe la datele nevăzute) și subadaptarea (în cazul în care modelul este prea simplist pentru a capta tiparele din date).
Conceptul implică împărțirea datelor disponibile în mai multe subseturi, de obicei două părți principale: setul de antrenament și setul de validare (care este uneori numit și setul de testare).
O tehnică comună este validarea încrucișată în k-fold:
-
Setul de date este împărțit în „k” subseturi (sau pliuri) de dimensiuni aproximativ egale.
-
Modelul este antrenat de „k” ori, de fiecare dată utilizând un fold diferit ca set de validare și foldurile rămase ca set de antrenament.
-
De exemplu, în validarea încrucișată de cinci ori, datele sunt împărțite în cinci subseturi. Modelul este antrenat de cinci ori, de fiecare dată folosind unul diferit din cele cinci subseturi ca set de validare și celelalte patru ca set de antrenament.
-
Valorile de performanță (cum ar fi acuratețea, precizia, reamintirea etc.) sunt mediate pe aceste „k” iterații pentru a obține o estimare finală a performanței.
Alte tehnici comune includ
Validare încrucișată Leave-One-Out (LOOCV)
-
Fiecare punct de date servește ca set de validare, iar modelul este antrenat pe restul datelor.
-
Această metodă este costisitoare din punct de vedere computațional pentru seturi de date mari, dar poate fi destul de precisă, deoarece utilizează aproape toate datele pentru antrenament.
Validare încrucișată stratificată
- Se asigură că fiecare pliu este reprezentativ pentru întregul set de date. Menține distribuția claselor în fiecare fold, ceea ce este util pentru seturile de date dezechilibrate.
Validarea încrucișată este crucială, deoarece oferă o estimare mai fiabilă a performanței unui model pe date nevăzute, comparativ cu o singură împărțire a testului de tren. Ajută la identificarea problemelor precum suprafitting sau subfitting, oferind o estimare mai solidă a modului în care modelul se va generaliza la date noi.
Prin utilizarea validării încrucișate, practicienii învățării automate pot lua decizii mai bune cu privire la selecția modelului, reglarea hiperparametrului și evaluarea performanței de generalizare a unui model pe date nevăzute.
