Krížová validácia je kritická technika používaná na vyhodnotenie toho, ako bude model fungovať na nových údajoch. Primárnym cieľom je posúdiť výkonnosť modelu spôsobom, ktorý minimalizuje problémy, ako je nadmerné prispôsobenie (keď sa model príliš veľa učí z trénovacích údajov a funguje zle na neviditeľných údajoch) a nedostatočné prispôsobenie (kde je model príliš zjednodušený na to, aby zachytil vzory v údaje).
Koncept zahŕňa rozdelenie dostupných údajov do viacerých podskupín, zvyčajne dvoch hlavných častí: trénovacej sady a validačnej sady (ktorá sa tiež niekedy nazýva testovacia sada).
Bežnou technikou je k-násobná krížová validácia:
-
Súbor údajov je rozdelený do „k“ podmnožín (alebo záhybov) približne rovnakej veľkosti.
-
Model je trénovaný 'k' krát, pričom zakaždým sa používa iný sklad ako overovacia sada a zvyšné sklady ako tréningová sada.
-
Napríklad pri 5-násobnej krížovej validácii sú údaje rozdelené do piatich podmnožín. Model sa trénuje päťkrát, pričom zakaždým sa používa iná z piatich podmnožín ako overovacia množina a ďalšie štyri ako trénovacia množina.
-
Metriky výkonu (ako presnosť, presnosť, zapamätanie atď.) sú spriemerované v rámci týchto „k“ iterácií, aby sa získal konečný odhad výkonu.
Medzi ďalšie bežné techniky patrí
Krížová validácia typu Leave-One-Out (LOOCV)
-
Každý údajový bod slúži ako overovací súbor a model je trénovaný na zvyšku údajov.
-
Táto metóda je výpočtovo nákladná pre veľké súbory údajov, ale môže byť celkom presná, pretože využíva takmer všetky údaje na trénovanie.
Stratified Cross-Validation
- Zabezpečuje, že každý záhyb je reprezentatívny pre celý súbor údajov. Zachováva rozdelenie tried v každom záhybe, čo je užitočné pre nevyvážené súbory údajov.
Krížová validácia je kľúčová, pretože poskytuje spoľahlivejší odhad výkonu modelu na neviditeľných údajoch v porovnaní s jedným testom vlaku. Pomáha pri identifikácii problémov, ako je nadmerné vybavenie alebo nedostatočné vybavenie tým, že poskytuje robustnejší odhad toho, ako sa model zovšeobecní na nové údaje.
Pomocou krížovej validácie môžu odborníci na strojové učenie robiť lepšie rozhodnutia o výbere modelu, ladení hyperparametrov a hodnotení výkonu zovšeobecnenia modelu na neviditeľných údajoch.
