Sprendimų medžiai yra populiarus algoritmas, naudojamas atliekant klasifikavimo ir regresijos užduotis. Jie veikia rekursyviai suskirstydami duomenis į pogrupius pagal savybes, kurios geriausiai atskiria tikslinį kintamąjį.
Veiksmai, skirti numatyti ir priimti sprendimus
1. Medžių statyba
-
Šakninis mazgas: prasideda nuo viso duomenų rinkinio.
-
Funkcijų pasirinkimas: parenkama geriausia funkcija duomenims padalyti į pogrupius. „Geriausia“ savybė nustatoma pagal kriterijų (pvz., Gini priemaišą arba informacijos padidėjimą).
-
Padalijimas: padalija duomenis į poaibius pagal pasirinktos funkcijos reikšmes.
– Rekursyvus padalijimas: tęsiamas šis procesas kiekvienam poaibiui, kurdamas šakas arba mazgus, kol bus įvykdyti tam tikri sustabdymo kriterijai (pvz., pasiekiamas didžiausias gylis arba per mažai mėginių).
2. Sprendimų priėmimas ir numatymas
– Perėjimas: numatydamas naujus duomenis, jis kerta medį pagal to duomenų taško funkcijų reikšmes.
-
Mazgo įvertinimas: kiekviename mazge jis patikrina funkcijos vertę, palyginti su slenksčiu, ir juda žemyn medžiu po atitinkama šaka.
-
Lapų mazgai: galiausiai jis pasiekia lapo mazgą, kuris pateikia galutinę prognozę arba sprendimą.
3. Kategorinių ir skaitinių funkcijų tvarkymas
- Kategorinėms savybėms sprendimų medžiai gali būti tiesiog skaidomi pagal skirtingas kategorijas.
– Skaitmeninėms ypatybėms sprendimų medžiai bando taikyti skirtingus slenksčius, kad būtų optimaliai padalinti duomenys.
4. Perdengimo valdymas
- Sprendimų medžiai yra linkę per daug derėti. Tokie metodai, kaip genėjimas, medžio gylio ribojimas arba minimalaus mėginių skaičiaus, reikalingo mazgui padalinti, nustatymas padeda išvengti per didelio pritaikymo.
5. Numatymo pasitikėjimas ir tikimybė
- Klasifikuojant sprendimų medžiai gali pateikti klasių tikimybes, pagrįstas mėginių pasiskirstymu lapų mazguose. Regresijai ji suteikia nuolatinę išvestį, pagrįstą vidutine arba daugumos verte lapų mazguose.
6. Aiškinamumas
– Vienas iš reikšmingų sprendimų medžių privalumų yra jų aiškinamumas. Jie lengvai vizualizuojami ir suprantami, todėl galima suprasti, kurios funkcijos yra svarbiausios priimant sprendimus.
7. Ansamblio metodai
- Sprendimų medžiai gali būti derinami naudojant ansamblinius metodus, tokius kaip atsitiktiniai miškai arba gradiento didinimas, siekiant pagerinti našumą ir tvirtumą.
Sprendimų medžiai siūlo paprastą, bet galingą metodą sudėtingiems duomenų santykiams modeliuoti. Tačiau jiems gali kilti problemų dėl tam tikrų tipų duomenų, kurie nėra gerai skaidomi dėl paprastų sprendimų ribų arba kai yra triukšmingų ar nereikšmingų funkcijų.
