ⴰⵙⵏⴻⴼⵍⵉ ⴷ ⵢⵉⵡⴻⵜ ⵏ ⵜⵎⴻⵥⵍⴰ ⵏ ⵜⴻⵙⵏⴰⵜⵡⵉⵍⵉⵏ ⵢⴻⵜⵜⵡⴰⵙⵇⴻⴷⵛⴻⵏ ⵉ ⵓⵃⴱⴰⵙ ⵏ ⵓⵙⵏⴻⵔⵏⵉ ⵏ ⵜⵖⴰⵡⵙⵉⵡⵉⵏ ⴷ ⵓⵙⴻⵍⵀⵓ ⵏ ⵓⵙⵙⴻⵎⵔⴻⵙ ⵏ ⵢⵉⵡⴻⵏ ⵏ ⵓⵎⴹⴰⵏ. Overfitting ⵢⴻⵜⵜⵉⵍⵉⴷ ⵎⵉ ⴰⵔⴰ ⵢⴻⵍⵎⴻⴷ ⵓⵎⴷⴰⵏ ⵉⵙⴻⴼⴽⴰ ⵏ ⵓⵙⵙⵉⵍⴻⵖ ⵙ ⵡⴰⵟⴰⵙ, ⴰⴷ ⵢⴻⵟⵟⴻⴼ ⵍⵃⴻⵙⵙ ⴷ ⵜⵖⴰⵡⵙⵉⵡⵉⵏ ⵜⵉⵎⴰⵢⵏⵓⵜⵉⵏ ⵓⵔ ⵢⴻⵜⵜⵡⴰⴹⴻⵎⵏⴻⵏ ⴰⵔⴰ ⵉ ⵢⵉⵙⴻⴼⴽⴰ ⵉⵎⴰⵢⵏⵓⵜⴻⵏ ⵓⵔ ⵏⴻⵜⵜⵡⴰⵥⴻⵔ ⴰⵔⴰ. Regularizasyon ⵢⴻⵜⵜⵄⴰⵡⴰⵏ ⴷⴻⴳ ⵓⴹⴼⴰⵔ ⵏ ⵡⴰⵢⴰ ⵙ ⵓⵙⵏⴻⵔⵏⵉ ⵏ ⴰⵡⴰⵍ ⵏ ⵍⵃⴻⴱⵙ ⴷⴻⴳ ⵜⵖⴰⵡⵙⴰ ⵏ ⵢⵉⵙⵡⵉ ⵏ ⵍⴻⵎⵜⴻⵍ, ⵙ ⵡⴰⵢⴰ, ⵢⴻⵜⵜⵃⴻⵜⵜⵉⵎ ⵍⴻⵎⵜⴻⵍ ⵉⵅⵓⵚⵚⴻⵏ ⵙ ⵡⴰⵟⴰⵙ.
ⵙⵉⵏ ⵏ ⵢⵉⴼⴻⵔⴷⵉⵙⴻⵏ ⵏ ⵓⵙⵍⵓⴳⴻⵏ ⵢⴻⵜⵜⵡⴰⵙⵏⴻⵏ ⴷ ⴰⵙⵍⵓⴳⴻⵏ L1 ⴷ L2:
ⴰⵙⵍⵓⴳⴻⵏ ⵏ L1 (ⵜⴰⵖⴻⵍⵍⵉⵙⵜ ⵏ Lasso):
-
ⴰⵙⴻⵏⴼⴰⵔ ⵏ L1 ⵢⴻⵔⵏⴰⴷ ⵢⵉⵡⴻⵏ ⵏ ⵡⴰⵡⴰⵍ ⵏ ⵍⵃⴻⴱⵙ ⵉ ⵜⵎⴻⵥⵍⴰ ⵏ ⵜⵖⴰⵔⴰ ⵉ ⴷⵢⴻⵙⴷⵓⴽⴽⵍⴻⵏ ⴰⵣⴰⵍ absolu ⵏ ⵢⵉⴼⴻⵔⴷⵉⵙⴻⵏ ⵏ ⵍⴻⵎⵜⴻⵍ.
-
ⵢⴻⵙⴱⴻⵖⵙ sparsity ⴷⴻⴳ ⵓⵎⴹⴰⵏ ⵙ ⴰⵙⵏⴻⴼⵍⵉ ⵏ ⴽⵔⴰ ⵏ ⵢⵉⴼⴻⵔⴷⵉⵙⴻⵏ ⵙ zero ⵙ ⵜⵉⴷⴻⵜ, ⵙ ⵜⵖⴰⵔⴰ ⵏ ⴰⴼⵔⴰⵏ ⵏ ⵜⴼⴻⴽⴽⴰ.
-
ⴰⵎⴹⴰⵏ ⵉ ⴷⵢⴻⴼⴼⵖⴻⵏ ⴷ ⵡⵉⵏ ⵉⵙⴻⵀⵍⴻⵏ ⵢⴻⵔⵏⴰ ⵢⴻⵙⵀⴻⵍ ⴰⴷ ⵢⴻⵜⵜⵡⴰⴼⵀⴻⵎ, ⵉⵎⵉ ⵢⴻⵜⵜⴼⴻⵔⵔⵉⴹ ⴽⴰⵏ ⵜⵉⴳⵏⴰⵜⵉⵏ ⵢⴻⵙⵄⴰⵏ ⴰⵣⴰⵍ ⴷⴻⴳ ⵡⴰⴽⵓⴷ ⴰⵢⴷⴻⴳ ⵢⴻⵜⵜⴹⴻⴳⴳⵉⵄ ⵜⵉⴷ ⵓⵔ ⵏⴻⵙⵄⵉ ⴰⵔⴰ ⴰⵟⴰⵙ ⵏ ⵡⴰⵣⴰⵍ.
ⴰⵙⵍⵓⴳⴰⵏ ⵏ L2 (ⵜⴰⵖⴻⵍⵍⵉⵙⵜ ⵏ ⵜⵖⴻⵔⵖⴻⵔⵜ):
-
ⴰⵙⴻⵏⴼⴰⵔ ⵏ L2 ⵢⴻⵔⵏⴰⴷ ⵢⵉⵡⴻⵏ ⵏ ⵡⴰⵡⴰⵍ ⵏ ⵍⵃⴻⴱⵙ ⵉ ⵜⵎⴻⵥⵍⴰ ⵏ ⵜⵖⴰⵔⴰ ⵉ ⴷⵢⴻⵙⴷⵓⴽⴽⵍⴻⵏ ⵜⵉⵖⴱⵓⵍⴰ ⵜⵉⵎⴽⵓⵥⵉⵏ ⵏ ⵢⵉⴼⴻⵔⴷⵉⵙⴻⵏ ⵏ ⵍⴻⵎⵜⴻⵍ.
-
ⵜⴻⵜⵜⵃⵓⵍⴼⵓ ⴰⴷ ⵜⴻⵙⵏⴻⵇⵙ ⵉⴼⴻⵔⴷⵉⵙⴻⵏ ⵏ ⵜⵖⴰⵡⵙⵉⵡⵉⵏ ⵓⵔ ⵏⴻⵙⵄⵉ ⴰⵔⴰ ⴰⵟⴰⵙ ⵏ ⵡⴰⵣⴰⵍ ⵖⴻⵔ zero, ⵎⴰⵛⴰ ⵇⵍⵉⵍ ⵎⴰ ⵜⴻⵙⴱⴻⴷⴷⵉⵜⴻⵏⵜ ⴰⴽⴽⴻⵏ ⵉⵡⴰⵜⴰ ⵖⴻⵔ zero.
-
ⴰⵙⵏⴻⴼⵍⵉ ⵏ L2 ⴷ ⴰⵢⴻⵏ ⵉⴳⴻⵔⵔⵣⴻⵏ ⴷⴻⴳ ⵓⵃⴱⴰⵙ ⵏ ⵓⵙⵏⴻⵔⵏⵉ ⵏ ⵜⵖⴰⵡⵙⵉⵡⵉⵏ ⵙ ⵍⵃⴻⴱⵙ ⵏ ⵜⵖⴰⵡⵙⵉⵡⵉⵏ ⵜⵉⵎⴻⵇⵇⵔⴰⵏⵉⵏ, ⴷⵖⴰ, ⵙ ⵡⴰⵢⴰ, ⵙ ⵓⵙⵏⴻⴼⵍⵉ ⵏ ⵜⵖⴰⵡⵙⵉⵡⵉⵏ ⵏ ⵍⴻⵎⵜⴻⵍ.
ⴰⵎⴰ ⴷ ⵜⵉⴳⵏⴰⵜⵉⵏ ⵏ ⵓⵙⵍⵓⴳⴻⵏ L1 ⴰⵎⴰ ⴷ L2 ⵜⵜⵄⴰⵡⴰⵏⴻⵏⵜ ⴷⴻⴳ ⵓⵙⵏⴻⴼⵍⵉ ⵏ ⵓⵙⵍⵓⴳⴻⵏ ⵏ ⵜⵖⴰⵡⵙⵉⵡⵉⵏ ⵙ ⵡⴰⵟⴰⵙ (overfitting) ⴷ ⵓⵙⴻⵍⵀⵓ ⵏ ⵜⴻⵣⵎⴻⵔⵜ ⵏ ⵓⵎⴷⴰⵏ ⴰⴽⴽⴻⵏ ⴰⴷ ⵢⴻⵙⵙⴻⵎⵍⵉⵍ ⵉⵙⴻⴼⴽⴰ ⵓⵔ ⵏⴻⵜⵜⵡⴰⵥⴻⵔ ⴰⵔⴰ. ⴰⴼⵔⴰⵏ ⴳⴰⵔ ⵓⵙⵍⵓⴳⴻⵏ ⵏ L1 ⴷ L2 ⵢⴻⵜⵜⴽⴻⵎⵎⵉⵍ ⵙ ⵡⴰⵟⴰⵙ ⵖⴻⴼ ⵡⵓⴳⵓⵔ ⵙ ⵜⵉⵎⵎⴰⴷⵉⵙ, ⵖⴻⴼ ⵜⵖⴰⵔⴰ ⵏ ⵜⵖⴰⵡⵙⵉⵡⵉⵏ, ⵖⴻⴼ ⵜⵖⴰⵡⵙⴰ ⵉ ⴷⵢⴻⵜⵜⵡⴰⴱⵖⴰⵏ. ⵜⴰⵙⵍⴻⴹⵜ ⵏ Lasso (L1), ⵙ ⵜⵖⴰⵡⵙⴰⵉⵏⴻⵙ ⵏ ⵓⴼⵔⴰⵏ ⵏ ⵜⵖⴰⵡⵙⵉⵡⵉⵏ, ⵜⴻⵜⵜⵡⴰⴼⴻⵔⵏⴻⵏ ⵎⵉ ⴰⵔⴰ ⵢⵉⵍⵉ ⵍⵃⴰⵍ ⴰⴷ ⴷⵏⴰⴼ ⵜⵉⵖⴰⵡⵙⵉⵡⵉⵏ ⵉ ⴷⵢⴻⵜⵜⴰⵡⵉⵏ ⵍⴼⴰⵢⴷⴰ. ⵜⴰⵙⵍⴻⴹⵜ ⵏ Ridge (L2) ⵜⴻⵍⵀⴰ ⵎⵉ ⴰⵔⴰ ⵉⵍⵉⵏⵜ ⴰⴽⴽ ⵜⵖⴰⵡⵙⵉⵡⵉⵏ ⵙ ⵡⴰⵣⴰⵍⵏⵙⴻⵏⵜ ⵢⴻⵔⵏⴰ ⴷ ⴰⵢⴻⵏ ⵉ ⴷⵢⴻⵜⵜⵡⴰⴼⴻⵔⵏⴻⵏ ⵙ ⵓⵙⵏⴻⴼⵍⵉ ⵏ ⵜⵖⴰⵡⵙⵉⵡⵉⵏⵏⵙⴻⵏⵜ ⵡⴰⵔ ⵎⴰ ⵜⵜⵡⴰⴽⴽⵙⴻⵏⵜⴻⵏⵜ ⵙ ⵍⴻⴽⵎⴰⵍⵏⵙⴻⵏⵜ. ⵔⵏⵓ ⵖⴻⵔ ⵡⴰⵢⴰ, ⴰⵙⴷⵓⴽⴽⴻⵍ ⵏ ⵙⵏⴰⵜ ⵏ ⵜⴻⴳⵏⴰⵜⵉⵏⴰ, ⵢⴻⵜⵜⵡⴰⵙⵙⵏⴻⵏ ⵙ ⵢⵉⵙⴻⵎ ⵏ ⴰⵙⵏⴻⴼⵍⵉ ⵏ Elastic Net, ⵢⴻⵣⵎⴻⵔ ⴰⴷ ⵢⴻⵜⵜⵡⴰⵙⴻⵇⴷⴻⵛ ⴰⴽⴽⴻⵏ ⴰⴷ ⵢⴻⵙⴼⴰⵢⴷⵉ ⴰⵎⴰ ⵙⴻⴳ ⵓⵙⵏⵉⵍⴻⵙ ⵏ L1 ⴰⵎⴰ ⵙⴻⴳ ⵓⵙⵏⵉⵍⴻⵙ ⵏ L2 ⴷⴻⴳ ⵢⵉⵡⴻⵜ ⵏ ⵜⵉⴽⴽⴻⵍⵜ.
