ⵜⵉⵙⵏⴰⵜⵡⵉⵍⵉⵏ ⵏ ⵓⵙⵍⵓⴳⴻⵏ ⴰⵎ L1 ⴷ L2 ⵜⵜⵡⴰⵙⴻⵇⴷⴰⵛⴻⵏⵜ ⴰⴽⴽⴻⵏ ⴰⴷ ⵃⴻⴱⵙⴻⵏⵜ ⴰⵙⴻⵏⵇⴻⵙ ⵏ ⵜⵖⴰⵡⵙⵉⵡⵉⵏ ⴷⴻⴳ ⵢⵉⵎⵓⴽⴰⵏ ⵏ ⵓⵍⵎⴰⴷ ⵏ ⵜⵎⴰⵛⵉⵏⵉⵏ ⵙ ⵓⵄⴰⵇⴻⴱ ⵏ ⵢⵉⴼⴻⵔⴷⵉⵙⴻⵏ ⵉⵎⴻⵇⵇⵔⴰⵏⴻⵏ.
ⵜⴰⵙⵍⴻⴹⵜ ⵏ L1, ⵢⴻⵜⵜⵡⴰⵙⵙⴻⵏ ⴷⴰⵖⴻⵏ ⵙ ⵢⵉⵙⴻⵎ ⵏ ⵜⴻⵙⵍⴻⴹⵜ ⵏ Lasso, ⵜⴻⵔⵏⴰⴷ ⴰⵡⴰⵍ ⵏ ⵜⵎⴻⵏⴹⴰⵡⵜ ⵢⴻⵜⵜⵡⴰⵙⵏⴻⵏ ⵙ ⵡⴰⵣⴰⵍ absolu ⵏ ⵢⵉⴼⴻⵔⴷⵉⵙⴻⵏ ⵏ ⵜⴼⴻⴽⴽⴰ. ⵢⴻⵙⵙⴻⴱⵖⴰⵙ sparsity ⵙ ⵓⵙⵏⴻⵔⵏⵉ ⵏ ⴽⵔⴰ ⵏ ⵢⵉⴼⴻⵔⴷⵉⵙⴻⵏ ⵙ zero ⵙ ⵜⵉⴷⴻⵜ, ⵢⴻⵜⵜⴳⴻⵏ ⵙ ⵜⵖⴰⵡⵍⴰ ⴰⴼⵔⴰⵏ ⵏ ⵜⵖⴰⵡⵙⵉⵡⵉⵏ ⵙ ⵜⵓⴽⴽⵙⴰ ⵏ ⵜⵖⴰⵡⵙⵉⵡⵉⵏ ⵓⵔ ⵏⴻⵙⵄⵉ ⴰⵔⴰ ⴰⵟⴰⵙ ⵏ ⵡⴰⵣⴰⵍ. ⵜⴰⵣⵎⴻⵔⵜⴰ ⵏ ⵓⴼⵔⴰⵏ ⵏ ⵜⵖⴰⵡⵙⵉⵡⵉⵏ ⵜⴻⵜⵜⴰⴵⴵⴰ ⴰⵙⴻⵏⴼⴰⵔ ⵏ L1 ⴰⴷ ⵢⵉⵍⵉ ⴷ ⴰⵏⴼⴰⵢ ⵍⴰⴷⵖⴰ ⵎⵉ ⴰⵔⴰ ⵜⵜⵡⴰⵇⴻⴱⵍⴻⵏ ⵢⵉⴼⴻⵔⴷⵉⵙⴻⵏ ⵏ ⵢⵉⵙⴻⴼⴽⴰ ⵙ ⵓⵎⴹⴰⵏ ⴰⵎⴻⵇⵔⴰⵏ ⵏ ⵜⵖⴰⵡⵙⵉⵡⵉⵏ, ⵉⵎⵉ ⵢⴻⵜⵜⵄⴰⵡⴰⵏ ⴷⴻⴳ ⵓⵙⴻⴼⵔⴻⴽ ⵏ ⵢⵉⵎⵓⴽⴰⵏ ⵙ ⵓⵙⴽⴰⵙⵉ ⵖⴻⴼ ⵜⵖⴰⵡⵙⵉⵡⵉⵏ ⵉ ⴷⵢⴻⵜⵜⴰⵡⵉⵏ ⵍⴼⴰⵢⴷⴰ. ⴰⵙⴻⴼⵙⴻⵙ ⵏ ⵍⴻⵎⵜⴻⵍ ⵉ ⴷⵢⴻⵜⵜⵡⴰⵙⵏⵓⵍⴼⴰⵏ ⵢⴻⵙⵏⴻⵇⵙⴷ ⴰⵙⴻⵏⵇⴻⵙ ⵏ ⵜⵖⴰⵡⵙⵉⵡⵉⵏ ⵙ ⵡⴰⵟⴰⵙ.
ⵙⴻⴳ ⵜⴰⵎⴰ ⵏⵏⵉⴹⴻⵏ, ⴰⵙⴻⵏⴼⴰⵔ ⵏ L2, ⵢⴻⵜⵜⵡⴰⵙⵙⴻⵏ ⴷⴰⵖⴻⵏ ⵙ ⵢⵉⵙⴻⵎ ⵏ ⵓⵙⴻⵏⴼⴰⵔ ⵏ Ridge, ⵢⴻⵔⵏⴰⴷ ⵢⵉⵡⴻⵏ ⵏ ⵓⵎⴹⴰⵏ ⵏ ⵜⵎⴻⵏⴹⴰⵡⵜ ⵢⴻⵜⵜⵡⴰⵙⵏⴻⵏ ⵙ ⵓⵎⴹⵉⵇ ⵏ ⵢⵉⴼⴻⵔⴷⵉⵙⴻⵏ ⵏ ⵜⴼⴻⴽⴽⴰ. ⵓⵔ ⵢⴻⵜⵜⵃⴻⵜⵜⴻⵎ ⴰⵔⴰ ⵉⴼⴻⵔⴷⵉⵙⴻⵏ ⴰⴷ ⵓⵖⴰⵍⴻⵏ ⴷ zero ⵙ ⵜⵉⴷⴻⵜ ⵎⴰⵛⴰ ⴷⴻⴳ ⵓⵎⴽⴰⵏⵏⵙⴻⵏ ⵢⴻⵜⵜⵃⴻⵜⵜⵉⵎⵉⵜⴻⵏ ⵖⴻⵔ zero, ⴷⵖⴰ ⴰⴽⴽ ⵜⵉⴳⵏⴰⵜⵉⵏ ⴰⴷ ⵜⵜⴻⴽⴽⵉⵏ ⴷⴻⴳ ⵓⵎⴹⵉⵇ ⵙ ⴽⵔⴰ ⵏ ⵜⵖⴰⵡⵙⴰ. ⵜⴰⵙⵍⴻⴹⵜ ⵏ L2 ⴷ ⵜⵉⵏ ⵉ ⴷⵢⴻⵜⵜⴰⵡⵉⵏ ⵍⴼⴰⵢⴷⴰ ⴷⴻⴳ ⵓⵃⴰⵔⴻⴱ ⵖⴻⴼ ⵜⵎⴻⵥⴷⵉⵢⵉⵏ (multicollinearité) ⵢⴻⵔⵏⴰ ⵙ ⵓⵎⴰⵜⴰ ⵜⴻⵜⵜⴰⵡⵉⴷ ⵙ ⵢⵉⵎⵓⴽⴰⵏ ⵏ ⵜⵎⴻⵥⴷⵉⵢⵉⵏ (modèles) ⵉ ⴷⵢⴻⵜⵜⵡⴰⵙⴱⴻⴷⴷⴻⵏ ⵓⴳⴰⵔ ⵎⴰⵛⴰ ⵙ ⵜⵎⴻⵥⴷⵉⵢⵉⵏ ⵏ ⵜⵎⴻⵥⴷⵉⵢⵉⵏ ⵙ ⵜⵎⴻⵥⴷⵉⵢⵉⵏ ⵏ L1.
ⵙⵏⴰⵕⵢⵓⵜⴻⵏ ⴰⵏⴷⴰ ⴰⵙⴻⵍⴽⴻⵎ ⵏ L1 ⵢⴻⵣⵎⴻⵔ ⴰⴷ ⵢⵉⵍⵉ ⴷ ⵡⵉⵏ ⴰⵔⴰ ⴷⵢⴰⵡⵉⵏ ⵍⴼⴰⵢⴷⴰ ⵓⴳⴰⵔ ⵍⵍⴰⵏ ⴷⴻⴳⵙⴻⵏ:
-
ⵜⵉⴼⴻⵔⴽⵉⵡⵉⵏ ⵏ ⵢⵉⵙⴻⴼⴽⴰ ⵙ ⵜⵖⴰⵔⴰ ⵜⴰⵎⴻⵇⵇⵔⴰⵏⵜ ⵙ ⵡⴰⵟⴰⵙ ⵏ ⵜⵖⴰⵡⵙⵉⵡⵉⵏ: Mi ⴰⵔⴰ ⵜⵜⵡⴰⵇⴻⴱⵍⴻⵏ ⵢⵉⴼⴻⵔⴷⵉⵙⴻⵏ ⵏ ⵢⵉⵙⴻⴼⴽⴰ ⴰⵏⴷⴰ ⵎⴻⵇⵇⴻⵔ ⵓⵎⴹⵉⵇ ⵏ ⵜⵖⴰⵡⵙⵉⵡⵉⵏ, ⴰⵙⴻⵏⴼⴰⵔ ⵏ L1 ⵢⴻⵜⵜⵄⴰⵡⴰⵏ ⴷⴻⴳ ⵓⴼⵔⴰⵏ ⵏ ⵜⵖⴰⵡⵙⵉⵡⵉⵏ ⵙ ⵡⵓⴷⴻⵎ ⴰⵡⵓⵔⵎⴰⵏ, ⵢⴻⵙⵙⴻⵍⵀⵓ ⵜⴰⴼⴻⵙⵙⴰⵙⵜ ⵏ ⵍⴻⵎⵜⴻⵍ ⴷ ⵓⵅⴻⴷⴷⵉⵎ.
-
ⵎⵉ ⴰⵔⴰ ⵢⴻⵜⵜⵡⴰⵕⴵⵓ ⵓⵙⵙⴻⵎⵖⴻⵔ ⵏ ⵜⵖⴰⵡⵙⵉⵡⵉⵏ: Deg ⵢⵉⵃⵔⵉⵛⴻⵏ ⴰⵏⴷⴰ ⵢⴻⵜⵜⵡⴰⵄⵔⴻⴹ ⴱⴻⵍⵍⵉ ⴰⵍⴰ ⴽⵔⴰ ⵏ ⵜⵖⴰⵡⵙⵉⵡⵉⵏ ⵉ ⵢⴻⵙⵄⴰⵏ ⴰⵣⴰⵍ ⵙ ⵜⵉⴷⴻⵜ, ⴰⵙⴻⵏⴼⴰⵔ ⵏ L1 ⵢⴻⵣⵎⴻⵔ ⴰⴷ ⴷⵢⴻⵙⴱⴰⵏ ⵙ ⵜⵎⵓⵙⵙⵏⵉ ⵢⴻⵔⵏⴰ ⴰⴷ ⴷⵢⴻⵙⵎⴻⴽⵜⵉ ⵙ ⵜⵖⴰⵡⵙⵉⵡⵉⵏⵏⵏⵉ.
ⵎⴰⵛⴰ, ⴰⵙⴻⵏⴼⴰⵔ ⵏ L1 ⵢⴻⵣⵎⴻⵔ ⴰⴷ ⵢⵉⵍⵉ ⴷ ⴰⵢⴻⵏ ⵓⵔ ⵏⴻⵙⵄⵉ ⴰⵔⴰ ⴰⵟⴰⵙ ⵏ ⵍⴼⴰⵢⴷⴰ ⴷⴻⴳ ⵜⴻⵙⵏⴰⵍⵍⵓⵏⵉⵏ ⴰⵏⴷⴰ:
-
ⴰⴽⴽ ⵜⵉⴳⵏⴰⵜⵉⵏ ⵜⵜⵡⴰⵃⴻⵙⴱⴻⵏⵜ ⴷ ⵜⵉⴷ ⵢⴻⵙⵄⴰⵏ ⴰⵣⴰⵍ: Ma ⵢⴻⵍⵍⴰ ⵢⴻⵍⵍⴰ l’iman ⴱⴻⵍⵍⵉ ⴰⵎⵓⵔ ⴰⵎⴻⵇⵔⴰⵏ ⵙⴻⴳ ⵜⵉⴳⵏⴰⵜⵉⵏ ⵙⵄⴰⵏ ⴰⵣⴰⵍ ⵢⴻⵔⵏⴰ ⵎⴰ ⵏⴻⵙⵙⴻⴽⵛⴻⵎ ⴽⵔⴰ ⵙⴻⴳⵙⴻⵏⵜ ⵢⴻⵣⵎⴻⵔ ⴰⴷ ⴷⵢⴻⴳⵍⵓ ⵙ ⵜⵎⴻⵜⵜⴰⵏⵜ ⵏ ⵢⵉⵙⴰⵍⵍⴻⵏ, L1 ⵢⴻⵣⵎⴻⵔ ⵓⵔ ⵢⴻⵍⵍⵉ ⴰⵔⴰ ⴷ ⴰⴼⵔⴰⵏ ⵢⴻⵍⵀⴰⵏ ⵉⵎⵉ ⵢⴻⵜⵜⵃⵓⵍⴼⵓ ⴰⴷ ⵢⴻⵙⴱⴻⴷⴷ ⵉⴼⴻⵔⴷⵉⵙⴻⵏ ⵙ zero.
-
ⵜⴰⴳⵔⵓⵎⵎⴰ ⵏ ⵢⵉⵙⴻⴼⴽⴰ ⵜⴻⵙⵄⴰ ⵜⵉⵎⵙⴰⵍ ⵏ ⵜⵎⴻⵥⵔⵉⵡⵉⵏ ⵏ ⵜⵎⴻⵥⵔⵉⵡⵉⵏ: Asenfar ⵏ L2 ⵜⴳⴻⵔⵔⴻⵣ ⵓⴳⴰⵔ ⵉ ⵓⵃⴰⵔⴻⴱ ⵖⴻⴼ ⵡⵓⴳⵓⵔ ⵏ ⵜⵎⴻⵥⵔⵉⵡⵉⵏ ⵏ ⵜⵎⴻⵥⵔⵉⵡⵉⵏ ⵙ ⵜⵎⴻⵥⵔⵉⵡⵉⵏ ⵏ L1.
ⴷⴻⴳ ⵓⵅⴻⴷⴷⵉⵎ, ⵙ ⵜⴷⵓⴽⵍⵉ ⵏ ⵓⵙⵍⵓⴳⴻⵏ ⵏ L1 ⴷ L2, ⵢⴻⵜⵜⵡⴰⵙⵙⴻⵏ ⵙ ⵢⵉⵙⴻⵎ ⵏ ⴰⵙⵍⵓⴳⴻⵏ ⵏ Elastic Net, ⵢⴻⵣⵎⴻⵔ ⴰⴷ ⵢⴻⵜⵜⵡⴰⵙⴻⵇⴷⴻⵛ ⴰⴽⴽⴻⵏ ⴰⴷ ⵢⴻⵙⴼⴰⵢⴷⵉ ⵙⴻⴳ ⵙⵏⴰⵜ ⵏ ⵜⴻⴳⵏⴰⵜⵉⵏⴰ, ⵙ ⵓⵙⵏⴻⵔⵏⵉ ⵏ ⵜⵎⴻⵥⵥⵓⵖⵜ ⵏ L1 ⴷ ⵜⵎⴻⵥⵥⵓⵖⵜ ⵏ L2.
