ⵙⴻⴳⵣⵉⴷ ⴰⵎⴻⴽ ⵉ ⵜⵜⵃⴰⵣⴻⵏⵜ ⵜⵎⵓⵖⵍⵉⵡⵉⵏ ⵏ ⵍⴱⵉⵔⵓⵡⴰⵜ ⵉ ⵉⵍⴰⵇⴻⵏ ⴰⵙⴻⵏⴼⴰⵔ ⴷ ⵜⵎⵓⵙⵏⵉ ⴳⴰⵔ ⵢⵉⵄⴻⴳⴳⴰⵍⴻⵏ ⵏ ⵓⵅⴻⴷⴷⵉⵎ. ⴰⵎⴰⵙⴰⵢ ⵏ ⵜⴷⴰⵎⵙⴰ Mark Ma ⵢⴻⵙⵙⴻⴼⵀⴻⵎⴷ ⴰⵛⵉⵎⵉ, ⴷⴻⴳ ⵓⵎⴽⴰⵏ ⵏ ⵓⵅⴻⴷⴷⵉⵎ ⵏ ⵡⴰⵙⵙⴰ, ⵍⵃⴻⵕⵎⴰ ⴷⴻⴳ ⵓⵅⴻⴷⴷⵉⵎ ⵏ ⵜⵖⴻⵔⵖⴻⵔⵜ ⴷ ⴰⵢⴻⵏ ⵢⴻⵙⵄⴰⵏ ⴰⵣⴰⵍ ⵉ ⵓⵃⵔⴰⵣ ⵏ ⵜⵎⵓⵙⵙⵏⵉ ⵏ ⵜⵇⴰⵛⵓⵛⵜ.
ⵍⵎⴻⴷ ⵖⴻⴼ ⵜⵖⴰⵡⵙⴰ ⵏ Google 'Proofread' ⴷⴻⴳ Gboard, ⵉ ⴷⵢⴻⵜⵜⴰⴽⴻⵏ ⴰⵙⴻⴳⴳⴻⵎ ⵏ ⵜⴻⴼⵢⵉⵔⵜ ⴷ ⵜⴻⵙⵖⵓⵏⵜ ⵙ ⵜⵖⴰⵡⵍⴰ ⵢⴻⵔⵏⴰ ⵙ ⵜⵖⴰⵡⵍⴰ ⵙ ⵢⵉⵡⴻⵏ ⵏ ⵓⴹⴻⴱⵙⵉ. ⵙⵏⴻⵔⵏⵉ ⵜⴰⵖⴻⵍⵍⵉⵙⵜ ⴷ ⵜⵖⴰⵡⵙⴰⵉⵏⴻⴽ ⵏ ⵜⵉⵔⴰ ⵙ ⵡⴰⵍⵍⴰⵍⴰⴳⵉ ⵏ AI ⵉⴳⴻⵔⵔⵣⴻⵏ.
Decode ⵍⴱⴰⴹⵏⴰ ⵏ ⵓⵍⵎⵓⴷ ⵍⵇⴰⵢⴻⵏ: cozy Rates Neuron Tisfifin. ⵉⵥⴻⴹⵡⴰⵏ ⵏ ⵜⵏⴻⴼⵙⵉⵜ ⵉⵍⵇⴰⵢⴻⵏ (DNN) ⵓⵔ ⵜⵜⵡⴰⵍⵉⵏ ⴰⵔⴰ, ⵎⴰⵛⴰ CoSy, ⴷ ⴰⴽⴰⵔⴰⵎ ⴰⵎⴰⵢⵏⵓⵜ ⵏ AI, ⵢⴻⵜⵜⴰⴽⴷ ⵜⴰⴼⴰⵜ ⵖⴻⴼ ⵡⴰⵎⴻⴽ ⵜⵜⵎⴰⵀⴰⵍⴻⵏ. ⵍⵎⴻⴷ ⴰⵎⴻⴽ ⵉ ⵢⴻⵜⵜⵇⴰⴷⴰⵔ cozy ⵉⵙⴻⴼⴽⴰ ⵏ ⵜⵖⴰⵔⴰ ⵏ ⵜⵏⴻⴼⵙⵉⵜ, ⵙ ⵓⵙⵏⴻⵔⵏⵉ ⵏ Explainable AI (XAI) ⴷ ⵓⵙⵏⴻⵔⵏⵉ ⵏ ⵍⴰⵎⴰⵏ ⴷⴻⴳ AI.
ⴰⴼⴷ ⴰⵎⴻⴽ ⵉ ⴷⵢⴻⵜⵜⴳⴻⵏ ⵓⵎⴹⴰⵏ ⵏ ROFORMER ⵙ Rotary Position Embedding (RoPE) ⵜⴰⴳⵔⴰⵡⵍⴰ ⴷⴻⴳ ⵓⵎⵓⴷ ⵏ Transformer ⵙ ⵓⵙⵏⴻⵔⵏⵉ ⵏ ⵓⵙⵏⵓⵍⴼⵓ ⵏ ⵓⵎⴹⵉⵇ, ⵙ ⵓⵙⴷⵓⴽⴽⴻⵍ ⵏ ⵢⵉⵎⵓⴽⴰⵏ ⵏ ⵜⵎⵓⵖⵍⵉ ⴷ ⵜⵎⵓⵖⵍⵉⵡⵉⵏ ⵏ ⵜⵎⵓⵖⵍⵉ ⵉ ⵓⵙⴼⴻⵀⴻⵎ ⵢⴻⵍⵀⴰⵏ ⵏ ⵓⴹⵔⵉⵙ.
ⵍⵎⴻⴷ ⵖⴻⴼ ⵜⵉⴼⵔⴰⵜ ⵏ ⵜⵖⴰⵡⵙⵉⵡⵉⵏ ⵏ ⵜⵖⴰⵡⵙⵉⵡⵉⵏ ⵏ ⵜⵖⴰⵡⵙⵉⵡⵉⵏ ⵏ ⵜⵖⴰⵡⵙⵉⵡⵉⵏ ⴷⴻⴳ ⵢⵉⵎⵓⴽⴰⵏ ⵏ ⵜⵓⵜⵍⴰⵢⵉⵏ ⵜⵉⵎⴻⵇⵇⵔⴰⵏⵉⵏ (LLM). ⵙⴻⴳⵣⵉⴷ ⴰⵎⴻⴽ ⴰⵢ ⵢⴻⵜⵜⵏⴻⵔⵏⵉ ⵓⵙⵙⵉⵍⴻⵖ ⵏ ⵜⵖⴰⵡⵙⵉⵡⵉⵏ ⵙ ⵜⵖⴰⵡⵍⴰ ⵙ ⵙⵉⵏ ⵏ ⵢⵉⴱⴻⵔⴷⴰⵏ ⵏ ⵜⵖⴰⵡⵙⵉⵡⵉⵏ ⵏ ⵜⵖⴰⵡⵙⵉⵡⵉⵏ ⵢⴻⵔⵏⴰ ⵢⴻⵙⵙⴻⵍⵀⵓ ⵙ ⵡⴰⵟⴰⵙ ⴰⵅⴻⴷⴷⵉⵎ ⴰⵎⴰ ⴷⴻⴳ ⵍⴻⵛⵖⴰⵍ ⵏ ⵜⵖⴰⵡⵙⵉⵡⵉⵏ ⵏ ⵜⵖⴰⵡⵙⵉⵡⵉⵏ ⵏ ⵜⵖⴰⵡⵙⵉⵡⵉⵏ, ⵙ ⵡⴰⵢⴰ, ⵙ ⵡⴰⵢⴰ, ⵢⴻⵜⵜⵇⴰⴷⴰⵔ ⴰⵖⴱⴻⵍ ⵏ ⵍⵍⵙⴰⵙ ⴰⵢ ⴷⵢⴻⵙⵙⵓⴼⴼⴻⵖ ⵓⵙⴰⴹⵓⴼ ⵏ Zipf.
ⴰⴼⴷ ⴰⵎⴻⴽ 'Asnefli ⵏ ⵜⵓⴳⵏⴰ ⵙ ⵜⵖⴰⵡⵍⴰ ⵙ ⵜⵖⴰⵡⵍⴰ ⵙ ⵓⵙⵇⴻⵔⴷⴻⵛ ⵏ ⵓⵙⴼⵓⴳⴻⵍ ⵏ ⵓⵙⴼⵓⴳⴻⵍ ⵏ ⵜⵖⴰⵡⵙⵉⵡⵉⵏ ⵏ ⵜⵖⴰⵡⵙⵉⵡⵉⵏ' ⵢⴻⵙⵙⴻⴽⵛⴻⵎⴷ LADD, ⴷ ⵜⴰⵔⵔⴰⵢⵜ ⵏ ⵓⵙⴼⵓⴳⴻⵍ ⵏ ⵜⵖⴰⵡⵙⵉⵡⵉⵏ ⵙ ⵜⵖⴰⵡⵍⴰ ⴰⵢ ⴷⵢⴻⵙⴱⴻⴷⴷⴻⵏ ⵜⴰⴳⵔⴰⵡⵍⴰ ⴷⴻⴳ ⵢⵉⵎⵓⴽⴰⵏ ⵏ ⵓⵙⴼⵓⴳⴻⵍ. ⵙⵏⴻⵔⵏⵉ ⵉⵙⴻⵏⴼⴰⵔⴻⵏ ⵏ ⵡⴰⴽⵓⴷ ⵏ ⵜⵉⴷⴻⵜ ⵙ ⵓⵙⵏⴻⴼⵍⵉ ⵏ ⵜⵓⴳⵏⴰ ⵙ ⵜⵖⴰⵔⴰ ⵜⴰⵎⴻⵇⵇⵔⴰⵏⵜ, ⵙ ⵜⵖⴰⵔⴰ ⵏ ⵡⴰⵟⴰⵙ ⵏ ⵢⵉⵃⵔⵉⵛⴻⵏ, ⴰⵙⴻⴼⵙⴻⵙ ⵏ ⵓⵙⵉⵍⴻⵖ ⴷ ⵓⵙⵏⴻⵔⵏⵉ ⵏ ⵜⵖⴰⵔⴰ.
ⴰⴼⴷ ⵢⵉⵡⴻⵜ ⵏ ⵜⵎⵓⵖⵍⵉ ⵏ ⵓⵙⵏⴻⵔⵏⵉ ⵏ ⵓⵍⵎⴰⴷ ⵏ ⵜⴽⴻⵎⵎⵉⵍⵜ ⵉ ⵢⵉⵎⵓⴽⴰⵏ ⵉⵎⴻⵇⵔⴰⵏⴻⵏ ⵏ ⵜⵓⵜⵍⴰⵢⵜ (LLM), ⵙ ⵜⵓⴽⴽⵙⴰ ⵏ ⵜⵃⴰⵡⴰⵛⵜ ⵏ ⵓⵄⵉⵡⴻⴷ ⵏ ⵓⵙⵙⵉⵍⴻⵖ ⵙ ⵍⵇⵉⵎⴰ ⵜⴰⵎⴻⵇⵔⴰⵏⵜ. ⵙⴻⴳⵣⵉⴷ ⴰⵎⴻⴽ ⵜⵉⵙⵜⵔⴰⵜⵉⵊⵉⵢⵉⵏ ⵜⵉⴼⵔⴰⵔⴰⵢⵉⵏ ⴰⵎ ⵓⵄⵉⵡⴻⴷ ⵏ ⵓⵙⵃⵓⵍⴼⵓ ⵏ ⵓⵙⵡⵉⵔ ⵏ ⵓⵍⵎⴰⴷ, ⴰⵄⵉⵡⴻⴷ ⵏ ⵓⵙⵖⴻⵔⵔⴻⴱ, ⴷ ⵓⵄⵉⵡⴻⴷ ⵏ ⵓⵄⵉⵡⴻⴷ ⵏ ⵢⵉⵙⴻⴼⴽⴰ ⵜⵜⴰⴵⴵⴰⵏⵜ ⴰⵙⴻⵖⵣⴻⴼ ⵏ LLM ⵡⴰⵔ ⵎⴰ ⵜⵜⵡⴰⵃⴻⴱⵙⴻⵏⵜ ⵜⵖⴰⵡⵙⵉⵡⵉⵏ, ⵓⵍⴰ ⴷⴻⴳ ⵜⵎⴻⵣⵣⵓⴳⵉⵏ ⵏ ⵢⵉⵙⴻⴼⴽⴰ ⵏ ⵜⵓⵜⵍⴰⵢⵉⵏ ⵢⴻⵎⴳⴰⵔⴰⴷⴻⵏ. ⵍⵎⴻⴷ ⴰⵎⴻⴽ ⵜⵜⵇⴰⴱⴰⵍⴻⵏ ⵏⴻⵖ ⵜⵜⵇⴰⴷⴰⵔⴻⵏ ⵜⵜⴰⵡⵉⵍⴰⵜⴰ ⵉⴳⵎⴰⴹ ⵏ ⵓⵄⵉⵡⴻⴷ ⵏ ⵓⵙⵙⵉⵍⴻⵖ ⴷⴻⴳ ⵡⴰⴽⵓⴷ ⴰⵢⴷⴻⴳ ⵙⵏⴻⵇⵙⴻⵏ ⵙ ⵡⴰⵟⴰⵙ ⵉⵃⴻⵣⵣⵉⴱⴻⵏ ⵏ ⵓⵙⵙⴻⴹⵔⵓ.