Katastrofické zabúdanie, tiež známe ako katastrofické rušenie, je jav, ktorý nastáva, keď neurónová sieť alebo model strojového učenia „zabudne“ alebo dramaticky zníži svoj výkon pri predtým naučených úlohách po naučení sa novej úlohy. Môže k tomu dôjsť pri trénovaní modelu na prúde úloh, namiesto toho, aby ste ho trénovali na všetkých úlohách naraz.
Existuje niekoľko rôznych spôsobov, ako môže dôjsť ku katastrofálnemu zabudnutiu. Jedným zo spôsobov je proces „overfittingu“ 1, kde je model zameraný na prispôsobenie tréningových údajov pre novej úlohy, že zabudne informácie z predchádzajúcich úloh. Ďalší spôsob je cez proces „interferencie“, kde nová úloha nejakým spôsobom súvisí s predchádzajúcimi úlohami a učenie sa modelu o novej úlohe „zasahuje“ do jeho vedomostí o predchádzajúcich úlohách. Jedným z bežných spôsobov, ako sa vyskytuje katastrofické zabudnutie, je trénovanie modelu pomocou prístupu „Online vzdelávanie“ 2, v ktorom sa model neustále aktualizuje o nové príklady. ako prichádzajú, namiesto toho, aby boli trénovaní na pevnom súbore príkladov naraz. V tomto scenári môže byť model prezentovaný s novými príkladmi, ktoré sa výrazne líšia od príkladov, na ktorých bol predtým trénovaný, a to môže spôsobiť, že „zabudne“ alebo výrazne zníži výkon predchádzajúcej úlohy.
Existuje niekoľko spôsobov, ako zmierniť katastrofické zabudnutie:
– Jedným z prístupov je použitie techník, ako je napríklad „regulácia hmotnosti“ 3, ktoré môžu pomôcť zabrániť modelu od drastickej zmeny hodnôt jeho hmotnosti a straty vedomostí, ktoré nadobudol z predchádzajúcich úloh.
-
"Elastic Weight Consolidation" 4, ktorá zahŕňa pridanie malého množstva hluku k hmotnostiam siete počas tréningu, môže tiež pomôcť zabrániť katastrofickému zabudnutiu. Tento hluk pomáha „stabilizovať“ závažia, čím je menej pravdepodobné, že model zabudne na svoje znalosti o predchádzajúcich úlohách.
-
Ďalším prístupom je použitie metód, ako je „skúška“ 5, v ktorom je model neustále prezentovaný s príkladmi z predtým naučených úloh, ktoré mu pomáhajú zachovať si tieto znalosti.
– Ďalšou populárnou metódou riešenia katastrofického zabudnutia je použitie „učenia prenosu“ 6, v ktorom je model trénovaný na jednu úlohu je doladený na príbuznú úlohu. Napríklad model, ktorý bol vycvičený na rozpoznávanie obrázkov psov, môže byť doladený tak, aby rozpoznával obrázky mačiek. V tomto prípade sa model už naučil veľa funkcií, ktoré sú užitočné na rozpoznávanie obrázkov zvierat vo všeobecnosti, takže tieto znalosti môže použiť na rýchle naučenie sa rozpoznávať obrázky mačiek.
- "Ensemble Methods" 7, v ktorých sa trénujú viaceré modely na riešenie rôznych úloh a ich výstupy sa kombinujú, aby sa vytvorila konečná predpoveď, sú tiež užitočné pri predchádzanie katastrofickému zabudnutiu. Napríklad súborový model môže pozostávať z jedného modelu, ktorý je trénovaný na rozpoznávanie obrázkov psov, iného modelu, ktorý je trénovaný na rozpoznávanie obrázkov mačiek atď. Pri prezentovaní nového príkladu môže súborový model použiť výstup každého z jeho základných modelov na vytvorenie informovanejšej predpovede.
Katastrofické zabudnutie je dôležitým faktorom pri trénovaní modelov strojového učenia, najmä ak sú tieto modely trénované na učenie sa viacerých úloh v priebehu času. Použitím techník, ako je regulácia hmotnosti, pružná konsolidácia hmotnosti, skúška, prenosové učenie a metódy súboru, je možné zmierniť účinky katastrofického zabúdania a zlepšiť výkonnosť modelov strojového učenia.
[1] The Overfitting Iceberg (2020)
[2] Online metódy strojového učenia – teória a aplikácie (Konzultované v januári 2023)
[3] Regularization Techniques in Deep Learning (2019)
[4] Prekonávanie katastrofického zabudnutia v neurónových sieťach (2017)
[5] Katastrofické zabúdanie, skúška a pseudohearsal (1995)
[6] A Survey of Transfer Learning (2016)
[7] Ensemble Learning – Wikipedia (Konzultované v januári 2023)
