Катастрофічне забування, також відоме як катастрофічне втручання, — це явище, яке виникає, коли нейронна мережа або модель машинного навчання «забувають» або різко знижують свою ефективність виконання раніше вивчених завдань після вивчення нового завдання. Це може статися під час навчання моделі на потоці завдань, а не на всіх завданнях одночасно.
Є кілька різних способів катастрофічного забування. Одним із способів є процес «переобладнання» [1], коли модель настільки зосереджена на підгонці до навчання даних для нового завдання, що він забуває інформацію з попередніх завдань. Інший шлях — через процес «втручання», коли нове завдання певним чином пов’язане з попередніми завданнями, а знання моделі про нове завдання «втручається» в її знання про попередні завдання. Одним із поширених способів катастрофічного забування є навчання моделі за допомогою підходу «Онлайн-навчання» [2], за якого модель постійно оновлюється за допомогою нові приклади, коли вони надходять, замість того, щоб навчатися на фіксованому наборі прикладів одразу. У цьому сценарії моделі можуть бути представлені нові приклади, які суттєво відрізняються від прикладів, на яких вона раніше навчалася, і це може призвести до того, що вона «забуде» або значно погіршить свою продуктивність у попередньому завданні.
Є кілька способів пом'якшити катастрофічне забування:
-
Одним з підходів є використання таких методів, як «Регулярізація ваги» [3], яка може допомогти запобігти модель від різкої зміни своїх значень ваги та втрати знань, отриманих під час виконання попередніх завдань.
-
«Еластична консолідація ваги» [4], яка передбачає додавання невеликої кількості шуму до ваг мережі під час навчання, також може допомогти запобігти катастрофічному забуванню. Цей шум допомагає «стабілізувати» ваги, зменшуючи ймовірність того, що модель забуде свої знання про попередні завдання.
-
Інший підхід полягає у використанні таких методів, як «Репетиція» [5], у якому модель постійно представлена з прикладами з раніше вивчених завдань, щоб допомогти їй зберегти ці знання.
-
Іншим популярним методом вирішення проблеми катастрофічного забування є використання «Transfer Learning» [6], у якому модель, навчена одному завданню, точно налаштована на пов’язане завдання. Наприклад, модель, яка була навчена розпізнавати зображення собак, може бути налаштована на розпізнавання зображень котів. У цьому випадку модель вже навчилася багатьом функціям, корисним для розпізнавання зображень тварин загалом, тому вона може використовувати ці знання, щоб швидко навчитися розпізнавати зображення котів.
-
«Методи ансамблю» [7], у яких кілька моделей навчаються вирішувати різні завдання, а їхні результати об’єднуються для остаточного прогнозування. допомагає запобігти Катастрофічному Забуванню. Наприклад, модель ансамблю може складатися з однієї моделі, яка навчена розпізнавати зображення собак, іншої моделі, яка навчена розпізнавати зображення котів, і так далі. Коли представлено новий приклад, модель ансамблю може використовувати вихідні дані кожної зі своїх складових моделей, щоб зробити більш обґрунтований прогноз.
Катастрофічне забування є важливим моментом під час навчання моделей машинного навчання, особливо коли ці моделі навчаються вирішувати кілька завдань з часом. Використовуючи такі методи, як регулярізація ваги, еластична консолідація ваги, репетиція, трансферне навчання та методи ансамблю, можна пом’якшити наслідки катастрофічного забування та покращити продуктивність моделей машинного навчання.
[1] The Overfitting Iceberg (2020)
[2] Онлайн-методи в машинному навчанні – теорія та застосування (Консультація проведена в січні 2023 р.)
[3] Методики регулярізації в глибокому навчанні (2019)
[4] Подолання катастрофічного забування в нейронних мережах (2017)
[5] Катастрофічне забування, репетиція та псевдорепетиція (1995)
[6] Опитування трансферного навчання (2016)
[7] Ensemble Learning – Wikipedia (Консультації в січні 2023 р.)
