Katastrofalne zapominanie, znane również jako katastrofalne zakłócenia, to zjawisko występujące, gdy sieć neuronowa lub model uczenia maszynowego „zapomina” lub drastycznie zmniejsza swoją wydajność w przypadku wcześniej wyuczonych zadań po nauczeniu się nowego zadania. Może się to zdarzyć podczas uczenia modelu na podstawie strumienia zadań, zamiast trenować go na wszystkich zadaniach jednocześnie.
Katastrofalne zapomnienie może nastąpić na kilka różnych sposobów. Jednym ze sposobów jest proces „nadmiernego dopasowania” 1, w którym model jest tak skoncentrowany na dopasowaniu danych uczących dla nowym zadaniu, że zapomina informacje z poprzednich zadań. Innym sposobem jest proces „ingerencji”, gdzie nowe zadanie jest w jakiś sposób powiązane z zadaniami poprzednimi, a poznanie przez model nowego zadania „zakłóca” jego wiedzę o zadaniach poprzednich. Jednym z powszechnych sposobów katastrofalnego zapominania jest uczenie modelu przy użyciu podejścia „Nauczanie online” 2, podczas którego model jest stale aktualizowany o nowe przykłady w miarę ich pojawiania się, zamiast uczyć się jednocześnie na ustalonym zestawie przykładów. W tym scenariuszu model może zostać zaprezentowany z nowymi przykładami, które znacznie różnią się od przykładów, na których był wcześniej szkolony, co może spowodować, że model „zapomni” lub znacząco pogorszy swoją wydajność w poprzednim zadaniu.
Istnieje kilka sposobów złagodzenia katastrofalnego zapominania:
-
Jednym z podejść jest zastosowanie technik takich jak „regularyzacja wagi” 3, które mogą pomóc w zapobieganiu modelowi przed drastyczną zmianą wartości masy i utratą wiedzy zdobytej podczas poprzednich zadań.
-
„Elastyczna konsolidacja ciężarów” 4, która polega na dodaniu niewielkiej ilości szumu do ciężarów sieci podczas treningu, może również pomóc w zapobieganiu katastrofalnemu zapominaniu. Hałas ten pomaga „ustabilizować” ciężary, zmniejszając prawdopodobieństwo, że model zapomni swoją wiedzę na temat poprzednich zadań.
-
Innym podejściem jest użycie metod takich jak „próba” 5, w którym model jest stale prezentowany z przykładami z wcześniej poznanych zadań, aby pomóc mu zachować tę wiedzę.
-
Inną popularną metodą radzenia sobie z katastrofalnym zapominaniem jest użycie „Transfer Learning” 6, w którym model przeszkolony w zakresie jednego zadania jest dostrojony do zadania pokrewnego. Na przykład model wyszkolony do rozpoznawania wizerunków psów można dostosować do rozpoznawania wizerunków kotów. W tym przypadku model nauczył się już wielu funkcji przydatnych w ogólnym rozpoznawaniu wizerunków zwierząt, dzięki czemu może wykorzystać tę wiedzę, aby szybko nauczyć się rozpoznawać wizerunki kotów.
-
„Metody zespołowe” 7, w których wiele modeli jest szkolonych do rozwiązywania różnych zadań, a ich wyniki są łączone w celu uzyskania ostatecznej prognozy, są również pomocne w zapobieganie katastrofalnemu zapomnieniu. Na przykład model zespolony może składać się z jednego modelu przeszkolonego do rozpoznawania obrazów psów, drugiego modelu przeszkolonego do rozpoznawania obrazów kotów i tak dalej. Po przedstawieniu nowego przykładu model zespołowy może wykorzystać dane wyjściowe każdego ze swoich modeli składowych, aby dokonać bardziej świadomych przewidywań.
Katastrofalne zapominanie jest ważnym czynnikiem podczas szkolenia modeli uczenia maszynowego, zwłaszcza gdy modele te są szkolone w celu uczenia się wielu zadań w czasie. Stosując techniki takie jak regularyzacja ciężaru, elastyczna konsolidacja ciężaru, próba, uczenie się transferowe i metody zespołowe, można złagodzić skutki katastrofalnego zapominania i poprawić wydajność modeli uczenia maszynowego.
[1] Przesadzona góra lodowa (2020)
[2] Metody online w uczeniu maszynowym – teoria i zastosowania (dostęp: styczeń 2023 r.)
[3] Techniki regulacji w głębokim uczeniu się (2019)
[4] Pokonanie katastrofalnego zapominania w sieciach neuronowych (2017)
[5] Katastrofalne zapominanie, próba i pseudopróba (1995)
[6] Ankieta na temat uczenia się transferowego (2016)
[7] Ensemble Learning – Wikipedia (dostęp: styczeń 2023 r.)
