壊滅的な忘却は、壊滅的な干渉とも呼ばれ、ニューラル ネットワークまたは機械学習モデルが新しいタスクを学習した後に、以前に学習したタスクのパフォーマンスを「忘れる」か、パフォーマンスが大幅に低下するときに発生する現象です。これは、すべてのタスクでモデルを一度にトレーニングするのではなく、タスクのストリームでモデルをトレーニングするときに発生する可能性があります。
壊滅的な物忘れが起こるには、いくつかの異なる方法があります。 1 つの方法は、「過学習」のプロセス 1 によるものです。このプロセスでは、モデルはトレーニング データを適合させることに重点を置いています。新しいタスクでは、前のタスクからの情報が忘れられます。もう 1 つの方法は、「干渉」のプロセスによるものです。この場合、新しいタスクは何らかの形で以前のタスクに関連しており、新しいタスクに関するモデルの学習が以前のタスクに関する知識に「干渉」します。壊滅的な忘却が発生する一般的な方法の 1 つは、「オンライン学習」2 アプローチを使用してモデルをトレーニングする場合です。このアプローチでは、モデルが新しい例で継続的に更新されます。固定されたサンプルのセットを一度にトレーニングするのではなく、入ってくるたびにトレーニングします。このシナリオでは、以前にトレーニングされた例とは大きく異なる新しい例がモデルに提示される可能性があり、これによりモデルが前のタスクを「忘れ」たり、パフォーマンスが大幅に低下したりする可能性があります。
壊滅的な物忘れを軽減するには、いくつかの方法があります。
-
1 つのアプローチは、「重み正則化」3 などのテクニックを使用することです。これは、モデルの回避に役立ちます。重み値が大幅に変更されたり、以前のタスクから得られた知識が失われることがなくなります。
-
トレーニング中にネットワークの重みに少量のノイズを追加する「Elastic Weight Consolidation」4 も、壊滅的な忘却の防止に役立ちます。このノイズは重みを「安定させる」のに役立ち、モデルが以前のタスクに関する知識を忘れる可能性が低くなります。
-
別のアプローチは、「リハーサル」5 などの方法を使用することです。 pdfs/Robins95.pdf) では、モデルがその知識を保持できるように、以前に学習したタスクの例が継続的に提示されます。
-
壊滅的な忘却に対処するもう 1 つの一般的な方法は、「転移学習」6 を使用することです。 1 つのタスクでトレーニングされた後、関連するタスクで微調整されます。たとえば、犬の画像を認識するようにトレーニングされたモデルを、猫の画像を認識できるように微調整することができます。この場合、モデルは動物一般の画像を認識するのに役立つ多くの特徴をすでに学習しているため、この知識を使用して猫の画像を認識する方法をすぐに学習できます。
-
複数のモデルをトレーニングしてさまざまなタスクを解決し、その出力を組み合わせて最終的な予測を行う「アンサンブル メソッド」7 も、次のような場合に役立ちます。壊滅的な物忘れを防ぎます。たとえば、アンサンブル モデルは、犬の画像を認識するようにトレーニングされた 1 つのモデル、猫の画像を認識するようにトレーニングされた別のモデルなどで構成される場合があります。新しい例が提示されると、アンサンブル モデルは各構成モデルの出力を使用して、より情報に基づいた予測を行うことができます。
壊滅的な忘却は、機械学習モデルをトレーニングするとき、特にモデルが時間をかけて複数のタスクを学習するようにトレーニングされている場合に重要な考慮事項です。重みの正則化、弾性重みの統合、リハーサル、転移学習、アンサンブル手法などの手法を使用することで、壊滅的な忘却の影響を軽減し、機械学習モデルのパフォーマンスを向上させることができます。
[1] 過学習氷山 (2020)
[2] 機械学習のオンライン手法 – 理論と応用 (2023 年 1 月に参照)
[3] 深層学習における正則化手法 (2019)
[4] ニューラルネットワークにおける壊滅的な忘却の克服 (2017)
[5] 壊滅的な忘却、リハーサル、および疑似リハーサル (1995)
[6] 転移学習に関する調査 (2016)
[7] アンサンブル ラーニング - Wikipedia (2023 年 1 月に参照)
