13 сакавіка 2024 г
У гэтым артыкуле даследуюцца эфектыўныя метады абнаўлення вялікіх моўных мадэляў (LLM) новымі дадзенымі без неабходнасці перападрыхтоўкі з нуля, падкрэсліваючы стратэгіі змякчэння забывання і дрэннай адаптацыі, якія з'яўляюцца агульнымі праблемы ў гэтай галіне.
Уводзіны
Ва ўводзінах падкрэсліваецца важнасць LLM ў розных праграмах штучнага інтэлекту і праблемы, звязаныя з абнаўленнем гэтых мадэляў новымі дадзенымі, у прыватнасці, вылічальныя выдаткі і пагаршэнне прадукцыйнасці з-за зрухаў у размеркаванні новых даных .
Асноўныя высновы і вывады
Асноўны ўнёсак артыкула ўключае дэманстрацыю таго, што камбінацыя паўторнага разагрэву хуткасці навучання, паўторнага зніжэння хуткасці навучання і паўторнага прайгравання папярэдніх даных можа дасягнуць прадукцыйнасці, параўнальнай з навучаннем з нуля на камбінаваныя наборы даных. Такі падыход значна зніжае вылічальныя выдаткі, захоўваючы або нават паляпшаючы прадукцыйнасць мадэлі пры розных зменах размеркавання даных.
Перадумовы і метадалогія
Расклад хуткасці навучання
Даследаванне даследуе ўплыў карэкціроўкі раскладу хуткасці навучання, асабліва засяродзіўшы ўвагу на перавагах паўторнага разагрэву (павелічэння), а затым паўторнага спаду (зніжэння) хуткасці навучання пры ўвядзенні новых даных у працэс навучання.
Механізм прайгравання
Канцэпцыя "паўторнага прайгравання, эквівалентнага вылічэнням", уводзіцца як метад уключэння папярэдніх даных у працэс навучання новых даных, гарантуючы, што кошт вылічэнняў застаецца нязменным шляхам рэгулявання колькасці новых апрацаваных даных.
Эксперыментальная ўстаноўка
У дакуменце падрабязна апісваюцца наборы дадзеных, якія выкарыстоўваюцца, эксперыментальныя налады, прызначаныя для праверкі прапанаваных стратэгій бесперапыннага папярэдняга навучання, і ўстаноўка для ацэнкі прадукцыйнасці мадэлі. Яны ўключаюць у сябе сумесь «слабых» і «моцных» зрухаў размеркавання для мадэлявання розных рэальных сцэнарыяў эвалюцыі даных.
Вынікі
Карэкціроўка раскладу хуткасці навучання
Эксперыменты дэманструюць неабходнасць паўторнага разагрэву і паўторнага заняпаду хуткасці навучання для эфектыўнай адаптацыі да новых даных, і вынікае, што гэтая стратэгія дапамагае збалансаваць адаптацыю да новых даных і захаванне раней вывучанай інфармацыі.
Роля паўтору
Даследаванне паказвае, што паўторнае прайграванне часткі старых даных можа істотна змякчыць наступствы забыцця, дазваляючы мадэлі захоўваць прадукцыйнасць пры выкананні папярэдніх задач, працягваючы вучыцца на новых даных.
Прадукцыйнасць мадэлі ў розных маштабах
Вынікі паказваюць, што прапанаваныя стратэгіі эфектыўныя пры розных памерах мадэляў і зрухах размеркавання даных, забяспечваючы маштабаванае рашэнне праблемы пастаяннага папярэдняга навучання магістраў.