У сферы апрацоўкі натуральнай мовы (NLP) і задач генерацыі паслядоўнасці, такіх як пераклад на мову або генерацыя тэксту, як алгарытм прамянёвага пошуку, так і прагнае дэкадаванне выкарыстоўваюцца для прагназавання найбольш верагоднай паслядоўнасці слоў з улікам мадэлі і паслядоўнасць уводу.
Прагнае дэкадаванне
-
Асноўная ідэя: прагнае дэкадаванне выбірае слова з найбольшай верагоднасцю на кожным кроку, ітэратыўна будуючы выходную паслядоўнасць.
-
Даследаванне прасторы пошуку: ён вывучае адзіны шлях праз прастору вываду, аддаючы перавагу найбольш верагоднаму слову на кожным кроку без уліку будучых наступстваў.
-
Паслядоўнасці кандыдатаў: адсочвае толькі найбольш верагодную паслядоўнасць на кожным кроку, адкідаючы іншыя магчымасці.
-
Прыняцце рашэнняў: ён прымае лакальныя рашэнні выключна на аснове найбольшай верагоднасці на бягучым этапе без уліку патэнцыйных доўгатэрміновых вынікаў.
Пошук па прамяню
-
Асноўная ідэя: прамянёвы пошук пашырае даследаванне на некалькі магчымых паслядоўнасцей, а не толькі на найбольш верагодную.
-
Даследаванне прасторы пошуку: адначасова даследуюцца некалькі шляхоў (ці «прамянёў»), падтрымліваючы набор перспектыўных паслядоўнасцей-кандыдатаў.
-
Паслядоўнасці кандыдатаў: Захоўвае фіксаваную колькасць найбольш верагодных паслядоўнасцей (вызначаных параметрам шырыні прамяня) на кожным кроку.
-
Прыняцце рашэнняў: на кожным этапе ён разглядае некалькі паслядоўнасцей-кандыдатаў і выбірае найбольш верагодныя з іх на аснове іх сукупнай верагоднасці да гэтага моманту.
Параметр шырыні прамяня і кампрамісы
- Шырыня прамяня: вызначае колькасць паслядоўнасцей-кандыдатаў, якія трэба падтрымліваць на кожным этапе. Большая шырыня прамяня адкрывае больш магчымасцей, але павялічвае складанасць вылічэнняў.
Кампрамісы:
-
Разнастайнасць супраць дакладнасці: большая шырыня прамяня спрыяе разнастайнасці ў створаных паслядоўнасцях, але можа прынесці ў ахвяру дакладнасць. І наадварот, меншая шырыня можа даць больш дакладныя вынікі, але можа не даць разнастайнасці.
-
Вылічальныя выдаткі: павелічэнне шырыні прамяня значна павялічвае неабходныя вылічальныя рэсурсы.
Звяртаючыся да разнастайнасці супраць дакладнасці
- Прамянёвы пошук спрабуе збалансаваць разнастайнасць і дакладнасць, дазваляючы даследаваць некалькі паслядоўнасцей, захоўваючы кіраваны набор кандыдатаў. Такія метады, як нармалізацыя даўжыні або разнастайныя варыяцыі пошуку прамянёў, могуць павялічыць разнастайнасць без занадта вялікай шкоды для якасці.
Абмежаванні і неаптымальныя вынікі
-
Неаптымальнасць: прамянёвы пошук можа даць неаптымальныя вынікі, калі найбольш верагодная паслядоўнасць на кожным кроку неабавязкова прыводзіць да лепшай агульнай паслядоўнасці.
-
Адсутнасць вывучэння: можа затрымацца ў лакальных оптымумах, асабліва калі сапраўдная аптымальная паслядоўнасць значна адхіляецца ад найбольш верагодных асобных слоў на кожным кроку.
-
Экспанентны рост: прастора пошуку расце ў геаметрычнай прагрэсіі разам з шырынёй прамяня, што прыводзіць да павелічэння патрабаванняў да вылічэнняў.
Такія стратэгіі, як выкарыстанне штрафаў за даўжыню, разнастайныя варыянты прамянёвага пошуку або ўключэнне дадатковых абмежаванняў, могуць змякчыць некаторыя з гэтых абмежаванняў, але яны не могуць цалкам вырашыць праблемы, звязаныя з эфектыўным вывучэннем шырокіх прастор пошуку. Даследчыкі часта эксперыментуюць з рознымі стратэгіямі дэкадавання, заснаванымі на патрабаваннях канкрэтнай задачы і балансе паміж разнастайнасцю і патрэбнай дакладнасцю.
