Lengtenormalisatie is een techniek die wordt gebruikt bij het zoeken naar bundels of andere algoritmen voor het genereren van sequenties om vertekeningen in de richting van kortere of langere sequenties aan te pakken. Het is bedoeld om een eerlijke evaluatie en rangschikking van reeksen van verschillende lengte te garanderen, vooral bij gebruik van op waarschijnlijkheid gebaseerde scoremethoden.
In de context van straalonderzoek:
Probleem opgelost
- Lengteafwijkingen: zonder lengtenormalisatie hebben langere reeksen doorgaans lagere kansen vergeleken met kortere reeksen, louter vanwege de vermenigvuldiging van kansen bij elke stap. Als gevolg hiervan domineren kortere sequenties vaak bij het zoeken naar bundels vanwege hun grotere waarschijnlijkheid van voorkomen.
Hoe lengtenormalisatie werkt
-
Doelstelling: Het doel van lengtenormalisatie is om de scores of waarschijnlijkheden van kandidaatreeksen aan te passen op basis van hun lengtes om vertekeningen in de richting van een bepaalde lengte te voorkomen.
-
Normalisatiefactor: het gaat om het schalen van de scores van reeksen met een factor die rekening houdt met hun lengte.
-
Lengtestraf: Meestal houdt dit in dat de logwaarschijnlijkheid (of een andere scoremetriek) wordt gedeeld door de lengte van de reeks of dat een strafterm wordt toegepast die omgekeerd evenredig is aan de lengte van de reeks.
Voorbeeld
-
Stel dat je twee reeksen hebt: Reeks A heeft een lengte van 5 en een log-waarschijnlijkheid van -10, en Reeks B heeft een lengte van 7 en een log-waarschijnlijkheid van -15.
-
Zonder lengtenormalisatie lijkt reeks A een hogere waarschijnlijkheid te hebben (aangezien -10 > -15), ook al is deze korter.
-
Met lengtenormalisatie kunnen de scores worden aangepast door de logwaarschijnlijkheden te delen door hun respectieve reekslengtes: de aangepaste score van reeks A wordt -10/5 = -2, en de aangepaste score van reeks B wordt -15/7 ≈ -2,14.
-
Na lengtenormalisatie heeft reeks B mogelijk een iets hogere aangepaste waarschijnlijkheid, gezien de langere lengte ervan.
Doel en impact
-
Gelijke evaluatie: Normalisatie van de lengte heeft tot doel een eerlijke evaluatie en rangschikking van reeksen te garanderen door rekening te houden met hun lengte, waardoor de voorkeur voor kortere reeksen wordt verminderd.
-
Gebalanceerde verkenning: door de scores te normaliseren op basis van lengte, kan beam search reeksen van verschillende lengtes gelijkmatiger verkennen, waardoor diversiteit in de gegenereerde output wordt bevorderd.
Belang bij het genereren van reeksen
-
Normalisatie van de lengte is met name van cruciaal belang bij taken waarbij de lengte van de uitvoerreeks aanzienlijk varieert of waarbij het bevoordelen van kortere of langere reeksen tot vertekende resultaten kan leiden.
-
Het helpt bij het vinden van een evenwicht tussen het genereren van beknopte, coherente resultaten en het verkennen van langere, contextueel rijkere sequenties.
In wezen past lengtenormalisatie bij het zoeken naar bundels de scores van kandidaatreeksen aan op basis van hun lengtes om een eerlijke vergelijking en rangschikking te garanderen, waardoor een meer evenwichtige verkenning van reeksen met verschillende lengtes wordt bevorderd.
