- mars 2024
Den omvendte forbannelsen
Store språkmodeller (Large Language Models, LLM) som GPT-4 og Llama-2 har vist imponerende evner til å forstå og generere menneskelignende tekst som omfatter et stort spekter av kunnskap. De mislykkes imidlertid i en tilsynelatende enkel oppgave: reversering av innlærte fakta. Denne begrensningen, kalt "reverseringsforbannelsen", innebærer at LLM-ene ikke kan utlede at "B er en egenskap ved A" fra "A har en egenskap B", en grunnleggende resonneringsevne som selv barn har. Denne artikkelen introduserer "Reverse Training", en ny metode for å løse denne utfordringen ved å utnytte en toveis treningsmetode for å forbedre modellens forståelse av fakta i både forover- og bakoverformat.
Opprinnelsen til reverseringsforbannelsen
Problemet oppstår på grunn av LLM-modellenes grunnleggende opplæringsmetode, som vanligvis innebærer autoregressiv venstre-til-høyre-læring. Denne metoden lærer ikke modellene å forstå eller generere informasjon i motsatt rekkefølge. Siden datafordelingen følger Zipfs lov, er det mange fakta som bare nevnes i én retning, noe som forsterker dette problemet. "Reverseringsforbannelsen" begrenser LLM-modellenes forståelse av gjensidige relasjoner og ekvivalens i utsagn, noe som utgjør en betydelig mangel i deres evne til å resonnere.
Overvinne reverseringsforbannelsen med omvendt trening
Den foreslåtte løsningen, Reverse Training, dobler de tilgjengelige opplæringsdataene ved å inkludere både originale og reverserte versjoner av opplæringsstrengene. Ved reverseringsprosessen er man nøye med å ikke endre visse delstrenger, for eksempel navn på enheter, og beholder den opprinnelige sekvensen for å bevare konteksten. Denne metoden, som kan sammenlignes med å introdusere et nytt språk for LLM, forbedrer modellens evne til å behandle og generere informasjon i begge retninger.
Testing av den omvendte treningsmetoden
Forfatterne gjennomførte følgende eksperimenter for å teste den foreslåtte metoden:
1- Symbolsk omvendt oppgave: En test i et kontrollert miljø som demonstrerer metodens evne til å utlede og anvende omvendte relasjoner.
2- Omvendt biografioppgave: Bruk av et biografidatasett for å vurdere ytelsen i å generere personnavn fra gitte detaljer, i omvendt rekkefølge.
3- Reversering av kunnskap i den virkelige verden: Evaluering av metodens effektivitet i virkelige scenarier, inkludert reversering av fakta om kjendiser og deres relasjoner.
4- Finjustering av fiktive fakta: Testing av modellens læringsevne på nylig introduserte, omvendte fiktive fakta.
I disse eksperimentene reduserte Reverse Training ikke bare reverseringsforbannelsen, men eliminerte den i noen tilfeller helt. Metoden viste seg å være spesielt effektiv når entitetsnavnene ble beholdt i sin opprinnelige rekkefølge under reverseringsprosessen, noe som understreker viktigheten av å opprettholde visse kontekstuelle forankringer.
Implikasjoner og fremtidige veivalg
Den vellykkede løsningen på reverseringsforbannelsen som Reverse Training har vist seg å være, åpner nye veier for LLM-opplæringsmetoder. Ved å forbedre modellenes forståelse av gjensidige relasjoner og ekvivalens i utsagn, åpner denne tilnærmingen for mer sofistikerte resonnementer. Fremtidig forskning kan utforske ytterligere optimalisering av reverseringsprosessen, potensialet for å integrere reverseringstrening i andre språkmodellarkitekturer og bredere anvendelser av denne metoden i naturlige språkforståelses- og genereringsoppgaver.