Definition
Parametereffektiv finjustering (PEFT) är en teknik för att anpassa stora förtränade modeller till nya uppgifter genom att endast uppdatera en liten delmängd av parametrar istället för hela modellen.
Syfte
Syftet är att minska beräkningskostnader och lagringsbehov samtidigt som man bibehåller god prestanda för uppgifterna.
Betydelse
- Gör finjustering möjlig för organisationer utan massiva resurser.
- Minskar koldioxidavtrycket jämfört med fullständig modellutbildning.
- Möjliggör effektiv uppgiftsväxling i produktionen.
- Relaterat till metoder som LoRA och adaptrar.
Så fungerar det
- Välj en stor, förtränad basmodell.
- Identifiera parameterdelmängder (t.ex. lågrankade adaptrar).
- Träna endast dessa delmängder på måluppgiftsdata.
- Håll andra parametrar frysta.
- Implementera med minimal resursbelastning.
Exempel (verkliga världen)
- LoRA (Low-Rank Adaptation): används ofta för finjustering av LLM:er.
- Hugging Face PEFT-bibliotek: effektiv verktygslåda för finjustering.
- Google-forskning: adaptrar för flerspråkiga NLP-uppgifter.
Referenser / Vidare läsning
- Hu et al. “LoRA: Lågrankig anpassning av stora språkmodeller.” arXiv.
- Houlsby et al. ”Parametereffektiv överföringsinlärning för NLP.” ACL.
- Kramande ansikte PEFT-dokumentation.
