LLM 미세조정 시 성능 손상 방지하는 CurvDelta 등장
Key Point
LLM을 새로운 기술에 맞게 조정하되 기존 능력을 유지해야 하는 현실적 니즈가 늘어나고 있으며, CurvDelta는 이 문제에 대한 체계적 해결책을 제시한다.
핵심 요약
- 대형언어모형(LLM)을 특정 작업에 맞춰 적응시킬 때 기존 능력이 떨어지는 문제를 해결하기 위해 CurvDelta라는 프레임워크를 제안했다.
- CurvDelta는 모델 업데이트의 매개변수 공간을 재설계해 기존 능력 보존 제약을 반영하고, 보존 손실이 거의 변하지 않는 저곡률(low-curvature) 공간을 구성한다.
- Kronecker-factored approximate curvature(K-FAC)와 인수분해 사영(factorized projection)을 활용해 LLM 규모에서 실용적으로 적용 가능하게 했다.