대형 모델의 '재앙적 망각' 해결하는 학습법 제안
원제 Local Support Learning
추천 24댓글 2
Key Point
새로운 작업을 학습할 때 이전 지식을 잊어버리는 문제는 실제 LLM 배포에서 가장 큰 난제인데, 이전 데이터 없이 이를 해결하는 실용적 방법론이 제시되었기 때문입니다.
핵심 요약
- 사전학습된 대규모 모델에서 새로운 학습 시 이전 능력을 잃는 '재앙적 망각(catastrophic forgetting)' 문제를 연구했다.
- 연구팀이 제안한 '로컬 서포트 러닝(Local Support Learning, LSL)'은 이전 데이터에 접근하지 않으면서도 기존 능력을 유지하는 일반적 프레임워크다.
- LSL은 학습 적응 모듈과 게이팅 함수 두 가지 요소로 구성되는데, 적응 모듈은 손실을 최소화하고 게이팅 함수는 현재 학습 데이터 분포에서만 업데이트를 활성화한다.
- 게이팅 함수는 가우시안 혼합 모델(GMM) 기반으로, 학습 데이터에서 멀어질수록 확률이 급속히 감소해 이전 학습 단계 데이터에서 자동으로 닫힌다.
- 70억 개 파라미터 규모의 LLM에서 테스트한 결과, 여러 학습 단계를 거쳐도 사전학습 및 미세조정 능력을 모두 유지했다.
- 메모리와 계산량이 효율적이며 하이퍼파라미터 선택에 견고하고, 더 큰 모델으로 확장할 잠재력을 보였다.