긴 작업의 신용배분 문제를 푸는 Self-Credit 강화학습
Key Point
희소 보상 환경에서 LLM 에이전트가 어떤 액션이 성공을 이끌었는지 파악하기 어려운 문제를 모델의 자체 추론과 그룹 비교로 해결하는 구체적 방법을 제시한다.
핵심 요약
- LLM 에이전트는 보통 강화학습으로 훈련되지만, 희소한 보상 신호로 인해 장기 작업에서 신용배분이 어렵다.
- Self-Credit은 모델이 생성한 요약에 핵심 증거를 담은 이전 턴을 인용하게 함으로써 자동 신용배분 신호를 만든다.
- 그룹 내 재스케일링을 통해 같은 프롬프트에 대해 성공한 롤아웃과 실패한 롤아웃 간의 인용 액션을 비교해 신용을 정제한다.