LLM이 직접 신경망 가중치를 수정할 수 있도록 학습하는 방법
원제 Training Vision Models for LLM-Driven Weight-Space Programming
추천 15댓글 2
Key Point
LLM이 직접 신경망 가중치를 수정할 수 있다는 개념이 나오면서, 이를 더 효과적으로 만드는 학습 방법이 무엇인지 궁금해하는 연구자와 개발자들에게 실질적인 답을 제시한다.
핵심 요약
- LLM이 신경망의 가중치를 직접 수정하는 '가중치 공간 프로그래밍'이 가능하다는 것이 알려졌으나, 이를 위한 전용 학습 방법이 무엇인지는 밝혀지지 않았다.
- 연구팀은 LLM이 비전 모델(합성곱 신경망, 비전 트랜스포머)을 편집하는 벤치마크를 구축했으며, Waterbirds·CIFAR-100·PACS·Entity-30 데이터셋에서 재레이블링과 오류 수정 작업을 수행했다.
- 2,600건 이상의 편집 프로세스를 평가했으며, 각 편집의 성공 여부·부작용·정확도 손실을 측정했다.
- 표준 학습·레이블 스무딩·그래디언트 기반 편집 가능 학습과 새로운 'Edit-Ready Training(ERT)' 방법을 비교했으며, ERT는 LLM이 수행하는 직접적이고 닫힌 형태의 가중치 편집을 미리 연습한다.
- 표준 신경망은 편집이 어렵지만, 편집을 위한 준비 학습은 LLM 편집의 성공률을 크게 높였다.
- ERT는 GPT-6 Astra와 Claude Opus 5.5에서 평가한 모든 기준선 중 가장 높은 평균 점수를 달성했다.
- 연구팀은 LLM 테스트 프레임워크와 모든 작업·편집 궤적·점수를 공개할 계획이다.