GPT-6 Astra가 신경망 가중치를 읽고 수정해 모델 성능 개선
Key Point
LLM이 신경망 최적화라는 미분 불가능한 영역에 직접 개입할 수 있다는 것을 처음 대규모로 입증하며, 향후 해석 가능성과 모델 튜닝 방식에 근본적 변화를 가져올 가능성을 시사한다.
핵심 요약
- 최신 LLM이 신경망 가중치를 직접 읽고 쓸 수 있는 'Weight-Space Programming' 기법을 연구한 결과를 공개했다.
- GPT-6 Astra는 게임 플레이 정책의 가중치만 보고 어떤 게임인지 식별했으며, 환경 피드백 없이도 PPO로 1억 스텝 학습한 네트워크보다 강한 게임 AI를 처음부터 작성했다.
- Qwen3.5-0.8B의 수학 추론을 개선하기 위해 Astra는 반복 루프를 유발하는 가중치 방향을 찾아 8억 개 중 0.016%(13만 1,072개)만 수정했다.