Hacker NewsAI · 머신러닝

언어 모델이 스스로 가중치를 개선한다

원제 Language Models Can Rewrite Their Own Weights

143 포인트댓글 58
Key Point

언어 모델이 훈련 단계 없이 순전파만으로 자신의 가중치를 수정하는 새로운 메커니즘이 나타났으며, 이는 훈련과 추론의 경계를 무너뜨려 모델 개선의 패러다임을 바꿀 가능성을 보여준다.

핵심 요약

  • 언어 모델이 훈련 없이 자신의 가중치를 직접 수정해 성능을 올리는 '자체 재작성' 기법을 처음으로 선보였다.
  • 27B 오픈 모델이 자신의 가중치, 채점된 답변, 자신을 실행할 수 있는 능력을 받아 실패를 진단하고 가중치를 재작성하며 그레디언트나 훈련 없이 미본 문제에서 정확도를 6.6포인트 올렸다.
  • 모델이 연속 8회 세션을 거쳐 연습 문제로 자신의 편집을 검증한 후 작동하는 것만 적용해 매번 성능을 개선했다.
  • 손상된 사본을 복구할 수도 있었는데, 원본 가중치를 읽지 않고도 미본 이미지 작업에서 원본 정확도의 80% 이상을 회복했다.
  • 자체 재작성 능력은 모델 규모에 따라 나타나는데, 작은 모델은 편집하지 않거나 자신을 망쳤고 가장 큰 모델만 성능을 개선하고 스스로를 복구했다.
  • 테스트 타임 스케일링과 달리 자체 재작성은 답변 비용 없이 개선을 가중치에 기록하며, 훈련과 달리 훈련 중이 아닌 추론처럼 순전파만 실행한다.
  • 훈련과 추론 사이의 경계는 도구의 한계이지 지능의 본질이 아니라고 주장하며, 자체 재작성이 재귀적 자기 개선으로 나아가는 필수 단계라고 본다.
  • 더 큰 모델 없이, 프롬프트 엔지니어링 없이 평생 스스로 업그레이드할 수 있는 모델을 목표로 한다.
AI 요약 안내

AI가 한국어로 정리한 내용입니다. 정확한 정보는 원문을 확인해 주세요.

요약 원칙 ↗