ML 엔지니어링 자동화하는 35B 모델 MLExpert 공개
원제 MLExpert: Towards a Generalist Agentic Model for Autonomous Machine Learning Engineering
추천 25댓글 2
Key Point
ML 엔지니어링의 완전 자동화가 가능해지면 AI 개발 사이클을 획기적으로 단축할 수 있으며, 이는 AI 스스로가 AI를 개선하는 재귀적 자기개선의 실질적 첫걸음이다.
핵심 요약
- LLM이 AI 시스템을 자율적으로 개발·개선하는 AI4AI 시대로 나아가고 있으며, 기계학습 엔지니어링(MLE) 시스템이 장기 실험 관리와 최적화 전략 자동 적응으로 이를 실현하고 있다.
- 기존 MLE 시스템의 문제점은 실험 피드백이 이전 여러 결정의 누적 결과라 단순 감독학습으로는 장기 궤적에서 유용한 신호를 학습하기 어렵다는 점이다.
- Hugging Face 팀은 35B Mixture-of-Experts 모델 MLExpert를 학습시키기 위해 Kaggle-MLE Factory로 실행 가능한 ML 최적화 작업을 대규모로 생성했다.
- Hierarchical Agentic SFT로 도구 사용과 코딩 능력을 MLE에 옮기고, Windowed Interaction RL(WIRL)로 연속 실험 결과 사이의 다중 턴 의사결정에 공유 보상을 할당해 학습했다.
- 비동기 수집과 정책 교정으로 궤적이 끝나기 전 정책 업데이트가 가능하도록 설계했다.
- MLE-Bench Lite에서 MLExpert는 기본 모델의 메달 달성률 37.9%를 72.7%로 올렸으며, 이는 Kimi-K3, GLM-5.3 같은 대형 프론티어 모델 수준이다.
- NatureBench Lite, 에이전트 스캐폴드 최적화, 알고리즘 최적화에서도 성능 향상을 확인했으며, 학습한 최적화 능력이 다른 작업으로 일반화됨을 시사한다.