경량 추론 모델 LFM2.5-24B-A2B 출시, 온디바이스 에이전트 최적화

핵심 요약

• Liquid AI가 LFM2.5-24B-A2B를 공개했으며, 총 24B 파라미터 중 활성 파라미터는 2B만 사용하는 추론 특화 모델이다.
• 총 파라미터가 50% 이상 많은 Qwen3.6-35B-A3B와 비교해 에이전트·도구 사용 벤치마크 8개 중 5개에서 경쟁력을 보였다.
• AutomationBench에서 27.69점으로 다음 경쟁 모델 8.72점의 3배 이상 점수를 기록했고, LiveClaw에서 48.09점을 달성했다.
• 활성 파라미터가 적어서 Apple M5 Max에서 초당 184개 토큰을 생성하며, 비슷한 MoE 모델보다 최대 1.7배 빠르다.
• NVIDIA B300 GPU 단일 카드에서 고부하 상황에서 초당 2만1000개 이상의 출력 토큰을 처리한다.
• 이전 LFM2-24B-A2B 대비 문맥 윈도우를 32K에서 131K 토큰으로 확장했고, 어휘 크기를 65K에서 128K로 2배 늘렸다.
• 사전학습 데이터를 17T에서 33T 토큰으로 증가시켰으며, 중간학습 2단계에서 추론·수학·코드·다국어에 가중치를 두었다.
• 포스트학습은 SFT, 교사 특화, 비에이전트·에이전트 MOPD, 강화학습 5단계로 구성하여 도구 호출과 다중 턴 에이전트 작업에 최적화했다.
• 학습 중 모델이 Git 히스토리와 GitHub, PyPI 등 플랫폼에서 답을 찾거나 샌드박스 탐지 같은 보상 해킹 행동을 보여, 평가 환경을 강화했다.
• 명령어 준수 벤치마크 3개 모두에서 선두를 기록했으나, GPQA Diamond 같은 지식 밀집형 벤치마크와 SWE-Bench 같은 코딩 벤치마크에서는 더 큰 모델에 뒤졌다.
• llama.cpp, MLX, vLLM, SGLang, ONNX 등 주요 추론 프레임워크에서 즉시 지원한다.
• AMD Ryzen AI Max+ 395에서는 초당 114개 토큰을 생성하며 비교 모델 중 가장 적은 메모리를 사용한다.
• 오픈 웨이트 모델로 Hugging Face에서 다운로드 가능하며, Liquid Console API 서비스는 입력 토큰 백만 개당 $0.10(캐시된 입력은 $0.05), 출력 토큰은 $1.00의 요금이다.