Strands Decider 2B, 경량 의사결정 AI 모델 오픈소스 공개

핵심 요약

• Strands Labs가 Strands Decider 2B라는 2억 개 파라미터의 의사결정 모델을 오픈소스로 공개했다.
• 의사결정 모델(Decision Model)은 텍스트 생성이 불가능한 대신, 선택지 간 선택이나 점수 부여에 특화되어 있으며, LLM과 달리 매우 낮은 지연시간과 높은 신뢰도 점수를 제공한다.
• 기존 LLM 모델의 LM 헤드를 포인터 헤드로 대체한 구조로, Qwen3.5-2B를 기반으로 rank-16 LoRA 어댑터로 파인튜닝했다.
• JevBench 공개 데이터셋에서 2억 개 파라미터 클래스 중 3위의 정확도와 보정도(Brier score)를 달성했으며, RTX3090에서 약 115ms, M3 맥북에서 약 153ms의 지연시간으로 동작한다.
• 모델이 작게 설계된 이유는 사용자가 기존 하드웨어에서 쉽게 실험하고 훈련할 수 있도록 하기 위함이며, 2억 개 파라미터는 실험과 실무 작업 사이의 최적 지점이다.
• 모델 라우팅, 도구 선택, 평가, 보안 가드레일, 메모리 관리, 정책 분류 등에 활용되고 있으며, LLM과 결합한 하이브리드 에이전트에서 비용과 지연시간 절감 효과가 관찰되고 있다.
• GitHub에 코드를 공개했고 Hugging Face에 가중치를 제공하며, 학습 데이터와 스크립트도 함께 공개해 커뮤니티의 개선과 혁신을 촉진하려는 취지다.
• strands-decider CLI를 통해 선택 질문에 답하거나 신뢰도 점수를 받을 수 있으며, Strands 에이전트 내에서 도구 호출 전에 인자 검증, 사용자 입력 기반 여부 확인 등의 개입(intervention)을 수행할 수 있다.
• 의사결정 모델은 복잡한 추론 문제에는 부적합하고 텍스트 생성이 불가능해 코딩, 챗봇, 문서 요약 등 기존 LLM 작업에는 쓸 수 없는 한계가 있다.