GitHub ReleasesAI · 머신러닝오늘의 주요

huggingface/transformers

Hugging Face Transformers v5.23.0 출시, 멀티모달 모델과 모델 변환 기능 강화

원제 huggingface/transformers v5.23.0

v5.23.0Release v5.23.0
Key Point

대규모 언어모델의 실제 배포와 추론 속도가 핵심인 만큼, 다양한 하드웨어 백엔드에서 일관된 방식으로 모델을 최적화·공유할 수 있는 Exporters 기능 통일과 OpenVINO 융합으로 최대 7.6배 성능 향상이 개발자 생산성과 프로덕션 배포 효율을 크게 바꾼다.

핵심 요약

  • Inkling2, JEV, LFM3, Dots 3 Note Preview, LFM3-VL, IQuestCoder, InternLM3 등 6개 신규 모델 추가: Inkling2는 텍스트와 이미지 입력을 받는 594B 규모 혼합전문가 모델이고, LFM3는 Liquid AI의 하이브리드 아키텍처로 게이트된 짧은 합성곱과 그룹화된 쿼리 어텐션을 결합하며, Dots 3 Note Preview는 텍스트·이미지·비디오·오디오를 모두 처리하는 인과언어모델이다.
  • 모델 변환(Exporters) 기능 완전 개편: 모든 내보내기는 ExportedModel을 반환하여 원본 모델과 동일한 인터페이스로 호출하고, Dynamo·ONNX Runtime·OpenVINO·ExecuTorch 백엔드를 통합 관리한다.
  • 성능 개선: OpenVINO 백엔드는 어텐션·RoPE·MoE 연산을 융합하여 디코딩 속도를 2.4~3.9배 가속하며, ONNX Runtime은 A100에서 eager PyTorch보다 7.6배, torch.compile보다 1.4배 빠르다.
  • 비전 모델 버그 수정: 이미지 분류 파이프라인이 problem_type을 준수하고, MiniMax-M3-VL·Qwen VL·Kosmos-2·Emu3 등에서 어텐션 마스킹·위치 인코딩·RoPE 축 순서 문제를 해결했다.
  • 병렬 처리 개선: 전문가 병렬화에 추론용 all-reduce와 학습용 all-to-all 선택지를 추가했으며, FSDP 그래디언트는 마지막 마이크로배치에서만 감소시키도록 수정했다.
  • 캐시 안정성 개선: Gemma4의 KV 공유 레이어 프리필 어텐션·Qwen VL의 새 이미지 재사용 시 위치·DeepSeek-V4의 빔 서치 중 압축 상태 재정렬 등을 수정했다.
  • 양자화 버그 수정: FP8 모듈 제외 항목 이름이 가중치 명명법과 일치하도록 변경되어 f_a_proj 같은 모듈이 더 이상 오류로 양자화되지 않으며, MXFP4 전문가는 항상 bfloat16으로 변환되던 것을 요청된 데이터형으로 변환한다.
  • 오디오 처리 강화: AudioClassificationPipeline이 회귀·다중 레이블·분류 작업의 problem_type을 구분 처리하고, VibeVoice는 오디오 패딩 제거 시 GPU 동기화를 피하며 VAE 잡음 비활성화 샘플 인수를 추가했다.
  • 주요 호환성 변경: expert-parallel의 ep_router 제거, 오디오 처리에서 librosa·phonemizer 제거, Wav2Vec2ProcessorWithLM 및 언어모델 디코딩 지원 중단, 내보내기 API 통일로 인한 save_pretrained 방식 변경이 있다.
AI 요약 안내

AI가 한국어로 정리한 내용입니다. 정확한 정보는 원문을 확인해 주세요.

요약 원칙 ↗