클라우드플레어, 의사결정 특화 AI 모델 Clef 공개

핵심 요약

• 클라우드플레어가 Jev Decision Index에서 1위를 차지한 의사결정 모델 Clef와 Clef-flash를 공개했고, 두 모델 모두 Apache 2.0 라이선스로 오픈소스화해 Hugging Face에서 배포 중이다.
• 의사결정 모델은 입력에 따라 확률과 함께 타입이 지정된 구조화 출력을 생성해 에이전트가 자동으로 판단하고 실행하도록 돕는데, 예를 들어 고객 지원 메시지를 받아 긴급도와 담당팀을 분류한다.
• Clef는 이미지 분류도 가능한 비전 인코더를 갖춰 Jev(텍스트 분류만 지원)와 다르며, 64k 컨텍스트 윈도우(Jev는 32k)로 더 많은 입력을 처리할 수 있다.
• 클라우드플레어의 위협 인텔리전스 팀 테스트 결과 Clef는 웹사이트 도메인 분류에 2.2초가 걸린 반면, gpt-oss-120b는 4.7초가 걸려 약 2배 빠르고 더 많은 분류 결과를 제공했다.
• 43개 벤치마크 전반에서 Clef의 중앙값 지연시간은 209.3ms, Clef-flash는 38.8ms로 Jev(524.1ms)보다 훨씬 빠르며, Workers AI 엣지 인프라 호스팅으로 추가 네트워크 지연 이득을 본다.
• Clef는 Qwen을 기반 모델로 사용하며, 비자기회귀적 방식으로 토큰을 하나씩 생성하지 않고 스키마 선택을 병렬로 점수매겨 속도를 극대화한다.
• 라벨 평탄화 교차 엔트로피와 Brier 손실을 이용해 학습했고, Reinforcement Learning for Calibrated Decisions(RLCD)를 적용해 정확도와 일반화를 개선했다.
• Clef는 Jev와 완전히 호환되는 API를 제공하며, 엄격한 타입 출력을 생성하므로 기존 시스템에서 쉽게 전환할 수 있다.
• 클라우드플레어는 고객이 자신의 데이터로 Clef를 미세조정할 수 있도록 FDE(forward-deployed engineer) 팀의 손으로 돕는 서비스부터 시작하며, 향후 자가 서비스 미세조정 플랫폼을 제공할 계획이다.
• RL 제품은 AI Gateway(AI 트래픽 자동 수집), Workers AI(모델 롤아웃 생성), Containers(RL 샌드박스), Trainer(가중치 업데이트), Workers AI BYO Model(미세조정 모델 재배포)을 결합한다.
• 클라우드플레어는 보증으로 고객의 요청·응답을 읽거나 저장하거나 학습에 사용하지 않으며(미세조정 제품 사용 제외), 엔터프라이즈급 준비 상태를 갖췄다.
• Clef는 의사결정 모델 시장이 포화되는 와중에도 다양한 품질 벤치마크에서 경쟁력 있는 점수를 기록했으며, 클라우드플레어의 15년 네트워크 데이터를 활용한 미세조정으로 특정 도메인에서 더 정확하고 빠른 성능을 기대할 수 있다.