쌓인 기록에서 찾기
무엇을 찾으세요? 날짜를 몰라도 됩니다. 제목·Key Point·요약·태그를 한꺼번에 뒤집니다.
검색 범위 2026년 8월 13일 (목) 부터 2026년 10월 2일 (금)까지 1549건
28건 · "Jev"조건 지우기 ×
001 06:11 ▲ 331 · 댓글 122 AI 코딩 에이전트 Pi 1.0 출시, 장기 작업용 Pi Durable도 함께 Earendil이 AI 에이전트 프레임워크 Pi 1.0을 정식 출시했으며, 전 세계 수십만 명이 주간 사용자로 참여하고 있다. 기타 · Pi 1.0
AI 코딩 에이전트 Pi 1.0 출시, 장기 작업용 Pi Durable도 함께 Key Point AI 에이전트 개발에서 최소주의적 설계를 추구하면서도 실제 사용 사례의 피드백을 반영한 대규모 업데이트이므로, 프로덕션 AI 앱 개발자들이 참고할 만한 구체적인 아키텍처 진화 사례다. ai
핵심 요약
Earendil이 AI 에이전트 프레임워크 Pi 1.0을 정식 출시했으며, 전 세계 수십만 명이 주간 사용자로 참여하고 있다. Pi는 검증되지 않은 기능을 빠르게 추가하지 않고 안정성이 증명된 것만 선별적으로 채택하는 철학으로 개발되었다. Pi 1.0에 MCP 네이티브 지원, Codemode, 가상 모델 확장, 지연된 도구 로딩, 인류형 모델 캐시 워밍, 중간 대화 시스템 메시지 등이 추가되었다. 전체 요약 7문장 읽기 → 002 03:11 ▲ 184 · 댓글 63 클라우드플레어, 의사결정 특화 AI 모델 Clef 공개 클라우드플레어가 Jev Decision Index에서 1위를 차지한 의사결정 모델 Clef와 Clef-flash를 공개했고, 두 모델 모두 Apache 2.0 라이선스로 오픈소스화해 Hugging Face에서 배포 중이다. AI · 머신러닝 · Clef: Open-source decision models, and new RL fine-tuning platform
클라우드플레어, 의사결정 특화 AI 모델 Clef 공개 Key Point LLM의 비결정성과 느린 토큰 생성을 대체해 프로덕션 에이전트 워크플로우에서 실시간 의사결정이 필요한 개발자들에게 구체적인 선택지를 제공하며, 오픈소스 배포와 미세조정 플랫폼으로 커스터마이징 가능성을 연다.
핵심 요약
클라우드플레어가 Jev Decision Index에서 1위를 차지한 의사결정 모델 Clef와 Clef-flash를 공개했고, 두 모델 모두 Apache 2.0 라이선스로 오픈소스화해 Hugging Face에서 배포 중이다. 의사결정 모델은 입력에 따라 확률과 함께 타입이 지정된 구조화 출력을 생성해 에이전트가 자동으로 판단하고 실행하도록 돕는데, 예를 들어 고객 지원 메시지를 받아 긴급도와 담당팀을 분류한다. Clef는 이미지 분류도 가능한 비전 인코더를 갖춰 Jev(텍스트 분류만 지원)와 다르며, 64k 컨텍스트 윈도우(Jev는 32k)로 더 많은 입력을 처리할 수 있다. 전체 요약 12문장 읽기 → 003 21:11 당일 +219 Rust 기반 에이전트 플랫폼 OpenHuman, 경량 고성능 오픈소스 공개 Rust 코어로 만든 OpenHuman은 데스크톱 앱·브라우저 UI·터미널·라이브러리 형태로 제공되는 에이전트 플랫폼이다. AI · 머신러닝 · tinyhumansai/openhuman · Rust
Rust 기반 에이전트 플랫폼 OpenHuman, 경량 고성능 오픈소스 공개 Key Point Rust 기반 경량 설계로 수천 개 에이전트을 한 서버에서 운영할 수 있으며, 플러그인 가능한 아키텍처와 시각적 워크플로우가 기존 에이전트 플랫폼과 비교하는 핵심 차이점이다.
핵심 요약
Rust 코어로 만든 OpenHuman은 데스크톱 앱·브라우저 UI·터미널·라이브러리 형태로 제공되는 에이전트 플랫폼이다. 인프로세스 실행으로 500개 에이전트를 한 프로세스에서 운영할 때 메모리 효율이 별도 프로세스 대비 약 25배 높으며, 콜드 에이전트 턴은 102ms, 전체 부트스트랩은 476ms에 완료된다. Cargo 기능 게이트로 필요한 모듈만 컴파일하며, 52~116MB 범위의 이진파일 크기를 선택할 수 있고 토큰 압축(tinyjuice)으로 모델 입력을 최적화한다. 전체 요약 10문장 읽기 → 004 15:11 ▲ 51 · 댓글 3 LLM 직결정 모델의 '중간값 선호 편향' 발견 GPT-4V와 오픈소스 KEV 모델들이 제공받은 서수형(ordinal) 척도를 제대로 사용하지 못하는 문제를 분석했다. AI · 머신러닝 · More Choices, Fewer Decisions: Ordinal-Scale Bias in JEV-like Direct-Decision Models
LLM 직결정 모델의 '중간값 선호 편향' 발견 Key Point LLM 기반 자동 평가와 분류 모델이 실제로는 제한된 선택지만 사용하고 있다는 점이 중요하므로, 이들을 프로덕션에 도입할 때 신뢰성을 검증해야 한다.
핵심 요약
GPT-4V와 오픈소스 KEV 모델들이 제공받은 서수형(ordinal) 척도를 제대로 사용하지 못하는 문제를 분석했다. ANLI 데이터셋에서 GPT-4V는 74.95% 정확도를 보이면서도 전체 예측의 38.8%, 오류의 51.3%를 'Neutral' 중간값에 할당했다. 36개의 서수형 데이터셋 전반에서 모델들은 각 척도의 유효 범위 중 67~76%만 활용했지만, 명목형(nominal) 과제 4개에서는 87~102%를 활용했다. 전체 요약 6문장 읽기 → 005 09:11 ▲ 12 · 댓글 2 중국어 의사결정형 AI 모델 'Chinese-Jev' 공개 System One 모델인 Jev를 중국어 작업에 맞게 개선한 Chinese-Jev를 공개했다. AI · 머신러닝 · Chinese-Jev: Bringing System One Model to Chinese-Language Tasks
중국어 의사결정형 AI 모델 'Chinese-Jev' 공개 Key Point 생성형 LLM 중심의 AI 개발 흐름에서 빠른 의사결정 작업에 특화된 System One 모델의 필요성이 증대되고 있으며, 중국어 처리 시 모바일 기기까지 효율적으로 배포할 수 있는 구체적 솔루션이 제시되었다.
핵심 요약
System One 모델인 Jev를 중국어 작업에 맞게 개선한 Chinese-Jev를 공개했다. 기존 Jev 모델이 중국어 의사결정 정확도에서 제한이 있었기에, 통합 데이터 처리 및 학습 파이프라인으로 이를 보완했다. 이질적인 중국어 주석을 후보 선택지별 확률로 변환하는 데이터 처리 프로토콜을 개발해 도메인과 질문 형식 간 학습을 통일했다. 전체 요약 8문장 읽기 → 006 21:11 ▲ 150 · 댓글 63 MCP 지원 포기했던 Pi, 왜 핵심 기능으로 수용했나 Pi는 과거 MCP 미지원을 명시했으나 최신 버전에서는 MCP를 핵심 기능으로 통합했다. AI · 머신러닝 · Pi.dev: You Said No MCP
MCP 지원 포기했던 Pi, 왜 핵심 기능으로 수용했나 Key Point 새로운 모델의 기능에 맞춰 기존 결정을 바꾼 개발 철학과, MCP를 JavaScript 샌드박스와 결합하는 실용적인 해결책이 다른 AI 도구 개발자들에게도 영향을 미칠 수 있다.
핵심 요약
Pi는 과거 MCP 미지원을 명시했으나 최신 버전에서는 MCP를 핵심 기능으로 통합했다. MCP 자체도 진화했지만, Pi의 기술적 필요성이 주된 이유다. Pi는 Jev 같은 최신 모델들의 지연된 도구 로딩과 중간 시스템 메시지 지원을 위해 도구 설정을 업그레이드해야 했다. 전체 요약 8문장 읽기 → 007 18:11 ▲ 107 · 댓글 4 텍스트 분류의 진화, Bag-of-Words부터 Jev까지 텍스트 분류 기술의 역사를 Bag-of-Words부터 최근 Jev AI까지 추적하는 기술 가이드로, 각 방식의 작동 원리와 성능을 비교한다. AI · 머신러닝 · Language models for text classification: From bag-of-words to Jev
텍스트 분류의 진화, Bag-of-Words부터 Jev까지 Key Point 15년 전 Bag-of-Words로 시작된 텍스트 분류 기술이 어떻게 현재의 범용 분류 모델 Jev로 진화했는지, 각 방식의 트레이드오프를 이해하면 분류 작업에 적절한 도구를 선택할 수 있다.
핵심 요약
텍스트 분류 기술의 역사를 Bag-of-Words부터 최근 Jev AI까지 추적하는 기술 가이드로, 각 방식의 작동 원리와 성능을 비교한다. Bag-of-Words는 다양한 길이의 텍스트를 고정 크기 벡터로 변환해 Naive Bayes·로지스틱 회귀·SVM 등 고전 분류기를 적용할 수 있게 한다. 계산이 저렴하고 결과가 좋지만 단어 순서 정보를 잃는 단점이 있다. RNN은 단어를 순차적으로 처리하며 이전 단계의 숨겨진 상태를 누적하므로 단어 순서가 중요해진다. LSTM·GRU 같은 개선 방식이 있으며, ULMFiT 방식으로 전이학습을 적용하면 IMDb 영화평 분류에서 95.4% 정확도를 달성했다. 전체 요약 11문장 읽기 → 008 00:11 ▲ 135 · 댓글 60 추론으로 정확도를 높인 의사결정 모델 Jeeves 공개 PostHog의 Jeeves는 Qwen3.5-9B 기반의 9B 규모 의사결정 분류기로, 생각하는 과정을 거친 후 답변을 내리도록 학습되었다. AI · 머신러닝 · Jeeves. Reasoning improves Jev-like decision models
추론으로 정확도를 높인 의사결정 모델 Jeeves 공개 Key Point 기존 Jev 계열 모델의 정확도 문제를 추론 과정 포함으로 해결하며, 테스트 데이터에서 실측 3~7% 성능 향상을 달성한 오픈소스 의사결정 모델로, 전체 학습 코드와 가중치를 공개해 재현과 확장이 가능하다.
핵심 요약
PostHog의 Jeeves는 Qwen3.5-9B 기반의 9B 규모 의사결정 분류기로, 생각하는 과정을 거친 후 답변을 내리도록 학습되었다. SFT와 CISPO를 통해 훈련되었으며, 블록-4 디퓨전 드래프터를 포함한다. 미학습된 테스트 데이터에서 Kev-9B(0.822), Jev(0.857)를 상회하는 0.889의 정확도를 달성했으며, JevBench 공개 계층에서는 0.935(Jev 0.866 대비)를 기록했다. 전체 요약 13문장 읽기 → 009 12:11 새 버전 Ollama v0.35.0, 의사결정 모델 지원 추가 Ollama가 TypeSafe의 Jev API 기반 의사결정 모델을 /v1/systemone 엔드포인트로 지원하기 시작했다. AI · 머신러닝 · ollama/ollama@v0.35.0
Ollama v0.35.0, 의사결정 모델 지원 추가 Key Point 의사결정 모델 지원으로 LLM의 활용 범위가 텍스트 생성에서 분류·라우팅 같은 구조화된 의사결정으로 확대되며, 엔터프라이즈 워크플로우 자동화의 새로운 가능성이 열린다.
핵심 요약
Ollama가 TypeSafe의 Jev API 기반 의사결정 모델을 /v1/systemone 엔드포인트로 지원하기 시작했다. 의사결정 모델은 텍스트 대신 선택지, 확률, 점수를 반환하며, 티켓 분류·모델 라우팅·콘텐츠 분류 등에 활용된다. 지원하는 모델은 Bespoke Labs의 Nimble과 Together AI의 Tev1이다. 전체 요약 9문장 읽기 → 010 09:11 ▲ 205 · 댓글 66 Jeff: 0.8B 경량 분류 모델로 30ms 만에 선택지 판단 Qwen3.5와 Gemma 4를 파인튜닝한 0.8B~2B 경량 분류 모델 Jeff를 공개했다. AI · 머신러닝 · Jeff – Jev-compatible 0.8B decision models, trained at home, ~30 ms
Jeff: 0.8B 경량 분류 모델로 30ms 만에 선택지 판단 Key Point 경량 모델로 30ms 안에 로컬에서 고속 분류를 수행할 수 있어, API 지연 없이 의사결정 시스템을 직접 구축해야 하는 개발자에게 즉시 활용 가능한 솔루션이다.
핵심 요약
Qwen3.5와 Gemma 4를 파인튜닝한 0.8B~2B 경량 분류 모델 Jeff를 공개했다. 한 번의 순전파로 각 선택지의 보정된 확률을 반환하며, RTX PRO 6000에서 22ms, Apple M4 Max에서 28ms가 소요된다. 제로샷 분류가 가능해 학습 데이터에 없는 옵션도 자연어 설명으로 판단할 수 있다. 전체 요약 14문장 읽기 → 011 03:11 ▲ 152 · 댓글 46 소프트웨어의 '그냥 안 되는' 일상화 저자는 문제의 원인을 추적할 수 없는 오류가 정상화되는 현상을 우려하고 있다. AI · 머신러닝 · The Normalization of Inexplicable Failures
소프트웨어의 '그냥 안 되는' 일상화 Key Point AI 기반 기능이 배포되면서 '원인을 알 수 없는 장애'가 정상적인 것으로 받아들여지는 추세를 다루는데, 이는 개발 생산성과 품질 사이의 근본적인 긴장을 보여줍니다.
핵심 요약
저자는 문제의 원인을 추적할 수 없는 오류가 정상화되는 현상을 우려하고 있다. Jev 같은 AI 모델들은 빠르고 저렴하지만, 사용자는 반환값이 정말 작동하는지 검증할 평가 프레임워크(evals)를 구축해야 한다. 대부분의 개발자는 기술적 평가를 미루고 'AI 기반' 표시만 하고 배포한 뒤, 장애 발생 시 '음, AI는 실수한다'고 넘어간다. 전체 요약 9문장 읽기 → 012 21:11 ▲ 102 · 댓글 42 LLM으로 Jev 수준의 고속 의사결정 모델 구축하기 GLM-5.3-Flash를 프롬프트 엔지니어링으로 한 번의 forward pass에서 타입화된 의사결정을 내도록 개선했으며, 전문 의사결정 모델 Jev와 동등한 정확도를 달성했다. AI · 머신러닝 · Turning GLM-5.3-Flash into a Jev-like decision model
LLM으로 Jev 수준의 고속 의사결정 모델 구축하기 Key Point 일반 LLM을 구조화된 의사결정 모델로 탈바꿈시키는 프롬프트 기법이 전문 의사결정 모델과 실무 성능에서 동등하다는 것을 보여주므로, 고도량 의사결정 시스템 구축 시 모델 선택지와 비용-성능 트레이드오프 판단에 실질적 참고가 될 수 있다.
핵심 요약
GLM-5.3-Flash를 프롬프트 엔지니어링으로 한 번의 forward pass에서 타입화된 의사결정을 내도록 개선했으며, 전문 의사결정 모델 Jev와 동등한 정확도를 달성했다. 기본 아이디어는 LLM의 확률 분포에서 옵션별 확률을 직접 읽는 것이다. 숫자로 인덱싱된 옵션 목록을 JSON으로 제시하고 프롬프트를 'choice_index:'로 끝내면, 모델이 첫 토큰에서 내놓는 확률 분포가 각 옵션의 신뢰도가 된다. 29개 공개 데이터셋(2~151개 옵션, 의도 라우팅·감정 분석·법률 문서 등 포함)을 벤치마킹한 결과, GLM-5.3-Flash와 Jev의 정확도 차이는 중앙값 0.7 포인트로 통계적으로 유의미하지 않았다. 전체 요약 12문장 읽기 → 013 00:11 ▲ 109 · 댓글 30 LLM의 토큰 확률 읽어 단일 함수로 선택지 점수 매기기 LLM API의 로그프로브(logprobs) 기능을 활용해 한 개 토큰만 생성하도록 강제한 후 각 선택지별 확률을 추출하는 기법을 소개했다. AI · 머신러닝 · A single function Jev-like wrapper for LLMs, including vision models
LLM의 토큰 확률 읽어 단일 함수로 선택지 점수 매기기 Key Point LLM의 로그프로브를 활용해 단 한 줄의 함수로 복잡한 다중 선택 평가를 빠르게 구현할 수 있으며, 비전 모델도 지원해 실시간 이미지 분석 애플리케이션의 선택지 점수 매김에 즉시 적용 가능하다.
핵심 요약
LLM API의 로그프로브(logprobs) 기능을 활용해 한 개 토큰만 생성하도록 강제한 후 각 선택지별 확률을 추출하는 기법을 소개했다. 상태와 질문을 프롬프트로 보내고 max_completion_tokens를 1로 설정한 후 top_logprobs로 대안 토큰들의 확률을 받으면, 여러 질문이 같은 상태 접두사를 공유할 때 KV 캐시를 활용할 수 있다. 이 방식은 텍스트뿐 아니라 비전 모델과도 작동하며, 이미지를 base64로 인코딩해 전송할 수 있도록 Jev 요청 형식에 attachments 필드를 추가했다. 전체 요약 7문장 읽기 → 014 09:11 ▲ 126 · 댓글 60 JEV: AI가 포켓몬 레드를 플레이한다 AI 어시스턴트 JEV가 포켓몬 레드를 자동으로 플레이하는 라이브 스트림이다. AI · 머신러닝 · Show HN: Jev Plays Pokémon Red
JEV: AI가 포켓몬 레드를 플레이한다 Key Point AI가 비디오 게임을 실시간으로 플레이하는 방식과 의사결정 과정을 실제로 시연한 사례로, AI의 게임 플레이 능력과 결정 과정의 투명성을 보여준다.
핵심 요약
AI 어시스턴트 JEV가 포켓몬 레드를 자동으로 플레이하는 라이브 스트림이다. 오른쪽 패널에는 JEV가 내린 모든 결정 내용과 각 행동의 확률이 표시된다. JEV는 게임 진행을 위해 별도의 가이드 정보를 활용하여 다음 단계를 파악한다. 전체 요약 5문장 읽기 → 015 06:11 ▲ 189 · 댓글 49 로컬에서 의사결정 AI 모델 실행하는 Ollaya 출시 Ollaya는 텍스트나 JSON 데이터에 대한 타입 안전 질문에 밀리초 단위로 답하는 의사결정 모델을 로컬에서 실행하는 오픈소스 도구다. AI · 머신러닝 · Ollaya – Ollama for open-source, Jev-style decision models
로컬에서 의사결정 AI 모델 실행하는 Ollaya 출시 Key Point 자신의 서버에서 개인 데이터를 의사결정 AI로 분석할 때 기존 클라우드 API 대비 10-20배 빠르면서도 토큰 비용이 없으므로, 고객지원·분류·라우팅 등 대량의 의사결정이 필요한 시스템 구축에 큰 변화를 가져올 수 있다.
핵심 요약
Ollaya는 텍스트나 JSON 데이터에 대한 타입 안전 질문에 밀리초 단위로 답하는 의사결정 모델을 로컬에서 실행하는 오픈소스 도구다. 토큰 하나씩 생성하지 않고 단일 포워드 패스로 답을 반환해 RTX 4090에서 5개 질문 처리에 8-10ms 정도만 소요되며, 호스팅 API(TypeSafe Jev)의 236-276ms보다 훨씬 빠르다. TypeSafe의 API 스펙과 완벽히 호환되므로 공식 TypeSafe Python SDK 0.7.1을 수정 없이 로컬 서버에 연결할 수 있다. 전체 요약 7문장 읽기 → 016 22:29 ▲ 140 · 댓글 118 AI 토큰 가격, 매년 수십 배 하락…계산 도구보다도 싸져 LLM 비용이 매년 수십 배 하락하면서 향후 1~2년 내 AI가 컴퓨팅 인프라로 통합될 것으로 예상된다. AI · 머신러닝 · Tokens Too Cheap to Meter
AI 토큰 가격, 매년 수십 배 하락…계산 도구보다도 싸져 Key Point 저비용 고성능 AI가 단순한 기술 개선을 넘어 소프트웨어 산업 구조와 개발 방식을 근본적으로 바꾸려는 시점이 임박했기 때문이다.
핵심 요약
LLM 비용이 매년 수십 배 하락하면서 향후 1~2년 내 AI가 컴퓨팅 인프라로 통합될 것으로 예상된다. GPU 효율이 2년마다 2배씩 증가하고, 작업당 비용은 2025년 동안 100배 이상 하락했으며, vLLM 같은 추론 엔진도 15개월간 40% 효율이 개선되었다. Mixture-of-Experts 모델 아키텍처로 매개변수 6B에서 0.8B로 줄이면서도 성능 유지 가능해졌고, Mamba 아키텍처는 메모리 필요량을 5배 이상 감소시켜 3~6년 내 지역 실행이 현실화될 전망이다. 전체 요약 8문장 읽기 → 017 22:29 ▲ 28 · 댓글 3 LLM 심판관을 저렴하게: 자신 없으면 상위 모델로 넘기기 LLM을 평가 심판관으로 쓸 때 비용과 신뢰도가 커질수록 문제가 되는데, 결정 전용 모델인 JEV로 1차 심사를 한 후 판단이 필요할 때만 강력한 모델에 넘기는 방식을 제안한다. AI · 머신러닝 · JEV-as-a-Judge: Accept When Confident, Escalate When Unsure
LLM 심판관을 저렴하게: 자신 없으면 상위 모델로 넘기기 Key Point LLM을 심판으로 쓸 때 대부분의 판정은 저렴한 모델로 처리하되, 판단이 어려운 경우만 비싼 모델을 거쳐 전체 평가 비용을 대폭 줄일 수 있는 실용적 방법을 제시한다.
핵심 요약
LLM을 평가 심판관으로 쓸 때 비용과 신뢰도가 커질수록 문제가 되는데, 결정 전용 모델인 JEV로 1차 심사를 한 후 판단이 필요할 때만 강력한 모델에 넘기는 방식을 제안한다. 16가지 생성형 및 보상 모델 심판관과 블라인드 인간 검증으로 비교한 결과, JEV는 최고 성능 LLM 심판관 대비 일반적 선호도와 근거 기반 사실성 평가에서 3%p 범위 내 정확도를 유지하면서 비용은 0.36%에 불과했다. 미분 계산 확인이나 정교하게 쓰인 오답 저항 같은 복잡한 판단이 필요한 경우 JEV의 성능 격차가 커진다. 전체 요약 5문장 읽기 → 018 21:11 ▲ 253 · 댓글 83 25줄의 파이썬으로 구현한 Jev Jev는 주어진 선택지에 대해 확률을 출력하는 분류 모델로, 로컬에서 실행되며 데이터를 외부로 보내지 않는다. AI · 머신러닝 · Jev in 25 Lines of Python
25줄의 파이썬으로 구현한 Jev Key Point 로컬 LLM만으로 프롬프트 기반 분류를 확률값으로 변환하는 간단한 방법을 제시하므로, 프라이빗한 분류 작업이 필요한 개발자에게 실용적이다.
핵심 요약
Jev는 주어진 선택지에 대해 확률을 출력하는 분류 모델로, 로컬에서 실행되며 데이터를 외부로 보내지 않는다. 저자는 Qwen3-0.6B 모델을 로드하고 선택지의 로짓값을 계산한 후 소프트맥스를 적용해 확률을 도출하는 방식으로 Jev를 구현했다. 합성 데이터 생성, API 호출, 강화학습 기반 캘리브레이션 등 복잡한 방법 없이도 기본 확률 계산만으로 Jev를 구현할 수 있음을 보여준다. 019 18:11 ▲ 103 · 댓글 25 JevBench, 타입 기반 의사결정 모델의 재현 가능한 벤치마크 공개 JevBench는 Jev 1.13.0 등 타입 안전 의사결정 모델들을 일관된 기준으로 측정하는 벤치마크이며, Intelligence 85.1, Calibration 77.9, Speed 87.6, Cost 84.3 점 등으로 각 모델을 평가한다. 오픈소스 · 도구 · Show HN: JevBench, a reproducible benchmark for typed decision models
JevBench, 타입 기반 의사결정 모델의 재현 가능한 벤치마크 공개 Key Point 타입 안전 의사결정 모델들의 성능을 객관적으로 비교할 수 있는 재현 가능한 벤치마크가 제공되어, 프로덕션 환경에서 어떤 모델을 선택할지 판단하는 기준이 명확해진다.
핵심 요약
JevBench는 Jev 1.13.0 등 타입 안전 의사결정 모델들을 일관된 기준으로 측정하는 벤치마크이며, Intelligence 85.1, Calibration 77.9, Speed 87.6, Cost 84.3 점 등으로 각 모델을 평가한다. Classifier.dev는 Jev 모델을 기반으로 하되 저신뢰도 응답에 추론 모델(Gemini 3.8 Flash)을 재질문하는 오케스트레이션 계층을 추가한 제품으로, 벤치마크에서 honorable mention으로 표시된다. Classifier.dev의 가격은 월 $20으로 일일 20만 건 분류 시 약 $0.0033/1,000 결정이며, 무료 티어(일일 2만 건)에서도 사용 가능하다. 전체 요약 4문장 읽기 → 020 03:11 ▲ 26 · 댓글 2 System One/Two 인지로 AI 에이전트 메모리 최적화 Jev-Mem은 인간의 빠른 사고(System One)와 느린 추론(System Two)을 모방한 AI 에이전트 메모리 아키텍처다. AI · 머신러닝 · Jev-Mem: System-One-Controlled Agentic Memory for Efficient AI Agents
System One/Two 인지로 AI 에이전트 메모리 최적화 Key Point 장시간 작업을 처리하는 AI 에이전트의 성능과 속도가 메모리 관리 효율성에 달려있고, 이 논문이 기존의 비싼 LLM 기반 메모리 시스템을 크게 개선하는 구조를 제시한다.
핵심 요약
Jev-Mem은 인간의 빠른 사고(System One)와 느린 추론(System Two)을 모방한 AI 에이전트 메모리 아키텍처다. System One 제어부가 메모리 타입 지정, 관계 조직화, 쿼리 라우팅, 검색 예산 할당, 그래프 순회, 후보 점수 매김, 적응형 중단을 담당한다. System Two는 복잡한 추론과 답변 종합이 필요할 때만 호출되어 LLM 생성 비용을 줄인다. 전체 요약 5문장 읽기 → 021 03:11 ▲ 167 · 댓글 120 OpenAI, 신흥 AI 모델 Jev를 빠르게 따라잡을 수 있을까 TypeSafe의 Jev는 LLM의 토큰 확률 분포를 이용해 boolean, choice, score 같은 분류 작업을 수행하는 새로운 방식의 모델로 급속도로 채택되고 있다. AI · 머신러닝 · OpenAI is well positioned to fast-follow Jev
OpenAI, 신흥 AI 모델 Jev를 빠르게 따라잡을 수 있을까 Key Point OpenAI의 기술 역량과 기존 인프라가 Jev의 추격을 어렵게 만드는 요소가 무엇인지, 그리고 TypeSafe가 경쟁 우위를 지키려면 어디에 집중해야 하는지를 이해하는 데 필요하다.
핵심 요약
TypeSafe의 Jev는 LLM의 토큰 확률 분포를 이용해 boolean, choice, score 같은 분류 작업을 수행하는 새로운 방식의 모델로 급속도로 채택되고 있다. OpenAI는 도구 호출과 응답 생성 같은 기능에서 이미 수년간 토큰 단위 마이크로 분류기를 암묵적으로 사용해왔으며, 이 기술을 Jev의 방식으로 명시적으로 학습하고 패키징할 수 있다. OpenAI가 같은 기술을 습득하면 Jev를 빠르게 복제할 수 있을 뿐 아니라, 기존 모델과 에이전트에 통합해 더 빠르고 저렴한 응답, 보안 강화, 모델 선택 최적화 같은 추가 가치를 제공할 수 있다. 전체 요약 4문장 읽기 → 022 21:10 ▲ 101 · 댓글 44 LLM으로 문자열 패딩하는 npm 패키지 공개 jev-leftpad는 Jev 언어 모델을 호출해 문자열 앞에 공백을 채우는 JavaScript 패키지입니다. 기타 · Jev-Leftpad
LLM으로 문자열 패딩하는 npm 패키지 공개 Key Point 기본 JavaScript 함수로 간단히 처리할 수 있는 작업을 의도적으로 LLM API 호출로 구현한 개발자의 창의적인 실험을 보여줍니다. oss
핵심 요약
jev-leftpad는 Jev 언어 모델을 호출해 문자열 앞에 공백을 채우는 JavaScript 패키지입니다. padStart() 내장 함수 대신 TypeSafe API를 통해 LLM에 요청해 0~10개 공백 추가를 선택하게 합니다. Node.js 20 이상 필요하며 TYPESAFE_API_KEY 환경변수 설정이 필요합니다. 전체 요약 5문장 읽기 → 023 15:10 ▲ 116 · 댓글 38 Jev AI를 활용한 심볼 단위 채팅 모델 실험 Jev API를 이용해 다음 심볼을 단계적으로 예측하는 방식으로 채팅 모델을 만드는 프로젝트다. AI · 머신러닝 · I turned Jev into a (lousy) chatbot
Jev AI를 활용한 심볼 단위 채팅 모델 실험 Key Point 각 심볼마다 API를 호출하는 비효율적 방식이지만, Jev 모델을 생성 작업에 활용하는 창의적인 접근법과 여러 샘플링 전략의 성능 비교를 통해 언어 모델의 동작 원리를 이해하는 데 참고할 수 있다.
핵심 요약
Jev API를 이용해 다음 심볼을 단계적으로 예측하는 방식으로 채팅 모델을 만드는 프로젝트다. 사용자 질문과 현재까지의 응답을 받아 다음 심볼의 확률 분포를 반환하도록 Jev에 질문을 반복하며, 샘플러가 그 분포에서 심볼을 하나씩 뽑아낸다. choice, bisect, buckets, refine 등 여러 전략과 lower26, ascii, tokens, words1k, bpe5k 등 다양한 알파벳을 조합해 사용할 수 있다. 전체 요약 6문장 읽기 → 024 06:10 ▲ 103 · 댓글 18 Mac M4에서 오프라인 추론하는 Laya CoreML 구현 Mac M4에서 Laya 언어 모델을 CoreML로 변환하여 초당 45개 의사결정 처리 가능하게 구현했다. AI · 머신러닝 · Laya (OS Jev) on Mac M4 CoreML Offline (45 decisions per second)
Mac M4에서 오프라인 추론하는 Laya CoreML 구현 Key Point M4 Mac과 같은 모바일 칩에서 오프라인으로 LLM을 실행하는 구체적인 구현 사례로, 클라우드 의존성 없이 저지연 추론이 필요한 개발자들에게 참고할 수 있는 방법이다.
핵심 요약
Mac M4에서 Laya 언어 모델을 CoreML로 변환하여 초당 45개 의사결정 처리 가능하게 구현했다. 온라인 연결 없이 로컬에서 추론하며 Python 환경에서 쉽게 설치·실행할 수 있다. 메모리 사용량은 초기 560MB에서 최대 778MB 정도로 M4 칩의 효율적인 실행을 보여준다. 전체 요약 4문장 읽기 → 025 00:10 ▲ 354 · 댓글 72 System 1 의사결정 모델 Laya 오픈소스 공개 LLM 기반 구조화된 의사결정 모델 Jev의 폐쇄성에 대응해, 같은 개념을 완전 오픈소스로 구현한 Laya를 공개했다. AI · 머신러닝 · Laya the open source version of Jev
System 1 의사결정 모델 Laya 오픈소스 공개 Key Point LLM으로 단순 분류 작업을 처리하는 비효율을 해결하는 새로운 모델 아키텍처가 공개됐으며, Jev의 폐쇄성 대비 완전 오픈소스 대안이 필요한 상황이다.
핵심 요약
LLM 기반 구조화된 의사결정 모델 Jev의 폐쇄성에 대응해, 같은 개념을 완전 오픈소스로 구현한 Laya를 공개했다. 자동회귀 생성 방식 대신 순방향 한 번의 추론으로 확률분포를 반환하며, 30~35ms의 초저지연 응답을 제공한다. choice(선택지 선택), score(순서척도), noul(참거짓 판정) 세 가지 기본 연산만으로 동작하여 환각이나 JSON 파싱 오류가 불가능하다. 전체 요약 6문장 읽기 → 026 21:11 ▲ 179 · 댓글 98 브라우저에서 LLM 의사결정 방식 직접 비교 OpenJev는 로컬 LLM이 선택지별 확률을 계산하는 두 가지 방식을 브라우저에서 직접 비교하는 인터랙티브 도구다. 기타 · OpenJev
브라우저에서 LLM 의사결정 방식 직접 비교 Key Point 두 의사결정 방식의 성능 차이를 실측할 수 있어, LLM을 실제 애플리케이션에 활용할 때 최적의 방법을 선택하는 데 도움이 된다. ai
핵심 요약
OpenJev는 로컬 LLM이 선택지별 확률을 계산하는 두 가지 방식을 브라우저에서 직접 비교하는 인터랙티브 도구다. 한 방식은 모델의 로짓(logits)을 직접 읽어 정규화하고, 다른 방식은 모델이 확률을 JSON 텍스트로 생성하도록 요청한다. Qwen3 0.6B(639MB), MiniCPM5 2B(1.56GB), Qwen3.5 4B(3.01GB) 세 가지 크기의 모델을 선택해 실행할 수 있다. 전체 요약 5문장 읽기 → 027 15:10 ▲ 111 · 댓글 16 Jev처럼 작동하는 오픈소스 선택 모델 공개 TypeSafe의 상용 모델 Jev를 역엔지니어링한 오픈소스 모델을 깃허브에 공개했다. 오픈소스 · 도구 · Reverse-engineered Jev-like model
Jev처럼 작동하는 오픈소스 선택 모델 공개 Key Point 상용 모델의 폐쇄된 설계를 재현한 오픈소스 구현으로, 선택형 분류 작업에서 경량 모델의 새로운 가능성을 보여준다.
핵심 요약
TypeSafe의 상용 모델 Jev를 역엔지니어링한 오픈소스 모델을 깃허브에 공개했다. 텍스트와 N개의 선택지를 입력받아 각 선택지별 확률을 한 번에 반환하는 방식으로, 단어 단위 생성이 아닌 원샷(one-pass) 추론을 수행한다. 바이트 임베딩 기본 인코더와 선택적 허깅페이스 사전학습 인코더를 지원하며, CPU·MPS·CUDA에서 학습 가능하다. 전체 요약 5문장 읽기 → 028 08:25 ▲ 581 · 댓글 193 TypeSafe, 자동화용 System One 모델 'Jev' 공개 TypeSafe AI가 기존 LLM보다 100배 빠르고 효율적인 System One 모델 'Jev'를 발표했다. AI · 머신러닝 · Introducing System One Models and Jev
TypeSafe, 자동화용 System One 모델 'Jev' 공개 Key Point 기존 LLM의 느린 응답과 불확실한 신뢰도 문제를 해결해 실제 소프트웨어 자동화에 사용할 수 있는 새로운 모델 클래스가 등장했기 때문이다.
핵심 요약
TypeSafe AI가 기존 LLM보다 100배 빠르고 효율적인 System One 모델 'Jev'를 발표했다. Jev는 자동화된 의사결정을 위해 설계되었으며 구조화된 출력을 생성하고 환각(hallucination)이 없다. 새로운 RLCD(Reinforcement Learning for Calibrated Decisions) 훈련 방식을 적용했으며, 병렬 샘플러로 모든 출력을 한 번에 생성한다. 전체 요약 6문장 읽기 → 
