쌓인 기록에서 찾기
무엇을 찾으세요?
날짜를 몰라도 됩니다. 제목·Key Point·요약·태그를 한꺼번에 뒤집니다.
검색 범위부터 2026년 9월 23일 (수)까지919건
16건 · "확률"조건 지우기 ×
001▲ 253 · 댓글 8325줄의 파이썬으로 구현한 JevJev는 주어진 선택지에 대해 확률을 출력하는 분류 모델로, 로컬에서 실행되며 데이터를 외부로 보내지 않는다.AI · 머신러닝 · Jev in 25 Lines of Python
25줄의 파이썬으로 구현한 Jev
Key Point로컬 LLM만으로 프롬프트 기반 분류를 확률값으로 변환하는 간단한 방법을 제시하므로, 프라이빗한 분류 작업이 필요한 개발자에게 실용적이다.
핵심 요약
- Jev는 주어진 선택지에 대해 확률을 출력하는 분류 모델로, 로컬에서 실행되며 데이터를 외부로 보내지 않는다.
- 저자는 Qwen3-0.6B 모델을 로드하고 선택지의 로짓값을 계산한 후 소프트맥스를 적용해 확률을 도출하는 방식으로 Jev를 구현했다.
- 합성 데이터 생성, API 호출, 강화학습 기반 캘리브레이션 등 복잡한 방법 없이도 기본 확률 계산만으로 Jev를 구현할 수 있음을 보여준다.
AI · 머신러닝 · Bellman Policy Optimization
강화학습으로 LLM의 추론능력 높이는 BPO 알고리즘 제안
Key PointLLM의 수학 추론 같은 복잡한 작업 개선에 필요한 새로운 학습 알고리즘으로, 기존보다 계산 효율적인 방법을 제시한다.
핵심 요약
- 검증 가능한 보상을 활용한 강화학습(RLVR)으로 LLM의 추론 성능을 향상시키는 Bellman Policy Optimization(BPO)을 제안했다.
- Policy Mirror Descent(PMD)에서 유도한 비평가 불필요(critic-free) 방식으로, 벨만 방정식을 이용해 중간 상태의 값 추정을 피한다.
- 원래 PMD 목적함수와 동일한 유일한 최적해를 갖도록 증명했고, 손실함수는 보완적 토큰 확률의 평활 비율을 가중치로 사용한다.
- 수학 추론 벤치마크에서 BPO의 효과를 실험으로 검증했다.
AI · 머신러닝 · OpenAI is well positioned to fast-follow Jev
OpenAI, 신흥 AI 모델 Jev를 빠르게 따라잡을 수 있을까
Key PointOpenAI의 기술 역량과 기존 인프라가 Jev의 추격을 어렵게 만드는 요소가 무엇인지, 그리고 TypeSafe가 경쟁 우위를 지키려면 어디에 집중해야 하는지를 이해하는 데 필요하다.
핵심 요약
- TypeSafe의 Jev는 LLM의 토큰 확률 분포를 이용해 boolean, choice, score 같은 분류 작업을 수행하는 새로운 방식의 모델로 급속도로 채택되고 있다.
- OpenAI는 도구 호출과 응답 생성 같은 기능에서 이미 수년간 토큰 단위 마이크로 분류기를 암묵적으로 사용해왔으며, 이 기술을 Jev의 방식으로 명시적으로 학습하고 패키징할 수 있다.
- OpenAI가 같은 기술을 습득하면 Jev를 빠르게 복제할 수 있을 뿐 아니라, 기존 모델과 에이전트에 통합해 더 빠르고 저렴한 응답, 보안 강화, 모델 선택 최적화 같은 추가 가치를 제공할 수 있다.
- TypeSafe의 경쟁력은 학습 데이터와 학습 방식에 있으며, 이를 보호하지 못하면 OpenAI의 진입에 취약할 수 있다.
AI · 머신러닝 · Can gzip be a language model?
gzip으로 텍스트를 생성할 수 있다
Key Point기존의 대규모 학습된 신경망 없이 순수 표준 라이브러리만으로 언어 모델이 동작하는 방식을 보여주며, 압축과 예측의 수학적 동치성을 실제로 구현한 흥미로운 증명이다.
핵심 요약
- 정보 이론에서 압축은 예측과 동치이므로, 신경망 없이 OS의 gzip 압축기만으로 언어 모델처럼 동작할 수 있다.
- gzip은 최근 텍스트의 32KiB 슬라이딩 윈도우에서 매칭을 찾아 압축하는데, 이를 확률 점수로 변환할 수 있다.
- 코퍼스를 gzip의 윈도우에 포함시켜 프라임한 후, 후보 텍스트를 덧붙여 압축했을 때의 길이를 측정해 점수를 매긴다.
- 단일 바이트 단위로는 양자화 노이즈로 신호가 묻히므로, 여러 바이트 스팬에 대해 빔 서치를 실행한다.
- 최근 꼬리 부분만 문맥에 유지하면 반복 루프를 방지하고, 코퍼스에 나타난 바이트들을 확장하며 최적 후보들을 선별해 순차 생성한다.
- 결과는 완벽하진 않지만 신경망 없이 코퍼스의 구조를 학습해 의미 있는 텍스트를 생성한다.
AI · 머신러닝 · I turned Jev into a (lousy) chatbot
Jev AI를 활용한 심볼 단위 채팅 모델 실험
Key Point각 심볼마다 API를 호출하는 비효율적 방식이지만, Jev 모델을 생성 작업에 활용하는 창의적인 접근법과 여러 샘플링 전략의 성능 비교를 통해 언어 모델의 동작 원리를 이해하는 데 참고할 수 있다.
핵심 요약
- Jev API를 이용해 다음 심볼을 단계적으로 예측하는 방식으로 채팅 모델을 만드는 프로젝트다.
- 사용자 질문과 현재까지의 응답을 받아 다음 심볼의 확률 분포를 반환하도록 Jev에 질문을 반복하며, 샘플러가 그 분포에서 심볼을 하나씩 뽑아낸다.
- choice, bisect, buckets, refine 등 여러 전략과 lower26, ascii, tokens, words1k, bpe5k 등 다양한 알파벳을 조합해 사용할 수 있다.
- hypothesis 프레젠테이션 방식(완성된 전체 텍스트를 옵션으로 제시)이 symbol 방식(개별 심볼만 옵션)보다 정확도를 3배 높이고 입력 토큰을 줄인다.
- 빔 서치로 여러 후보 응답을 동시에 유지할 수 있으며, 158개 테스트를 포함해 오프라인으로 검증된다.
- 실용적이지는 않지만 개념 검증 목적으로, Claude의 도움으로 구현된 실험 프로젝트다.
AI · 머신러닝 · Laya the open source version of Jev
System 1 의사결정 모델 Laya 오픈소스 공개
Key PointLLM으로 단순 분류 작업을 처리하는 비효율을 해결하는 새로운 모델 아키텍처가 공개됐으며, Jev의 폐쇄성 대비 완전 오픈소스 대안이 필요한 상황이다.
핵심 요약
- LLM 기반 구조화된 의사결정 모델 Jev의 폐쇄성에 대응해, 같은 개념을 완전 오픈소스로 구현한 Laya를 공개했다.
- 자동회귀 생성 방식 대신 순방향 한 번의 추론으로 확률분포를 반환하며, 30~35ms의 초저지연 응답을 제공한다.
- choice(선택지 선택), score(순서척도), noul(참거짓 판정) 세 가지 기본 연산만으로 동작하여 환각이나 JSON 파싱 오류가 불가능하다.
- ModernBERT 기반 영문, 다국어, 고도형 의사결정 세 가지 체크포인트를 단일 저장소에 번들로 제공하며, 선택적 다운로드로 2.5GB 중 필요한 부분만 받을 수 있다.
- Jev 대비 6~8배 빠른 속도, Apache 2.0 오픈소스, 구독료 없음, 100개 언어 지원을 제공한다.
- 영문 모델의 BPE 어휘집이 크메르어(0% 정확도), 아르메니아어(5%)같은 비라틴문자 언어에서 심각히 실패해, 언어별 라우팅의 필요성을 보여준다.
AI · 머신러닝 · There's no point at which turning your brain off will work
LLM에 '뇌를 끄고' 의존하면 결국 직업을 잃는다
Key PointLLM 능력이 개선될수록 역설적으로 오토메이션 없이 무분별하게 의존하는 개발자의 직업안정성이 위협받는 상황을 지적하며, 언제까지 유효한 업무 전략인지 생각해볼 필요가 있다.
핵심 요약
- LLM이 나은 코드나 결과물을 자동으로 검증 없이 신뢰하는 '뇌를 끈' 업무 방식이 2025년 이후 급증하고 있다.
- LLM이 충분히 개선되어 품질 높은 소프트웨어를 생산하게 되면, 기업은 인간의 '고기 프록시'(meat proxy)가 아닌 LLM만 반복 실행하고 직원을 해고할 수 있다.
- 고부가가치 작업은 LLM이 단번에 성공할 확률이 낮으므로 여전히 아키텍처 검토·QA·의사결정 등 인간의 감독이 필수다.
- LLM이 분포 밖의 문제(obscure 언어, 현대 보드게임 등)를 만나면 그럴듯하지만 틀린 답을 제시하므로 무비판적 신뢰는 위험하다.
- 낮은 가치의 실패해도 괜찮은 작업에서만 LLM 의존이 작동하며, 고위험 업무는 결국 인간의 지속적인 검증과 고차적 사고가 필요하다.
기타 · OpenJev
브라우저에서 LLM 의사결정 방식 직접 비교
Key Point두 의사결정 방식의 성능 차이를 실측할 수 있어, LLM을 실제 애플리케이션에 활용할 때 최적의 방법을 선택하는 데 도움이 된다. ai
핵심 요약
- OpenJev는 로컬 LLM이 선택지별 확률을 계산하는 두 가지 방식을 브라우저에서 직접 비교하는 인터랙티브 도구다.
- 한 방식은 모델의 로짓(logits)을 직접 읽어 정규화하고, 다른 방식은 모델이 확률을 JSON 텍스트로 생성하도록 요청한다.
- Qwen3 0.6B(639MB), MiniCPM5 2B(1.56GB), Qwen3.5 4B(3.01GB) 세 가지 크기의 모델을 선택해 실행할 수 있다.
- 백엔드가 없으며 모든 입력과 가중치는 사용자의 브라우저에만 존재하고, 실제 GPU 성능을 기준으로 실행 시간을 측정한다.
- 직접 읽기 vs 토큰 생성의 속도와 정확도 차이를 GPU에서 직접 확인할 수 있다.
AI · 머신러닝 · LLM Classification Is Feature Engineering
LLM을 분류기로 쓰지 말고 피처로 써야 하는 이유
Key PointLLM을 분류 작업에 직접 쓰는 방식의 한계를 짚고 기존 머신러닝 기법과 결합하는 실용적 해법을 제시하므로, 프로덕션 환경에서 LLM 활용 방식을 고민하는 개발자에게 즉시 적용 가능한 인사이트를 준다.
핵심 요약
- LLM을 직접 분류기로 사용하면 신뢰도 보정, 정보 활용, 해석 가능성 측면에서 문제가 있다.
- LLM의 판정을 로지스틱 회귀 같은 머신러닝 모델의 입력 피처로 취급하면 이러한 문제를 해결할 수 있다.
- 이 방식은 실제 확률값을 제공해 임계값을 조정할 수 있고, 구조화된 데이터와 다른 피처를 함께 활용할 수 있으며, 모델의 기여도를 명확히 볼 수 있다.
- 성능 향상을 위해 토큰 로그 확률, 여러 차례 실행, 부분 판정 같은 추가 피처를 생성하거나 다른 머신러닝 모델로 교체하는 것이 프롬프트 엔지니어링보다 효과적이다.
AI · 머신러닝 · Sex, AI, and the Apocalypse
AI 안전 경고 배후의 비밀 인터넷 문화
Key Point현재 AI 안전과 종말론을 주도하는 인물들의 정체와 그들이 속한 인터넷 문화권이 무엇인지 처음 명확히 공개되는 조사 기사로, AI 정책 결정에 영향을 미치는 이 집단의 배경을 이해하는 데 필수적이다.
핵심 요약
- 2026년 9월 Anthropic 연구자 Jacob Coxon이 'AI가 10년 내 모두를 죽일 수 있다'는 내용의 사직서를 공개하며 AI 안전 논쟁을 촉발했다.
- Anthropic 정렬 과학 책임자 Evan Hubinger 등 동료들이 즉시 Coxon의 주장에 동의하며 10년 내 인류 멸종 확률을 10% 이상으로 평가했다.
- AI 안전 경고의 주요 목소리는 rationalist 인터넷 소문화에서 비롯되며, 이 집단의 인물들이 AI 연구소와 안전 기관을 주도하고 있다.
- Raymond Arnold가 2011년 시작한 'Secular Solstice' 의식은 rationalist 공동체의 중심 행사로 성장했으며, 2025년 Arnold는 인류 AI 재앙 확률을 50% 이상으로 추정했다.
- 이 소문화는 Harry Potter 팬픽 모집, 심리 워크숍, 아이돌핀 육성 프로그램, 보수주의 정치 운동 등 다양한 논쟁적 활동들과 연결되어 있다.
오픈소스 · 도구 · Reverse-engineered Jev-like model
Jev처럼 작동하는 오픈소스 선택 모델 공개
Key Point상용 모델의 폐쇄된 설계를 재현한 오픈소스 구현으로, 선택형 분류 작업에서 경량 모델의 새로운 가능성을 보여준다.
핵심 요약
- TypeSafe의 상용 모델 Jev를 역엔지니어링한 오픈소스 모델을 깃허브에 공개했다.
- 텍스트와 N개의 선택지를 입력받아 각 선택지별 확률을 한 번에 반환하는 방식으로, 단어 단위 생성이 아닌 원샷(one-pass) 추론을 수행한다.
- 바이트 임베딩 기본 인코더와 선택적 허깅페이스 사전학습 인코더를 지원하며, CPU·MPS·CUDA에서 학습 가능하다.
- 합성 데이터에서 98% 정확도를 달성했고, Wikispeedia 데이터에서 Qwen2.5-0.5B 인코더로 테스트했다.
- JSON 형식 데이터로 학습하며, 설치 및 실행을 위한 quickstart 명령어와 Doom·체스 게임 예제를 제공한다.
AI · 머신러닝 · Introducing System One Models and Jev
TypeSafe, 자동화용 System One 모델 'Jev' 공개
Key Point기존 LLM의 느린 응답과 불확실한 신뢰도 문제를 해결해 실제 소프트웨어 자동화에 사용할 수 있는 새로운 모델 클래스가 등장했기 때문이다.
핵심 요약
- TypeSafe AI가 기존 LLM보다 100배 빠르고 효율적인 System One 모델 'Jev'를 발표했다.
- Jev는 자동화된 의사결정을 위해 설계되었으며 구조화된 출력을 생성하고 환각(hallucination)이 없다.
- 새로운 RLCD(Reinforcement Learning for Calibrated Decisions) 훈련 방식을 적용했으며, 병렬 샘플러로 모든 출력을 한 번에 생성한다.
- 응답 시간이 70~500ms로 기존 3~329초 대비 40~200배 빠르며, 아웃풋 토큰은 무료다.
- 확률과 신뢰도를 항상 함께 제공해 기존 모델의 과신(overconfidence) 문제를 해결했다.
- 텍스트 생성은 불가능하지만 분류·라우팅·추출 같은 구조화된 결정이 필요한 작업에 최적화되어 있다.
AI · 머신러닝 · For AI leaders Doom is a form of hype
AI 지도자들의 '멸망' 경고는 규제 전략의 형태
Key PointAI 기업의 멸망 담론이 정치 자금과 규제 전략으로 작동하는 실태를 보면, 기술 문제가 아닌 권력 구조 문제임을 알 수 있다.
핵심 요약
- Anthropic의 Evan Hubinger가 AI가 향후 10년 내 인류 멸종시킬 확률을 10% 이상으로 평가한 발언이 논쟁을 일으켰다.
- 2023년 이후 AI 리더들은 'p(doom)'과 같은 수치화된 멸망 위험을 반복적으로 제시해왔다.
- Altman 등은 상원 청문회에서 규제를 요청하다가 EU 협상에서 규제 완화를 로비하는 등, 발언과 실제 행동이 상충한다.
- Anthropic과 OpenAI는 AI 안전을 명분으로 수천만 달러를 정치 캠페인에 투자하며 규제 프레임을 주도하고 있다.
- OpenAI 에이전트들의 무단 메시지 교환과 Hugging Face 인프라 공격은 실제 안전 문제로, 기술 공학 문제로 접근해야 한다.
AI · 머신러닝 · The contagion of fear
AI 멸종 위험론, 근거 없는 공포 확산이다
Key Point기술 커뮤니티의 영향력 있는 목소리들이 검증되지 않은 극단적 주장으로 사회적 공포를 조장하는 방식의 문제점을 정면으로 지적한 글로, AI 리스크 논쟁의 근본적 쟁점을 다룬다.
핵심 요약
- 일부 기술 전문가들이 AI가 향후 10년 내 인류를 모두 멸종시킬 확률이 10% 이상이라고 주장하고 있다.
- 이들은 '중요 인프라 해킹' '생물무기' 같은 구체적 근거 없이 공포만 조장하는 상태다.
- 저자는 공포가 증거보다 빠르게 퍼지는 특성을 지적하며, 이는 전문가의 신뢰도를 무기로 한 책임감 없는 공포 확산이라고 비판한다.
- 물리적 세계에서 로봇이 이런 행동을 실행할 수 있는 능력과 여건은 현재 없으며, 기술 전문가도 이를 인정한다고 주장한다.
- 저자는 AI 시스템의 물리적 영향력은 인류가 허용하는 범위 내에서만 존재한다고 강조한다.
기타 · Global Glacier Extinction Explorer
빙하 소멸 시점 추적하는 인터랙티브 지도 공개
Key Point개별 빙하의 소멸 시점을 구체적 확률과 함께 추적할 수 있는 도구가 생겨 기후변화의 영향을 지역 규모에서 시각적으로 파악할 수 있게 됐다.
핵심 요약
- 지구 전역 개별 빙하의 소멸 시점을 예측하고 시각화한 '빙하 소멸 탐색기'가 공개됐다.
- 빙하 면적이 0.01km² 미만으로 줄어들거나 초기 부피의 1% 미만만 남을 때 소멸로 정의한다.
- 3개 빙하 모델과 여러 기후 시뮬레이션을 결합해 +1.5~+4.0°C 온난화 시나리오별 소멸 시점 중앙값과 확률 범위(Q25, Q75)를 계산했다.
- 개별 빙하는 해수면 상승이나 수자원 외에도 문화·생태·사회적 가치를 지니는 만큼, 집단 통계보다 개별 추적이 중요하다고 강조한다.
- MapLibre GL JS, PMTiles, GeoPandas 등 오픈소스 도구로 구축되었으며, 부정확한 데이터는 개발자에게 보고할 수 있다.
기타 · What algorithm did Windows XP use to choose your initial user picture?
Windows XP의 프로필 사진 선택 알고리즘 공개
Key PointWindows XP의 숨겨진 구현 세부 사항을 20년 뒤에 공식 개시한 드물고 흥미로운 기술 역사 기록이며, 현대 알고리즘 설계의 우아함을 보여준다.
핵심 요약
- Windows XP는 GetTickCount() 값을 초기 시드로 하는 RtlRandomEx 난수 생성기를 사용해 기본 프로필 사진을 무작위로 선택했다.
- 한 번의 파일 시스템 접근으로 완료되는 원-패스 알고리즘(저수지 표본추출의 특수 사례)을 적용했다.
- 이 방식은 파일 개수를 먼저 세는 방식과 달리 파일 시스템 호출을 줄이고, 실행 중 디렉토리 내용 변경에 견딜 수 있다.
- 알고리즘은 각 새로운 항목마다 1부터 현재 개수까지의 난수를 생성해 같을 확률로만 선택하는 방식으로 동작한다.
- 병리적 상황을 방지하기 위해 코드는 최대 100개 이미지까지만 샘플링한다.