쌓인 기록에서 찾기
무엇을 찾으세요?
날짜를 몰라도 됩니다. 제목·Key Point·요약·태그를 한꺼번에 뒤집니다.
검색 범위부터 2026년 11월 16일 (월)까지4683건
3건 · "저사양 기기"조건 지우기 ×
001▲ 171 · 댓글 40개인 컴퓨터에서 돌리는 1450억 파라미터 모델 Edge0-145B 공개Edge0가 145B 파라미터의 Edge0-145B와 120B 모델을 오픈소스로 공개했으며, 통합 추론 프레임워크와 배포 도구도 함께 제공한다.AI · 머신러닝 · Edge0-145B: Frontier AI Capabilities on Your Own Computer

Key Point개인 컴퓨터에서 클라우드 모델 수준의 복잡한 작업(코딩, 3D 모델링, 비디오 제작)을 요금 없이 수행 가능해지면서, 온디바이스 AI의 실용성이 크게 높아졌다.
핵심 요약
- Edge0가 145B 파라미터의 Edge0-145B와 120B 모델을 오픈소스로 공개했으며, 통합 추론 프레임워크와 배포 도구도 함께 제공한다.
- 호환 가능한 노트북에서 피크 메모리 29GB, 토큰 생성 속도 80+tokens/s로 동작하며 기존 대규모 모델 대비 약 40% 메모리로 동등한 성능을 낸다.
- Edge0-145B는 DeepSWE 1.1에서 64.6점(Qwen3.8-Flash-Next 58.7, DeepSeek-V4-Flash 54.4), Terminal-Bench 2.1에서 86.52점(Qwen 83.3, DeepSeek 82.7)으로 코딩·추론·명령 이행 능력이 클라우드 모델 수준이다.
전체 요약 11문장 읽기 → 002▲ 106 · 댓글 41구형 기기에 LLM 돌리기, 기술 한계 뚫다오래된 저사양 기기(TV 박스, 스마트폰, 싱글보드 컴퓨터)에 큰 언어 모델을 고속으로 실행시키는 기술을 공개했다.AI · 머신러닝 · I'm making LLMs work on small and old devices

Key Point오래된 저가 기기들이 LLM 추론을 실시간 속도로 실행할 수 있다는 증명으로, 엣지 AI와 오프라인 모델 배포의 현실성을 보여준다.
핵심 요약
- 오래된 저사양 기기(TV 박스, 스마트폰, 싱글보드 컴퓨터)에 큰 언어 모델을 고속으로 실행시키는 기술을 공개했다.
- 시아오미 TV 박스(Cortex-A55 4코어, 1.9GB RAM, 278MB/s 플래시)에서 0.8B~16B 모델을 260K부터 16B 파라미터까지 지원한다.
- Qwen3.5-0.8B는 7.5→16.8 tok/s로 2.2배 가속, Qwen3.5-2B는 0.1→7.7 tok/s로 77배 개선, 8B 모델은 5~7 tok/s에서 실행된다.
전체 요약 10문장 읽기 → 003▲ 103 · 댓글 22마이크로컨트롤러를 위한 JIT 비트맵 텍스트 렌더링80년대 홈 컴퓨터를 RP2350 마이크로컨트롤러로 재구현하는 vic-2350 프로젝트에서 비트맵 폰트로 텍스트를 렌더링했으며, 저해상도에서 선명함을 위해 비트맵 방식을 선택했다.하드웨어 · 시스템 · JIT bitmap text rendering for microcontrollers
Key Point마이크로컨트롤러의 극도로 제한된 성능 예산 속에서 JIT 컴파일을 텍스트 렌더링에 처음 적용해 2.6% 오버헤드만으로 고품질 텍스트를 표시하는 기술이므로, 저사양 기기 개발자나 임베디드 그래픽에 관심 있는 개발자에게 참고할 만한 최적화 사례다.
핵심 요약
- 80년대 홈 컴퓨터를 RP2350 마이크로컨트롤러로 재구현하는 vic-2350 프로젝트에서 비트맵 폰트로 텍스트를 렌더링했으며, 저해상도에서 선명함을 위해 비트맵 방식을 선택했다.
- RP2350에서 DVI 출력을 위해 풀 화면 프레임버퍼 대신 '레이스 더 빔' 방식(한 스캔라인씩 렌더링)을 사용하여 SRAM을 절약하고 레이턴시를 줄였다.
- 각 픽셀당 약 6 사이클 성능 제약을 만족하기 위해 Rust 대신 ARM 어셈블리와 새로 개발한 symbolasm 언어를 사용했다.
전체 요약 12문장 읽기 →