쌓인 기록에서 찾기
무엇을 찾으세요?
날짜를 몰라도 됩니다. 제목·Key Point·요약·태그를 한꺼번에 뒤집니다.
검색 범위부터 2026년 9월 11일 (금)까지270건
16건 · "인프라"조건 지우기 ×
001▲ 108 · 댓글 1738억 파라미터 LLM을 998달러에 학습시키다3.8B 파라미터 언어 모델을 65B 토큰으로 43시간 동안 학습해 CORE 벤치마크 0.384점을 달성했다.AI · 머신러닝 · Training a 3.8B LLM to 0.384 CORE for $998
38억 파라미터 LLM을 998달러에 학습시키다
Key Point개인 개발자가 수천 달러 규모로 의미 있는 규모의 언어 모델을 학습할 수 있는 현실적인 경로와 구체적 최적화 기법을 보여주며, AI 인프라 설계의 중요성을 강조하는 사례입니다.
핵심 요약
- 3.8B 파라미터 언어 모델을 65B 토큰으로 43시간 동안 학습해 CORE 벤치마크 0.384점을 달성했다.
- B200 GPU 8개 렌탈 비용 $998로 GPT-2 대비 훨씬 나은 성능을 구현했으며, 같은 비용대의 nanochat d32보다 의미 있게 우수하다.
- Trapezoidal LR 스케줄, Muon 옵티마이저, ClimbMix 데이터셋, FP8 학습, 1024 토큰 컨텍스트 등 다섯 가지 최적화로 858M 모델의 실패 사례에서 개선했다.
- YAML 기반 설정 프레임워크를 구축해 코드 수정 없이 옵티마이저나 데이터셋을 한 줄로 교체할 수 있게 하는 등 인프라 설계에 중점을 뒀다.
- 초기 시행착오에서 FineWeb-Edu와 높은 학습률 설정 문제를 발견했고, 학습 후반부까지 손실이 감소하는 trapezoidal 스케줄로 해결했다.
AI · 머신러닝 · alphaXiv/OpenResearch · Rust
연구 자동화 플랫폼 OpenResearch, 로컬 중심으로 에이전트 병렬 실행
Key Point연구 자동화 워크플로우를 로컬 중심으로 설계해 데이터 소유권을 보장하면서 엔터프라이즈급 병렬 실험 관리를 제공한다는 점이 기존 AI 에이전트 도구와 다릅니다.
핵심 요약
- Claude Code, Codex, OpenCode 등 모델을 활용하는 연구 에이전트를 로컬 환경에서 관리·실행하는 데스크톱 앱 및 CLI 공개.
- 각 연구 방향마다 독립적인 에이전트 세션과 격리된 git 워크트리를 할당해 병렬로 탐색하고, git 기반 실험 트리로 모든 실행을 추적.
- 로컬 SSH, Slurm, Kubernetes, Ray, Modal 등 다양한 인프라에서 실행 가능하며 코드 공개 없이 원격 GPU와 연결 가능.
- 프로젝트와 실험 결과는 기본적으로 로컬 SQLite에 저장되고, openresearch.sh 계정은 조직 관리와 관리형 컴퓨팅만 지원.
- macOS, Linux용 CLI와 데스크톱 앱 제공하며, LM Studio, Ollama 등 로컬 모델도 통합 가능.
스타트업 · 비즈니스 · A Biography of Lee Holloway, the Architect of Cloudflare's Technology (Part 1)
Cloudflare 기반을 닦은 천재 CTO, 질병으로 사라지다
Key PointCloudflare라는 거대 기술 기업의 기반을 설계한 핵심 개발자의 삶과 성취, 그리고 그를 빼앗아간 질병의 이야기로, 기술 리더십과 개인의 한계를 마주하는 현실을 보여준다.
핵심 요약
- Cloudflare의 공동 창립자이자 CTO인 Lee Holloway는 실리콘밸리에서 태어나 Apple 임직원인 아버지의 영향으로 어려서부터 컴퓨터에 접했다.
- UC Santa Cruz에서 컴퓨터과학을 전공한 후 Matthew Prince가 창립한 스팸 방지 회사 Unspam Technologies에서 수석 소프트웨어 아키텍트로 활동했고, 개인 주택 지하에서 식사와 숙소를 받으며 일했다.
- Lee는 Unspam 시절 스팸 정보를 수집하는 오픈소스 프로젝트 'Project Honey Pot'을 함께 개발했다.
- 2009년 Matthew Prince와 Michelle Zatlyn과 함께 Cloudflare를 공동 창립하여 Anycast 네트워크와 Cell 아키텍처 등 서비스의 핵심 기술 인프라를 설계했다.
- Lee가 구축한 확장성 높은 시스템이 Cloudflare가 현재 인터넷 요청의 10% 이상을 처리하고 매일 수십억 건의 사이버 위협을 차단할 수 있는 기반이 되었다.
- 뛰어난 엔지니어로서의 능력을 인정받았으나 심각한 뇌 질환(FTD)으로 인해 결국 회사에서 물러났다.
인프라 · 데브옵스 · Understanding the recent DDoS attack against Read the Docs
Read the Docs, 사상 최대 DDoS 공격으로 10일간 고전
Key Point캐시 우회, 헤더 무작위화, 적응형 공격 패턴 등 단순 트래픽 홍수와 다른 정교한 DDoS 기법이 무엇인지, 대규모 인프라도 대응이 어려운 이유를 보여준다.
핵심 요약
- 2026년 6월 Read the Docs가 분당 550만 개 요청의 대규모 DDoS 공격을 받았으며, 정상 트래픽의 100배 규모였다.
- 공격은 전 세계 수백 개 네트워크의 수백만 개 IP에서 시작됐고, HTTP 헤더와 TLS 파라미터를 무작위로 변경해 서명 기반 필터를 회피했다.
- 공격자들은 캐시되지 않는 404, 302 리다이렉트 등을 의도적으로 대상으로 삼았으며, 방어 규칙에 적응해 요청 속도와 대상 경로를 지속적으로 변경했다.
- Cloudflare의 자동 DDoS 방어는 일부만 차단했고, 공격 트래픽의 상당 부분이 통과해 Rate limiting과 WAF 규칙까지 도달했다.
- Read the Docs 팀은 임시 리다이렉트를 엣지에서 처리하도록 전환하고 Terraform 기반 수십 개의 Rate limiting 규칙을 운영하며 공격에 대응했다.
- 공격은 공개 문서와 상업 호스팅 서비스, 로그인이 필요한 대시보드까지 다중 속성을 동시에 겨냥했으며 약 10일간 지속됐다.
오픈소스 · 도구 · vercel-labs/skills · TypeScript
AI 코딩 에이전트용 스킬 관리 CLI 공개
Key PointAI 코딩 에이전트를 활용하는 개발자에게 팀의 작업 규칙을 자동화하는 스킬을 표준화된 방식으로 공유·재사용할 수 있는 인프라가 생겼다.
핵심 요약
- Vercel Labs가 코딩 에이전트들을 위한 스킬 패키지 관리 도구 'skills'를 오픈소스로 공개했다.
- Claude Code, Cursor, OpenCode 등 80개 이상의 AI 코딩 에이전트에서 재사용 가능한 SKILL.md 형식의 명령어 모음을 설치하고 관리할 수 있다.
- GitHub 저장소, URL, 로컬 경로에서 스킬을 추가하거나 임시로 사용 가능하며, 프로젝트/글로벌 범위에서 심링크 또는 복사로 설치된다.
- Git, GitHub CLI, SSH 등 기존 인증 방식을 활용해 공개·비공개 저장소 모두 지원한다.
- skills.sh 웹사이트에서 커뮤니티 스킬을 발견할 수 있으며, npx skills 명령으로 별도 설치 없이 즉시 사용 가능하다.
AI · 머신러닝 · supermemoryai/supermemory · TypeScript
AI를 위한 메모리 엔진, 로컬 실행 가능한 Supermemory
Key PointAI 어시스턴트가 대화 간 정보를 잊는 근본적인 문제를 해결하는 메모리 인프라로, 개발자들이 자신의 AI 도구에 장기 메모리를 추가하거나 에이전트에 통합할 수 있는 API를 제공한다.
핵심 요약
- AI 대화 간 기억을 유지하는 메모리·컨텍스트 엔진으로, LongMemEval, LoCoMo, ConvoMem 등 주요 벤치마크에서 1위를 차지했다.
- 95% Recall@15을 달성하면서 컨텍스트를 99.4% 압축하고, 사용자 프로필을 약 50ms 내에 생성한다.
- Claude Code, Cursor, VS Code 등 AI 도구에 플러그인이나 MCP 서버로 통합되어 대화 전체에서 지속적인 메모리를 제공한다.
- RAG, 파일 처리, Google Drive·Gmail·Notion 등 커넥터, PDF·이미지·비디오·코드 등 멀티모달 추출기를 포함한 완전한 컨텍스트 스택을 제공한다.
- 로컬 실행이 가능하며 구성 없이 한 번에 배포 가능하고, Ollama와 함께 완전 오프라인 운영도 지원한다.
AI · 머신러닝 · OpenHands/OpenHands · TypeScript
자체 호스팅 가능한 AI 개발 에이전트 컨트롤 센터 'Agent Canvas' 공개
Key Point개발팀이 AI 에이전트를 자신의 인프라에서 관리하면서도 Claude Code, Gemini 같은 다양한 모델을 자유롭게 선택·전환할 수 있는 중앙 제어점이 생겼고, 팀 협업과 자동화 워크플로우 구성이 한층 수월해진다.
핵심 요약
- OpenHands는 AI 코딩 에이전트를 자체 호스팅할 수 있는 컨트롤 센터 'Agent Canvas'를 공개했다.
- 로컬 머신, Docker, VM, 클라우드 등 여러 백엔드 환경에서 에이전트를 실행할 수 있으며, 하나의 인터페이스에서 백엔드 간 전환이 가능하다.
- OpenHands, Claude Code, Codex, Gemini 등 ACP(Agent-Client Protocol) 호환 에이전트라면 모두 지원한다.
- Slack, GitHub, Linear, Notion 등 서드파티 서비스와 통합하여 자동화 워크플로우를 구성할 수 있고, 일정에 따라 또는 웹훅 이벤트에 반응하여 자동화를 실행한다.
- Node.js 22.12 이상이 필요하며, 샌드박스 없이 직접 실행하거나 Docker로 격리된 환경에서 운영할 수 있다.
- 웹 UI는 localhost:8000에서 접근 가능하고, 자유로운 LLM 선택을 지원한다.
AI · 머신러닝 · Kimi K3 (2.8T) at 1 token/s on a MacBook Pro, streamed from four SSDs
280억 파라미터 Kimi K3를 맥북에서 초당 1토큰 속도로 구동
Key Point280억 개 파라미터를 가진 대규모 언어모델을 품질 손상 없이 소비자용 하드웨어에서 구동하는 것이 가능함을 보여주며, 가정용 AI 인프라의 현실적 가능성을 시사한다.
핵심 요약
- 삼성 M5 Max 맥북 프로(128GB)에서 280억 파라미터 Kimi K3 MoE 모델을 4개 SSD에서 스트리밍하며 초당 1.00토큰의 안정적 디코딩 속도를 달성했다.
- 모델의 1.45TB 전문가 가중치는 SSD에서 동적으로 로드되며, 프리필 단계에서 각 레이어의 전문가를 8배 중복 읽기하면서 약 6.3분의 지연이 발생한다.
- 기존 공개 벤치마크(0.68토큰/s)보다 43% 빠른 성능을 기록했으며, 드라이브 개수에 따라 1개 52%, 2개 73%, 3개 90%의 속도 향상을 보인다.
- MIT 라이선스 Deltafin은 모델 품질을 절대 훼손하지 않고 전체 16개 전문가를 모두 사용하며, 스트리밍 모드(215GB 시작) 또는 풀 다운로드 모드(1.7TB)로 설치 가능하다.
- 프리필 재읽기 문제는 식별되었고 수정 계획이 있지만 아직 구현되지 않았으며, 개발진은 이를 순수한 연구 실험이자 자체 호스팅 AI의 한계를 탐색하는 프로젝트로 규정했다.
AI · 머신러닝 · Mistral raises €3B
미스트랄, 유럽 기술기업 최대 규모 €30억 투자 유치
Key Point유럽 최대 규모의 기술 펀딩 유치로 오픈소스 AI의 대안으로 자리 잡으려는 미스트랄의 전략과 산업 구도 변화를 보여준다.
핵심 요약
- 미스트랄이 시리즈D 펀딩라운드에서 €30억을 모금해 기업가치 €210억 이상으로 평가받았다.
- 삼성전자가 주도 투자자로 나섰으며, EQT와 PSG 에쿠이티가 공동 주도했다.
- 미스트랄은 자체 오픈웨이트 모델, 인프라, 컴퓨팅 자원을 갖춘 풀스택 AI 기업으로, 고객이 단일 벤더에 종속되지 않도록 한다.
- 데이터가 조직 경계 내에 머물고, 모델은 커스터마이징 가능하며, 컴퓨팅은 프라이빗하고 예측 가능한 '소버린 AI'를 구현한다.
- 현재 20개 국가에서 운영 중이며 에어버스, ASML, HSBC 등 125개 이상 글로벌 기업을 지원한다.
- BlackRock, NVIDIA, a16z 등 전 세계 전략투자자들과 금융투자자들이 참여했다.
인프라 · 데브옵스 · Among European Companies That Use a CDN, Nearly 9 in 10 Use Cloudflare
유럽 CDN 사용 기업 89.6%, 클라우드플레어 집중화
Key PointCDN이라는 단일 의존점에 유럽 시장이 90% 가까이 집중되면서, 한 업체의 작은 실수가 수만 개 사이트를 동시에 마비시킬 수 있게 된 구조적 위험이 현실화되고 있다.
핵심 요약
- 유럽의 CDN을 사용하는 44,143개 기업 중 39,547개(89.6%)가 클라우드플레어를 이용하고 있다.
- 아마존이 3,112개로 2위, Fastly가 1,299개로 3위, 아카마이가 396개로 4위다.
- 지난 15개월간 클라우드플레어 장애 3건(11월·12월·2월)이 모두 설정 오류나 자동화 버그로 발생했고, 업계 대부분이 같은 공급자를 사용하면서 개별 장애가 시장 전체 장애로 확대된다.
- 네덜란드(95.6%), 영국(93.2%), 폴란드(92.6%) 등 대부분 국가에서 클라우드플레어 점유율이 80% 이상이다.
- CDN은 웹사이트의 프론트엔드일 뿐이며, 실제 데이터는 백엔드 오리진 서버에 위치하므로 GDPR 준수는 CDN 선택과 무관하다.
보안 · We have a year to fix security everywhere
1년 안에 산업 전역 보안 허점을 메워야 한다
Key Point누구나 원격으로 마음대로 구동할 수 있는 악의 LLM이 실제로 인프라를 대상으로 사용되는 상황이 가까워졌고, 보안 커뮤니티가 대대적인 패치에 나서야 하는 결정적 계기를 제시하기 때문이다.
핵심 요약
- GLM 5.3-flash 같은 저가 오픈웨이트 LLM이 누구나 로컬에서 실행 가능해졌다.
- M5 맥스튜디오 같은 소비자 수준 하드웨어(약 $9,500)로도 초당 45 토큰으로 동작하며, 악의적 필터를 제거한 '어빌리터레이션' 버전이 이미 공개돼 있다.
- GLM 5.3는 CyberGym에서 84.5%, ExploitBench에서 54.4%의 성능을 기록해 실제 공개된 취약점 발견과 악용이 가능한 수준이다.
- 누구나 이 모델로 인터넷의 실제 서비스를 대상으로 지속적으로 취약점을 찾고 악용할 수 있는 상황이 되었다.
- 프로젝트 글래스윙과 데이브레이크 같은 업계 차원의 취약점 패치 이니셔티브를 즉시 추진해야 한다.
AI · 머신러닝 · Mercury 2.5
Mercury 2.5, 저지연 생성형 LLM의 차세대 모델 공개
Key Point저지연이 필수적인 음성·검색·코딩 시스템에서 실제로 검증된 경량 모델이 나왔으며, 기존 고사양 모델 대비 훨씬 저렴하면서도 실제 프로덕션 환경에서 성능을 입증했다.
핵심 요약
- Inception Labs가 확산형(diffusion) 언어모델인 Mercury 2.5를 출시했으며, Mercury 2보다 40% 지능이 향상됐다.
- 초당 1,107개 토큰 생성 속도로 GPT-4o나 Claude Haiku 등 주요 경량 모델과 유사한 성능을 낸다.
- 입력 토큰당 $0.20/백만, 출력 토큰당 $0.75/백만이며 런칭 기념으로 80% 할인된 가격을 제공한다.
- 음성 에이전트(OpenCall 사례), 검색 인프라, 코딩 에이전트 등 저지연이 중요한 프로덕션 워크로드에서 검증됐다.
- Augment Code의 컨텍스트 압축 작업을 Mercury로 전환했을 때 지연 시간 82% 감소, 비용 90% 절감을 달성했다.
- 음성 전용 모델인 Mercury Voice(170ms 이하 TTFT)와 모델 라우팅 도구인 Mercury Router도 공개 예정이다.
보안 · I've factored the RSA keys of a Certificate Authority from the 90s
90년대 인증기관의 512비트 RSA 키 인수분해에 성공
Key Point웹 PKI 초기 시대에 실제로 배포된 암호화 키가 현재 기술로 몇십 시간 내에 깨질 수 있음을 보여주며, 과거 인증 인프라의 보안 수준을 실증적으로 조명한다.
핵심 요약
- 저자가 1990년대 넷스케이프 브라우저에 내장된 E-Certify 인증기관의 512비트 RSA 공개키 2개를 인수분해했다.
- Ryzen 9 5950X 데스크톱에서 CADO-NFS 도구를 사용해 SSL용 키는 32시간, S/MIME용 키는 29시간에 걸려 개인키를 복원했다.
- 1999년 3월 넷스케이프 4.51이 배포한 이 512비트 키는 당시에도 너무 약했고, 실제로 같은 해 RSA-155가 인수분해됐다.
- 넷스케이프는 2002년에 E-Certify 루트를 제거했으나, 2003년 10월 이전 날짜로 설정된 넷스케이프 4.51에서는 이 개인키로 인증서를 발급할 수 있다.
- 저자는 Go로 구식 TLS 서버를 만들어 e-certify.fly.dev에 공개 테스트 사이트를 호스팅 중이며, 모든 도구와 키를 깃허브 저장소에 공개했다.
기타 · Keep Our Servers Running
인터넷 아카이브, 9월 정기 기부금 2:1 매칭 캠페인
Key Point자체 인프라로 웹 아카이브를 운영하는 비영리 기관의 지속 가능성이 기부에 달려 있으며, 한국 사용자도 Wayback Machine을 이용하는 만큼 그 운영 구조를 이해할 필요가 있다.
핵심 요약
- 인터넷 아카이브는 210페타바이트 규모의 디지털 자료를 무료로 제공하기 위해 자체 서버와 인프라를 직접 운영하고 있다.
- 9월 한 달간 월 $25 이상의 정기 기부금을 신청하면 초기 기부금이 2:1로 매칭되어 실질적으로 3배 규모가 된다.
- $25 월간 기부는 $75, $50은 $150, $100은 $300이 되는 방식이다.
- 정기 기부는 서버 유지에 필수적이며, 현재 아카이브는 평균 $25 규모의 기부로 운영되고 있다.
웹 · 프론트엔드 · Bluesky Protocol Services
블루스카이, AT 프로토콜 개발자 인프라 정식 공개
Key PointJetstream v2의 네트워크 리플레이 기능과 공식 SDK 출시가 AT 프로토콜 개발 진입장벽을 크게 낮추는 변화로 평가받고 있다.
핵심 요약
- 블루스카이가 AT 프로토콜 기반 공개 인프라를 체계적으로 제공하는 '블루스카이 프로토콜 서비스'를 출범했다.
- Jetstream v2에서는 '네트워크 리플레이' 기능을 추가해 과거 네트워크 기록을 다운로드한 뒤 실시간 스트림으로 전환할 수 있다.
- TypeScript와 Go용 Jetstream SDK, 레목스 기반으로 재구축된 블루스카이 TypeScript SDK, 업데이트된 HTTP 레퍼런스 등 개발자 도구들을 함께 공개했다.
AI · 머신러닝 · semantica-agi/semantica · Python
규제 산업 위한 투명한 AI 에이전트 기반 마련
Key PointGitHub Trending에서 하루에 845개 스타를 받으며 급부상한 프로젝트로, AI 에이전트의 투명성과 규정 준수를 다루는 실질적 솔루션에 대한 개발자들의 관심을 반영한다.
핵심 요약
- 엔터프라이즈 데이터를 수집해 의미 있는 정보를 추출하고 컨텍스트 그래프와 지식 그래프를 구축한다.
- LLM 없이도 그래프 구성, 추론, 의사결정 추적이 가능한 결정론적 인프라 계층으로 작동한다.
- 금융, 의료, 법률, 정부 등 규제 산업에서 AI 의사결정의 근거를 감시자에게 설명 가능하게 한다.