쌓인 기록에서 찾기
무엇을 찾으세요? 날짜를 몰라도 됩니다. 제목·Key Point·요약·태그를 한꺼번에 뒤집니다.
검색 범위 2026년 8월 13일 (목) 부터 2026년 11월 5일 (목)까지 3977건
13건 · "DPO"조건 지우기 ×
001 21:11 ▲ 64 · 댓글 6 추론 단계 줄이되 정확도 유지, LoCo 방법론 공개 대규모 추론 모델은 충분한 정보를 얻은 후에도 계속 '생각하기'로 추론 비용이 많이 든다는 문제가 있다. AI · 머신러닝 · Think Less, Locally: Local Preference Learning for Reasoning Compression
Key Point 추론 단계를 획기적으로 줄이면서도 정확도를 유지하는 방법이 나왔으므로, LLM 운영 비용 절감과 추론 최적화에 실제로 적용할 수 있는 기술이다.
핵심 요약
대규모 추론 모델은 충분한 정보를 얻은 후에도 계속 '생각하기'로 추론 비용이 많이 든다는 문제가 있다. 기존 압축 방법은 전체 추론 궤적에만 초점을 맞췄고, 현재 상태에서 계속 추론할지 멈출지 판단하는 지역적 의사결정을 간과했다. LoCo는 모델이 과도하게 생각하는 상태를 자신의 추론 흔적에서 감지하고, 그 지점부터 짧은 검증된 대안을 생성한 후 DPO로 학습하는 지역적 선호 학습 방법이다. 전체 요약 7문장 읽기 → 002 15:11 ▲ 38 · 댓글 2 에이전트 AI 모델 'Axion 1.0' 오픈소스 공개 Hugging Face가 완전 오픈소스 에이전트 기초 모델 Axion 1.0을 발표했다. AI · 머신러닝 · Axion 1.0: Open Agent Foundation Models, Simplified
Key Point 강력한 에이전트 AI를 단순한 훈련 방식으로 구현할 수 있다는 것을 입증하고 전체 개발 과정을 공개해 오픈소스 에이전트 AI 연구의 진입장벽을 낮혔다.
핵심 요약
Hugging Face가 완전 오픈소스 에이전트 기초 모델 Axion 1.0을 발표했다. 3단계 학습으로 구성된다: 모델 인식 데이터 구성을 통한 자체 추론 능력 개발, 실제 데이터 기반 다양한 작업으로 도구 활용 추론 확장, 강화학습을 통한 장기 추론 강화. 첫 번째 SFT 단계는 모델의 성공적 문제해결 전략을 기반으로 어려운 문제를 합성하고 역대적으로 강화하는 방식을 사용한다. 전체 요약 8문장 읽기 → 003 18:11 ▲ 16 · 댓글 2 대화 모델, 사용자의 방언에 맞춰 응답하도록 학습 사람들은 상대방에 따라 말투를 달리 하지만, 현재의 채팅 모델은 사용자가 비표준 영어나 방언을 써도 표준 영어로만 응답한다. AI · 머신러닝 · Answering in the User's Variety: Calibrated Accommodation Pairs for Post-Training
Key Point AI 모델의 공정성 이슈로, 특정 인종·지역 방언을 상대로 한 은연중 차별이 학습 단계에서 어떻게 발생하는지, 그리고 이를 기술적으로 개선할 수 있는지를 보여준다.
핵심 요약
사람들은 상대방에 따라 말투를 달리 하지만, 현재의 채팅 모델은 사용자가 비표준 영어나 방언을 써도 표준 영어로만 응답한다. 연구팀은 지도 학습(SFT)에서 선호도 최적화(DPO)와 강화학습까지 각 학습 단계에서 모델의 사용자 모방 경향이 어떻게 바뀌는지 추적했다. 10개 오픈 모델에서 학습 후 단계들은 모든 비공식적 표현을 표준화했으나, 응답 확률을 보정한 후에도 DPO는 아프리카계 미국인 영어(AAE)와 싱글리시보다 영국·호주 영어 철자 일치를 선호했다. 전체 요약 7문장 읽기 → 004 00:11 ▲ 147 · 댓글 31 아마존, PHP2Shell 공개 전 악용 탐지…보안 대응 시간의 위기 아마존 위협 인텔리전스가 2026년 10월 17일 MadPot 허니팟에서 PHP2Shell 익스플로잇 시도를 탐지했으며, CVE-2026-109618·109619 공개보다 4일 앞서 발견됐다. 보안 · Amazon identifies Oct 17 PHP2Shell exploitation prior to public disclosure
Key Point 패치 공개 전 익스플로잇 활동이 감지되었고, 임베고 해제 후 수 시간 내 광범위 악용으로 확산된 사례로, 기존의 공개 후 대응 모델이 더 이상 유효하지 않음을 보여준다.
핵심 요약
아마존 위협 인텔리전스가 2026년 10월 17일 MadPot 허니팟에서 PHP2Shell 익스플로잇 시도를 탐지했으며, CVE-2026-109618·109619 공개보다 4일 앞서 발견됐다. 익스플로잇은 익명화 네트워크 IP에서 시작됐고 임베고 기간 중 활동했으나, 공개 전 익스플로잇 정보를 어떻게 확보했는지는 불명이다. 임베고 해제 예정일은 2026년 10월 21일 1400 UTC였으나, 그 전날 0200 UTC부터 이미 여러 개념 증명(PoC) 익스플로잇이 발견됐다. 전체 요약 12문장 읽기 → 005 15:11 ▲ 56 · 댓글 2 다중 보상 학습에서 각 보상을 관련 토큰에만 할당하는 방법 언어모델은 도구 호출의 정확성·형식, 복잡한 지시의 개별 제약 등 여러 검증 가능한 보상으로 동시에 학습된다. AI · 머신러닝 · Each Reward to Its Relevant Tokens: Reward-Specific Token-Level Credit Assignment for Multi-Reward RL
Key Point 언어모델 강화학습에서 여러 보상을 동시에 처리할 때 각 보상이 실제로 영향을 미치는 위치에만 효과적으로 할당하는 방식의 개선으로, 수렴 속도와 성능 모두를 높인다.
핵심 요약
언어모델은 도구 호출의 정확성·형식, 복잡한 지시의 개별 제약 등 여러 검증 가능한 보상으로 동시에 학습된다. 기존의 보상-분리 정규화(GDPO)는 각 보상을 따로 정규화해 보상 조합을 구별하지만, 각 검증기가 몇 위치만 확인함에도 모든 보상의 이점을 전체 응답에 균등하게 분산한다. 이 논문이 제안하는 MRTPO는 보상별로 검증기가 확인하는 정보를 이용해, 각 보상의 이점을 관련 토큰에만 할당한다. 전체 요약 5문장 읽기 → 006 12:11 ▲ 10 · 댓글 1 LLM이 가르치는 과학 생성 AI, 자연어로 약물 설계한다 기초 LLM은 광범위한 화학·생물학 지식을 가진 반면, 흐름·확산 기반 생성 모델은 유효한 배열과 구조를 생산하는 데 필요한 선행 지식을 캡처하는데, 두 능력이 분리되어 있는 문제가 있다. AI · 머신러닝 · LLM-to-Flow Distillation: Teaching Natural Language Goals to Scientific Generators
Key Point LLM의 추론 능력과 도메인 특화 생성 모델의 구조적 타당성을 결합하여 자연어 명령만으로 신약 후보 물질을 설계할 수 있는 방법론이 제시되었기 때문에, 과학 발견 프로세스의 자동화 가능성을 보여주는 중요한 진전이다.
핵심 요약
기초 LLM은 광범위한 화학·생물학 지식을 가진 반면, 흐름·확산 기반 생성 모델은 유효한 배열과 구조를 생산하는 데 필요한 선행 지식을 캡처하는데, 두 능력이 분리되어 있는 문제가 있다. 명시적 보상 함수 없이 자연어로 표현된 발견 목표에 과학 생성 모델을 정렬하는 방법을 연구했다. LLM-to-Flow Distillation(LFD)을 제안하며, 여기서 고정된 LLM이 도메인 특화 생성 모델의 적응형 교사 역할을 한다. 전체 요약 8문장 읽기 → 007 21:11 ▲ 25 · 댓글 2 과거 거리 풍경 복원, 위성 데이터로 세대를 뛰어넘다 도시의 변화를 기록한 역사적 거리 풍경 이미지는 시간 범위가 불균형해 기록 공백이 많은데, 이를 해결하기 위해 CrossTimeEdit 논문은 VIGOR-his 데이터셋을 제시한다. AI · 머신러닝 · CrossTimeEdit: A Decade-Spanning Cross-View Dataset and Reward-Guided Editing for Historical Street-View Generation
Key Point 위성 이미지와 시간 정보를 활용한 역사 거리 풍경 복원 기술로, 도시 아카이브나 도시계획 분야에서 데이터 부족 문제를 해결할 수 있는 새로운 접근 방식을 제시한다.
핵심 요약
도시의 변화를 기록한 역사적 거리 풍경 이미지는 시간 범위가 불균형해 기록 공백이 많은데, 이를 해결하기 위해 CrossTimeEdit 논문은 VIGOR-his 데이터셋을 제시한다. VIGOR-his는 3대륙 11개 도시의 10년 단위 거리 풍경 쿼드러플렛 43,653개를 포함하며, 공간 쌍짓기·일관성 검증·변화 분류·위성 기반 변화 설명 생성 및 검증 등 자동화 파이프라인을 거친다. CrossTimeEdit는 FLUX.2 4B 모델을 기반으로 거리 풍경 생성을 편집 작업으로 재구성하며, 최근 거리 풍경으로 시점과 불변 부분을 제약하고 시간별 위성 차이를 변화 증거로 활용한다. 전체 요약 6문장 읽기 → 008 15:11 ▲ 51 · 댓글 2 법률 AI 평가 프레임워크 'LexReward' 공개 법률 언어모델의 응답 품질을 평가하기 위해 기존의 단순한 판단 방식으로는 법률 분야의 복잡한 요구사항을 충분히 반영할 수 없다는 문제에서 출발한 연구다. AI · 머신러닝 · LexReward: A Taxonomy-Driven Reward Framework for Legal Language Models
Key Point 법률 분야 AI 시스템의 성능을 정밀하게 평가하고 최적화할 수 있는 방법론이 제시되어, 법률 특화 언어모델의 개발 품질을 크게 높일 수 있다.
핵심 요약
법률 언어모델의 응답 품질을 평가하기 위해 기존의 단순한 판단 방식으로는 법률 분야의 복잡한 요구사항을 충분히 반영할 수 없다는 문제에서 출발한 연구다. LexReward는 법률 응답의 품질을 세 차원으로 평가한다: 어휘·문법적 품질을 보는 Style, 법적 주체·사실·법령·판례를 평가하는 Element, 법률 추론의 순서·완성도·정확성·중복 제거를 보는 Chain. 각 차원마다 평가 기준과 품질 수준을 명시한 루브릭(채점 기준표)을 개발했으며, 이를 바탕으로 DPO(Direct Preference Optimization) 훈련과 보상 모델 학습용 쌍 비교 데이터를 구성했다. 전체 요약 6문장 읽기 → 009 15:11 ▲ 20 · 댓글 2 작은 모델이 더 나은 거부 샘플을 만든다 선호도 증류(preference distillation)는 교사 응답을 선택지로, 학생의 자체 생성 응답을 거부지로 삼는데, 이는 자동생성 실패가 가장 유용한 부정 샘플이며 거부 샘플이 학생 규모 이상의 모델에서 와야 한다는 가정에 기초한다. AI · 머신러닝 · Smaller Models, Better Rejects: Preference Distillation Scaling
Key Point LLM 증류 비용의 핵심 병목인 거부 샘플 생성을 더 작은 모델로 대체 가능함을 보여 모델 훈련 효율성을 크게 개선할 수 있기 때문이다.
핵심 요약
선호도 증류(preference distillation)는 교사 응답을 선택지로, 학생의 자체 생성 응답을 거부지로 삼는데, 이는 자동생성 실패가 가장 유용한 부정 샘플이며 거부 샘플이 학생 규모 이상의 모델에서 와야 한다는 가정에 기초한다. 연구 결과 이 두 가정 모두 성립하지 않으며, 7B부터 72B 규모의 학생 모델에서 더 작은 고정 모델이 자체 생성 거부 샘플보다 추론 비용은 덜 들이면서 더 강한 학생을 훈련시킨다. 선형화된 특성 모델에서 Direct Preference Optimization(DPO)의 유한 지평선 유틸리티 상한을 유도해 효과적인 거부 샘플 분포의 특성을 분석했다. 전체 요약 6문장 읽기 → 010 15:11 ▲ 56 · 댓글 2 다중 보상 RL에서 희소 신호까지 균등하게 학습시키는 방법 다중 보상 강화학습은 LLM이 여러 행동 목표를 동시에 만족하도록 훈련하는데, GDPO의 보상별 정규화 방식도 목표마다 학습 진도가 불균형하다는 문제가 있다. AI · 머신러닝 · Make Sparse Rewards Count: Density-Aware Reward Aggregation for Multi-Reward RL
Key Point 다중 보상 학습에서 일부 목표만 우선 학습되는 문제를 밀도 기반의 수학적 분석으로 해결하고, 훈련 효율을 크게 개선한 방법론이다.
핵심 요약
다중 보상 강화학습은 LLM이 여러 행동 목표를 동시에 만족하도록 훈련하는데, GDPO의 보상별 정규화 방식도 목표마다 학습 진도가 불균형하다는 문제가 있다. 연구팀은 '장점 에너지(advantage energy)'—배치 내 보상의 제곱된 장점의 합—를 분석하여, 이 에너지가 '활동 밀도'(보상이 0이 아닌 상대적 장점을 제공하는 롤아웃 그룹의 비율)에 비례함을 증명했다. 이는 배치 단위의 신호 불균형을 드러내고, 보상 기여도 보정의 근거를 제공한다. 전체 요약 7문장 읽기 → 011 09:11 새 버전 Anthropic Python SDK v1.11.0 출시 Anthropic Python SDK가 v1.11.0으로 업데이트되었다. AI · 머신러닝 · anthropics/anthropic-sdk-python@v1.11.0
Key Point Python으로 Anthropic API를 사용하는 개발자들이 SDK 업데이트 내용을 파악하고 지출 관리 기능을 활용하거나 모델 지원 중단에 대응하기 위해 필요하다.
핵심 요약
Anthropic Python SDK가 v1.11.0으로 업데이트되었다. 새로운 기능으로 지출 한도 조회 엔드포인트(list spend limits endpoint)가 API에 추가되었다. Claude Sonnet 4.5 모델이 지원 중단 예정(deprecated)으로 표시되었다. 012 21:10 당일 +141 처음부터 LLM 훈련하기, 모든 코드를 PyTorch로 직접 작성 Attention is All You Need 논문을 기반으로 PyTorch에서 트랜스포머 모델을 처음부터 구현한 튜토리얼 저장소. AI · 머신러닝 · FareedKhan-dev/train-llm-from-scratch · Python
Key Point LLM 개발의 모든 단계를 직접 이해하고 구현하려는 개발자와 연구자에게 명확한 참고 자료가 되어준다.
핵심 요약
Attention is All You Need 논문을 기반으로 PyTorch에서 트랜스포머 모델을 처음부터 구현한 튜토리얼 저장소. 단일 GPU로 수백만~수십억 개 파라미터 규모의 LLM을 훈련할 수 있으며, 데이터 전처리부터 텍스트 생성까지 전체 과정을 다룬다. trl, peft, transformers 같은 외부 라이브러리 없이 모든 알고리즘을 순수 PyTorch로 구현했다. 전체 요약 5문장 읽기 → 013 20:31 당일 +132 Unsloth, 로컬에서 LLM과 확산 모델 학습할 수 있는 데스크톱 앱 공개 로컬에서 LLM, 확산, 임베딩, 오디오 모델을 실행하고 학습할 수 있으며 Kimi K3, DeepSeek-V4, Gemma 4 등을 지원한다. AI · 머신러닝 · unslothai/unsloth · Python
Key Point 로컬 AI 모델 실행·학습을 간편하게 만드는 도구로서 개발자가 클라우드 비용 없이 자체 서버에서 LLM을 운영할 수 있게 해주는 점이 주목받고 있다.
핵심 요약
로컬에서 LLM, 확산, 임베딩, 오디오 모델을 실행하고 학습할 수 있으며 Kimi K3, DeepSeek-V4, Gemma 4 등을 지원한다. 미세조정 시 학습 속도를 2배 빠르게 하면서 VRAM 사용량을 70% 줄일 수 있고 LoRA, QLoRA, GRPO, DPO 등 다양한 훈련 방식을 지원한다. Tauri 기반 데스크톱 앱으로 제공되며 Windows, macOS, Linux 등 여러 플랫폼을 지원하고 Cloudflare를 통한 원격 접근도 가능하다. 
