쌓인 기록에서 찾기
무엇을 찾으세요?
날짜를 몰라도 됩니다. 제목·Key Point·요약·태그를 한꺼번에 뒤집니다.
검색 범위부터 2026년 11월 22일 (일)까지5067건
3건 · "activation steering"조건 지우기 ×
001▲ 17 · 댓글 2확산 트랜스포머의 RL 튜닝은 사실 활성화 조정일 뿐확산 트랜스포머의 강화학습(RL) 사후 학습이 시각 품질, 텍스트 렌더링, 구성 정확도를 크게 개선한다.AI · 머신러닝 · RL Post-Training in Diffusion Transformers Is Activation Steering

Key Point확산 모델의 성능 개선이 실제로는 복잡한 학습이 아니라 간단한 선형 시프트로 대부분 설명되며, 이는 RL 튜닝의 작동 방식에 대한 근본적인 이해를 제시한다.
핵심 요약
- 확산 트랜스포머의 강화학습(RL) 사후 학습이 시각 품질, 텍스트 렌더링, 구성 정확도를 크게 개선한다.
- 논문은 이러한 개선이 복잡한 입력 의존적 변환 학습이 아니라 간단한 입력 독립적 시프트로 대부분 설명할 수 있다는 가설을 검증했다.
- SD3.5-M에서 RL-튜닝된 LoRA(1,880만 파라미터)의 65배 적은 파라미터(29만)를 가진 고정 조향 벡터 세트를 모든 프롬프트·토큰·샘플링 시드에 동일하게 적용했다.
전체 요약 7문장 읽기 → 002▲ 14 · 댓글 1확산 언어 모델의 취약점: 피드백 제어로 편향 주입 공격마스크드 확산 언어 모델(dLLM)은 토큰을 여러 번 재예측하면서 반복적으로 디노이징하므로, 각 토큰이 확정되기 전에 생성 확률이 여러 단계에서 노출된다.AI · 머신러닝 · Noise Out, Bias In: Targeted Bias Injection in Diffusion Language Models via Closed-Loop Activation Steering

Key Point마스크드 확산 언어 모델이 기존 자동회귀 모델과 달리 여러 단계에서 답변을 노출하는 특성을 악용한 새로운 공격 벡터가 발견되었으며, 피드백 제어로 편향 주입 효과를 크게 증폭할 수 있다는 점이 주목할 만하다.
핵심 요약
- 마스크드 확산 언어 모델(dLLM)은 토큰을 여러 번 재예측하면서 반복적으로 디노이징하므로, 각 토큰이 확정되기 전에 생성 확률이 여러 단계에서 노출된다.
- 연구진은 내부 활성화에 접근 가능한 공격자가 이러한 디노이징 궤적을 악용해 모델을 특정 인구통계학적 답변으로 유도하는 '표적 편향 주입' 공격을 개발했다.
- 공격은 비례-적분(PI) 제어기를 사용해 디노이징 과정 중 목표 답변 확률을 추적하고, 조향 벡터의 강도를 실시간으로 조정한다.
전체 요약 7문장 읽기 → 003▲ 46 · 댓글 2언어모델의 성격을 자유도로 조절하는 기법 제시activation steering에서 개입 강도를 조절하는 계수를 설정할 수 있지만, 원하는 수준의 성격 표현을 얻으려면 행동 척도가 필요하다는 문제를 다룬다.AI · 머신러닝 · Persona Dosing: Calibrated Activation Steering for Graded Trait Control

Key Pointactivation steering을 통한 성격 제어의 정확도 문제를 정량적으로 해결하는 실제 방법을 제시해, 대형 언어모델의 세밀한 행동 제어가 가능해진다.
핵심 요약
- activation steering에서 개입 강도를 조절하는 계수를 설정할 수 있지만, 원하는 수준의 성격 표현을 얻으려면 행동 척도가 필요하다는 문제를 다룬다.
- PersonaDose는 특정 성격 설명과 요청한 평균 강도를 통해 언어모델을 제어하는 방식을 제시한다.
- 공유 controller를 성격 응답에 맞춰 특화한 후, 측정된 특성 표현에 대해 흐름 시간을 보정하는 두 단계로 작동한다.
전체 요약 8문장 읽기 →