쌓인 기록에서 찾기
무엇을 찾으세요?
날짜를 몰라도 됩니다. 제목·Key Point·요약·태그를 한꺼번에 뒤집니다.
검색 범위부터 2026년 11월 22일 (일)까지5067건
3건 · "레이어 선택"조건 지우기 ×
001▲ 13 · 댓글 2하이브리드 어텐션 모델 변환 성능 개선하는 FlashMorph2하이브리드 어텐션 모델은 풀 어텐션과 선형 어텐션을 결합해 품질과 효율의 균형을 맞춥니다.AI · 머신러닝 · On-Policy Morphing into Hybrid Attention Models

Key Point하이브리드 어텐션 모델 변환 시 최적의 레이어 선택 방법이 개선되면서 기존 대비 추론 효율을 유지하면서 성능을 높이는 새로운 접근 방식이 제시되었습니다.
핵심 요약
- 하이브리드 어텐션 모델은 풀 어텐션과 선형 어텐션을 결합해 품질과 효율의 균형을 맞춥니다.
- 기존 Transformer를 하이브리드 모델로 변환할 때 정해진 예산 내에서 어느 레이어가 풀 어텐션을 유지할지 선택해야 합니다.
- 기존 FlashMorph는 두 가지 문제가 있습니다: (1) 연속 보간 평가와 실제 이산 하이브리드 계산이 다르고, (2) 가중치가 고정되어 이후 적응 과정을 반영하지 못합니다.
전체 요약 6문장 읽기 → 002▲ 13 · 댓글 2텍스트 거부 신호로 멀티모달 AI 안전성 확보멀티모달 대형 언어 모델(MLLM)의 안전성 강화는 이미지·비디오 등 각 형식별로 새로운 안전 데이터를 수집해야 했고, 수집·배포 과정에서 윤리·법적 문제가 발생했다.AI · 머신러닝 · Harnessing Textual Refusal Directions for Multimodal Safety

Key Point안전 데이터 수집 없이 기존 텍스트 모델의 안전 메커니즘을 이미지·비디오에 재사용할 수 있다는 점이 멀티모달 AI 안전성 구축의 비용과 윤리적 부담을 획기적으로 줄인다.
핵심 요약
- 멀티모달 대형 언어 모델(MLLM)의 안전성 강화는 이미지·비디오 등 각 형식별로 새로운 안전 데이터를 수집해야 했고, 수집·배포 과정에서 윤리·법적 문제가 발생했다.
- 연구팀은 텍스트 LLM에서 추출한 '거부 방향(refusal directions)'이 이미지, 비디오 등 다른 모달리티에도 적용 가능한지 검증했고, 레이어 선택·조종 강도·크로스모달 정렬에 따라 효과가 달라짐을 확인했다.
- MARS(Modality-Agnostic Refusal Steering)라는 학습 없이 작동하는 경량 방식을 제안했으며, 활성화 중심화로 모달리티 불일치를 바로잡고 기하학적 신뢰 영역 내에서 조종 강도를 적응적으로 조절한다.
전체 요약 6문장 읽기 → 003▲ 117 · 댓글 3인코더 레이어 융합 최적화로 이미지 생성-재구성 성능 차이 해소Representation Autoencoder(RAE)는 사전학습된 비전 인코더의 피처를 재구성과 확산 잠재공간으로 재사용해 이미지 생성에 강력한 표현을 통합한다.AI · 머신러닝 · FuseReg: Regularizing Layer Fusion Mitigates the Reconstruction-Generation Gap in Representation Autoencoders

Key PointRAE 기반 이미지 생성 시스템에서 인코더 레이어 선택에 따른 성능 트레이드오프를 정규화 기법으로 해결하는 방법을 제시해, 생성 품질과 재구성 품질을 동시에 개선할 수 있음을 보여준다.
핵심 요약
- Representation Autoencoder(RAE)는 사전학습된 비전 인코더의 피처를 재구성과 확산 잠재공간으로 재사용해 이미지 생성에 강력한 표현을 통합한다.
- 기존 RAE는 어느 인코더 레이어가 생성기와 픽셀 디코더의 공유 잠재공간을 형성할지 결정해야 하는데, 얕은 레이어는 세부 픽셀 정보를 잘 보존하지만 깊은 레이어는 생성 품질이 우수한 트레이드오프가 존재한다.
- FuseReg는 휴리스틱 피처 선택을 인코더 레이어의 무작위 부분집합 학습으로 대체하여 레이어 간 불일치의 민감도를 명시적으로 페널라이즈한다.
전체 요약 6문장 읽기 →