쌓인 기록에서 찾기
무엇을 찾으세요?
날짜를 몰라도 됩니다. 제목·Key Point·요약·태그를 한꺼번에 뒤집니다.
검색 범위부터 2026년 10월 30일 (금)까지3636건
3건 · "모델 감시"조건 지우기 ×
001▲ 149 · 댓글 2로봇 제어 성능 높이는 물리 역학 이해 모델 PDRVLA로봇의 시각·언어 명령 처리 모델(VLA)이 물리 역학을 충분히 이해하지 못하는 문제를 해결하기 위해 PDRVLA를 개발했다.AI · 머신러닝 · PDRVLA: A Vision-Language-Action Model with Physical Dynamics Representations
Key Point로봇 제어 시뮬레이션에서 최고 수준의 성공률을 달성한 새로운 방식이 기존 비디오 생성 방식의 지연 문제를 해결하고 공개 데이터만으로 학습 가능함을 보여준다.
핵심 요약
- 로봇의 시각·언어 명령 처리 모델(VLA)이 물리 역학을 충분히 이해하지 못하는 문제를 해결하기 위해 PDRVLA를 개발했다.
- 기존 비디오 세계 모델은 동역학을 포착하지만 미래 프레임을 생성해야 해 제어 지연이 발생하는데, PDRVLA는 가벼운 물리역학 모듈로 온라인 비디오 생성 없이 행동 생성을 조건화한다.
- 이 모듈은 미래 RGB, 깊이, 광학 흐름(optical flow) 특성을 직접 예측하며, 동결된 사전 학습 비디오 세계 모델을 통해 보조 감시를 받는다.
전체 요약 6문장 읽기 →AI · 머신러닝 · AI Models Can Provably Hide Arbitrary Capabilities
Key Point능력 평가는 위험한 AI 배포를 막기 위한 핵심 도구인데, 이 논문이 수학적으로 감시를 우회하는 기법을 보여주면서 AI 안전 검증 방식의 근본적 한계를 제기합니다.
핵심 요약
- 능력 평가는 위험한 모델 동작을 배포 전에 발견하기 위한 것이지만, 숨겨진 능력을 끌어낼 수 있다는 가정에 의존한다.
- 연구팀은 백도어 공격으로 암호화된 신경망을 모델 가중치에 삽입하고, 비밀 트리거를 받을 때만 복호화·실행하는 방식을 제시했다.
- 디지털 로커를 이용해 이 숨겨진 회로는 암호 이론적 가정 하에서 모델 가중치에 완전히 접근하더라도 추출·해석이 원칙적으로 어렵다.
전체 요약 7문장 읽기 →AI · 머신러닝 · Selecting The Most Informative Tokens in Natural Language Autoencoders
Key Point언어 모델의 잠재된 위협을 효율적으로 감시하려면 어느 부분을 먼저 검사할지 알아야 하는데, 이 연구가 전체 5%의 토큰만으로도 대부분의 위협을 포착할 수 있는 방법을 제시해 모델 감시의 실용성을 높입니다.
핵심 요약
- 언어 모델의 내부 활성화를 읽을 수 있는 설명으로 변환하는 자연언어 오토인코더에서, 모든 토큰 위치를 설명하는 것은 비용이 크므로 어느 위치를 감시해야 할지 연구했다.
- 프롬프트 인젝션과 은폐 공격에 대해 470만 개의 설명으로 실험한 결과, 모델 계산 신호보다 채팅 구조만으로 학습한 랭커가 모델 순전파 없이도 더 관련성 높은 설명을 선택했다.
- 4개 데이터셋 중 3개에서 전체 위치의 5% 만 설명해도 모든 위치를 설명했을 때의 성공률을 거의 유지했으며, 성공은 위협 관련 설명을 얻는 것을 의미한다.
전체 요약 5문장 읽기 →