쌓인 기록에서 찾기
무엇을 찾으세요?
날짜를 몰라도 됩니다. 제목·Key Point·요약·태그를 한꺼번에 뒤집니다.
검색 범위부터 2026년 9월 24일 (목)까지932건
8건 · "샘플링"조건 지우기 ×
001▲ 18 · 댓글 0텍스트·이미지·영상·음성을 하나로 이해하는 멀티모달 임베딩 모델 공개Hugging Face 연구팀이 텍스트, 이미지, 영상, 음성을 통합으로 처리하는 Ovis-Embedding을 발표했다.AI · 머신러닝 · Ovis-Embedding: Pushing the Frontiers of Universal Omni-Modal Embeddings
텍스트·이미지·영상·음성을 하나로 이해하는 멀티모달 임베딩 모델 공개

Key Point단일 모달리티 검색의 한계를 극복하고 텍스트-영상, 음성-텍스트 등 크로스 모달 검색이 필요한 개발자와 연구자에게 새로운 기술 선택지를 제공한다.
핵심 요약
- Hugging Face 연구팀이 텍스트, 이미지, 영상, 음성을 통합으로 처리하는 Ovis-Embedding을 발표했다.
- 기존의 분리된 모달리티 타워 대신 공유 멀티모달 백본을 사용해 모든 데이터를 공통 표현 공간으로 인코딩한다.
- Qwen-omni 사전학습 모델을 기반으로 대조 학습과 저랭크 초기화를 통해 학습했다.
- 다양한 멀티모달 데이터 코퍼스와 균질 소스 샘플링으로 학습 효율을 높였으며, 포컬 손실과 임베딩 증류를 적용했다.
- MMEB-v3, MVEB, MAEB 등 주요 벤치마크에서 최고 성능을 달성했으며, 추론 시 저랭크 특성 분해로 임베딩 크기를 유연하게 조절할 수 있다.
002▲ 12 · 댓글 21% 토큰으로 충분할 수도, 그래디언트 추정의 효율성학생 모델 학습 시 교사 모델의 감독을 소수 토큰에만 할당하는 희소 온폴리시 증류(OPD) 기법의 그래디언트 추정 문제를 분석했다.AI · 머신러닝 · 1% of Tokens Can Be Enough: On Gradient Estimation in On-Policy Distillation
1% 토큰으로 충분할 수도, 그래디언트 추정의 효율성

Key Point효율적인 모델 학습을 위해 어떤 토큰에 교사 감독을 할당할지 결정하는 문제에서, 단순한 유용성 평가뿐 아니라 그래디언트 추정 안정성도 고려해야 한다는 실질적 통찰을 제시한다.
핵심 요약
- 학생 모델 학습 시 교사 모델의 감독을 소수 토큰에만 할당하는 희소 온폴리시 증류(OPD) 기법의 그래디언트 추정 문제를 분석했다.
- 다음 토큰 샘플링으로부터 계산한 그래디언트가 노이즈를 많이 포함할 수 있으며, 신호 대 잡음 분해를 기반으로 정보 효율성 비율(IER)을 제안했다.
- IER은 토큰 선택 과정에서 유용성 점수와 결합되어 기존 방식보다 그래디언트 추정 신뢰성을 높인다.
- 수학·의료 추론 작업에서 0.1%~1%의 토큰 예산으로 전체 OPD와 동등하거나 초과하는 성능을 달성했다.
003▲ 116 · 댓글 38Jev AI를 활용한 심볼 단위 채팅 모델 실험Jev API를 이용해 다음 심볼을 단계적으로 예측하는 방식으로 채팅 모델을 만드는 프로젝트다.AI · 머신러닝 · I turned Jev into a (lousy) chatbot
Jev AI를 활용한 심볼 단위 채팅 모델 실험

Key Point각 심볼마다 API를 호출하는 비효율적 방식이지만, Jev 모델을 생성 작업에 활용하는 창의적인 접근법과 여러 샘플링 전략의 성능 비교를 통해 언어 모델의 동작 원리를 이해하는 데 참고할 수 있다.
핵심 요약
- Jev API를 이용해 다음 심볼을 단계적으로 예측하는 방식으로 채팅 모델을 만드는 프로젝트다.
- 사용자 질문과 현재까지의 응답을 받아 다음 심볼의 확률 분포를 반환하도록 Jev에 질문을 반복하며, 샘플러가 그 분포에서 심볼을 하나씩 뽑아낸다.
- choice, bisect, buckets, refine 등 여러 전략과 lower26, ascii, tokens, words1k, bpe5k 등 다양한 알파벳을 조합해 사용할 수 있다.
- hypothesis 프레젠테이션 방식(완성된 전체 텍스트를 옵션으로 제시)이 symbol 방식(개별 심볼만 옵션)보다 정확도를 3배 높이고 입력 토큰을 줄인다.
- 빔 서치로 여러 후보 응답을 동시에 유지할 수 있으며, 158개 테스트를 포함해 오프라인으로 검증된다.
- 실용적이지는 않지만 개념 검증 목적으로, Claude의 도움으로 구현된 실험 프로젝트다.
004▲ 105 · 댓글 26샘플 음악으로 미국 문화 비판하는 네거틀랜드의 46년1980년 창립한 실험음악 집단 네거틀랜드는 샘플링과 발견된 자료를 혼합한 '컬처 재밍' 기법으로 30개 이상의 음반과 라디오 프로그램을 제작했다.기타 · Negativland, Culture Jamming, and the Art of Making Something New
샘플 음악으로 미국 문화 비판하는 네거틀랜드의 46년
Key Point저작권 개혁을 주도한 예술 집단의 46년 활동 경로와 샘플링 미술의 법적·창작적 정당성이 어떻게 변화해왔는지 보여준다.
핵심 요약
- 1980년 창립한 실험음악 집단 네거틀랜드는 샘플링과 발견된 자료를 혼합한 '컬처 재밍' 기법으로 30개 이상의 음반과 라디오 프로그램을 제작했다.
- 1991년 U2의 곡을 샘플링한 음반으로 저작권 침해 소송을 당했으나, 이를 계기로 미국 저작권 개혁 필요성을 알리고 1995년 '공정한 사용' 관련 책을 출판했다.
- 1981년부터 방송된 '오버 더 엣지' 라디오 프로그램은 인터넷 아카이브와 협력하여 4000시간 이상이 무료로 보존·공개되고 있다.
- 멤버들은 의도적으로 음반에 얼굴 사진을 싣지 않으며, 46년간 권력·돈·자본주의·미디어 통제 같은 주제로 '이상한 평행 우주'를 표현해왔다.
- 9월 16일 샌프란시스코 인터넷 아카이브 본부에서 원격 협력 공연을 열며, 마크 호슬러는 1985년부터의 협력자 조 레이데커와 함께 무대에 선다.
005▲ 103 · 댓글 6LLM 강화학습의 '매튜 효과' 문제 진단 및 해결책 제시LLM 강화학습 평가에서 평균 성능 향상이 쉬운 문제 개선에만 치우치고 어려운 문제는 거의 개선되지 않는 '매튜 효과'가 발생한다.AI · 머신러닝 · Learning to solve hard problems in RL for LLMs by never giving up
LLM 강화학습의 '매튜 효과' 문제 진단 및 해결책 제시
Key PointRL 기반 LLM 학습에서 성능 지표가 상승해도 실제로는 어려운 문제 해결 능력은 거의 개선되지 않는 숨은 편향을 공개하고, 계산 효율성을 통해 이 문제를 해결하는 방향을 제안하는 실증 연구이기 때문입니다.
핵심 요약
- LLM 강화학습 평가에서 평균 성능 향상이 쉬운 문제 개선에만 치우치고 어려운 문제는 거의 개선되지 않는 '매튜 효과'가 발생한다.
- 수학, 코딩, 에이전트 작업 등 여러 도메인에서 RL이 초기 성능이 좋은 작업일수록 개선폭이 크고, 원래 풀지 못하던 문제는 개선되지 않는 현상이 반복되었다.
- 더 많은 샘플링(k 값 증가)이 어려운 문제의 드문 정답은 찾지만, 동시에 쉬운 문제의 드문 오답도 증가시켜 학습 효율을 악화시킨다.
- 작은 k값(k=4)이 큰 k값(k=32)보다 어려운 문제 해결에 효과적임을 실험으로 확인했으며, 이는 학습 배치에서 쉬운 문제에 소비되는 계산량을 줄일 때 더 많은 리소스를 어려운 문제에 할당할 수 있기 때문이다.
006▲ 117 · 댓글 53Windows XP의 프로필 사진 선택 알고리즘 공개Windows XP는 GetTickCount() 값을 초기 시드로 하는 RtlRandomEx 난수 생성기를 사용해 기본 프로필 사진을 무작위로 선택했다.기타 · What algorithm did Windows XP use to choose your initial user picture?
Windows XP의 프로필 사진 선택 알고리즘 공개
Key PointWindows XP의 숨겨진 구현 세부 사항을 20년 뒤에 공식 개시한 드물고 흥미로운 기술 역사 기록이며, 현대 알고리즘 설계의 우아함을 보여준다.
핵심 요약
- Windows XP는 GetTickCount() 값을 초기 시드로 하는 RtlRandomEx 난수 생성기를 사용해 기본 프로필 사진을 무작위로 선택했다.
- 한 번의 파일 시스템 접근으로 완료되는 원-패스 알고리즘(저수지 표본추출의 특수 사례)을 적용했다.
- 이 방식은 파일 개수를 먼저 세는 방식과 달리 파일 시스템 호출을 줄이고, 실행 중 디렉토리 내용 변경에 견딜 수 있다.
- 알고리즘은 각 새로운 항목마다 1부터 현재 개수까지의 난수를 생성해 같을 확률로만 선택하는 방식으로 동작한다.
- 병리적 상황을 방지하기 위해 코드는 최대 100개 이미지까지만 샘플링한다.
007▲ 101 · 댓글 34ZX 스펙트럼의 1비트 스피커로 음성 재생하기ZX 스펙트럼의 1비트 비퍼로 간단한 톤과 화음을 재생하는 루틴을 구현했다.하드웨어 · 시스템 · ZX Spectrum: Experimenting with 1-Bit Sound
ZX 스펙트럼의 1비트 스피커로 음성 재생하기
Key Point1980년대 하드웨어로 생각하기 어려운 수준의 음성 재생 기법을 구현한 과정을 상세히 기록했으며, Z80 사이클 최적화 팁은 레트로 컴퓨팅이나 임베디드 시스템 개발자에게 실무 참고 자료가 된다.
핵심 요약
- ZX 스펙트럼의 1비트 비퍼로 간단한 톤과 화음을 재생하는 루틴을 구현했다.
- 펄스 코드 변조(PCM)와 펄스 폭 변조(PWM) 기법을 시도했으며, 1비트 PCM 재생은 성공했지만 음질 왜곡 문제가 있다.
- 스펙트럼의 약 1MHz 메모리 접근 속도로 16kHz 샘플링 재생이 가능하며, 초당 약 2KB의 표본이 필요하다.
- Z80 CPU의 T-스테이트 사이클 수를 정확히 제어해 일정한 타이밍을 유지하는 것이 핵심이다.
- IBM PC와 달리 스펙트럼은 하드웨어 타이머가 없어 사이클 카운팅으로 수동 관리해야 한다.
008▲ 216 · 댓글 48태양계 얼음 달들은 거대한 물의 세계과학 이해의 발전으로 태양계 외곽의 얼음 달들이 단순한 얼음 천체에서 지하 바다를 품은 물의 세계로 재평가됐다.하드웨어 · 시스템 · Icy Moons Are Ocean Worlds
태양계 얼음 달들은 거대한 물의 세계

Key Point태양계 내 생명 탐사의 중심지가 어디인지, 그리고 우리가 어떤 증거들로 이 얼음 달들을 재평가하게 됐는지를 보여주는 과학 발전의 흐름을 담고 있다.
핵심 요약
- 과학 이해의 발전으로 태양계 외곽의 얼음 달들이 단순한 얼음 천체에서 지하 바다를 품은 물의 세계로 재평가됐다.
- 보이저, 갈릴레오, 카시니 탐사선과 우주 망원경 관측을 통해 유로파, 엔셀라두스, 타이탄, 미마스, 칼리스토, 가니메데 6개 달에서 대규모 지하 액체 수역이 확인됐다.
- 목성의 위성 유로파는 자기장 증거로 2000년 지하 바다의 존재가 증명된 첫 번째 후보였으며, 방사선으로 생성된 산소와 과산화물이 바다로 순환할 가능성이 있다.
- 목성 위성 가니메데는 태양계 최대 규모의 바다를 보유했으며 100마일 이상의 얼음층 아래 숨겨져 있고, 허블 우주 망원경의 극광 관측으로 2011년 전 지구적 바다의 존재가 확인됐다.
- 토성의 위성 엔셀라두스는 남반구의 호랑이 줄무늬에서 우주로 거대한 바닷물 기둥을 분출하며, 2008년 카시니 탐사선이 이 분출물을 직접 샘플링해 생명 존재 가능성을 높였다.