쌓인 기록에서 찾기
무엇을 찾으세요?
날짜를 몰라도 됩니다. 제목·Key Point·요약·태그를 한꺼번에 뒤집니다.
검색 범위부터 2026년 10월 30일 (금)까지3636건
2건 · "표 데이터"조건 지우기 ×
001▲ 10 · 댓글 2사전학습 데이터의 어휘 흔적이 모델 성능에 미치는 영향제로샷 벤치마크 성능이 사전학습 말뭉치와 벤치마크 목표 간의 단어 수준 정렬에 얼마나 의존하는지 연구한 논문이다.AI · 머신러닝 · The Lexical Imprint of Pre-training Data
Key Point사전학습 말뭉치의 어휘 특성이 모델의 제로샷 성능에 직접적인 영향을 미친다는 인과관계를 실증적으로 입증하며, 데이터 선택과 라우팅을 통한 성능 최적화의 가능성을 제시한다.
핵심 요약
- 제로샷 벤치마크 성능이 사전학습 말뭉치와 벤치마크 목표 간의 단어 수준 정렬에 얼마나 의존하는지 연구한 논문이다.
- 단어 단위 유니그램 교차 엔트로피(UCE)라는 토크나이저 무관의 모델 자유 지표를 제안해 참조 말뭉치와 목표 벤치마크 간 어휘 정렬을 측정한다.
- 우도 학습은 사전학습 말뭉치로부터 모델의 예측 분포를 형성하며, 우도 기반 평가의 제로샷 점수는 그 말뭉치와 벤치마크 사이의 어휘 정렬에 부분적으로 의존한다.
전체 요약 8문장 읽기 →AI · 머신러닝 · TabFM: A Zero-Shot Foundation Model for Tabular Data
Key Point표 형식 데이터 분석에서 AutoML이나 데이터셋별 튜닝 없이도 영점 샷으로 작동하는 기초 모델이 등장함으로써, 기존의 번거로운 표 데이터 머신러닝 워크플로우가 어떻게 단순화될 수 있는지 보여준다.
핵심 요약
- Hugging Face에서 표 형식 데이터 예측을 위한 기초 모델 TabFM을 공개했다.
- TabFM은 4억 개 파라미터를 가진 모델로, 지도학습을 문맥 내 학습(in-context learning)으로 형식화해 단일 전진 패스로 보정된 영점 샷 예측을 생성한다.
- 모델은 구조적 인과 모델(structural causal models)로 생성한 합성 테이블로만 학습되어 실제 데이터에 영점 샷 전이가 가능한 일반화된 표현을 학습했다.
전체 요약 5문장 읽기 →