생의학 문장 인코더를 선택 결정 모델로 변환하는 방법
원제 From Retrieval to Typed Decisions: Calibrated System One Models from Biomedical Sentence Encoders
추천 11댓글 2
Key Point
생의학 자연언어 이해 작업에서 검색 학습의 효과가 모델 구조에 따라 크게 달라진다는 점과 기존 강화학습 방식의 구체적인 한계를 정량적으로 규명했다.
핵심 요약
- 검색 학습으로 훈련된 생의학 문장 인코더를 스키마 제약이 있는 예/아니오 질문에 답하는 타입 결정 모델로 변환하는 SBERT2S1을 제시했다.
- 6개의 모델 쌍에서 제로샷 테스트 결과, 검색 학습이 있으면 내용 있는 선택지 매칭이 개선되는 것을 확인했다.
- 미세조정 후 효과는 모델 구조에 따라 달라졌는데, 검색 사전 정보를 유지하는 PFR 구조는 5개 모델 쌍과 3개 훈련 크기에서 15번 중 10번 개선되었으나, 교차 주의 구조(C)는 5번 악화되고 1번만 개선됐다.
- 교차 주의 구조(C)가 모든 학습 목적 함수에서 PFR을 능가했으며, 공개된 RLCD 레시피는 교차 엔트로피보다 2.5~3.0포인트 낮았다.
- RLCD의 보상 정규화가 잡음이 많은 점수 함수를 3.6~15배 과대 평가하는 것이 주요 원인이며, 편향 없는 리브-원-아웃 추정기를 사용하면 성능 간격이 대부분 복구된다.
- 온도 스케일링 후에는 교차 엔트로피가 다른 목적 함수보다 명확하게 더 잘 보정되지 않았다.
- NLM 인덱싱에서 파생된 243k개 훈련 결정 데이터셋 MEDLINE-S1, 생의학 타입 결정 평가 도구 BIODECIDE, 그리고 모델 코드를 공개했다.