대화 모델, 사용자의 방언에 맞춰 응답하도록 학습
Key Point
AI 모델의 공정성 이슈로, 특정 인종·지역 방언을 상대로 한 은연중 차별이 학습 단계에서 어떻게 발생하는지, 그리고 이를 기술적으로 개선할 수 있는지를 보여준다.
핵심 요약
- 사람들은 상대방에 따라 말투를 달리 하지만, 현재의 채팅 모델은 사용자가 비표준 영어나 방언을 써도 표준 영어로만 응답한다.
- 연구팀은 지도 학습(SFT)에서 선호도 최적화(DPO)와 강화학습까지 각 학습 단계에서 모델의 사용자 모방 경향이 어떻게 바뀌는지 추적했다.
- 10개 오픈 모델에서 학습 후 단계들은 모든 비공식적 표현을 표준화했으나, 응답 확률을 보정한 후에도 DPO는 아프리카계 미국인 영어(AAE)와 싱글리시보다 영국·호주 영어 철자 일치를 선호했다.