여러 AI 모델을 조합해 편향 제거, 'CBM' 프레임워크 제시
Key Point
LLM이 금융·보건·정부 같은 중요 분야에 배치되면서 편향 제거가 시급한데, 단일 모델 개선만으로는 한계가 있다는 점과 여러 모델을 조합하는 새로운 해결책의 효과를 실증 데이터로 보여주기 때문이다.
핵심 요약
- 공중보건, 금융, 정부 등에 배치되는 대규모 언어모델(LLM)은 정확성과 사회적 가치 정렬이 모두 필요하지만, 학습 데이터에 내재된 편향을 지속하거나 증폭시키는 문제가 있다.
- 기존 자기 검열(self-debiasing) 방식은 단일 모델의 내재 지식만 활용해 깊숙이 박힌 고정관념 해결에 부족하다.
- 연구진은 CBM(Collective Bias Mitigation)이라는 프레임워크를 제안했으며, 이는 세분화된 모델 행동을 학습하고 서로 다른 LLM 간 지식 공유를 촉진해 편향을 완화한다.