다국어 안전성 학습을 위한 템플릿 기반 대규모 데이터셋 MSafeTemp 공개
원제 How I Aligned Your Model: Scaling Up Multilingual Safety Training with Templates
추천 10댓글 2
Key Point
저자원 언어 사용자들이 사용하는 AI 모델의 안전성 격차를 해결하는 구체적인 방법이 제시되었고, 영어 기준 테스트만으로는 실제 안전 위험을 놓칠 수 있다는 점이 실증되었다.
핵심 요약
- 언어 모델의 안전성 정렬(safety alignment)이 영어 중심으로 편중되어 저자원 언어의 안전성 성능을 크게 떨어뜨리고 있다.
- 연구팀은 템플릿 기반 증강 파이프라인을 통해 해로운 프롬프트에서 안전한 템플릿을 추출하고, 이를 60개 언어로 번역한 뒤 문화적으로 적절한 실체들로 채워 대규모 거부 및 양성 코퍼스를 생성했다.
- 이렇게 만든 MSafeTemp 데이터셋은 다국어 안전성 정렬과 평가에 활용할 수 있도록 검증되었다.
- 영어 중심 평가만으로는 다국어 안전성을 판단할 수 없음이 드러났다: 영어에서 실패한 공격이 번역 후 성공하기도 하며, 문화적으로 지역화된 변형은 번역만으로는 놓치는 추가 취약점들을 노출시킨다.
- 템플릿을 통한 안전성 학습 데이터 증강은 더 높은 다양성과 품질을 제공하여 영어 이외의 언어에서도 안전성 성능을 향상시킨다.
- MSafeTemp와 파이프라인은 저대표 문화권을 위한 더 안전하고 책임감 있는 모델 개발을 촉진하는 것을 목표로 한다.