다른 언어모델 간 심볼 공유로 학습 없이 정보 전달

핵심 요약

• 다중 에이전트 시스템에서 언어모델들이 협업할 때 내부 상태를 공유하려면 보통 학습된 번역기나 모델 호환성 가정이 필요하다.
• SYNC(Symbol-Indexed Neural Communication)는 공유 단어 리스트의 인덱스를 주고받는 방식으로 세밀 조정 없이 이질적인 모델들을 연결한다.
• 발신 모델은 질문을 보지 않고 자신이 볼 수 있는 설명만으로 객체마다 단어를 선택해 인덱스를 보내고, 수신 모델은 자신의 활성화에서 한 번 계산한 단어 방향 벡터를 이용해 숨겨진 상태에 사실을 기록한다.
• 한 속성을 두 객체 사이에 바꾼 뒤 변경 전후로 각각 정답을 맞히는 4개 질문 테스트로 평가했다.
• 4개 계열 5종의 새로운 수신 모델 9개와 발신 모델 3개로 시험한 결과, 새로운 장면에서 4문제 모두 정답률이 72.0~98.3%에 달했으며 중간층 기록 방식보다 최대 96 포인트 높았다.
• 가장 큰 수신 모델 2개는 순수 텍스트 통신 수준에 맞췄다.
• 학습 없이도 메시지에 모든 사실을 나열하면 새로운 배치에서 89.6~100% 성공률을 유지했다.
• 다중 토큰 심볼을 쓴 랜드마크 작업에서 메시지 없을 때는 0%였으나 메시지 있을 때는 23.9~64.0% 성공률을 보였다.
• 임무 없는 프로브로 각 새로운 수신 모델이 사용할 수 있는 깊이를 미리 예측했고 45개 사례 모두 적중했다.
• 결과는 공유 단어 인덱스와 수신자별 방향 벡터만으로도 추가 학습 없이 모델 계열 간 선택적인 사실 활용이 가능함을 보여준다.