클로드, 양자 회로 설계를 대폭 개선하다

핵심 요약

• 앤스로픽은 Claude Mythos 5에게 화학, 최적화, 물리 시뮬레이션, 정수론의 8가지 양자 회로 설계 과제를 평문으로 제시하고, 자동 평가기가 정확성을 검증하고 큐빗·게이트 수로 채점하도록 했다.
• Claude는 피드백 루프를 통해 폐쇄형으로 회로를 반복 설계했으며, 8가지 모두에서 이전의 최고 성능 회로보다 큐빗과 게이트 수를 줄인 새로운 설계를 발견했다.
• 첫 번째 사례는 타원곡선 암호 계산의 핵심인 모듈러 역수 문제로, Claude는 divsteps 알고리즘의 가지 정보(branch information)를 저장하지 않고 수치 쌍에서 직접 복원할 수 있음을 발견했다.
• Claude는 먼저 간단한 복원 규칙을 시험했으나 256비트에서 실패하자, divsteps의 동작 원리를 수학적으로 분석해 정확한 복원 공식을 유도하고 Lean으로 형식 검증했다.
• 이를 바탕으로 저장 vs 복원의 트레이드오프를 조정하는 회로 계열을 만들었고, 기존 최소 설계 대비 이전 설계의 12% 더 많은 큐빗으로 17배 적은 게이트를 사용한다.
• 두 번째 사례는 최적화 알고리즘 DQI(Decoded Quantum Interferometry)의 병목인 Reed-Solomon 디코더로, 종전 설계는 입력마다 다른 경로를 따르는 확장 유클리드 알고리즘을 썼지만 양자 회로는 모든 입력을 한 번에 처리해야 한다.
• Claude는 매 라운드 같은 연산을 수행하는 Berlekamp-Massey 디코더로 전환했고, 임시값 저장 대신 현재 상태에서 복원하되 복원 불가능한 예외값만 저장하도록 설계했다.
• 시뮬레이션 4억 3천만 회 실행으로 예외가 거의 발생하지 않음을 확인해 665 큐빗 예약에서 19 큐빗으로 줄였고, 이 세 가지 최적화로 게이트 수를 구글의 이전 설계의 12배 감소시켰다.
• FeMoco 분자 시뮬레이션 회로에서는 분자의 대칭성을 인식해 일부 계산 결과를 재사용했고, 드문 입력만 필요한 비용 높은 성분을 제거하는 식으로 구조적·수학적 통찰을 적용했다.
• Claude의 성공에도 한계가 있었는데, 초반에는 기존의 잘 알려진 접근을 선호하며 보수적이었고, 이를 완화하기 위해 여러 접근을 병렬 개발하고 탐색 확대를 유도했다.
• 양자 회로 설계는 양자 컴퓨터 구축의 일부이며, 오류 정정 코드, 디코더, 하드웨어 제어 등 여러 요소가 상호작용한다는 한계가 있다.
• 저자들은 각 요소를 따로 설계하는 대신 AI가 알고리즘부터 하드웨어까지 모든 것을 함께 최적화해 특정 문제에 맞춘 양자 컴퓨터를 설계할 가능성을 제기했다.