1개 VM에서 1500만 개 웹서버 돌리기

Key Point
커널 네트워크 스택 대신 smoltcp와 DPDK/AF_XDP로 전환하면 극한의 메모리 제약 하에서도 대규모 동시 접속을 처리할 수 있음을 보여주는 사례로, 고성능 인프라 엔지니어링의 최적화 기법을 배울 수 있다.
핵심 요약
- 기본 웹서버는 listen, accept, recv, send, close 다섯 가지 syscall로 작동하며 약 6만5천 RPS를 처리한다.
- 1500만 개 웹서버를 10GB RAM과 1개 CPU 코어로 운영하려면 먼저 포트 부족 문제를 해결해야 하는데, TCP 포트는 u16 범위(최대 6만5천)로 제한되어 있다.
- IPv6 서브넷(2001:db8:1234:5678::/64 등)을 활용하면 각 서버가 고유 IP 주소를 가질 수 있으므로 같은 포트를 반복 사용할 수 있다.