GPU·CPU 커널 개발을 단순하게, TileLang DSL 오픈소스

핵심 요약

• TileLang은 Python 문법을 기반한 도메인 특화 언어(DSL)로, GPU·CPU·NPU 등 다양한 가속기용 고성능 커널 개발을 간소화한다.
• TVM 컴파일러 인프라 위에 구축되어 있으며, GEMM·FlashAttention·양자화 연산 등 복잡한 연산의 저수준 최적화를 자동으로 처리한다.
• NVIDIA CUDA(SM70~SM120), AMD ROCm/HIP(CDNA/RDNA), Apple Metal, Huawei Ascend 950 NPU, LLVM CPU, 그리고 WebGPU 등 다양한 백엔드를 지원한다.
• 최근 업데이트에서 Ascend 950 NPU 네이티브 코드 생성, Metal 4 협력 텐서 지원, SM120 Blackwell 최적화 경로, 멀티 백엔드 언어 방언 등을 추가했다.
• LSP 구현으로 IDE에서 버퍼 형태·데이터 타입·메모리 스코프·레이아웃 힌팅을 제공하며, 컴파일러 진단 기능도 강화했다.
• DeepSeek V3.2·V4, MLA 디코딩, 희소 주의 집중 등 실제 모델 워크로드용 예제와 최적화 구현을 공개했다.
• H100 기준 MLA 디코딩, FlashAttention, 양자화 행렬 곱셈 등에서 벤치마크 결과를 제시했으며, 상세 벤치마크 스크립트는 별도 저장소에서 관리한다.
• PyPI를 통해 Linux/Windows/macOS 휠 배포하며, 야간 빌드도 제공하고, 소스 빌드는 설치 가이드에 따라 진행할 수 있다.