D4Vinci/Scrapling
웹 크롤링 프레임워크 Scrapling, 자동 구조 변화 감지 기능 탑재
원제 D4Vinci/Scrapling
스타 82,267당일 +335Python
Key Point
웹사이트 구조 변화에 자동으로 대응하고 안티봇 우회가 내장된 스크래핑 도구로, 데이터 수집 작업의 유지보수 부담을 크게 줄일 수 있다.
핵심 요약
- Scrapling은 단일 요청부터 대규모 크롤링까지 처리하는 Python 기반 웹 스크래핑 프레임워크다.
- 파서가 웹사이트 변화를 학습하고 페이지 업데이트 시 요소를 자동으로 재위치한다.
- Cloudflare Turnstile을 포함한 안티봇 시스템을 기본적으로 우회할 수 있다.
- 스파이더 프레임워크로 동시성, 다중 세션 크롤링, 일시중지/재개, 자동 프록시 로테이션을 지원한다.
- 크롤링 속도가 웹사이트 응답 시간에 자동으로 적응하고, 차단 시작 시 속도를 낮춘다.
저장소 보기 ↗github.com