GitHub Trending오픈소스 · 도구

D4Vinci/Scrapling

웹 크롤링 프레임워크 Scrapling, 자동 구조 변화 감지 기능 탑재

원제 D4Vinci/Scrapling

스타 82,267당일 +335Python
Key Point

웹사이트 구조 변화에 자동으로 대응하고 안티봇 우회가 내장된 스크래핑 도구로, 데이터 수집 작업의 유지보수 부담을 크게 줄일 수 있다.

핵심 요약

  • Scrapling은 단일 요청부터 대규모 크롤링까지 처리하는 Python 기반 웹 스크래핑 프레임워크다.
  • 파서가 웹사이트 변화를 학습하고 페이지 업데이트 시 요소를 자동으로 재위치한다.
  • Cloudflare Turnstile을 포함한 안티봇 시스템을 기본적으로 우회할 수 있다.
  • 스파이더 프레임워크로 동시성, 다중 세션 크롤링, 일시중지/재개, 자동 프록시 로테이션을 지원한다.
  • 크롤링 속도가 웹사이트 응답 시간에 자동으로 적응하고, 차단 시작 시 속도를 낮춘다.
AI 요약 안내

AI가 한국어로 정리한 내용입니다. 정확한 정보는 원문을 확인해 주세요.

요약 원칙 ↗