Extracción web

puppeteer / puppeteer

Biblioteca Node.js de automatización de navegadores que controla Chrome y Firefox mediante DevTools Protocol o WebDriver BiDi. Funciona en modo headless por defecto, ideal para web scraping, testing automatizado, capturas de pantalla, generación de PDF y flujos de automatización.

unclecode / crawl4ai

Rastreador web de código abierto optimizado para LLM, convierte contenido web en Markdown limpio para aplicaciones de IA. Incluye procesamiento asíncrono, automatización de navegadores y extracción de datos estructurados.

D4Vinci / Scrapling

Scrapling es un framework adaptativo de web scraping en Python que maneja desde solicitudes únicas hasta rastreo a gran escala. Su parser inteligente reubica elementos automáticamente tras cambios en el sitio, los fetchers integrados evaden sistemas anti-bot como Cloudflare, y el framework de spiders soporta rastreo concurrente con pausa/reanudación, rotación de proxies e integración de IA mediante servidor MCP.

NanmiCoder / MediaCrawler

Crawler multiplataforma de redes sociales compatible con Xiaohongshu, Douyin, Kuaishou, Bilibili, Weibo, Tieba y Zhihu. Basado en Playwright con modo CDP, ofrece búsqueda por palabras clave, extracción de publicaciones y comentarios anidados, perfil de creadores, pool de proxies IP, caché de sesión, nube de palabras de comentarios, WebUI visual y múltiples formatos de almacenamiento como CSV, JSON, Excel, SQLite y MySQL.

scrapy / scrapy

Scrapy es un potente framework de Python para web crawling y scraping, que proporciona un conjunto completo de herramientas para extraer datos estructurados de sitios web de manera eficiente y a gran escala.

cheeriojs / cheerio

The fast, flexible, and elegant library for parsing and manipulating HTML and XML.

gocolly / colly

Elegant Scraper and Crawler Framework for Golang

Y2Z / monolith

⬛️ CLI tool and library for saving complete web pages as a single HTML file