Crearé un scraper web en python para sitios con mucho JavaScript y protegidos
Desarrollador web de pila completa
Acerca de este Servicio
Cualquiera puede escribir un script que funcione una vez en su portátil. Estás aquí porque el sitio resistió.
Yo manejo los scrapes que fallan: contenido que solo existe después de que JavaScript se ejecuta, páginas detrás de un desafío, endpoints que empiezan a devolver 403 a mitad de ejecución.
LO QUE MANEJO
Sitios renderizados con JavaScript mediante un navegador sin cabeza real cuando el HTML por sí solo no tiene nada.
Sitios que bloquean scripts ingenuos: retrasos adecuados, encabezados rotados, soporte de proxy integrado desde el principio.
Paginación, filtros, árboles de categorías y páginas de detalles para los campos que solo viven allí.
Salida en el formato que uses: CSV, Excel, Google Sheets, JSON, PostgreSQL o tu API.
SCRAPERS QUE SOBREVIVEN EN PRODUCCIÓN
Las fallas interesantes llegan después: la memoria se filtra hasta que el proceso se termina, los navegadores sin cabeza se acumulan como zombis, un sitio añade un desafío y tu verificación devuelve un 200 feliz en una página muerta. Yo los construyo para resistir: reintentos con retroceso, reinicio en caso de fallo, rotación de logs, alertas en Telegram y verificaciones que comprueban el contenido, no solo los códigos de estado.
No toco logins que no posees ni contenido de pago.
Tecnología:
Python
•
Titiritero
•
scrapy
•
Selenium
•
Beautiful Soup
Técnica:
Automatizado
Mi porfolio
FAQ
Traducción automática
El sitio bloquea bots. ¿Aún así puedes hacerlo?
A menudo sí, con retrasos adecuados, encabezados rotados, un navegador real cuando sea necesario y soporte de proxy integrado. Pero verifico el objetivo antes de que hagas el pedido y te digo si no es realista. No aceptaré el dinero y luego descubriré que no se puede hacer.
¿Seguirá funcionando si el sitio cambia?
Los scrapers fallan cuando el markup del objetivo cambia; eso es cierto de todos los scrapers que se han escrito. Mantengo los selectores en un solo lugar para que una reparación sea rápida, y en Premium recibes una alerta cuando una ejecución no devuelve nada en lugar de recopilar filas vacías silenciosamente.
¿Es legal el scraping?
Los datos públicos recopilados a un ritmo razonable generalmente sí, pero depende de los términos del sitio y de tu jurisdicción, y yo soy desarrollador, no tu abogado. No haré scraping detrás de logins que no sean tuyos ni recolectaré datos personales en contra de los términos de un sitio.
