Crearé scrapers que funcionen las 24 horas del día, los 7 días de la semana, sin parar

Parte de la información se ha traducido automáticamente.

Pakistán

Hablo Inglés, Urdu

Ingeniería de datos con IA, experto en inteligencia de negocio

Después de 3 años en ingeniería de datos, me di cuenta de que el valor real no está en escribir código, sino en convertir datos desordenados en respuestas de negocio. La mayoría de las empresas tienen...
Acerca de este Servicio

Este no es el típico trabajo de web scraping.


Todos los trabajos de scraping entregan un conjunto de datos único y se terminan allí.

Pero, yo construyo plataformas de datos de nivel producción que recopilan, procesan y analizan datos web de forma continua.


Una historia de cliente


El señor Enta, un periodista jubilado, quería comprar un coche usado pero no sabía cómo evaluar el mercado. En lugar de hacer scraping de los listados una sola vez, construimos una plataforma que monitoreaba el mercado de autos usados más grande del continente con más de 500,000 listados en vivo.


El sistema funcionaba las 24 horas del día, los 7 días de la semana en un servidor, recopilando precios históricos, colores, modelos y tendencias del mercado. Al final, ya no miraba datos en bruto. Tenía una visión completa de cómo se comportaba el mercado.


Para hacer que los datos fueran útiles, también construí:

  • Un chatbot de NLP para consultar los datos en inglés sencillo.
  • Un panel de control en Superset para análisis interactivos y visualización de tendencias.


Eso es ingeniería de datos, no solo web scraping.


Pila tecnológica: Python, Playwright, Selenium, BeautifulSoup, Requests, Pandas, PostgreSQL, MongoDB, Redis, Kafka, Airflow, Spark, dbt, Docker, ClickHouse, Superset, AWS.


Si solo necesitas un CSV, muchos gigs pueden hacerlo.


Pero si necesitas una plataforma de datos que siga generando inteligencia de negocio, hablemos de tu proyecto.

Experiencia:

Automatizaciones

Big data

Extracción de Datos

Tecnología:

Amazon Redshift

Apache Hadoop

apache spark

Python

SQL

Mi porfolio

Etiquetas relacionadas