Construiré una pipeline de datos de producción de código abierto de pila completa con automatización cicd.
Ingeniero de datos
Acerca de este Servicio
¿Buscas soporte flexible en ingeniería de datos, ya sea para una
solución rápida o para construir un pipeline completo? Ofrezco tres niveles de compromiso:
Soporte por hora: solución rápida de errores, tareas pequeñas de Spark/ETL, o consulta
Compromiso a medio tiempo: desarrollo de pipelines o modelos dbt enfocado en 20 horas
Construcción completa de proyecto: configuración end-to-end de lakehouse (más de 50 horas)
Soy un ingeniero de datos con experiencia práctica en construir un lakehouse completo y autoalojado en Kubernetes, procesando aproximadamente 5 millones de filas usando Apache Spark, Apache Iceberg, Trino, dbt-Trino y Google BigQuery.
Lo que entrego:
Ingesta, limpieza y transformación de pipelines ETL con Apache Spark
Verificación de calidad de datos usando PyDeequ
Modelos de capa Gold en dbt-Trino: esquema estrella, Data Vault, OBT, Marts
Orquestación con Dagster y automatización CI/CD
Documentación completa (niveles Standard y Premium)
Envíame un mensaje antes de ordenar para que podamos discutir tus requisitos específicos.
Plataforma de almacenes:
Snowflake
•
BigQuery
•
Databricks
Tipo de proyecto:
Nueva creación
Mi porfolio
FAQ
Traducción automática
P: ¿Trabajas con plataformas en la nube como AWS o GCP?
R: Sí — apoyo a Google BigQuery, AWS S3 y cualquier almacenamiento compatible con S3 como MinIO.
Q: ¿Puedes trabajar con mi infraestructura de datos existente?
R: Sí — puedo integrar con tus bases de datos existentes, almacenamiento en la nube o data warehouse.
¿Proporcionas documentación con el código?
R: Sí — todos los paquetes incluyen documentación completa del código y un informe resumen de entrega.
P: ¿Puedes manejar canalizaciones de transmisión en tiempo real?
R: Sí — trabajo con Apache Flink para transmisión y Spark Structured Streaming para procesamiento en micro-batch.
P: ¿Qué pasa si necesito hacer cambios después del parto?
R: Las revisiones están incluidas en todos los paquetes. Revisiones adicionales están disponibles como extra.

