Desarrollaré y arreglaré pipelines ETL de pyspark y transformaciones de datos
Acerca de este Servicio
¿Necesitas ayuda con un trabajo de PySpark que falla, devuelve resultados inesperados o necesita una transformación ETL con un alcance definido? Soy ingeniero informático con experiencia profesional en software e ingeniería de datos. He construido transformaciones de PySpark y flujos ETL por lotes con Azure Databricks y Azure Synapse Analytics, incluido un flujo estilo medallón y la resolución de un pipeline que procesaba aproximadamente 1,7 millones de registros. Puedo arreglar un error específico, implementar una transformación acotada o un flujo ETL por lotes, leer y escribir formatos de datos acordados, añadir verificaciones focalizadas y explicar el código. Antes de hacer el pedido, comparte las versiones de Spark/PySpark, esquemas, una muestra pequeña y segura, el resultado esperado y el contexto de ejecución. Confirmaré el alcance y las suposiciones primero. Nunca compartas contraseñas, tokens o secretos de producción. Los paquetes excluyen despliegue en la nube, configuración de infraestructura, streaming, volúmenes ilimitados y mejoras de rendimiento garantizadas. La optimización cubre solo la revisión y cambios a nivel de código acordados; los resultados dependen de los datos y del tiempo de ejecución.
Herramientas y plataformas:
Otros
FAQ
Traducción automática
¿Qué necesitas de mí para empezar?
Por favor comparte tu objetivo, versiones, esquemas, ejemplos de entrada segura y salida esperada, entorno de ejecución y código existente o detalles del error. Nunca envíes contraseñas, tokens o credenciales de producción. Usa datos sintéticos, anonimizados o que puedas compartir de forma segura.
¿Qué versiones de Spark y PySpark soportas?
Puedo trabajar con una versión especificada siempre que sus APIs y el entorno requerido estén disponibles. Por favor comparte las versiones exactas de Spark, PySpark y Python, además de las restricciones de las bibliotecas, para que pueda confirmar compatibilidad y alcance antes de empezar.
¿Con qué formatos de datos puedes trabajar?
Los formatos comunes incluyen CSV, JSON y Parquet. Las tablas Delta son posibles en una configuración compatible de Spark o Databricks. Por favor comparte tu esquema y una muestra pequeña y segura para confirmar formato y alcance.
¿Puedes depurar o arreglar un pipeline que ya tienes?
Sí. Comparte el código relevante, detalles del error, esquemas y un caso reproducible mínimo con datos seguros. Primero confirmaré que el problema encaja con el paquete seleccionado; investigaciones más amplias o múltiples trabajos requieren un alcance acordado por separado.
¿Incluyes pruebas o documentación?
Básico: verificación focal. Estándar: verificaciones de datos acordadas, y Premium también incluye breve documentación. Las pruebas unitarias o de integración no están incluidas a menos que se acuerde específicamente y sea técnicamente compatible con el proyecto aportado.
¿Puedes trabajar localmente o en un entorno en la nube?
Puedo desarrollar y revisar el código en un entorno local compatible o en el runtime proporcionado por el cliente y revisar código específico de la nube cuando cuentes con los detalles necesarios. El despliegue y la configuración de la infraestructura en la nube quedan excluidos. No compartas credenciales de producción; usa pasos gestionados por el cliente cuando haga falta.
¿Garantizas un rendimiento más rápido o algún incremento de volumen de datos?
No. Los resultados dependen de la forma de los datos, el tiempo de ejecución, la configuración del clúster y los datos de prueba disponibles. Puedo revisar una ruta de código definida e implementar cambios acordados, pero no puedo garantizar mejoras de velocidad, procesar volúmenes ilimitados o optimizar la infraestructura sin acceso y un alcance acordado por separado.
¿Cómo puedo compartir datos de forma segura?
Utiliza muestras sintéticas, anonimizadas o de compartir seguro siempre que sea posible. Comparte solo datos para los que tengas permiso de uso y nunca envíes contraseñas, tokens o credenciales de producción. Podemos acordar los datos mínimos necesarios antes de empezar.
¿Qué cuenta como revisión?
Una revisión es un cambio en el trabajo ya entregado dentro de los inputs, output y comportamiento acordados. Requisitos nuevos, fuentes o transformaciones adicionales, otro trabajo o depuración más amplia quedan fuera del paquete y pueden requerir una oferta personalizada.
