Remote Jobs RockRemote Jobs Rock

Engenheiro de Dados Pl

📅 Aug 12
PythonSQLApache SparkPyspark
Apply Now

📜 Description

  • Desenvolver e evoluir pipelines de dados batch e streaming com Python, Spark e Databricks.
  • Integrar bancos de dados, APIs e serviços AWS.
  • Modelar e transformar dados conforme os padrões de arquitetura e qualidade da plataforma.
  • Monitorar pipelines em produção e investigar falhas, problemas de performance e causas raiz.
  • Participar de code reviews e contribuir para os padrões de engenharia do time.
  • Colaborar com áreas de negócio e aplicar boas práticas de qualidade, segurança, governança e observabilidade.

🛠️ Requirements

  • Python sólido para engenharia de dados, com boas práticas de desenvolvimento, testes e tratamento de erros.
  • SQL, incluindo CTEs, window functions e otimização de queries.
  • Apache Spark / PySpark, com entendimento de particionamento, shuffle, joins, cache e planos de execução.
  • Delta Lake, incluindo MERGE, OPTIMIZE, VACUUM, schema evolution e estratégias de reprocessamento.
  • Databricks, com experiência em Jobs/Workflows e conhecimentos de Unity Catalog.
  • AWS para dados, principalmente S3, IAM e serviços de integração/mensageria.
  • Modelagem dimensional e arquitetura em camadas, incluindo SCD tipos 1 e 2.
  • Git e desenvolvimento via pull request.
  • Experiência com ingestão de bancos relacionais e APIs REST.
  • Experiência no mercado financeiro.
Full job description

Buscamos profissionais que tenham vontade de crescer, colocar a mão na massa e fazer acontecer. Vivemos um momento único, recheado de desafios e oportunidades para agregar ainda mais valor aos nossos clientes. Se você tem esse perfil e essa ambição, inscreva-se nesta vaga e junte-se a nós para construir o futuro do mercado financeiro.

#VemSerGenial

Responsibilities

  • Desenvolver e evoluir pipelines de dados batch e streaming utilizando Python, Spark e Databricks.
  • Construir integrações com bancos de dados, APIs e serviços AWS.
  • Modelar e transformar dados seguindo os padrões de arquitetura e qualidade da plataforma.
  • Monitorar pipelines em produção, atuando na investigação de falhas, performance e causa raiz.
  • Participar de code reviews e contribuir para a evolução dos padrões de engenharia do time.
  • Trabalhar próximo às áreas de negócio para entender requisitos e transformar necessidades em soluções de dados.
  • Garantir boas práticas de qualidade, segurança, governança e observabilidade dos dados.

Requirements

  • Python sólido para engenharia de dados, com boas práticas de desenvolvimento, testes e tratamento de erros.
  • SQL, incluindo CTEs, window functions e otimização de queries.
  • Apache Spark / PySpark, com entendimento de particionamento, shuffle, joins, cache e planos de execução.
  • Delta Lake, incluindo MERGE, OPTIMIZE, VACUUM, schema evolution e estratégias de reprocessamento.
  • Databricks, com experiência em Jobs/Workflows e conhecimentos de Unity Catalog.
  • AWS para dados, principalmente S3, IAM e serviços de integração/mensageria.
  • Modelagem dimensional e arquitetura em camadas, incluindo SCD tipos 1 e 2.
  • Git e desenvolvimento via pull request.
  • Experiência com ingestão de bancos relacionais e APIs REST.
Diferenciais
  • Experiência no mercado financeiro.
  • Structured Streaming.
  • Databricks Asset Bundles e Terraform.
  • CI/CD para pipelines de dados.
  • Delta Lake, incluindo MERGE, OPTIMIZE, VACUUM, schema evolution e estratégias de reprocessamento.


Lead part of the FCP Data Visualization and Reporting team’s migration from on-premises to GCP, refactoring data pipelines and coordinating technical solutions, requirements, estimates, and project updates.

GCPBigqueryIAMDataproc
MMDSmart

Middle Data Engineer

🕒 7 days ago
MMDSmart🤝 B2B

Build and maintain batch and streaming data pipelines, ETL workflows, and data warehouse solutions, improving data quality, reliability, and performance through Python, SQL, BigQuery, and Airflow.

📍 🇵🇱 Poland +5 - Remote?💼 Full-Time🎹 Mid-level🛢️ Data Engineer📢 🇬🇧 English Required
Data EngineeringData PipelinesBatch ProcessingStreaming Data Processing

Trusted by Remote Workers