Buscamos um(a) Arquiteto(a) de Dados para apoiar a Diretoria Técnica e a equipe que sustenta o ambiente. O objetivo é deixá-lo estável, monitorado, integrado aos sistemas internos e financeiramente eficiente, aplicando boas práticas de mercado.
Não é um papel de desenvolvimento de pipelines de negócio: é engenharia e governança de plataforma, com influência técnica e interação frequente com a liderança. Você atuará junto ao Arquiteto de Soluções Databricks responsável pela conta.
Responsibilities
- Revisar e evoluir a arquitetura do Databricks (workspaces, metastore, Unity Catalog, contas e ambientes), com recomendações claras e fundamentadas
- Definir e aplicar padrões de infraestrutura como código para toda a plataforma
- Desenhar e revisar a rede: VNet injection, subnets, NSGs, Private Link/Private Endpoints, DNS, rotas, firewall/NVA e conectividade on-premises (ExpressRoute/VPN)
- Definir storage (ADLS Gen2, containers, external locations, credenciais e Managed Identities), resource groups, subscriptions, tags e Azure Policy
- Cuidar de identidade e acesso: Entra ID, SCIM, grupos, service principals e RBAC
- Implantar observabilidade da plataforma e dos workloads (system tables, métricas, logs, alertas e dashboards) e integrar o Databricks a ITSM, SIEM, monitoramento corporativo, catálogos e identidade
- Estruturar runbooks, SLAs/SLOs, gestão de incidentes e análise de causa raiz
- Preparar o ambiente para continuidade de negócio: backup, DR e estratégia de recuperação
- Definir e implantar CI/CD para notebooks, jobs, pipelines e infraestrutura (Databricks Asset Bundles, Terraform, Azure DevOps ou GitHub Actions), com promoção entre ambientes, versionamento, testes e quality gates
- Criar templates e golden paths para as equipes de dados
- Construir visibilidade de custos (system tables de billing, tags, budgets, chargeback/showback) e apresentar a evolução de custo e eficiência aos gestores de forma executiva
- Fazer right sizing de clusters, SQL Warehouses e jobs (cluster policies, autoscaling, serverless, escolha de instâncias) e identificar desperdícios e economias (Predictive Optimization, Liquid Clustering, otimização de jobs, reservas e commit)
- Aplicar boas práticas de segurança (criptografia, segregação de ambientes, gestão de segredos, auditoria e conformidade) e apoiar a governança de dados com Unity Catalog (permissões, lineage, masking e row filters).
Requirements
- Experiência comprovada em projetos de grande porte: ter desenhado, implantado e sustentado ambientes Databricks de escala corporativa em produção (serão solicitados exemplos concretos: tamanho do ambiente, usuários, workloads e desafios resolvidos)
- Conhecimento profundo de Databricks: workspaces, Unity Catalog, compute (clusters, pools, SQL Warehouses, serverless), Jobs/Lakeflow, Delta Lake, system tables e administração de conta
- Conhecimento avançado de Azure aplicado ao Databricks: rede (VNet, Private Link, DNS, firewall), ADLS Gen2, resource groups, Entra ID, Azure Policy e Key Vault
- Experiência prática com Terraform (providers Databricks e Azure) e CI/CD (Azure DevOps, GitHub Actions ou equivalente)
- Experiência com monitoramento e observabilidade (Azure Monitor, Log Analytics, Grafana, Datadog ou similar) e integração com ferramentas corporativas
- Experiência com FinOps e otimização de custos em nuvem e em Databricks
- Boa comunicação com times técnicos e liderança, capaz de explicar decisões técnicas e trade-offs a públicos executivos
- Português fluente e inglês técnico para leitura de documentação
- Disponibilidade para presença no cliente cerca de 1x por semana (negociável)
Diferenciais
- Certificações Databricks (Data Engineer, Platform Administrator, Architect) e/ou Azure (AZ-104, AZ-305, AZ-500, DP-203)
- Experiência em setores regulados (financeiro, seguros, saúde, setor público)
- Migração de plataformas legadas (Hadoop/Cloudera, data warehouses on-premises) para Databricks
- Segurança avançada e conformidade (LGPD e regulações setoriais)
- Cargas de ML/IA em produção (MLOps, Model Serving) do ponto de vista de plataforma
- Vivência em Platform Engineering e Center of Excellence
