Engenheiro de Dados Sênior
LIFETIME - AGENTES AUTONOMOS DE INVESTIMENTOS LTDA.São Paulo - SP
1 posição
Não informado
Integral
-
Projetar, desenvolver e evoluir pipelines de dados utilizando Databricks, garantindo alta performance, confiabilidade e eficiência de custos.
-
Manter, estruturar e expandir a arquitetura de dados baseada em Azure Data Lake Gen2, assegurando governança, segurança e rastreabilidade ponta a ponta.
-
Desenvolver e otimizar integrações com a stack de Inteligência Artificial da empresa, incluindo bancos vetoriais e mecanismos de busca semântica já em produção.
-
Construir pipelines robustos que suportem tanto o treinamento e consumo de modelos de IA quanto as camadas analíticas e de Business Intelligence (BI).
-
Atuar como referência técnica do time, apoiando engenheiros júnior e pleno em decisões de arquitetura, revisão de código e disseminação de boas práticas.
-
Colaborar ativamente com times de produto e IA na definição de soluções, participando de discussões técnicas e contribuindo na evolução da arquitetura de dados.
Requisitos Obrigatórios
-
Experiência sólida com Python, sendo a principal linguagem de desenvolvimento.
-
Vivência prática com Databricks, incluindo execução e orquestração de jobs, otimização de clusters e uso de Delta Lake.
-
Conhecimento avançado em SQL, com foco em modelagem de dados, otimização de performance e transformações complexas.
-
Experiência com Azure Data Lake Gen2, incluindo organização de camadas (raw, trusted, refined), controle de acessos e gestão de custos em ambientes escaláveis.
-
Experiência prática com bancos vetoriais e soluções de busca semântica em ambientes de produção.
-
Capacidade de atuar de forma consultiva junto a times de produto e IA, contribuindo com decisões arquiteturais e não apenas execução de tarefas.
Diferenciais
-
Experiência com arquiteturas modernas de dados (Lakehouse, Data Mesh, etc.).
-
Vivência com pipelines voltados para aplicações de IA/ML.
-
Conhecimento em ferramentas de orquestração (como Airflow ou similares).
-
Experiência com práticas de DataOps e CI/CD para dados.
Requisitos
Escolaridade
- Graduação
- Pós Graduação