Buscamos um(a) Engenheiro(a) de Dados para atuar em projetos estratégicos de negócios, tecnologia e dados de cliente do setor bancário, contribuindo para a construção, evolução e sustentação de soluções de integração, processamento e disponibilização de dados. O profissional será responsável por desenvolver pipelines de dados eficientes, escaláveis e seguros, garantindo a qualidade, integridade e disponibilidade das informações utilizadas pelas diferentes áreas de negócio. Além do conhecimento técnico, buscamos um profissional com perfil consultivo, boa comunicação e capacidade de interagir diretamente com stakeholders das áreas de negócio, compreendendo suas necessidades e traduzindo-as em soluções tecnológicas. A atuação ocorrerá em um ambiente dinâmico, com grande volume de informações, arquitetura distribuída e utilização de tecnologias modernas, especialmente no ecossistema AWS.
Responsabilidades e atribuições
Projetar, desenvolver, implementar e manter pipelines de dados para extração, transformação, integração e disponibilização de informações. Desenvolver processos de ETL/ELT, garantindo eficiência, escalabilidade, rastreabilidade e qualidade dos dados. Atuar na integração de diferentes fontes de dados, incluindo bancos relacionais, APIs, arquivos estruturados e semiestruturados. Desenvolver scripts e aplicações utilizando Python e SQL, com foco em extração, tratamento, transformação e manipulação de dados. Construir e otimizar soluções de processamento de dados em ambientes cloud, preferencialmente AWS. Participar da definição e evolução de arquiteturas de dados, considerando Data Lakes, Data Warehouses e soluções analíticas. Implementar mecanismos de monitoramento, observabilidade e tratamento de falhas nos pipelines. Aplicar boas práticas de segurança, governança, qualidade e proteção de dados, considerando os requisitos do ambiente financeiro. Identificar oportunidades de automação e melhoria contínua nos processos de engenharia de dados. Realizar levantamento e análise de requisitos diretamente com áreas de negócio, compreendendo processos, necessidades e objetivos. Traduzir requisitos funcionais e necessidades de negócio em especificações técnicas e soluções de dados. Interagir com equipes de desenvolvimento, arquitetura, infraestrutura, segurança e analytics. Documentar soluções, fluxos de dados, regras de transformação e integrações desenvolvidas. Apoiar análises técnicas e funcionais para identificação de inconsistências e oportunidades de melhoria nos dados.
Requisitos e qualificações
Experiência sólida em desenvolvimento utilizando Python para processamento, manipulação e integração de dados. Conhecimento avançado em SQL, incluindo consultas complexas, joins, procedures e otimização de queries. Experiência com bibliotecas Python para tratamento e processamento de dados, como Pandas e PySpark. Experiência com integração de dados por meio de APIs REST, arquivos JSON, CSV e formatos como Parquet. Experiência na construção e manutenção de pipelines ETL/ELT. Conhecimento em modelagem de dados relacional e dimensional. Experiência com bancos de dados relacionais e soluções de armazenamento analítico. Conhecimento de arquiteturas Data Lake e Data Warehouse. Experiência com processamento de grandes volumes de dados. Conhecimento em mecanismos de orquestração e agendamento de pipelines. Familiaridade com conceitos de qualidade, catalogação, linhagem e governança de dados. Experiência no levantamento de requisitos funcionais e técnicos junto a usuários e áreas de negócio. Capacidade de compreender processos de negócio e identificar necessidades relacionadas ao consumo e tratamento de dados. Habilidade para transformar demandas de negócio em soluções técnicas estruturadas. Experiência na documentação de requisitos, regras de negócio e fluxos de integração. Capacidade de conduzir reuniões técnicas e funcionais com diferentes stakeholders.
Diferenciais técnicos
Apache Airflow para orquestração de pipelines. PySpark para processamento distribuído e manipulação de grandes volumes de dados. Python aplicado a engenharia e ciência de dados. Pandas e Numpy para manipulação e análise de dados. SQL avançado para consultas, modelagem e otimização. Experiência com AWS Cloud, incluindo: AWS Glue (ETL/ELT) Amazon Redshift (data warehouse) Consultas em dados armazenados no Amazon S3 Experiência com modelagem dimensional (fatos, dimensões, modelo estrela). Vivência com pipelines de dados e boas práticas de governança. Desejáveis
Experiência no setor financeiro
Familiaridade com ferramentas de visualização (Power BI, Tableau, Looker). Conhecimento de versionamento (Git) e boas práticas de desenvolvimento. Noções de qualidade e catalogação de dados (Data Quality, Data Catalog).
