Bolsa para Engenheiro(a) de Dados Pleno - Curadoria de Dados

Estamos selecionando um(a) bolsista para a área de Engenharia de Dados, nível Pleno, que integrará a equipe do Núcleo de Curadoria de
Dados do Centro de Integração de Dados e Conhecimentos para Saúde
(CIDACS/IGM/Fiocruz Bahia), localizado no Parque Tecnológico da Bahia. Esta bolsa tem como objetivo contribuir para o desenvolvimento de pesquisas em saúde.

O(a) bolsista atuará na
estruturação, no desenvolvimento e na automatização de fluxos e pipelines de
dados, bem como em atividades de inspeção, validação, padronização,
harmonização, documentação e avaliação da qualidade de grandes bases de dados
utilizadas em pesquisas.

Também contribuirá para a evolução
e a sustentação da arquitetura do Data Lake, com foco em governança,
versionamento, linhagem, qualidade, segurança e rastreabilidade dos dados, além
da produção de metadados, dicionários e relatórios técnicos e da disponibilização
segura de datasets.

Responsabilidades e atribuições

Desenvolver,
automatizar, manter e aprimorar pipelines de dados em ambiente on-premises

• para o processamento de grandes volumes de dados;

Projetar
e implementar soluções de ETL/ELT para ingestão, transformação,

• integração, validação e disponibilização de dados;

Desenvolver
pipelines utilizando linguagens, ferramentas e padrões compatíveis com a

• arquitetura institucional e com os requisitos de cada projeto;

Implementar
testes, registros de execução, monitoramento e mecanismos de tratamento de
falhas, assegurando a qualidade, a rastreabilidade e a reprodutibilidade

• dos processos;

Produzir
metadados técnicos estruturados, padronizados e processáveis por máquina,

• favorecendo a catalogação, a interoperabilidade e a automação;

Participar
das atividades de inspeção, perfilamento, validação, descrição,
padronização, harmonização, mapeamento e avaliação da qualidade de bases

• de dados e datasets utilizados em pesquisas;

Elaborar
e atualizar dicionários de dados, registros de versionamento, linhagem,

• proveniência e histórico das bases;

Contribuir
para a evolução e a sustentação da arquitetura do Data Lake e dos

• ambientes de produção de dados;

Automatizar

• atividades e controles relacionados aos processos de curadoria de dados;

Avaliar,
propor e implementar tecnologias que contribuam para a eficiência, a

• segurança e a melhoria contínua dos processos de curadoria;

Atuar
de forma integrada com as equipes de Curadoria, Produção de Dados,

• Segurança da Informação, Tecnologia da Informação e Pesquisa;

Elaborar
documentação e relatórios técnicos periódicos sobre as atividades,

• soluções e resultados produzidos;

Participar
de reuniões, apresentações e sessões técnico-científicas relacionadas aos
projetos e às atividades institucionais.

Requisitos e qualificações

• Ensino superior completo, em nível de bacharelado ou curso superior de tecnologia, em Ciência da Computação, Engenharia da Computação, Sistemas de Informação, Ciência de Dados, Informática ou áreas correlatas
• Experiência em Engenharia de Dados e no desenvolvimento, automação e sustentação de pipelines de dados
• Experiência com processos de ETL/ELT, contemplando ingestão, transformação, validação, integração e disponibilização de dados
• Conhecimento avançado de SQL
• Experiência com Python e Shell Script/Bash
• Experiência no desenvolvimento, execução e otimização de jobs utilizando Apache Spark
• Experiência com ferramentas de orquestração de pipelines e fluxos de dados
• Conhecimento de arquiteturas de Data Lake e de tecnologias de armazenamento distribuído e de objetos, especialmente MinIO e HDFS
• Conhecimento de formatos de dados estruturados e semiestruturados, como CSV, JSON e Parquet
• Experiência com sistemas operacionais Linux
• Experiência com práticas de versionamento de código utilizando Git
• Conhecimento de testes, monitoramento, qualidade, versionamento, linhagem e rastreabilidade de dados
• Conhecimento de produção e gestão de metadados e dicionários de dados
• Inglês intermediário para leitura e interpretação de documentação técnica. Diferenciais

• Experiência com Elasticsearch
• Experiência em ambientes on-premises de processamento de grandes volumes de dados
• Conhecimento de segurança da informação, governança de dados e proteção de dados pessoais
• Experiência com dados administrativos governamentais ou dados de saúde
• Conhecimento de padrões de interoperabilidade em saúde, como OMOP e FHIR
• Experiência com ferramentas de catalogação de dados e metadados.* A ausência dos requisitos diferenciais não impede a candidatura à vaga
• contudo, esses requisitos serão considerados como critérios de avaliação.

Informações adicionais

O Centro de Integração de Dados e Conhecimentos para Saúde (Cidacs/Fiocruz Bahia) tem despertado o interesse da comunidade científica e de gestores públicos. Com uma equipe multidisciplinar e um ambiente voltado à inovação e à criatividade, o Centro desenvolve pesquisas em saúde pública que contribuem para a geração de conhecimento e de evidências científicas por meio da integração e da vinculação de grandes bases de dados.
Para mais informações, acesse o site do Cidacs.
O Cidacs está localizado no Parque Tecnológico da Bahia, no Edifício Tecnocentro, em Salvador. Consulte as orientações de acesso e localização