Bolsa para Engenheiro(a) de Dados Pleno - Curadoria de Dados

Estamos selecionando um(a) bolsista para a área de Engenharia de Dados, nível Pleno, que integrará a equipe do Núcleo de Curadoria de Dados do Centro de Integração de Dados e Conhecimentos para Saúde (CIDACS/IGM/Fiocruz Bahia), localizado no Parque Tecnológico da Bahia. Esta bolsa tem como objetivo contribuir para o desenvolvimento de pesquisas em saúde.

O(a) bolsista atuará na estruturação, no desenvolvimento e na automatização de fluxos e pipelines de dados, bem como em atividades de inspeção, validação, padronização, harmonização, documentação e avaliação da qualidade de grandes bases de dados utilizadas em pesquisas.

Também contribuirá para a evolução e a sustentação da arquitetura do Data Lake, com foco em governança, versionamento, linhagem, qualidade, segurança e rastreabilidade dos dados, além da produção de metadados, dicionários e relatórios técnicos e da disponibilização segura de datasets.

Responsabilidades e atribuições

• Desenvolver, automatizar, manter e aprimorar pipelines de dados em ambiente on-premises para o processamento de grandes volumes de dados;
• Projetar e implementar soluções de ETL/ELT para ingestão, transformação, integração, validação e disponibilização de dados;
• Desenvolver pipelines utilizando linguagens, ferramentas e padrões compatíveis com a arquitetura institucional e com os requisitos de cada projeto;
• Implementar testes, registros de execução, monitoramento e mecanismos de tratamento de falhas, assegurando a qualidade, a rastreabilidade e a reprodutibilidade dos processos;
• Produzir metadados técnicos estruturados, padronizados e processáveis por máquina, favorecendo a catalogação, a interoperabilidade e a automação;
• Participar das atividades de inspeção, perfilamento, validação, descrição, padronização, harmonização, mapeamento e avaliação da qualidade de bases de dados e datasets utilizados em pesquisas;
• Elaborar e atualizar dicionários de dados, registros de versionamento, linhagem, proveniência e histórico das bases;
• Contribuir para a evolução e a sustentação da arquitetura do Data Lake e dos ambientes de produção de dados;
• Automatizar atividades e controles relacionados aos processos de curadoria de dados;
• Avaliar, propor e implementar tecnologias que contribuam para a eficiência, a segurança e a melhoria contínua dos processos de curadoria;
• Atuar de forma integrada com as equipes de Curadoria, Produção de Dados, Segurança da Informação, Tecnologia da Informação e Pesquisa;
• Elaborar documentação e relatórios técnicos periódicos sobre as atividades, soluções e resultados produzidos;
• Participar de reuniões, apresentações e sessões técnico-científicas relacionadas aos projetos e às atividades institucionais.

Requisitos e qualificações

• Ensino superior completo, em nível de bacharelado ou curso superior de tecnologia, em Ciência da Computação, Engenharia da Computação, Sistemas de Informação, Ciência de Dados, Informática ou áreas correlatas;
• Experiência em Engenharia de Dados e no desenvolvimento, automação e sustentação de pipelines de dados;
• Experiência com processos de ETL/ELT, contemplando ingestão, transformação, validação, integração e disponibilização de dados;
• Conhecimento avançado de SQL;
• Experiência com Python e Shell Script/Bash;
• Experiência no desenvolvimento, execução e otimização de jobs utilizando Apache Spark;
• Experiência com ferramentas de orquestração de pipelines e fluxos de dados;
• Conhecimento de arquiteturas de Data Lake e de tecnologias de armazenamento distribuído e de objetos, especialmente MinIO e HDFS;
• Conhecimento de formatos de dados estruturados e semiestruturados, como CSV, JSON e Parquet;
• Experiência com sistemas operacionais Linux;
• Experiência com práticas de versionamento de código utilizando Git;
• Conhecimento de testes, monitoramento, qualidade, versionamento, linhagem e rastreabilidade de dados;
• Conhecimento de produção e gestão de metadados e dicionários de dados;
• Inglês intermediário para leitura e interpretação de documentação técnica.

Diferenciais

• Experiência com Elasticsearch;
• Experiência em ambientes on-premises de processamento de grandes volumes de dados;
• Conhecimento de segurança da informação, governança de dados e proteção de dados pessoais;
• Experiência com dados administrativos governamentais ou dados de saúde;
• Conhecimento de padrões de interoperabilidade em saúde, como OMOP e FHIR;
• Experiência com ferramentas de catalogação de dados e metadados.
• * A ausência dos requisitos diferenciais não impede a candidatura à vaga; contudo, esses requisitos serão considerados como critérios de avaliação.

Informações adicionais

O Centro de Integração de Dados e Conhecimentos para Saúde (Cidacs/Fiocruz Bahia) tem despertado o interesse da comunidade científica e de gestores públicos. Com uma equipe multidisciplinar e um ambiente voltado à inovação e à criatividade, o Centro desenvolve pesquisas em saúde pública que contribuem para a geração de conhecimento e de evidências científicas por meio da integração e da vinculação de grandes bases de dados.

Para mais informações, acesse o site do Cidacs.

O Cidacs está localizado no Parque Tecnológico da Bahia, no Edifício Tecnocentro, em Salvador. Consulte as orientações de acesso e localização