Data Engineer

Problemas complexos exigem a experiência certa! Um dos maiores desafios da atualidade é o correto armazenamento e processamento de dados tendo em consideração estes três domínios (3Vs): Volume, Velocidade e Variedade.

Na Xpand IT, a equipa de Data Engineering desenvolve e implementa arquiteturas e soluções de software que tratam da captura, ingestão, armazenamento e gestão de dados críticos de grandes clusters de informação onde os 3Vs estão sempre presentes. Tiramos partido de um conjunto de frameworks avançadas como Spark, Kafka, Hive/Impala, Azure Data Services ou MongoDB usando Java e Scala como linguagens de programação para interagir com estas frameworks.

Principais responsabilidades

Enquanto Data Engineer é essencial trabalhar juntamente com os Platform Engineers, para desenvolver soluções de software, aplicando as melhores práticas em termos de desenho e arquitetura de sistemas distribuídos de grande escala.

As principais responsabilidades passam por garantir o desempenho e a escalabilidade do software que interage com os sistemas backend Big Data, contribuindo para a manutenção da performance geral do sistema.

Principais responsabilidades diárias:

- Implementar soluções em arquiteturas distribuídas em que a performance de tratamento de grandes volumes de dados é fulcral

- Desenhar e desenvolver soluções de software robustas e escaláveis, independentemente da quantidade de dados a processar

- Implementar boas práticas e padrões de desenho das soluções Big Data no software produzido;

- Analisar problemas complexos que necessitam de soluções eficientes para manipular grandes quantidades de informação;

- Desenvolver modelos e organização de estruturas de dados que otimizem as operações de 'pesquisa' e 'armazenamento' em sistemas distribuídos de grande escala;

- Desenhar e desenvolver de APIs de comunicação entre os sistemas de backend Big Data e sistemas externos através de protocolos de comunicação standard.

Stacks:

Python, Java/Scala, Spark, Kafka/Confluent, MongoDB, Databricks

Requisitos

- Licenciatura e/ou Mestrado em Informática, Sistemas de Informação ou Ciência da Computação;

- Experiência em tecnologias baseadas em Java (JBoss, Spring, Spring MVC, Hibernate) e na definição de interfaces de comunicação utilizando standards como XML, JSON, SOAP;

- Experiência na implementação de padrões de design em soluções de software avançadas (multi-threaded, multi-process, multi-cloud);

- Experiência com bases de dados relacionais e não relacionais (SQL, MySQL, NoSQL, Hadoop, MongoDB);

- Elevada experiência no uso de ferramentas como Eclipse, Maven, Jenkins, GIT, JIRA ou equivalentes;

- domínio do Inglês, falado e escrito.

Candidata-te aqui

Contacts and address

Linkedin Facebook

Edifício Ageas Tejo Praça Príncipe Perfeito, 2 3º Piso 1990-278 Lisboa