Data Engineer Spark / Scala - Datalake (H/F)
Role details
Job location
Tech stack
Job description
En tant que Data Engineer Spark / Scala, vos principales responsabilités seront :
Participer à l?estimation de la complexité technique, notamment dans le cadre de la montée de version Spark 3.4
Concevoir et développer des traitements data (CDC, fichiers plats, événements Kafka)
Implémenter des pipelines de transformation, agrégation et consolidation de données
Rédiger les documents de conception et la documentation technique
Concevoir et exécuter les tests unitaires et d?intégration
Réaliser des revues de code croisées
Contribuer à l?installation et au déploiement des composants
Assurer le support et la résolution des incidents de production
Participer activement aux rétrospectives et à l?amélioration continue
Environnement Technique
Backend / Big Data
Requirements
Do you have experience in Spark?, Apache Spark (Scala)
HDFS, Hive
Kafka
Mesos, YARN
Oozie
Bases de données
MongoDB
Oracle
CI/CD & Qualité
GitLab CI
Maven
Sonar
Liquibase
Outils
GitLab
IntelliJ / VS Code
Jira / Confluence