Data Engineer Senior - Databricks / PySpark (H/F) - Freelance
Missions
CONTEXTE DE LA MISSION Nous recherchons un Data Engineer expérimenté spécialisé dans l'écosystème Databricks, capable de concevoir, développer et industrialiser des pipelines de données performants dans un environnement Cloud.
Le consultant interviendra sur des projets Data à forte valeur ajoutée, avec des enjeux de performance, de gouvernance, de qualité et de fiabilité des données.
RESPONSABILITÉS
- Concevoir et développer des pipelines de données complexes en PySpark et Spark SQL, en mode batch et streaming.
- Implémenter et maintenir une architecture Medallion (Bronze / Silver / Gold) basée sur Delta Lake.
- Orchestrer et superviser les traitements via Databricks Workflows, Azure Data Factory ou Airflow.
- Optimiser les performances et les coûts des traitements Spark : partitionnement, Z-Order, gestion des clusters et Photon.
- Mettre en œuvre la gouvernance des données avec Unity Catalog : gestion des accès, data lineage et qualité des données.
- Industrialiser les développements et déploiements à travers des pipelines CI/CD et des pratiques DevOps.
- Participer à la mise en place de l'Infrastructure as Code avec Terraform et à la gestion des Databricks Asset Bundles.
- Collaborer avec les équipes Data Analysts et Data Scientists pour fournir des datasets fiables, documentés et exploitables.
Profil recherché
PROFIL RECHERCHÉ - MUST HAVE
- Minimum 3 à 5 ans d'expérience en Data Engineering, dont au moins 2 ans d'expérience concrète sur Databricks.
- Excellente maîtrise de Python, PySpark et Spark SQL.
- Expérience significative dans la conception et l'industrialisation de pipelines ETL/ELT sur Databricks.
- Bonne maîtrise de Delta Lake et de l'architecture Medallion.
- Expérience pratique de Unity Catalog et des mécanismes de gouvernance des données.
- Solide compréhension des mécanismes d'optimisation Spark et de gestion des performances.
- Expérience sur un environnement Cloud : Azure (ADLS, Azure Data Factory) idéalement, ou AWS / GCP.
- Maîtrise de Git, des pratiques CI/CD et des tests automatisés appliqués aux pipelines Data.
ATOUTS
- Certification Databricks Data Engineer Associate ou Professional.
- Expérience en streaming avec Kafka et/ou Spark Structured Streaming.
- Connaissance de dbt et/ou MLflow.
- Expérience dans le secteur bancaire ou dans un environnement réglementé.
ENVIRONNEMENT TECHNIQUE Databricks, PySpark, Python, Spark SQL, Delta Lake, Medallion Architecture, Unity Catalog, Databricks Workflows, Azure Data Factory, ADLS, Airflow, Spark Optimization, Z-Order, Photon, Git, CI/CD, Azure DevOps, GitHub Actions, GitLab CI, Databricks Asset Bundles, Terraform, Kafka, Structured Streaming, dbt, MLflow.
Autres informations
Taux journalier (TJM): 450