Tech Lead Databricks - Lyon (IT)
En tant que Tech Lead, vous êtes l'expert Data Engineering et le référent technique dans vos missions. Vous intervenez principalement sur les problématiques d?ingestion, de traitement et d?industrialisation des données sur la data plateforme. Sans être responsable de l?architecture Data globale, vous avez un rôle clé dans la qualité des livrables, la standardisation des pratiques et la montée en compétence des Data Engineers. Expérience attendue : 7 à 12+ ans en Data Engineering avec une expérience dans un rôle de référent technique Vous correspondez au/à la Tech Lead que nous recherchons si : Vous disposez d?un leadership technique, reconnu et légitime auprès des équipes Vous savez animer, encadrer et fédérer une équipe autour de bonnes pratiques techniques et d?objectifs communs Vous faites preuve d?une excellente communication, associée à une forte capacité pédagogique Vous adoptez un esprit critique constructif et savez challenger les choix techniques dans une logique d?amélioration continue Vous êtes capable de prendre du recul sur des problématiques techniques afin de proposer des solutions pertinentes et durables Vous êtes autonome, proactif et doté d?un fort sens des responsabilités Vous favorisez le partage de connaissances et la montée en compétence collective Vous savez collaborer efficacement avec des rôles transverses (Architectes, Product Owners, DevOps, ML Engineers) Vous maîtrisez Python et SQL à un niveau avancé, avec une forte sensibilité aux bonnes pratiques de software engineering (qualité, maintenabilité, testabilité) Vous êtes capable de définir, documenter et faire appliquer des standards de développement, incluant la structuration des projets, les conventions de code et les stratégies de tests Vous avez une expérience significative dans la mise en place et la maintenance de chaînes CI/CD appliquées aux pipelines Data Vous portez une attention particulière à la qualité des données, à la testabilité et à l?observabilité des pipelines en production Vous pratiquez régulièrement les revues de code, le mentoring et l?accompagnement technique des Data Engineers Vous êtes en mesure de concevoir des frameworks internes et des briques techniques réutilisables afin d?industrialiser et standardiser les développements Vous comprenez les enjeux de performance, de scalabilité et de maîtrise des coûts, et savez les intégrer dans vos choix techniques Profil candidat: Compétences techniques attendues autour de la plateforme Databricks : Expertise avancée de la plateforme Databricks et de ses usages en contexte Data Engineering Maîtrise approfondie d?Apache Spark via PySpark et Spark SQL, incluant la compréhension et l?optimisation des mécanismes internes (partitionnement, shuffles, caching, plans d?exécution) Maîtrise approfondie de Delta Lake et de ses mécanismes clés (Delta log, ACID, schema evolution, time travel...) Structuration et standardisation des projets Databricks Définition de l?environnement de travail des Data Engineers et des outils associés (outillage, conventions, frameworks internes) Maîtrise du framework Spark Declarative Pipelines Mise en place de stratégies de tests automatisés pour les pipelines Databricks incluant : (pytest, DQX, SDP Expectations) Optimisation des performances Spark et de la maîtrise des coûts d?exécution sur la plateforme Définition et maintien de standards de développement et de gestion des environnements sur Databricks Bonne connaissance des mécanismes de sécurité Databricks, incluant la gestion des secrets, des permissions et de la gouvernance via Unity Catalog Responsabilité de la stratégie de déploiement CI/CD de la plateforme , s?appuyant sur Databricks Asset Bundles et/ou Terraform Support technique sur la plateforme Certifications recommandées : Databricks Certified Data Engineer Professional (ou équivalent)
Emplois Recommandés
Consultant - Développeur Power Platform H/F
Votre rôle: Nous recrutons pour une filiale d’Orange Business, qui accompagne depuis 20 ans de manière durable les grands groupes et les PME avec agilité dans les enjeux de transformation des métiers…
monteur ajusteur monteur mécanique H/F
ALP'EMPLOI Lyon, s'illustre par son expertise en intérim, CDD et CDI depuis plus de 30 ans. Cette entreprise lyonnaise se consacre à la fabrication de de grosse pièce mécanique industrielle Seriez-vou…
Responsable Qualité Adjoint en alternance H/F
CESI recrute dans le domaine de la Qualité. Au sein de la Direction des Services Informatiques de la Direction Générale d'une entreprise publique, l'établissement certifié ISO 9001, recherche un R…
Senior Engineer / Lead
Prêt(e) à réaliser votre impact positif ? Alors rejoignez Tractebel, une société du groupe ENGIE, et nos 5 600 experts passionnés à travers le monde, animés par la volonté de façonner chaque jour un …
Chef d'équipe « Réseaux Électriques Autos » ENEDIS (H/F) (3)
Présentation de l'agence LTd compte 9 agences spécialisées en recrutement et en travail temporaire organisées par pôle d'expertise en Ingénierie, Tertiaire Haut de Gamme - Fonctions Supports s…
Ingénieur QA (H/F)
Éditeur de logiciels, notre client lyonnais propose une solution « clé en main » pour accompagner ses clients dans la transformation digitale de la distribution d’assurance . A travers différentes…
Manager expertise comptable H/F
Descriptif de poste Intégré au département d’expertise comptable et placé sous la supervision des associés, vous prenez en charge, en toute autonomie, la gestion d’un portefeuille clients composé …
ADJOINT CHEF DE BUREAU RH COMMANDEMENT F/H
Description des missions Au sein de la DORG, seule division de la PFC-SE rattachée immédiatement au Directeur, et placé sous l’autorité du chef du bureau ressources humaines commandement (BRHC), l…
Chargé(e) de recrutement IT
• Recueillir et analyser les besoins en recrutement IT auprès des Business Managers • Sourcer activement les candidats (LinkedIn, CVthèques…) • Qualifier les candidats via des entretiens téléphoniqu…
Chargé(e) de communication -STAGE
Offre de Stage - Chargé(e) de Communication (2 mois) Cabinet de conseil en ingénierie - Début : dès que possible À propos de nous Nous sommes un cabinet de conseil spécialisé dans l'ingénierie, …