Ingénieur·e sénior en apprentissage automatique distribué

À propos du poste

Nous recherchons un·e ingénieur·e sénior spécialisé·e en apprentissage automatique distribué pour rejoindre notre équipe de recherche en sécurité de l'IA. Vous collaborerez étroitement avec des chercheurs afin de résoudre des problématiques d’entraînement et d’inférence de modèles très volumineux.

Missions principales

• Accélérer la recherche, l’entraînement et l’inférence de modèles à grande échelle sur des environnements de calcul distribué.
• Identifier et résoudre les goulots d’étranglement de performance, profiler le code, déboguer et optimiser l’utilisation des ressources.
• Développer des outils et bibliothèques pour orchestrer les ressources de calcul distribuées.
• Documenter et maintenir les meilleures pratiques des flux de travail ML distribués.

Profil recherché

• Diplôme en informatique, génie informatique ou domaine connexe (maîtrise ou doctorat souhaitable).
• Plus de 3 ans d’expérience dans la conception et l’implémentation de frameworks d’entraînement ML distribué.
• Capacité à travailler en équipe interfonctionnelle et à documenter les bonnes pratiques.
• Expérience avérée dans des projets de recherche en apprentissage profond.

Compétences requises

• Frameworks : Megatron, DeepSpeed, HuggingFace Accelerate, FSDP, vLLM, verl.
• Cloud : AWS, GCP, Azure.
• Gestionnaires de charge : Ray, SLURM.
• Profilage GPU : PyTorch profiler, PyProf, NVIDIA Nsight.
• Conteneurisation : gRPC, Docker, Kubernetes.
• Infrastructures de données : bases de données vectorielles.

Ce que nous offrons

• Contribution à une mission unique avec un impact important.
• Avantages sociaux complets en santé, incluant un compte de gestion de la santé mentale et du bien‑être.
• 20 jours de vacances par an dès l’embauche.