Contenu de la formation
Les participants découvrent les principales étapes de préparation et de représentation de données textuelles. La formation pose les bases nécessaires pour comprendre les modèles de langage.
Cette session détaille les mécanismes d’attention, les embeddings positionnels et la génération causale. Les concepts sont reliés à une implémentation pratique avec PyTorch.
Les apprenants abordent l’évaluation de la qualité des réponses, du raisonnement et du code produit. Ils identifient aussi l’importance des prompts et des données d’entraînement.
Pour qui ?
- Ingénieurs IA
- Développeurs Python
- Équipes R&D
- Étudiants avancés
Comment se déroule la formation
- 1Recueil des attentes et prérequis du groupe
- 2Rappel des bases de traitement du texte
- 3Décomposition visuelle de l’architecture transformer
- 4Ateliers d’implémentation avec Python et PyTorch
- 5Analyse de sorties et critères d’évaluation
- 6Discussion des limites et pistes d’amélioration
Les formateurs de cette formation
Questions fréquentes
Cette formation couvre-t-elle les transformers ?
Oui. Le formateur a conçu un modèle de langage de type GPT avec PyTorch et peut expliquer les composants fondamentaux des transformers.
Quel prérequis technique prévoir ?
Une pratique de Python et des notions de machine learning sont recommandées. FormaGroup peut vous aider à valider l’adéquation du niveau.
Peut-elle être proposée à une équipe R&D ?
Oui. FormaGroup organise la mise en relation pour construire une intervention adaptée au niveau et aux objectifs de votre équipe.
Dans le catalogue FormaGroup
FormaGroup organise cette formation dans votre ville ou à distance : dates, groupe ou session individuelle, attestation de formation.
S’inscrire