3. Comprendre l’optimisation des modèles de langage
Après la période d’entraînement, il est souvent nécessaire d’optimiser le modèle pour améliorer ses performances dans des tâches spécifiques. Il existe là encore plusieurs approches. En voici deux exemples représentatifs.
3.1 Le « fine tuning »
Le fine tuning consiste à ajuster un modèle pré-entraîné sur des données supplémentaires ou spécifiques à une tâche donnée (par exemple, la traduction ou la classification de texte).
Cette méthode est utilisée pour adapter un modèle à un contexte particulier sans avoir à le réentraîner entièrement. Par exemple, GPT qui est initialement formé sur un vaste corpus généraliste peut être affiné sur un ensemble de données spécifiques pour exceller dans une tâche telle que la rédaction de rapports médicaux....
Cet article est réservé aux abonnés. Il vous reste 92 % à découvrir.
Déjà abonné ? Se connecter
Comprendre l’optimisation des modèles de langage
Notre conseil
Article inclus dans l'offre
"Management et ingénierie de l'innovation"
(
437 articles
)
Actualisée et enrichie d’articles validés par nos comités scientifiques.
Quiz, médias, tableaux, formules, vidéos, etc.
Opérationnels et didactiques, pour garantir l'acquisition des compétences transverses.
Un ensemble de services exclusifs en complément des ressources.
