2. Modèle Transformer
2.1 L’attention, un mécanisme fondamental
Ces premiers concepts de la modélisation probabilistes étant établis, nous introduisons dans cette section le modèle Transformer, qui repose sur un mécanisme plus général pour encoder le contexte de chaque décision.
HAUT DE PAGE2.1.1 Calcul du vecteur contexte
L’idée centrale du modèle Transformer
Cet article est réservé aux abonnés. Il vous reste 92 % à découvrir.
Déjà abonné ? Se connecter
Modèle Transformer
Vers le multilinguisme
Sources bibliographiques
Cet article est réservé aux abonnés. Il vous reste 92 % à découvrir.
Déjà abonné ? Se connecter
Article inclus dans l'offre
"Documents numériques Gestion de contenu"
(
114 articles
)
Actualisée et enrichie d’articles validés par nos comités scientifiques.
Quiz, médias, tableaux, formules, vidéos, etc.
Opérationnels et didactiques, pour garantir l'acquisition des compétences transverses.
Un ensemble de services exclusifs en complément des ressources.
![Écoutez notre podcast Cogitons Sciences : Intégrer l’IA dans votre entreprise, pour un usage utile et raisonné [L’IA s’invite dans nos métiers #2]](https://www.techniques-ingenieur.fr/actualite/wp-content/uploads/2024/01/CS-IA-ep2.png)
![Écoutez notre podcast Cogitons Sciences : Comment l’IA révolutionne notre façon de travailler ? [L’IA s’invite dans nos métiers #1]](https://www.techniques-ingenieur.fr/actualite/wp-content/uploads/2024/01/IA-ep1.png)
