From “foundational models” to “dialogues”
Transformers: Deep Neural Network Architectures for Natural Language Processing

Add to my library

H3735 V1 Article

From “foundational models” to “dialogues”


Transformers: Deep Neural Network Architectures for Natural Language Processing

Author : François YVON

Publication date: April 10, 2026 | Lire en français

Add to my library Add to my library

Logo Techniques de l'Ingenieur You do not have access to this resource.
Request your free trial access! Free trial

Already subscribed?

4. From “foundational models” to “dialogues”

A language model pre-trained using masking/unmasking can spontaneously perform various linguistic tasks—such as summarizing a text provided as input or generating a response to a question—simply by completing a textual prefix 2.2...

You do not have access to this resource.
Logo Techniques de l'Ingenieur

Exclusive to subscribers. 97% yet to be discovered!

You do not have access to this resource. Click here to request your free trial access!

Already subscribed?


Ongoing reading
From “foundational models” to “dialogues”

Article included in this offer

"Software technologies and System architectures"

( 230 articles )

Complete knowledge base

Updated and enriched with articles validated by our scientific committees

Services

A set of exclusive tools to complement the resources

View offer details

Dans les ressources documentaires

Reconnaissance en-ligne d'écriture manuscrite

Dans cet article, est exposé un panorama de la recherche sur la reconnaissance de l'écriture manuscrite, ...

Traitement automatique des textes - Techniques linguistiques

Cet article est consacré à la présentation des techniques de traitement automatique des textes qui sont u...

Logique et métalogique

Le terme « logique » est dérivé du grec ancien signifiant à la fois « discours » et « raisonnem...

Logique des propositions et logique des prédicats

Cet article, le deuxième d’une série de trois, traite des logiques classiques qui donneront naissance à l...

WhitePaper
4 January 2023
Introduction à l’intelligence artificielle

l\'IA s\'emploie à résoudre les problématiques qui relèvent de diverses activités humaines (perception, prise de décision, planification, diagnostic, interpréta...

Tous les livres blancs
Article L’IA au service de la spéculation ?
8 July 2020
L’IA au service de la spéculation ?

En s’appuyant sur l’intelligence artificielle, des fonds spéculatifs affichent d’impressionnants retours sur investissements. Pourtant, seul un petit nombre d\'...

Toutes les actualités
Contact us