Grand modèle de langage (LLM)

Définition

Un grand modèle de langage (LLM) est un réseau de neurones entraîné sur d'immenses volumes de texte pour prédire et générer du langage, ce qui lui permet de comprendre des questions, de résumer, de classer et de rédiger des réponses proches de l'écriture humaine.

Aussi connu sous : LLMmodèle de langagemodèle de langage génératif

Comment cela fonctionne

Un LLM repose sur l'architecture transformer et est entraîné à prédire le token suivant (en gros, un fragment de mot) à partir du texte qui précède. En apprenant des régularités statistiques sur des milliards d'exemples, il développe de larges capacités de compréhension, de raisonnement et de génération.

Au moment de l'inférence, vous envoyez un prompt au modèle et il génère une réponse token par token. Les LLM modernes savent aussi appeler des outils et suivre des instructions, ce qui en fait des moteurs utiles pour les agents IA.

Pourquoi c'est important pour le support

Les LLM sont le moteur de raisonnement derrière l'IA conversationnelle et les agents IA. Mais tel quel, un LLM ne connaît que ce qu'il a vu à l'entraînement — il ignore tout de votre produit et de vos politiques, raison pour laquelle les systèmes de support l'ancrent avec la génération augmentée par récupération et des outils connectés.

Questions fréquentes

Que signifie LLM ?

Large language model, soit grand modèle de langage — un modèle entraîné sur de grandes quantités de texte pour comprendre et générer du langage.

Les LLM connaissent-ils les informations de mon entreprise ?

Pas par défaut. Un LLM ne connaît que ses données d'entraînement ; les systèmes de support lui transmettent donc votre base de connaissances et vos systèmes en temps réel via le RAG et des appels d'outils, afin de répondre précisément aux questions propres à votre produit.

Termes liés

IA générative

L'IA générative est une catégorie d'IA qui crée du contenu nouveau — texte, images, code ou audio — en apprenant des régularités dans ses données d'entraînement, au lieu de se contenter de classer ou de prédire à partir d'entrées existantes..

Modèle de fondation

Un modèle de fondation est un grand modèle d'IA entraîné à grande échelle sur des données larges et généralistes, que l'on peut adapter à de nombreuses tâches en aval — par prompting, par recherche documentaire ou par fine-tuning — au lieu d'être conçu pour une seule tâche étroite..

Modèle Transformer

Un modèle Transformer est une architecture de réseau de neurones qui traite d'un seul coup une séquence entière de texte, en utilisant un mécanisme d'attention pour pondérer le lien entre chaque mot et tous les autres ; c'est le socle de presque tous les grands modèles de langage modernes..

Tokens (LLM)

Les tokens sont les petits fragments de texte — mots, morceaux de mots ou caractères — qu'un modèle de langage lit et génère ; ils constituent l'unité de base avec laquelle les modèles mesurent l'entrée, la sortie, les limites de contexte et, le plus souvent, la facturation..

Génération augmentée par récupération (RAG)

La génération augmentée par récupération (RAG) est une technique par laquelle un modèle d'IA récupère les informations pertinentes dans vos propres sources de connaissances au moment de la requête et s'en sert pour ancrer sa réponse, au lieu de se fier uniquement à ce qu'il a mémorisé pendant l'entraînement..

Passez à l'action

Macha est une couche d'agents IA qui se pose sur le help desk que vous utilisez déjà, Zendesk, Freshdesk, Front, Intercom ou Gorgias.

Démarrer l'essai