Fine-tuning

Définition

Le fine-tuning consiste à poursuivre l'entraînement d'un modèle de langage pré-entraîné sur un jeu de données plus petit et propre à une tâche, afin de l'adapter à un domaine, à un style ou à un comportement — en modifiant les poids du modèle, et pas seulement ses instructions.

Aussi connu sous : affinage de modèlefine-tuning supervisé

Comment cela fonctionne

Vous partez d'un modèle de fondation qui comprend déjà largement le langage, puis vous poursuivez son entraînement sur des exemples sélectionnés — vos conversations de support, par exemple — pour qu'il intériorise des régularités comme votre ton ou votre vocabulaire métier. Cela modifie les paramètres du modèle, contrairement au prompting ou au RAG.

Le fine-tuning est puissant pour façonner la manière dont un modèle répond, mais il ne lui enseigne pas de façon fiable les faits actuels de votre entreprise — pour cela, la recherche documentaire est en général le meilleur outil.

Pourquoi c'est important pour le support

Les équipes arbitrent entre fine-tuning et RAG. Le fine-tuning grave le style et le comportement dans le modèle, mais il est plus lent à mettre à jour et ne suit pas l'évolution des prix ou des politiques ; le RAG garde les réponses à jour en récupérant du contenu vivant. Beaucoup de systèmes de support en production s'appuient d'abord sur le RAG et le prompting, et ne font du fine-tuning que lorsque la constance du comportement l'exige.

Questions fréquentes

Quelle est la différence entre le fine-tuning et le RAG ?

Le fine-tuning modifie les poids du modèle pour adapter son comportement et son style ; le RAG récupère des informations à jour au moment de la requête pour ancrer les réponses. Utilisez le fine-tuning pour la manière de répondre, le RAG pour l'exactitude et l'actualité des faits.

Faut-il faire du fine-tuning pour le support client ?

Généralement pas en premier. La plupart des cas d'usage du support sont bien couverts par un bon modèle de base, du RAG et un prompting soigné. Le fine-tuning vaut surtout la peine quand vous avez besoin d'un ton ou d'un comportement très constant que les instructions seules n'obtiennent pas.

Termes liés

Modèle de fondation

Un modèle de fondation est un grand modèle d'IA entraîné à grande échelle sur des données larges et généralistes, que l'on peut adapter à de nombreuses tâches en aval — par prompting, par recherche documentaire ou par fine-tuning — au lieu d'être conçu pour une seule tâche étroite..

RAG ou fine-tuning

Le choix entre RAG et fine-tuning, c'est le choix entre ancrer un modèle d'IA dans des connaissances externes au moment de la requête (génération augmentée par récupération) et ajuster les poids du modèle sur vos données (fine-tuning) — deux façons différentes de rendre un modèle généraliste utile à vos besoins particuliers..

Génération augmentée par récupération (RAG)

La génération augmentée par récupération (RAG) est une technique par laquelle un modèle d'IA récupère les informations pertinentes dans vos propres sources de connaissances au moment de la requête et s'en sert pour ancrer sa réponse, au lieu de se fier uniquement à ce qu'il a mémorisé pendant l'entraînement..

Grand modèle de langage (LLM)

Un grand modèle de langage (LLM) est un réseau de neurones entraîné sur d'immenses volumes de texte pour prédire et générer du langage, ce qui lui permet de comprendre des questions, de résumer, de classer et de rédiger des réponses proches de l'écriture humaine..

Prompt engineering

Le prompt engineering est la pratique consistant à concevoir et affiner les instructions données à un modèle de langage pour obtenir des résultats exacts, pertinents et fiables sur une tâche précise..

Passez à l'action

Macha est une couche d'agents IA qui se pose sur le help desk que vous utilisez déjà, Zendesk, Freshdesk, Front, Intercom ou Gorgias.

Démarrer l'essai