ファインチューニング

定義

ファインチューニングとは、学習済みの言語モデルを、より小さくタスクに特化したデータセットでさらに学習させ、特定の領域、文体、振る舞いに適応させる工程です。指示を変えるのではなく、モデルの重みそのものを更新します。

別名: モデルのファインチューニング教師ありファインチューニング

仕組み

言語を広く理解している基盤モデルから出発し、厳選した例、たとえば自社のサポート会話で学習を続けます。そうすることで、トーンや業界特有の用語といったパターンがモデルに内面化されます。プロンプトや RAG とは違い、モデルのパラメータそのものが変わります。

ファインチューニングはモデルがどのように応答するかを形づくるうえでは強力ですが、自社の最新の事実を確実に覚えさせる手段としては信頼できません。そこは検索のほうが適した道具です。

サポートで重要な理由

チームはファインチューニングと RAG を天秤にかけます。ファインチューニングは文体や振る舞いを焼き付けられますが、更新が遅く、変わり続ける価格やポリシーには追いつけません。RAG はライブのコンテンツを取り出すことで回答を最新に保ちます。本番のサポートシステムの多くは、まず RAG とプロンプトに頼り、一貫した振る舞いがどうしても必要なときにだけファインチューニングします。

よくある質問

ファインチューニングと RAG はどう違いますか？

ファインチューニングはモデルの重みを変えて振る舞いや文体を適応させます。RAG はクエリの時点で最新の情報を取り出し、回答に根拠を与えます。応答の仕方にはファインチューニング、事実を正確かつ最新に保つには RAG を使ってください。

カスタマーサポートのためにモデルをファインチューニングする必要はありますか？

たいていは最初から必要ありません。サポートの用途の多くは、優れたベースモデルに RAG と適切なプロンプトを組み合わせれば十分にこなせます。ファインチューニングが見合うのは主に、指示だけでは到達できない、非常に一貫したトーンや振る舞いが求められる場合です。

ファインチューニング

仕組み

サポートで重要な理由

よくある質問

関連用語