Macha
AI サポートとエージェント

Temperature(LLM)

定義

Temperature(温度)は、言語モデルの出力をどれだけランダムにするか、決定的にするかを制御する設定です。値が低いと焦点の定まった予測可能な応答になり、高いとより多様で創造的な応答になります。

別名: サンプリング温度ランダム性の設定

仕組み

モデルは各ステップで、次に来るトークンの確率分布を生成します。Temperature は、トークンが選ばれる前にこの分布の形を変えます。0 に近いとほぼ常に最も確率の高いトークンが選ばれ、一貫した再現性のある答えになります。値を上げると(たとえば 0.7〜1.0 以上)分布が平坦になり、確率の低いトークンも選ばれやすくなって、出力が多様になります。

候補となるトークンの範囲を同じように狭めたり広げたりする top-p(核サンプリング)などの設定と併せて調整されることがよくあります。

サポートで重要な理由

カスタマーサポートでは、通常は低い Temperature が正解です。求められるのは正確で一貫した、ポリシーに沿った回答であって、創造的なばらつきではありません。同じ質問には同じように答え、参照元に忠実であってほしいからです。高い Temperature が向くのは、多様さがリスクではなく利点になるブレインストーミングや文章の下書きです。

よくある質問

サポートエージェントの Temperature はどれくらいが適切ですか?

通常は 0 に近い低い値です。回答が一貫し、事実に基づき、ポリシーに沿ったものになります。サポートでは創造的な多様さより信頼性が優先されますし、低い Temperature は台本から外れた回答やぶれた回答が出る確率を下げます。

Temperature はハルシネーションの原因になりますか?

Temperature を上げると確率の低いトークンが選ばれやすくなるため、予想外の回答や根拠のない回答が出る確率は上がります。ただしハルシネーションの主な原因は、根拠となる情報が不足していたり弱かったりすることです。低い Temperature と質の高い検索を組み合わせれば、両面からリスクを減らせます。

アイデアを実装に

Macha は既に運用中のヘルプデスク (Zendesk、Freshdesk、Front、Intercom、Gorgias) の上に載る AI エージェント層です。

トライアルを開始