信頼度スコア

定義

信頼度スコアとは、AI システムが自分の予測や回答に対して付ける、正しい可能性の見積もりです。AI が自動で行動してよいか、確認を求めるべきか、人に引き継ぐべきかを判断するために使います。

別名: 確信度確度スコアAI の信頼度

仕組み

モデルとタスクによって、信頼度スコアは予測の背後にある確率から得られることも（インテント判定のような分類の場合）、生成された回答の周りに重ねたヒューリスティクスや二次チェックから得られることもあります。通常は数値で表し、0 から 1 の間か、パーセンテージであることが多いです。

サポートのシステムは、これにしきい値を設けます。高いしきい値を超えればエージェントが自動で回答または実行し、中間の帯では確認の質問を返すことがあり、低いしきい値を下回れば文脈を添えて人にエスカレーションします。

信頼度スコアは、安全に自動化するための中心的なレバーです。AI エージェントをどこまで積極的に動かすかを調整でき、確信度の高い定型的なチケットは自分で解決し、不確かなものは人に回すことで、精度を犠牲にせずに自動化を広げられます。

信頼度スコアが高ければ回答は正しいのですか？

必ずしもそうではありません。信頼度は可能性の見積もりであって確実性ではなく、モデルは自信を持って間違えることがあります。だからこそ信頼度は、根拠づけやガードレールと併用するものであり、それだけで保証にはなりません。

信頼度スコアは実務でどう使われますか？

しきい値と比較して、AI が自動で回答するか、確認の質問を返すか、人の担当者に引き継ぐかを判断するのに使われます。