Macha
AI サポートとエージェント

大規模言語モデル(LLM)

定義

大規模言語モデル(LLM)とは、膨大なテキストで学習し、言語を予測・生成するニューラルネットワークです。質問の理解、要約、分類、人間らしい文章の作成といった処理を可能にします。

別名: LLM言語モデル生成系言語モデル

仕組み

LLM は Transformer アーキテクチャの上に構築され、直前までのテキストから次のトークン(おおよそ単語の断片)を予測するように学習します。数十億規模の事例から統計的なパターンを学ぶことで、読解、推論、生成にわたる幅広い能力を獲得します。

推論時には、モデルにプロンプトを送ると、トークンを 1 つずつ生成して応答を返します。現在の LLM はツールを呼び出したり、指示に従ったりもできます。これこそが、AI エージェントのエンジンとして有用である理由です。

サポートにとっての意味

LLM は、会話型 AI と AI エージェントの背後にある推論エンジンです。ただし、そのままの LLM は学習時に見たことしか知りません。あなたの製品やポリシーは知らないため、サポートの仕組みでは検索拡張生成(RAG)と接続されたツールによって、モデルを事実に結びつけます。

よくある質問

LLM とは何の略ですか?

Large Language Model(大規模言語モデル)の略です。言語を理解し生成するために、大量のテキストで学習させたモデルを指します。

LLM は自社の情報を知っていますか?

既定では知りません。LLM は学習データの内容しか知らないため、サポートの仕組みでは RAG とツール呼び出しを通じて、自社のナレッジベースや稼働中のシステムの情報を渡し、製品固有の質問にも正確に答えられるようにします。

関連用語

生成 AI

生成 AI とは、学習データからパターンを学び、テキスト、画像、コード、音声といった新しいコンテンツを作り出す AI の総称です。既存の入力を分類したり予測したりするだけのものとは異なります。.

基盤モデル

基盤モデルとは、広範な汎用データを大規模に学習させた大型の AI モデルで、ひとつの狭い用途のために作られるのではなく、プロンプト、検索、ファインチューニングを通じて多様な下流タスクに適応できるものです。.

Transformer モデル

Transformer モデルとは、アテンション機構を使ってテキストの系列全体を一度に処理し、各単語が他のすべての単語とどれだけ関係しているかを重み付けするニューラルネットワークのアーキテクチャです。現代のほぼすべての大規模言語モデルの土台になっています。.

トークン(LLM)

トークンとは、言語モデルが読み書きする単位となる小さなテキストのかたまりです。単語、単語の一部、文字などにあたり、入力量・出力量・コンテキストの上限、そして多くの場合は課金も、このトークンで測られます。.

検索拡張生成(RAG)

検索拡張生成(RAG)とは、AI モデルが問い合わせの時点で自社のナレッジソースから関連情報を取得し、それに基づいて回答を組み立てる手法です。学習時に記憶した内容だけに頼らずに済みます。.

アイデアを実装に

Macha は既に運用中のヘルプデスク (Zendesk、Freshdesk、Front、Intercom、Gorgias) の上に載る AI エージェント層です。

トライアルを開始