Shopify
Stripe
Slack
Notion
Google Workspace
Confluence
Large Language Model (LLM)
Definition
Ein Large Language Model (LLM) ist ein neuronales Netz, das auf riesigen Textmengen trainiert wurde, um Sprache vorherzusagen und zu erzeugen – dadurch kann es Fragen verstehen, zusammenfassen, klassifizieren und menschenähnliche Antworten schreiben.
So funktioniert es
Ein LLM basiert auf der Transformer-Architektur und wird darauf trainiert, das nächste Token (grob: ein Wortfragment) aus dem vorangehenden Text vorherzusagen. Indem es statistische Muster über Milliarden von Beispielen lernt, entwickelt es breite Fähigkeiten in Verständnis, Schlussfolgern und Textproduktion.
Zur Laufzeit schicken Sie dem Modell einen Prompt, und es erzeugt Token für Token eine Antwort. Moderne LLMs können außerdem Tools aufrufen und Anweisungen befolgen – genau das macht sie zu brauchbaren Motoren für KI-Agenten.
Warum es für den Support wichtig ist
LLMs sind der Denkmotor hinter konversationeller KI und KI-Agenten. Von Haus aus kennt ein LLM allerdings nur, was es im Training gesehen hat – es kennt weder Ihr Produkt noch Ihre Richtlinien. Deshalb erden Support-Systeme es mit Retrieval-Augmented Generation und angebundenen Tools.
Häufig gefragt
Wofür steht LLM?
Für Large Language Model – ein Modell, das auf großen Textmengen trainiert wurde, um Sprache zu verstehen und zu erzeugen.
Kennen LLMs die Informationen meines Unternehmens?
Standardmäßig nicht. Ein LLM kennt nur seine Trainingsdaten. Support-Systeme speisen ihm daher über RAG und Tool-Aufrufe Ihre Wissensdatenbank und Ihre Live-Systeme ein, damit produktspezifische Fragen korrekt beantwortet werden.
Verwandte Begriffe
Generative KI
Generative KI ist eine Klasse von KI, die neue Inhalte erzeugt — Text, Bilder, Code oder Audio —, indem sie Muster aus Trainingsdaten lernt, statt vorhandene Eingaben nur zu klassifizieren oder vorherzusagen..
Foundation Model
Ein Foundation Model ist ein großes KI-Modell, das in großem Maßstab auf breiten, allgemeinen Daten trainiert wurde und sich für viele nachgelagerte Aufgaben anpassen lässt — über Prompting, Retrieval oder Fine-Tuning —, statt für eine einzige enge Aufgabe gebaut zu sein..
Transformer-Modell
Ein Transformer-Modell ist eine Architektur neuronaler Netze, die eine ganze Textsequenz auf einmal verarbeitet und über einen Attention-Mechanismus gewichtet, wie stark sich die Wörter aufeinander beziehen.
Tokens (LLM)
Tokens sind die kleinen Textbausteine – Wörter, Wortteile oder Zeichen –, die ein Sprachmodell liest und erzeugt.
Retrieval-Augmented Generation (RAG)
Retrieval-Augmented Generation (RAG) ist ein Verfahren, bei dem ein KI-Modell zur Laufzeit relevante Informationen aus Ihren eigenen Wissensquellen abruft und seine Antwort darauf stützt, statt sich allein auf das zu verlassen, was es im Training gelernt hat..
Setzen Sie diese Ideen ein
Macha ist eine KI-Agent-Schicht, die auf dem Help Desk sitzt, den Sie schon nutzen, Zendesk, Freshdesk, Front, Intercom oder Gorgias.
Trial starten