LLM (Sprachmodell)
Aktualisiert am
Ein LLM (Large Language Model, auf Deutsch großes Sprachmodell) ist ein KI-Modell, das mit sehr großen Textmengen trainiert wurde. Es berechnet, welche Wortfolge zu einer Eingabe passt. Deshalb kann es formulieren, zusammenfassen, übersetzen und Texte nach Kriterien ordnen.
Was kann ein Sprachmodell und was nicht?
Sprachmodelle sind stark bei allem, was mit Text zu tun hat. Sie entwerfen Antworten, fassen lange Dokumente zusammen, sortieren Anfragen nach Anliegen oder wandeln Freitext in strukturierte Angaben um.
Ihre Grenzen sind ebenso klar:
- Ein Sprachmodell kann falsche Angaben so selbstsicher formulieren wie richtige. Fachleute nennen das Halluzination.
- Es kennt Ihre Betriebsdaten nicht, solange sie ihm nicht bereitgestellt werden. Wie das geht, erklärt der Eintrag RAG.
- Sein Wissen endet mit dem Stand des Trainings, sofern keine aktuellen Quellen angebunden sind.
- Es rechnet und prüft nicht verlässlich, wie ein Rechenprogramm es tut.
Wodurch unterscheidet sich ein LLM von Chatbot und KI-Agent?
| Begriff | Was es ist |
|---|---|
| LLM | Das Modell selbst, ein Baustein |
| Chatbot | Eine Anwendung, die ein Sprachmodell für Dialoge nutzt |
| KI-Agent | Ein Programm, das mit einem Sprachmodell Aufgaben in mehreren Schritten bearbeitet |
Wer von einem Chatbot spricht, meint meist eine Oberfläche. Das LLM ist die Technik dahinter.
Beispiel aus dem Betriebsalltag
Dieses Beispiel ist ein gedachter Ablauf, kein Kundenfall. Ein Betrieb lässt eingehende Mails von einem Sprachmodell nach Anliegen sortieren: Angebotsanfrage, Reklamation oder Terminwunsch. Für jede Gruppe liegt ein Antwortentwurf bereit. Eine Mitarbeiterin prüft den Entwurf und gibt ihn frei. Das Modell nimmt die Vorarbeit ab, die Entscheidung bleibt bei einem Menschen.
Wann ist ein Sprachmodell für Ihren Betrieb wichtig?
Sprachmodelle lohnen sich dort, wo viel Text anfällt: Anfragen, Berichte, Protokolle, Dokumente. Wichtig ist die Frage, welche Daten das Modell sehen darf und wo es betrieben wird. Beim Einsatz helfen vier Regeln: Geben Sie dem Modell nur Daten, die es sehen darf. Lassen Sie Ergebnisse, die nach außen gehen, von einem Menschen freigeben. Prüfen Sie Zahlen, Namen und Quellen nach. Legen Sie fest, wer bei Fehlern entscheidet.
Konfektor schließt für jedes Vorhaben einen Auftragsverarbeitungsvertrag ab und stimmt sich vor dem Einsatz von Diensten außerhalb der EU mit Ihnen ab, mehr dazu unter AVV. Einsatzfelder beschreibt der Beitrag KI Use Cases im Mittelstand, den Umgang mit eigenen Dokumenten der Beitrag RAG System erklärt.
Häufige Fragen
Was bedeutet LLM?
LLM steht für Large Language Model, auf Deutsch großes Sprachmodell. Es ist ein KI-Modell, das Text verarbeitet und erzeugt.
Ist ein LLM dasselbe wie ein Chatbot?
Nein. Das LLM ist das Modell, der Chatbot eine Anwendung, die es für Dialoge einsetzt.
Kennt ein Sprachmodell meine Firmendaten?
Es kennt sie nicht von selbst. Es muss Ihre Dokumente zur Verfügung gestellt bekommen, etwa über das Verfahren RAG. Klären Sie vorab, wo es betrieben wird.
Verwandte Begriffe
Wie geht es für Ihren Betrieb weiter?
Im Kennenlerngespräch besprechen wir, welche Tätigkeit bei Ihnen am meisten Zeit kostet und welcher Weg dafür in Frage kommt.
Mehr zu diesem Thema: KI-Automatisierung