LLMs sind neuronale Netze für Text. Stärke: Fluenz. Schwäche: Fakten ohne Prüfung.
Viele Wörter gelernt
Stell dir einen riesigen Wortschatz im Computer vor. Er hat Millionen von Sätzen gelesen und weiß oft, welches Wort als Nächstes kommt.
So ein Sprach-Modell heißt auf Englisch Large Language Model - kurz LLM.
Wie ein Ratespiel
Du sagst: „Der Himmel ist …“ - viele sagen blau. Das Modell wählt Wörter, die oft passen.
Nicht perfekt
Es kann Dinge erfinden. Deshalb prüfst du wichtiges mit Erwachsenen.
Merksatz
Ein LLM ist ein Computer, der Sprache aus vielen Beispielen erraten kann.
Kurz-Quiz
Was macht ein LLM grob?
Kurz erklärt
Ein Large Language Model (LLM) ist eine große KI, die auf Text trainiert wurde. Large = viele Parameter und Daten. Language = Sprache. Model = das trainierte Programm.
Tokens
Text wird in Tokens zerlegt - oft Wortteile. „Intelligenz“ kann ein Token sein, „Haus“ ein anderes. Das Modell rechnet mit Zahlen für diese Tokens.
Welches Wort kommt als Nächstes?
Satzanfang: „Der ___ bellt laut.“ So ähnlich „raten“ Sprachmodelle das nächste Wort — nur mit vielen Wahrscheinlichkeiten.
Kontext
Das Modell sieht nur eine begrenzte Menge an Tokens gleichzeitig (Kontextfenster). Sehr lange Chats werden abgeschnitten.
Kurz-Quiz
Was sind Tokens?
Ein Satz, der noch nicht fertig ist
Du liest: „Der Himmel ist …“ Die meisten ergänzen blau. Ein Large Language Model (LLM) macht im Kern dasselbe, nur mit einem riesigen Gedächtnis aus Texten.
So läuft es ab:
Der Satz wird in Stücke geschnitten. „Himmel“ kann ein Stück sein, „ist“ ein anderes. Diese Stücke heißen Tokens.
Das Modell schaut, welche Stücke im Satz wichtig sind. Bei „Der Himmel ist“ zählt „Himmel“ stark, „Der“ kaum.
Es wählt das nächste Wort, das in solchen Sätzen oft kommt: blau, grau, klar. Dann hängt es das Wort an und macht denselben Schritt noch einmal, bis der Satz fertig ist.
Danach kann man das Modell zusätzlich auf Gespräche üben. Dann klingt die Antwort wie ein Chat, nicht wie ein abgebrochener Satz. Die Grundidee bleibt: das nächste Stück vorhersagen.
Was das Modell nicht sieht
Es kennt Texte aus seiner Trainingszeit. Die Nachrichten von heute stehen nicht automatisch drin. Es sucht den plausiblen nächsten Satz, nicht die geprüfte Wahrheit. Deshalb klingt eine erfundene Jahreszahl manchmal genauso sicher wie eine echte.
Es sieht auch nur ein begrenztes Stück Text auf einmal, das Kontextfenster. Was davor liegt, fällt aus dem Blick.
Nicht dasselbe wie eine Suche
| Suchmaschine | LLM |
| --- | --- |
| findet Seiten, die es schon gibt | schreibt einen neuen Satz |
| gibt dir Links | gibt dir Fließtext |
| du prüfst die Quelle selbst | du musst den Text erst prüfen |
Welches Wort kommt als Nächstes?
Satzanfang: „Der ___ bellt laut.“ So ähnlich „raten“ Sprachmodelle das nächste Wort — nur mit vielen Wahrscheinlichkeiten.
Kurz-Quiz
Was macht ein LLM mit dem Satz „Der Himmel ist …“?
Dasselbe Ratespiel, nur groß
„Der Himmel ist …“ Ein großes Sprachmodell (LLM) schätzt, welches Wort als Nächstes passt. Blau ist wahrscheinlicher als Banane, weil es diesen Anschluss in unzähligen Sätzen gesehen hat.
Dann hängt es das gewählte Wort an den Satz und schätzt das übernächste. So entsteht ein Absatz. Wie viele innere Stellschrauben das Modell hat und wie viel Text es gelesen hat, macht diese Schätzungen treffender. Wahr werden sie davon nicht.
Wo das Wissen aufhört
Die Texte, mit denen das Modell trainiert wurde, enden an einem Stichtag. Was danach passiert, steht nicht im Modell. Eine Frage nach dem Wetter von gestern oder nach einem neuen Gesetz kann es nur raten, wenn niemand ihm einen aktuellen Text gibt.
Deshalb legen viele Chat-Produkte einen gefundenen Text neben die Frage. Eine Suche holt einen Artikel, das Modell liest ihn mit und antwortet darauf. Fachleute nennen das RAG (Retrieval-Augmented Generation): suchen, anhängen, dann formulieren. Steht im Artikel ein Fehler, übernimmt das Modell ihn oft mit. Auch die Rechte an den Trainingstexten bleiben eine eigene Frage: Nicht alles, womit ein Modell geübt wurde, war dafür freigegeben.
Was du daraus mitnehmen kannst
Das Modell sieht nur den Text im Kontextfenster. Alles davor ist unsichtbar oder nur noch als Kurzzusammenfassung da.
Ein höflicher Ton heißt, dass die Antwort an gewünschtes Verhalten angepasst wurde. Er heißt nicht, dass der Satz stimmt.
Bilder und Ton kommen oft über zusätzliche Bauteile dazu. Der Sprachkern bleibt die Fortsetzung Wort für Wort.
Ein LLM beweist keinen Satz wie ein Mathebuch. Es setzt fort, was plausibel klingt. Kleine Spezialprogramme sind in engen Aufgaben oft schneller und günstiger.
Welches Wort kommt als Nächstes?
Satzanfang: „Der ___ bellt laut.“ So ähnlich „raten“ Sprachmodelle das nächste Wort — nur mit vielen Wahrscheinlichkeiten.
Kurz-Quiz
Was bringt es, einen gefundenen Artikel an die Frage zu hängen?