Zum Inhalt
POTENZIAL Wissen fürs Leben

Was ist ein Large Language Model?

Was LLMs sind, wie Tokens, Training und Kontextfenster zusammenhängen - verständlich für Jugendliche.

Für welches Alter?

NetzflüssigFakten offenFluenz ist keine Prüfung

Große Sprachmodelle.

LLMs sind neuronale Netze für Text. Stärke: Fluenz. Schwäche: Fakten ohne Prüfung.

Ein Satz, der noch nicht fertig ist

Du liest: „Der Himmel ist …“ Die meisten ergänzen blau. Ein Large Language Model (LLM) macht im Kern dasselbe, nur mit einem riesigen Gedächtnis aus Texten.

So läuft es ab:

  1. Der Satz wird in Stücke geschnitten. „Himmel“ kann ein Stück sein, „ist“ ein anderes. Diese Stücke heißen Tokens.
  2. Das Modell schaut, welche Stücke im Satz wichtig sind. Bei „Der Himmel ist“ zählt „Himmel“ stark, „Der“ kaum.
  3. Es wählt das nächste Wort, das in solchen Sätzen oft kommt: blau, grau, klar. Dann hängt es das Wort an und macht denselben Schritt noch einmal, bis der Satz fertig ist.

Danach kann man das Modell zusätzlich auf Gespräche üben. Dann klingt die Antwort wie ein Chat, nicht wie ein abgebrochener Satz. Die Grundidee bleibt: das nächste Stück vorhersagen.

Was das Modell nicht sieht

Es kennt Texte aus seiner Trainingszeit. Die Nachrichten von heute stehen nicht automatisch drin. Es sucht den plausiblen nächsten Satz, nicht die geprüfte Wahrheit. Deshalb klingt eine erfundene Jahreszahl manchmal genauso sicher wie eine echte.

Es sieht auch nur ein begrenztes Stück Text auf einmal, das Kontextfenster. Was davor liegt, fällt aus dem Blick.

Nicht dasselbe wie eine Suche

| Suchmaschine | LLM | | --- | --- | | findet Seiten, die es schon gibt | schreibt einen neuen Satz | | gibt dir Links | gibt dir Fließtext | | du prüfst die Quelle selbst | du musst den Text erst prüfen |

Welches Wort kommt als Nächstes?

Satzanfang: „Der ___ bellt laut.“ So ähnlich „raten“ Sprachmodelle das nächste Wort — nur mit vielen Wahrscheinlichkeiten.

Kurz-Quiz

Was macht ein LLM mit dem Satz „Der Himmel ist …“?