Bereich: Technologie und Künstliche IntelligenzEinfach erklärt
Warum erfindet KI manchmal Antworten?
Eine KI wählt passende Wörter und kann dabei Aussagen erfinden, die sicher klingen und trotzdem falsch sind.
Veröffentlicht: 21. Okt. 2026Aktualisiert: 21. Okt. 2026Lesezeit: 6 MinAlter: Ab 8 Jahren
Ab welchem Alter?
Dieser Artikel ist ab 8 Jahren verfügbar. Die Altersstufen hängen von der Komplexität des Themas ab.
Atlas zu. Stadt trotzdem da.
Der Chat setzt Stadt, Fluss und Jahr fort, ohne den Atlas zu öffnen. Fehlt das Land, sind die Details eher erfunden.
Nora fragt nach Kieselreich
Nora soll für die Hausaufgaben die Hauptstadt von Kieselreich nennen. Das Land hat sie sich in der Pause ausgedacht. Sie tippt die Frage in den Chat. Die KI antwortet in einem ganzen Satz: Die Hauptstadt von Kieselreich ist Sonnenhafen.
Warum klingt die Antwort sicher, obwohl Kieselreich und Sonnenhafen nicht wirklich existieren?
Der Satz klingt fertig
Nora liest die Antwort laut vor. Der Satz ist glatt und klingt, als wäre er fertig. Sonnenhafen steht da wie ein echter Ortsname.
Die KI hat kein Lexikon aufgeschlagen und keine Karte geprüft. Sie setzt Wörter so aneinander, dass ein normaler Satz daraus wird.
Sicher klingen heißt: Der Satz wirkt fertig und bestimmt.
Lies den Satz noch einmal. Er ist zu Ende, der Ortsname steht fest darin, und nichts daran klingt zögerlich. Daran merkst du, dass er fertig und sicher klingt.
Wort für Wort
Nora sieht den Satz in kleinen Schritten. Zuerst steht da: Die Hauptstadt von. Dann kommt Kieselreich. Danach kommt ist. Zum Schluss steht Sonnenhafen.
Die KI wählt das nächste passende Wort. Das ist ein Wort, das zum bisherigen Satz passt und normal klingt. Passend heißt: der Satz klingt normal. Ob es den Ort gibt, ist damit noch nicht gesagt.
Wähl das Wort, das nach Die Hauptstadt von Kieselreich ist als Nächstes am besten in den Satz passt.
Interaktive Aufgabe
Der Satzanfang lautet: Die Hauptstadt von Kieselreich ist. Welches Wort setzt den Satz normal fort?
Wähle eine Option, danach erscheint das Feedback.
Auf der Karte fehlt das Land
Nora sucht Kieselreich im Atlas und auf der Klassenkarte. Das Land fehlt. Sonnenhafen fehlt auch. Der Chat-Satz klingt trotzdem weiter so sicher wie vorher.
Interaktive Aufgabe
Der Satz lautet: Die Hauptstadt von Kieselreich ist Sonnenhafen. Er klingt sicher. Kieselreich hat Nora erfunden. Was gilt?
Wähle eine Option, danach erscheint das Feedback.
Eine erfundene Antwort ist ein ganzer Satz, der fertig klingt, aber etwas nennt, das nicht stimmt. Die KI kann so einen Ort erfinden, weil sie nur passende Wörter aneinanderreiht. Sicher klingen zeigt nicht, ob die Angabe wahr ist. Ein sicherer Satz ist kein Beweis.
Steht der Satz so in den Hausaufgaben, kann ein erfundener Ort als Tatsache dastehen.
Berlin klingt genauso sicher
Nora fragt danach: Wie heißt die Hauptstadt von Deutschland? Der Chat sagt Berlin. Im Atlas steht Berlin wirklich. Danach fragt sie noch einmal nach Kieselreich und bekommt wieder einen sicheren Städtenamen.
Manchmal treffen die passenden Wörter etwas, das stimmt. Berlin als Hauptstadt von Deutschland steht im Atlas. Manchmal erfinden sie einen Ort, den es nicht gibt, so wie Sonnenhafen für das ausgedachte Land. Der sichere Ton bleibt in beiden Fällen gleich.
Sag Nora in einem Satz, was sie tun soll, bevor sie eine Chat-Antwort abschreibt.
Interaktive Aufgabe
Zwei Sätze klingen gleich sicher. Berlin ist die Hauptstadt von Deutschland. Sonnenhafen ist die Hauptstadt von Kieselreich. Was gilt?
Wähle eine Option, danach erscheint das Feedback.
Drei Stellen im Chat
Der erfundene Ort. Die KI schreibt: Die Hauptstadt von Kieselreich ist Sonnenhafen. Der Satz klingt fertig. Auf der Karte gibt es beides nicht.
Das nächste passende Wort. Nach Die Hauptstadt von Kieselreich ist passt Sonnenhafen in den Satz. Banane passt dort nicht. Trotzdem kann Sonnenhafen erfunden sein.
Berlin und derselbe Ton. Berlin als Hauptstadt von Deutschland stimmt mit dem Atlas überein. Der Chat klingt dabei genauso sicher wie bei Sonnenhafen.
Der Chat baut den Satz
Eine KI wählt das nächste passende Wort und baut daraus einen Satz. Der Satz kann sicher klingen und trotzdem etwas erfinden, das nicht stimmt, so wie Sonnenhafen für das ausgedachte Land Kieselreich. Bei Berlin und bei Sonnenhafen klingt der Chat gleich sicher.
Interaktive Aufgabe
Kurz-Quiz
Wähle eine Antwort, danach erscheint das Feedback.
Nora will Sonnenhafen als Hauptstadt von Kieselreich in die Hausaufgaben schreiben. Was soll sie vorher tun?
Der Atlas bleibt zu
In der 8. Klasse soll die Gruppe einen kurzen Landessteckbrief schreiben. Jara und Linus wollen sehen, was der Chat mit einem Land macht, das es nicht gibt. Jara tippt: Hauptstadt von Nordilien, dazu der Fluss und das Gründungsjahr. Der Chat antwortet in einem fertigen Satz: Die Hauptstadt Velmora liegt am Serin und wurde 1847 gegründet. Der Atlas auf dem Tisch bleibt zu.
Warum erzeugt ein KI-System eine plausible Fortsetzung, ohne eine Quelle zu prüfen, und wann machen fehlendes Wissen und eine Lücke in der Frage erfundene Details wahrscheinlicher?
Velmora, Serin, 1847
Jara liest den Satz laut vor: Velmora, Serin, 1847. Die Wörter stehen so hintereinander, wie ein Steckbrief oft aufgebaut ist. Linus blättert den Atlas nicht um. Der Chat hat ihn auch nicht verlangt.
Eine plausible Fortsetzung ist ein Satz, den das System so weiterführt, wie ähnliche Antworten oft gebaut sind. Nach einer Frage zu Hauptstadt, Fluss und Jahr kommen häufig ein Städtename, ein Gewässer und eine Jahreszahl. Deshalb wirkt der Satz vollständig.
Quellenprüfung heißt: nachsehen, ob eine Angabe irgendwo verzeichnet ist, zum Beispiel im Atlas. Beim Erzeugen der Chat-Antwort bleibt dieser Schritt aus. Niemand schlägt nach, ob Nordilien irgendwo steht.
Markiere im Antwortsatz die drei Stellen, die wie eine übliche Steckbrief-Fortsetzung aussehen, und sage, welche Prüfung dabei ausbleibt.
Der leere Eintrag
Linus schlägt Nordilien im Atlas und im Register der Schulbibliothek nach. Kein Eintrag. Im Chat stehen trotzdem Stadt, Fluss und Jahr.
Fehlendes Wissen heißt: es gibt keinen bestehenden Eintrag, an dem die Fortsetzung hängen kann. Das System hält an dieser Stelle nicht an. Es füllt Stadt, Fluss und Jahr mit Wörtern, die in solchen Antworten oft vorkommen. Fehlendes Wissen macht diese erfundenen Details wahrscheinlicher.
Lücke in der Frage heißt: die Frage verlangt eine Einzelheit, für die es keine Sache gibt. Jaras Frage nach Hauptstadt, Fluss und Gründungsjahr tut das bei Nordilien. Eine Fortsetzung kann diese Stelle mit einem passenden Wort füllen.
Stelle den leeren Atlas-Eintrag neben den Chat-Satz und erkläre, warum die drei Angaben eher erfunden sind.
Lies die beiden Fälle. Nach dem Tipp steht sofort unter der Karte, ob eine Quelle geprüft wurde oder eine Fortsetzung mit einer Lücke entstanden ist.
Interaktive Aufgabe
Jara fragt nach Hauptstadt, Fluss und Gründungsjahr von Nordilien. Das Land haben die Schüler erfunden. Der Chat schreibt: Velmora am Serin, gegründet 1847. Der Atlas bleibt zu. Was ist das?
Wähle eine Option, danach erscheint das Feedback.
Interaktive Aufgabe
Linus schlägt Nordilien im Atlas nach. Kein Eintrag. Er schreibt auf die Karte: steht nicht im Atlas. Was hat er getan?
Wähle eine Option, danach erscheint das Feedback.
Paris bei geschlossenem Atlas
Zum Vergleich tippt Linus: Hauptstadt von Frankreich? Der Chat schreibt Paris. Der Atlas liegt weiter zu. Ein Mitschüler meint, bei einem echten Land sehe das System in einer Quelle nach.
Der eine Satz nennt Velmora, der andere Paris. Ob der Stadtname an einem bekannten Muster hängt und ob eine Quelle geprüft wurde, lässt sich vor den Karten noch nicht sagen.
Amt und zweiter Vorname
Jara ergänzt die Frage: Wie lautet der zweite Vorname der zweiten Bürgermeisterin von Velmora? Der Chat setzt einen vollen Namen hinter den Satz.
Die Frage nennt eine Person, ein Amt und einen Vornamen. Schau, welches neue Detail der Chat an dieser Stelle in den Satz nimmt.
Zwei weitere Fälle. Die Rückmeldung erscheint sofort nach dem Tipp.
Interaktive Aufgabe
Dieselbe Gruppe fragt: Hauptstadt von Frankreich? Der Chat schreibt Paris. Niemand schlägt den Atlas auf. Was ist das?
Wähle eine Option, danach erscheint das Feedback.
Interaktive Aufgabe
Jara hakt nach: Wie lautet der zweite Vorname der zweiten Bürgermeisterin von Velmora? Der Chat nennt einen vollen Namen. Was ist das?
Wähle eine Option, danach erscheint das Feedback.
Was der fertige Satz zeigt
Velmora, Serin und 1847 stehen fertig im Chat, obwohl Nordilien im Atlas keinen Eintrag hat. Fehlt Wissen und lässt die Frage eine Lücke, werden erfundene Details wahrscheinlicher. Die plausible Fortsetzung kann diese Details aufnehmen. Für den Landessteckbrief zählt, was im Atlas steht.
Interaktive Aufgabe
Kurz-Quiz
Wähle eine Antwort, danach erscheint das Feedback.
Linus sagt: Bei Frankreich steht Paris, also schlägt der Chat immer in einer Quelle nach. Was stimmt?
Der Absatz zur Facharbeit
Für die Facharbeit zum Schulstart liefert ein Chat einen sicheren Absatz: 73 Prozent der weiterführenden Schulen beginnen um 8:15 Uhr. Darunter stehen eine Quellenzeile mit Name, Jahr und Seite und ein Zitat, das der Chat einer Ministerin Holm zuschreibt. Band, Seite und Rede lassen sich nicht öffnen. Die Zahl steht in keinem Dokument, das auf dem Tisch liegt.
Woran hängt eine KI-Antwort nur an einem wahrscheinlichen Klang, und woran erkennt man eine Stelle, die man nachprüfen kann?
Eine Zahl, die genau klingt
Der Chat nennt 73 Prozent und 8:15 Uhr. Einen Ort, an dem die Zahl steht, nennt er nicht. Das System setzt den Text so fort, wie ein belegter Satz üblich klingt. Die genaue Zahl macht den Satz wahrscheinlich. Sie zeigt nicht, dass irgendwo nachgesehen wurde.
Eine wahrscheinliche Fortsetzung ist ein Satz, den das System so weiterführt, wie ähnliche Sätze üblich klingen, ohne eine Stelle zu öffnen. Eine offen als Geschichte markierte Erzählung erkennt man leicht als Erfindung. Dieselbe Fortsetzung füllt ebenso Angaben, die wie ein Sachtext aussehen.
Markiere die Prozentzahl. Notiere daneben, welches Dokument du dafür öffnen müsstest. Liegt keines vor, bleibt die Zahl eine Fortsetzung mit sicherem Ton.
Die Zeile unter dem Satz
Unter dem Satz erscheint: Berger, Anja (2018): Schulstart und Lernen. Zeitschrift für Bildungspraxis, Heft 2, S. 41.
Name, Jahr, Zeitschrift und Seite stehen so unter dem Satz, wie ein Beleg in Texten oft auf eine Behauptung folgt. Diese Form kann das System mitschreiben.
Notiere Autorin, Jahr und Seite als Suchauftrag. Halte fest, ob sich die Stelle öffnen lässt.
Wörter in Anführungszeichen
Im selben Absatz steht in Anführungszeichen: „Holm sagte 2019: Früherer Schulstart bringt eine ganze Note.“
Anführungszeichen und ein Name ergeben die Form einer Äußerung. Auch das ist eine Fortsetzung. Die Prozentzahl, die Zeile darunter und der Satz zu Holm können in einem Absatz stehen.
Suche den zitierten Satz zusammen mit dem Namen Holm. Prüfe, ob eine auffindbare Äußerung denselben Wortlaut hat.
Der Artikel, den man aufschlägt
Eine Mitschülerin öffnet Artikel 7 Absatz 1 des Grundgesetzes. Dort steht: „Das gesamte Schulwesen steht unter der Aufsicht des Staates.“ Der Chat hatte diesen Satz nicht benutzt. Er hatte die Prozentzahl, die Quellenzeile und das Holm-Zitat geliefert.
Liegt ein Dokument schon neben dem Chat, zählt der Vergleich mit der geöffneten Passage, nicht die Nähe der Datei.
Lege den Chat-Satz und den geöffneten Gesetzestext nebeneinander. Markiere, welcher Teil übereinstimmt und welcher nur wahrscheinlich klang.
Der Abschnitt berät nicht zum Schulrecht.
Form oder Stelle
Drei Stücke stammen aus dem Chat, eines ist der geöffnete Gesetzestext. Ordne jedes Stück der Form zu, an der es hängt.
Interaktive Aufgabe
Drei Stücke stammen aus dem Chat, eines ist der geöffnete Gesetzestext. Woran hängt jedes Stück: an einer wahrscheinlichen Form oder an einer Stelle, die man öffnen kann?
Links einen Begriff wählen, rechts die passende Karte. Prüfen zeigt das Feedback.
Der sichere Absatz
Ein sicherer Absatz kann eine Zahl, eine Quellenzeile und ein Zitat enthalten und doch nur wahrscheinlich klingen. Die Facharbeit nimmt diesen Ton nicht als Ersatz für die Prüfung der Stücke. Was der Chat geliefert hat und was auf dem Tisch liegt, bleibt nebeneinander sichtbar, auch wenn der Absatz schon wie eine fertige Arbeit aussieht.
Interaktive Aufgabe
Kurz-Quiz
Wähle eine Antwort, danach erscheint das Feedback.
Der Chat nennt 73 Prozent und 8:15 Uhr, dazu eine Quellenzeile, die sich nicht öffnen lässt. Eine Mitschülerin schlägt Artikel 7 Absatz 1 des Grundgesetzes auf. Dort steht, dass das gesamte Schulwesen unter der Aufsicht des Staates steht. Wann hängt eine Aussage an einer nachprüfbaren Stelle?