Zum Inhalt
POTENZIAL Wissen fürs Leben

Warum erfindet KI manchmal Antworten?

Eine KI wählt passende Wörter und kann dabei Aussagen erfinden, die sicher klingen und trotzdem falsch sind.

Ab welchem Alter?

Dieser Artikel ist ab 8 Jahren verfügbar. Die Altersstufen hängen von der Komplexität des Themas ab.

Atlas zu. Stadt trotzdem da.

Der Chat setzt Stadt, Fluss und Jahr fort, ohne den Atlas zu öffnen. Fehlt das Land, sind die Details eher erfunden.

Atlas zu. Stadt trotzdem da.

Der Atlas bleibt zu

In der 8. Klasse soll die Gruppe einen kurzen Landessteckbrief schreiben. Jara und Linus wollen sehen, was der Chat mit einem Land macht, das es nicht gibt. Jara tippt: Hauptstadt von Nordilien, dazu der Fluss und das Gründungsjahr. Der Chat antwortet in einem fertigen Satz: Die Hauptstadt Velmora liegt am Serin und wurde 1847 gegründet. Der Atlas auf dem Tisch bleibt zu.

Warum erzeugt ein KI-System eine plausible Fortsetzung, ohne eine Quelle zu prüfen, und wann machen fehlendes Wissen und eine Lücke in der Frage erfundene Details wahrscheinlicher?

Velmora, Serin, 1847

Jara liest den Satz laut vor: Velmora, Serin, 1847. Die Wörter stehen so hintereinander, wie ein Steckbrief oft aufgebaut ist. Linus blättert den Atlas nicht um. Der Chat hat ihn auch nicht verlangt.

Eine plausible Fortsetzung ist ein Satz, den das System so weiterführt, wie ähnliche Antworten oft gebaut sind. Nach einer Frage zu Hauptstadt, Fluss und Jahr kommen häufig ein Städtename, ein Gewässer und eine Jahreszahl. Deshalb wirkt der Satz vollständig.

Quellenprüfung heißt: nachsehen, ob eine Angabe irgendwo verzeichnet ist, zum Beispiel im Atlas. Beim Erzeugen der Chat-Antwort bleibt dieser Schritt aus. Niemand schlägt nach, ob Nordilien irgendwo steht.

Markiere im Antwortsatz die drei Stellen, die wie eine übliche Steckbrief-Fortsetzung aussehen, und sage, welche Prüfung dabei ausbleibt.

Der leere Eintrag

Linus schlägt Nordilien im Atlas und im Register der Schulbibliothek nach. Kein Eintrag. Im Chat stehen trotzdem Stadt, Fluss und Jahr.

Fehlendes Wissen heißt: es gibt keinen bestehenden Eintrag, an dem die Fortsetzung hängen kann. Das System hält an dieser Stelle nicht an. Es füllt Stadt, Fluss und Jahr mit Wörtern, die in solchen Antworten oft vorkommen. Fehlendes Wissen macht diese erfundenen Details wahrscheinlicher.

Lücke in der Frage heißt: die Frage verlangt eine Einzelheit, für die es keine Sache gibt. Jaras Frage nach Hauptstadt, Fluss und Gründungsjahr tut das bei Nordilien. Eine Fortsetzung kann diese Stelle mit einem passenden Wort füllen.

Stelle den leeren Atlas-Eintrag neben den Chat-Satz und erkläre, warum die drei Angaben eher erfunden sind.

Lies die beiden Fälle. Nach dem Tipp steht sofort unter der Karte, ob eine Quelle geprüft wurde oder eine Fortsetzung mit einer Lücke entstanden ist.

Interaktive Aufgabe

Jara fragt nach Hauptstadt, Fluss und Gründungsjahr von Nordilien. Das Land haben die Schüler erfunden. Der Chat schreibt: Velmora am Serin, gegründet 1847. Der Atlas bleibt zu. Was ist das?

Wähle eine Option, danach erscheint das Feedback.

Interaktive Aufgabe

Linus schlägt Nordilien im Atlas nach. Kein Eintrag. Er schreibt auf die Karte: steht nicht im Atlas. Was hat er getan?

Wähle eine Option, danach erscheint das Feedback.

Paris bei geschlossenem Atlas

Zum Vergleich tippt Linus: Hauptstadt von Frankreich? Der Chat schreibt Paris. Der Atlas liegt weiter zu. Ein Mitschüler meint, bei einem echten Land sehe das System in einer Quelle nach.

Der eine Satz nennt Velmora, der andere Paris. Ob der Stadtname an einem bekannten Muster hängt und ob eine Quelle geprüft wurde, lässt sich vor den Karten noch nicht sagen.

Amt und zweiter Vorname

Jara ergänzt die Frage: Wie lautet der zweite Vorname der zweiten Bürgermeisterin von Velmora? Der Chat setzt einen vollen Namen hinter den Satz.

Die Frage nennt eine Person, ein Amt und einen Vornamen. Schau, welches neue Detail der Chat an dieser Stelle in den Satz nimmt.

Zwei weitere Fälle. Die Rückmeldung erscheint sofort nach dem Tipp.

Interaktive Aufgabe

Dieselbe Gruppe fragt: Hauptstadt von Frankreich? Der Chat schreibt Paris. Niemand schlägt den Atlas auf. Was ist das?

Wähle eine Option, danach erscheint das Feedback.

Interaktive Aufgabe

Jara hakt nach: Wie lautet der zweite Vorname der zweiten Bürgermeisterin von Velmora? Der Chat nennt einen vollen Namen. Was ist das?

Wähle eine Option, danach erscheint das Feedback.

Was der fertige Satz zeigt

Velmora, Serin und 1847 stehen fertig im Chat, obwohl Nordilien im Atlas keinen Eintrag hat. Fehlt Wissen und lässt die Frage eine Lücke, werden erfundene Details wahrscheinlicher. Die plausible Fortsetzung kann diese Details aufnehmen. Für den Landessteckbrief zählt, was im Atlas steht.

Interaktive Aufgabe

Kurz-Quiz

Wähle eine Antwort, danach erscheint das Feedback.

Linus sagt: Bei Frankreich steht Paris, also schlägt der Chat immer in einer Quelle nach. Was stimmt?