KI erfindet Antworten: Warum sie so überzeugend lügt

Jasmina sass am Dienstag vor ihrem Bildschirm und wollte eine einzige Sache herausfinden: eine medizinische Ursache prüfen, für ihre eigene Recherche. Ihre KI behauptete steif und fest, die Ursache stimme nicht. Also liess sie es. Drei Fragen später kam die Antwort von ganz allein wieder heraus, diesmal mit allen biochemischen Details. Die Information war die ganze Zeit da. Die KI hatte sie ihr nur vorher abgesprochen.

«Das ist irritierend», sagte Jasmina im Community Call. «Du musst es wissen, um zu merken, dass sie dir Mist erzählt.»

Genau das ist das Problem, das ich in diesem Beitrag auflöse. Nicht Technik-Panik. Ein Vertrauensproblem, das dich mehr Zeit kostet als jede Verzögerung durch die KI selbst.

Warum erfindet KI so überzeugende Antworten?

Eine KI wie ChatGPT oder Claude wurde darauf trainiert, dir zuzuhören, dich zu verstehen und Vertrauen aufzubauen, nicht in erster Linie darauf, in jedem Satz korrekt zu sein. Sie klingt warm, sie klingt sicher, sie klingt wie jemand, der dich ernst nimmt. Und genau diese Wärme macht sie so schwer zu durchschauen, wenn sie falsch liegt.

Kennst du das? Du fragst etwas, die Antwort kommt sofort und klar formuliert, und du denkst, das muss stimmen, so selbstsicher wie das klingt. Eine KI im reinen Chat-Modus greift bei Lücken auf allgemeines Wissen zurück, nicht auf deinen konkreten Fall. Sie sagt dir das nicht. Sie serviert es dir wie eine Tatsache.

Ich habe das selbst hart gelernt. Ich bin Legastheniker, ich arbeite von Natur aus schneller und vernetzter als andere, und genau deshalb habe ich früher am meisten Zeit verloren, wenn ich einer Antwort einfach geglaubt habe, weil sie klug klang. Der Fehler war nie die Maschine. Der Fehler war, dass ich sie wie einen Chatbot benutzt habe und nicht wie einen Mitarbeiter.

Woran merkst du, dass deine KI dir gerade etwas erfindet?

Du merkst es meistens erst, wenn du das Thema selbst schon kennst, so wie Jasmina in ihrem Fall. Genau das ist die Falle: Wenn du es nicht besser weisst, glaubst du es. Und wenn du es besser weisst, hast du gerade Zeit verschwendet, um etwas richtigzustellen, das nie falsch hätte sein dürfen.

Auf Deutsch gesagt: Eine KI, die dich emotional abholt, bevor sie liefert, arbeitet gerade im Chatbot-Modus. Das ist keine Absicht, das ist ihre Grundeinstellung. Und in diesem Modus fehlt ihr das, was ein echter Mitarbeiter zuerst braucht: den Kontext.

Wie baust du ein System, das nicht mehr rät?

Der Unterschied zwischen einer KI, die rät, und einer, die weiss, ist nicht das Modell. Es ist die Struktur, die du ihr gibst. Ich führe meine Agenten nach demselben Prinzip, das ich 20 Jahre im Militär gelernt habe: Kommandieren. Kontrollieren. Korrigieren.

Kommandieren heisst, der KI einen Ordner zu geben statt einer losen Frage. In diesem Ordner steht, woran du arbeitest, welche Fakten schon feststehen und was du von ihr willst. Jedes Mal, wenn sie einen Durchlauf macht, liest sie diesen Ordner zuerst. Wie du dieses Kontextfenster aufbaust, zeige ich Schritt für Schritt im Beitrag Warum dein Kontextfenster deine KI dumm macht.

Kontrollieren heisst, das Ergebnis zu lesen, bevor du es glaubst. Nicht überfliegen. Lesen. Bei mir ist das der Schritt, der am meisten Zeit spart, weil ich Fehler finde, bevor sie irgendwo landen, wo sie stören.

Korrigieren heisst, den Befehl zu schärfen, nicht mit der KI zu diskutieren. Früher habe ich mich geärgert, wenn ein Ergebnis nicht stimmte. Heute sage ich einfach: «Diese Punkte fehlen, füge sie hinzu, das haben wir vorher besprochen.» Kurz, klar, fertig. Kein Drama. Das ist derselbe Unterschied zwischen einem Werkzeug und einem Mitarbeiter, den ich im Beitrag KI Agent erstellen, Tool oder Denksystem genauer erkläre.

Und wenn du willst, dass gar nichts mehr unkontrolliert nach draussen geht, gehört eine letzte Prüfschleife dazu, bevor irgendetwas versendet wird. Genau das beschreibe ich im Beitrag KI Agenten kontrollieren, bevor sie senden.

Was verändert sich, wenn du deiner KI nicht mehr blind vertraust?

Genau hier baut sich sonst ein neuer, kleiner Käfig: du glaubst, die KI nehme dir Arbeit ab, und in Wirklichkeit verbringst du deine Zeit damit, ihre Antworten im Nachhinein zu prüfen und zu reparieren. Das ist kein Fortschritt. Das ist derselbe Job, nur mit einem Umweg dazwischen.

Und du? Wie oft hast du diese Woche eine Antwort einfach geglaubt, weil sie sicher klang?

Sobald du deine KI wie einen Mitarbeiter führst statt wie ein Orakel zu befragen, dreht sich das Verhältnis um. Du triffst noch jede Entscheidung. Aber du verlierst keine Stunden mehr damit, eine falsche Antwort zu entlarven, die es nie hätte geben müssen. Ich habe mit rund 30 Agenten im täglichen Einsatz gelernt: Reichweite ist egal und Geschwindigkeit ist egal, wenn das System dahinter nicht stimmt.

Nicht Hoffnung. System.

Häufig gestellte Fragen

Warum erfindet meine KI Antworten, obwohl sie die richtige Information kennt?
Weil sie im Chat-Modus ohne festen Kontext zuerst auf allgemeines Trainingswissen zurückgreift, nicht auf deinen konkreten Fall. Erst wenn du nachfragst oder ihr den Kontext gibst, kommt die genaue Antwort heraus. Das Wissen war die ganze Zeit vorhanden, nur nicht zuerst abgerufen.

Ist das ein Fehler von Claude oder ChatGPT im Speziellen?
Nein. Das betrifft jedes grosse Sprachmodell im reinen Chatbot-Modus. Der Unterschied entsteht nicht durch die Marke, sondern durch die Struktur, mit der du arbeitest. Ein Ordner mit klarem Kontext reduziert das Problem bei jedem Modell deutlich.

Wie schnell merke ich, dass eine Antwort erfunden ist?
Am schnellsten, wenn du das Thema selbst schon etwas kennst. Genau deshalb lohnt sich die Kontrolle als fester Schritt, nicht als Ausnahme: lies das Ergebnis, bevor du es glaubst, vor allem bei Themen, die du gerade selbst nicht zu 100 Prozent überblickst.

Brauche ich dafür ein technisches System?
Nein. Ein Ordner mit deinen wichtigsten Informationen reicht als Start. Wichtig ist nur, dass die KI ihn bei jedem Durchlauf liest, statt bei null anzufangen. Das ist der ganze Unterschied zwischen Kommandieren und Hoffen.

Was mache ich, wenn die KI trotzdem falsch liegt?
Nicht diskutieren. Sag klar, welcher Punkt fehlt oder falsch ist, und was stattdessen gelten soll. Das ist Korrigieren, nicht Streiten. Der Befehl wird geschärft, nicht der Ton.

Bereit, deiner KI einen Ordner statt einer Hoffnung zu geben?

Noch nicht so weit? Dann reicht auch der System Freitag Newsletter. Jede Woche ein Gedanke, keine Verpflichtung.

Alex